#133
summarized by : Tong Zheng
UniMiSS: Universal Medical Self-Supervised Learning via Breaking Dimensionality Barrier

どんな論文か?

医用画像のself-supervised-learning(SSL)。膨大な量の医用画像に対するラベルが少なすぎる、というラベル過疎問題の解決方法の一つは、SSLである。SSLを用いて医用画像の潜在特徴を学習した後、数少ないラベルを使用して教師あり学習を行う。
placeholder

新規性

3D画像と2D画像を一括処理できるネットワークを提案した。なぜ一括処理できるかというと、3Dまたは2D画像を一次元(1D)ベクトルに展開してTransformerで処理を行うから。Unsupervised contractive learningを使ってStudent-teacherネットワークを学習。最終出力は画像の潜在空間への射影。

結果

六つのデータセットで pre-trainingあるデータセットでpre-trainingを行って、医用画像処理のタスクにFine-tuning)の手法よりセグメンテーション精度が高い。

その他(なぜ通ったか?等)

3D画像と2D画像を一括処理できる。 https://github.com/YtongXie/UniMiSS-code