米国デューク大学の研究チームは、マンモグラフィで潜在的にがん性の病変を分析して、患者が生検を受けるべきか判断する人工知能プラットフォームを開発した。これまでのプログラムと異なり、このアルゴリズムは翻訳可能で、結論に至った道筋を正確に示せるという。

AIが独自の手順を自由に開発できるようにするのではなく、実際の放射線科医が訓練するのと同じように病変を特定して評価するようにAIを訓練することで、他の「ブラックボックス」化されたプログラムに比べていくつかの利点がもたらされたという。

このAIは、マンモグラフィ画像の読み方を生徒に教えるための便利なトレーニングプラットフォームになる可能性がある。また、マンモグラフィを定期的に読んでいない世界中の人口の少ない地域の医師がより良い医療上の決定を下すのに役立つ可能性がある。

「コンピューターが重要な医学的決定を下すのに役立つ場合、医師はAIが理にかなった何かに基づいて結論を出していることを信頼する必要があります」とジョセフ・ロー教授は述べている。「作動するだけでなく、自分自身を説明し、結論の下敷きにしているものの例を示すアルゴリズムが必要です。それがあれば、医師が結果に同意するかどうかにかかわらず、AIはより良い意思決定を行うのに役立ちます。」

医用画像を読み取るAI工学は巨大な産業である。何千もの独立したアルゴリズムがすでに存在し、FDAはそれらの100以上を臨床使用のために承認している。けれども、MRI、CT、マンモグラフィーのいずれを読み取る場合でも、1000を超える画像を含む検証データセットを使用したり、人口統計情報を含むものはほとんどない。この情報の不足は、いくつかの注目すべき最近の失敗例と相まって、多くの医師がハイステークスの医学的決定におけるAIの使用に疑問を投げかける原因となっている。

ある例では、研究者らがさまざまな機器を使用してさまざまな施設から撮影した画像でAIモデルをトレーニングして失敗した。AIは、関心のある病変だけに焦点を合わせるのではなく、機器自体によって導入された微妙な違いを使用してがん病変を学習した。予想通り、そのAIは、異なる機器を使う他の病院では使えなかった。だが、AIの意思決定のためのアルゴリズムを誰も知らなかったので、実際のアプリケーションで失敗する運命にあることに気づかなかった。

「私たちのアイデアは、代わりに、潜在的ながん性病変のこの特定の部分が、私が以前に見た他のがんと非常に似ている、と告げるシステムを構築することでした」と筆頭著者のアリーナ・バーネット博士候補生は述べている。「詳細が不明だと、ときどき間違いが起きる理由がわからず、開業医は時間を無駄にしてシステムへの信頼を失うでしょう。」

主任研究者のシンシア・ルーディン教授は、新しいAIプラットフォームのプロセスを不動産鑑定人のプロセスと比較している。この分野を支配するブラックボックスモデルでは、鑑定士は何の説明もなしに家の価格を提供する。「顕著性マップ」として知られているものを含むモデルでは、鑑定士は家の屋根と裏庭が価格決定の重要な要素であると指摘するかもしれないが、それ以上の詳細は提供しない。

「私たちの方法では、近所の他の家と同じようなユニークな銅の屋根と裏庭のプールがあり、それがこの金額だけ価格を上昇させた、と告げてくれます」とルーディン教授は述べている。

研究チームは、デューク大学保健システムの484人の患者から撮影した1,136枚の画像を使用して新しいAIをトレーニングした。

彼らは最初にAIに、問題の疑わしい病変を見つけ、健康な組織やその他の無関係なデータをすべて無視するように教えた。次に、放射線科医を雇って画像に注意深くラベルを付け、潜在的な腫瘍が健康な周囲の組織と出会う病変の端に焦点を合わせ、既知のがん性および良性の結果を伴う画像の端とそれらの端を比較するようにAIに教えた。

放射状の線またはぼやけたエッジは、がん性乳房腫瘍の最良の予測因子であり、放射線科医が最初に探すものであるという。これは、がん細胞が非常に速く複製拡大するため、マンモグラムで発生中の腫瘍の縁のすべてが容易には見えないためである。

「これは、医用画像の見方をAIにトレーニングするためのユニークな方法です」とバーネット氏は述べている。「他のAIは、放射線科医を模倣しようとはしていません。彼らは質問に答えるための独自の方法を考え出していますが、それはしばしば役に立たないか、場合によっては欠陥のある推論プロセスに依存しています。」

トレーニング完了後、研究チームはAIをテストした。人間の放射線科医をしのぐことはなかったが、他のブラックボックスコンピュータモデルと同じように機能したという。新しいAIが間違っている場合、それを使用している人々は、それが間違っていることと、なぜそれが間違いを犯したのかを認識することができる。

「AIが画像診断に応用され始めたころ、研究者は非常に興奮した。コンピュータがヒトとは異なるものの見方を教えてくれると考えたからだ。稀にはそういうケースもあるだろうが、ほとんどの場合はそうならなかった。そこで我々は、コンピュータが決定を下したベースにある情報を理解して信頼性を高めようとした」と共著者のフィデス・シュバルツ研究員は述べている。