医療業界におけるAIアプリケーションは「ゴミを入れればゴミが出る」という状況を避けるべき

ヘルスケア業界における人工知能と機械学習の価値と将来についての認識には大きな変化がありました。業界は活況を呈している。ヘルスケア市場におけるブロックチェーン技術の進化と同様に、AI と機械学習には短期的な期待の管理が必要になります。これらの有用性と価値は時間の経過とともに向上し続けますが、現段階では、米国の医療制度における多くのケアとコスト提供の問題に対する万能薬ではありません。

[[333901]]

私は AI プログラマーではなく、Python を使ったこともないし、機械学習アルゴリズムを構築したこともありません。しかし、私は医療分野で 30 年にわたる実務経験があり、その間、電子医療記録 (EMR) システムから高品質のデータと結果を収集したり、基本的な分析を展開したりするなど、情報技術システムとアプリケーションを使用してきました。さらに、彼はIT分野でもかなり幅広い経験を持っています。

昨年、ブロックチェーン技術が自由に普及し始めた頃、私はブロックチェーン技術が医療サービスに安全に導入されるまでには時間がかかるだろうと考えていました。これは、医療提供システム間にまだ大きな違いがあり、多くの入力が必要で、変数が多かったためです。特定の問題を解決するためにブロックチェーン技術を使用/展開するには、コンセンサスデータセットを使用する必要があります。 AI技術全般についても同様です。これは、AI、機械学習、ブロックチェーンがヘルスケアの将来において役割を果たさないことを意味するのでしょうか? もちろん違います。これらの技術が重要な役割を果たすと信じています。

しかし、強力な IT 製品の登場にもかかわらず、短期的には課題は存在し続けるでしょう。ヘルスケア業界では、ケアの提供を改善および調整し、「システム」コストと冗長性を削減し、ケアの再現性のある品質を確保するために、人工知能、機械学習、ブロックチェーンなどの最先端テクノロジーが必要です。しかし、完璧なテクノロジーはほとんどなく、そのほとんどが、使用範囲と規模の拡大に伴って開発され成熟するまでに時間がかかります。

人工知能とは何ですか?

まず、人工知能の定義について簡単に説明しましょう。「遠隔医療」と「遠隔診療」という用語がしばしば同じ意味で使用されるのと同様に、人工知能と機械学習を混同する人も多くいます。実際、機械学習を含め、多くのコンポーネントが人工知能の傘下にあります。人工知能により、機械は人間の認知機能を模倣できるようになります。この文脈では、AI には機械学習、自然言語処理 (NLP)、および「推論」が含まれます。機械学習では、機械に明示的な指示を与えるのではなく、大量のデータからパターンを推測して識別することができます。

「推論」とは、推論に使用できる規則と組み合わせた情報の保存です。 NLP は、自然な人間の言語の処理、分析、理解、生成です。機械は物体を学習し認識するように教えることができます。たとえば、異なる葉を識別するためにエンコーディングを展開することができ、各葉には、コンピューターが葉の種類を「学習」するのに役立つデータ要素識別子があります。その後、時間が経つにつれて、コンピューターはオークの葉とカエデの葉を分類できるようになります。もちろん、これは単なる例です。しかし、これらのオブジェクトが何であるか、そしてそれらをどのように定義するかをコンピュータに伝えない限り、コンピュータは何も知りません。入力は正確である必要があり、アルゴリズムを作成する人は、当面の根本的な問題を解決するための関連する背景知識を持っている必要があります (例: オークの葉とカエデの葉の違い)。

これは問題になるかもしれません。主題専門家 (SME) とデータサイエンティストは協力して、解決すべき問題を説明し、必要なデータを特定し、関連性を確保するためにアルゴリズムをトレーニングする必要があります。コンピュータの「トレーニング」が不十分であったり、データ入力が不十分であったりすると、出力の質が低下したり、出力が不正確になったりする可能性があります。

▲ この図は、これらのコンポーネントがより大きな「AIの傘」の下でどのように機能するかを示しています。

質の悪い構築はどのように現れるのでしょうか? 一方で、私たちは最近、質の悪いデータ入力が質の悪い出力につながることを発見しました。最近、多くの機関が新型コロナウイルスに関して行ったさまざまな予測は非常に不正確で、感染率や死亡者数を過大評価しています。問題は AI 自体にあるわけではありませんが、アルゴリズム、ロジック、データ入力に欠陥があり、予想外に不正確な結果につながることは確かです。同様に、不正な入力や間違ったアルゴリズムによって、悪い出力が生じる可能性があります。

AI が医療提供においてますます重要な役割を果たすようになると私は実際に信じていることを強調しておくことが重要です。それは単に時間と必要性の問題です。鍵となるのは、論理的なデータ、構造、パラメータの開発であり、これらは科学者と専門家（臨床医や医療経営者など）の間で明確に伝達されなければなりません。ニーズや入力内容を明確に説明できない専門家は、プログラマーを間違った方向に導き、アルゴリズムに構造的なエラーを導入し、機械が正しい応答と出力を「学習」することを事実上妨げます。したがって、高品質の出力は、適切なアルゴリズムに基づいて構築される必要があるだけでなく (プログラマーの仕事)、マシンに力を与え、実用的な洞察を提供したり、正しい決定を下したりする方法の「学習」を支援する適切な入力も必要です。

企業内での AI の失敗はすでに深刻であり、適切な入力とパラメータがすべて組み込まれていない心臓病学 AI プロトコルを導入すると、生死に関わる結果を招く可能性があります。前にも述べたように、またこの問題は最近の Forbes.com の記事（「ブロックチェーン技術は（最終的には）医療に役立つかもしれないが、期待しすぎないで」2019 年 7 月）でも取り上げられているように、AI の混乱は今後も続くでしょう。「2018年7月、StatNewsはIBMの内部文書を検証し、IBMのワトソンが誤った、時には危険な癌治療の推奨を提供していたことを発見した。」[i][ii]

そうは言っても、短期的には、小規模なエンタープライズユースケースの方が実現しやすいことが判明するかもしれません。たとえば、医療業界では、財務リスクの悪化に直面しているアカウンタブルケア組織 (ACO) が、患者の移行に重点を置いた明確に定義されたプログラムを開始できます。定義済み/必要な出力としては、ACO の財務リスクを定量化し、当然のことながらどの医師が患者を紹介する傾向があるかを特定し、紹介元と紹介先を明確にすることが考えられます。明確に定義された結果/目標を持つこのような特定のユースケースは実行可能です。

おそらく、ヘルスケア業界では、「アウトプット」はウィジェット製造業界よりもはるかに重要です。さらに、IDCの調査によると、企業の4分の1が、実施したAIプロジェクトの失敗率が50%近くに達したと報告していることが明らかになりました[iii]。

人工知能が医療の成功を推進する

ヘルスケア業界における AI の利用と価値は今後も拡大し続けるでしょう。病状の予測分析、企業の収益サイクルのキャッシュフロー、価値に基づくケアプログラムなど、AI が果たす役割は大きく広がります。

具体的には、ヘルスケア業界における AI 技術の成長における成功要因としては、次のようなものが挙げられますが、これらに限定されるわけではありません。