AIと医療2

Chapter４　信頼するが、検証する

・GPT-4は管理業務の軽減だけでなく、患者に焦点を当てた知的で感情的なプロセスとしての医療に貢献する。しかし、その一方で、その潜在的なリスクも大きい。おそらくは当分の間、GPT-4は人間の直接の監視なしに医療現場で使用することはできないだろう。

●驚きと不安

・GPT-4に対する不安は、GPT-4のアドバイスが安全で効果的であることを、どのように保証したり証明したりできるかが分からないからである。

●臨床試験

・GPT-4には明確な人間の価値観が欠けている。それはGPT-4の中には、患者の嗜好、価値観、リスク回避、そして人間を構成する何百ものバイアス［非合理的な判断をしてしまう心理現象のこと］の明示的な表現がないからである。

●訓練生

・現時点では、GPT-4は臨床症例に対して最も善意ある人間と同じように行動し、反応する仕組みを持っているとは考えられていない。

●しかし、パートナーとしては……

・GPT-4が自律的に行動しないとしても、医療を改善する上でのGPT-4の可能性は桁外れに大きいように見える。それは医療従事者に取って替わるのではなく、補完するためである。米国の医療における人手不足の問題は深刻であり、今後10年以内に不足する医師は48,000人に達すると推定されている。医療者の燃え尽き症候群の問題も深刻である。仕事への不満、ストレス、患者との時間を増やせないことや最新の医療知識を身に付けられないことへの不満など、その重荷の中には絶え間なく更新される臨床ガイドライン、医療費の30％を消費すると推定されるほどのお役所仕事なども含まれる。このような厳しい労働環境は医療ミスの温床にもつながる。

●先導者

・GPT-4は超人的な臨床能力を有している。そして、患者の病気を引き起こしている可能性のある遺伝子を特定する専門医の役割を果たせる可能性もある。

Chapter５　AIで拡張された患者

・訓練を受けた医療従事者がGPT-4にアクセスできるようにすることと、新しいAIスーパーツールを情報の荒野に解き放ち、患者が直接利用できるようにすることは全くの別物である。

・GPT-4は人類が蓄積した医療情報を掘り起こす驚異的なルーツであり、ユーザがそれを使いたがるのは当然である。

・米国の成人の約75％がオンラインで健康情報にアクセスしており、彼らがWebMDや検索システムから「個人的な医療情報を分析できる医学的に全知全能なAI」と「患者が望むだけ長くやり取りできる新しい大規模言語モデル」へと大移動することは容易に想像できる。

●持たざる人々

・人類の半分、約40億人が十分な医療を受けられていないと推定されている。

・GPT-4やAIシステムの最も有望な側面の1つは、遠隔地への医療である。

・AI医療は最終的には医師に残された仕事が「複雑な意思決定と人間関係の管理」だけになる医療システムへと向かっていると考える研究者もいる。

●新しい三者の関係

・GPT-4の潜在的な利点には、「継続的なモニタリングが不可能」になった患者への積極的な連絡と情報やサービスの提供である。COVIDの患者をスクリーニングするという目的で実施された、パンデミック時のチャットボットの実験は、社会から疎外された人々に大規模にリーチする上でテクノロジーがどのように利用できるかを実証した。

・GPT-4を最初にどのように使うかを考えるべきである。それは理想的には「医療の助けを最も必要としているのは誰か」ということである。それは「社会的弱者のコミュニティ」かもしれない。

●情報に基づく選択

・GPT-4はあらゆる患者にとって米国の医療制度におけるもう1つの困難な側面を解決する可能性を示している。それは、適切な医療を見つけることである。これはAIが患者のパートナーとして、信頼できる公平な医療のガイドとなることを目指すということであり、1960年代のインフォームドコンセントを一歩超えた概念ある。

●より良い健康

・GPT-4は「グープ（goop）」と呼ぶ「疑似科学に基づく健康アドバイスの氾濫」に対処する上でも役立つのではないか。

●セラピーAI

・「AIはセラピストであり、友人であり、恋人にさえなれる」とは、ボストン・グルーブ紙のニュース記事の見出しである。ReplikaというAIフレンドはApp Storeから1000万回以上ダウンロードされている。

・AIがセラピストに取って代われるのかは分からないが、セラピスト、特に優秀なセラピストは不足している。また、有害なセラピー（心のケア）が存在している。ロイ・パーリス博士（ハーバード大学医学部の精神医学教授）は非常に効果的なセラピストによるセラピー・セッションの記録をAIに学習させることで、その才能をより広く利用可能にできるかもしれにないと考えている。

・AIがメンタルヘルスに役立つかは「一長一短」である。軽度の不安や抑うつなどには適しているかもしれないが、重症な人には適さないと考えられる。

・AIは一次医療やオンラインCBT（認知行動療法をオンラインで提供するプログラムやサービス）でうまくいく人もいれば、治療や入院治療が必要な人もいる。

・インターネットとモバイルの時代は、地球上の人の手に情報を届けるものだった。一方、AIの時代は、地球上の人の手に知性が行き渡るようになる。その知性とは、とりわけ医療に応用できるものである。

Chapter６　もっとはるかに：数字、コーディング、ロジック

・GPT-4はUSMLE（米国医師国家試験）と同様にNCLEX（看護師国家試験）でも好成績を収めている。

●GPT-4は計算して、コードを書く

・GPT-4は点滴の問題の他、薬物の相互作用の可能性に関する質問にも答えることができる。そして、それをコンピュータプログラムの形でも説明できる。それも「アプリを作ってほしい」と頼むだけである。

・GPT-4は一般的なアプリケーションを使って計算することも得意であり、表計算ソフトの使い方にも答えることができる。

●GPT-4は不思議なことに論理的であり、常識的な推論もできる

・GPT-4は数学、統計学、コンピュータプログラミングの能力だけでなく、倫理的推論に長けている。

●GPT-4とはいったい何なのか

・GPT-4には人間の脳とは異なる制限がある。

・GPT-4の「機械学習」は電源をオフにして、新たな知識や能力を吸収しなければならない。これはトレーニングと呼ばれ、多くのテキスト、画像、ビデオ、その他のデータを収集し、特別な一連のアルゴリズムを使ってすべてのデータを抽出し、モデルと呼ばれる特別な構造にする。ひとたびモデルが構築されると、推論エンジンと呼ばれる別の特別なアルゴリズムが、例えば、チャットボットの回答を生成するためにモデルを実行に移す。

・GPT-4のニューラルネットワークの正確なサイズは公表されていないが、その規模は非常に大きく、それをトレーニングするのに十分なコンピューティングパワーを持つ組織は世界でもほんの一握りしかない。おそらく、これまでに構築され、一般に配備された人工ニューラルネットワークの中で最大のものと思われる。

・GPT-4の能力の大部分は、ニューラルネットワークの規模に起因している。

・OpenAIの技術者たちは極端なスケールが人間レベルの推論を達成する道筋となることに対して確信がない。そして、十分なスケールが達成された途端に、その多くが「ひょっこり出現」したという事実や「失敗モード（システムやモデルが予期せぬ方法で不適切に動作する状況）」が非常に不可解である理由の一端を説明している。

・人間の脳がどのように「考える」を達成するのかを、我々が理解できていないのと同様に、GPT-4がどのように「考える」のかについての多くのことを、我々は理解できないのである。

●GPT-4は単なる自動補完エンジンなのか

・GPT-4は「単なる」コンピュータプログラムである。

・GPT-4は実際に何をしているのか。「GPT-4のようなLLMは、次の単語を予測する」と言われることがある。それは、LLMは大規模統計分析を使って、これまでに起こった会話から、次に（コンピュータまたはユーザのどちらかから）吐き出される可能性が高い単語を予測する。

●しかし、GPT-4にはいくつかの絶対的限界がある

・人間は能動的に考え、世界と対話しながら学習することができる。常にオンライン、ライブである。一方、GPT-4はオフランでのトレーニングが必須である。仮に最後のトレーニングが2022年1月とすればそれ以降は何も学習していないことになる。

・GPT-4は長期記憶の欠如という限界がある。GPT-4でセッションを始める時、GPT-4は白紙の状態でセッションを行う。そして、セッションが終わると会話の内容はすべて忘れ去られてしまう。

・GPT-4はセッションの長さに制限がある。セッションサイズの上限に達すると会話はすべて中断され、新たにセッションを始めるほかない。

・人間の脳の古い記憶に関する能力は解明されていない。また、脳は体力と気力がある限り会話を続けられるが、GPT-4にはそれはできない。

●注意、GPT-4は微妙な誤りを犯す

・GPT-4には誤りは珍しいことではないので、「信頼するが、検証する」は極めて重要である。特に、数学、統計学、論理学に関しては特に注意する必要がある。

・GPT-4の確認作業は別のGPT-4とのセッションを利用する。もしくは人間が確認することである。

・GPT-4の誤りが難しい1つの要因は、人間にとって非常に難しい問題を解ける一方で、些細と思われる問題を正しく解答できない場合も少なくないからである。

・GPT-4はコードを書いたり、APIを使ったりすることができるので、ソルバーやコンパイラ、データベースなどのツールを使えるようにすると制限を克服できるかもしれない。また、医療系では病院の電子カルテシステムや医療画像データベースへのアクセス権が与えられるとGPT-4の予測可能性は向上するだろう。

●結論

・GPT-4は絶え間ない進化と改善を続けている。

・GPT-4の出力を検証することが非常に重要である。もし、検証することができないならば、GPT-4の結果を信用しない方が賢明である。

・GPT-4が実際に「考える」か、「理解する」か、「感じる」かについては、コンピュータ科学者、心理学者、神経科学者、哲学者、宗教指導者などが延々と議論し、論争していくと考えられる。そして、このような議論はとても重要である。

・今日、最も重要なことは、GPT-4のような機械と人間がどのように協力し、人間の健康を増進させるかということである。GPT-4はヘルスケアの改善に貢献する並外れた可能性を秘めている。

Chapter７　究極のペーパーワークシュレッダー

・ペーパーワークを嫌う人は多いが、医療分野で考えれば、治療に関する情報を文書化して共有し、改善に役立てるためにある。文書で物事を共有することは、治療ミスのリスクを減らし治療の効果を高める。また、病院経営には請求、送金、保険契約などの多くの事務処理が存在している。医療は厳しく規制された業界であり、政府による規制を守る方法は医療業務を文書化することである。

・医師や看護師の燃え尽き症候群は増加の一途をたどっており、職業的満足感を抱いているのは22％という調査結果も出ている（HealthDay：健康と医療に関連するニュースと情報を提供するサービス）。燃え尽き症候群の最大の原因は人員不足であるが、その次の要因は、医師の58％、看護師の51％が事務処理の問題をあげている。

おわりに

『今日は2023年3月16日、我々はこの本の執筆を終えようとしている。ありがたいことだ。つい2日前、OpenAIはGPT-4を正式に世界に公開した。

同じ日、マイクロソフトは新しいBingとEdgeのチャット機能を支えるAIモデルがGPT-4であることを明らかにした。グーグルも同日、大規模言語モデルへの開発者のアクセスを提供するPaLM APIを発表した。そのわずか1日後、アントロピック（AIの研究と開発を行う米国のスタートアップ企業）は次世代AIアシスタント「Claude」を発表した。そして今日、マイクロソフトはWord、Excel、Outlook、PowerPointのアプリケーションにGPT-4を統合することを発表した。今後数週間で、さらに多くのLLMベースの製品が市場に登場することは間違いない。AI競争は本格化しており、我々の働き方や生き方を永遠に変えるだろう

昨日、私の同僚（そして上司）であるケビン・スコットが次のような言葉を私に教えてくれた。

（それは）人間の力を大いに増大させたが、人間の善良さをあまり増大させなかった。

これはイギリスの随筆家、戯曲・文芸評論家、画家、哲学者であるウィリアム・ハズリットが1818年に発表したエッセイ「学識者の無知について」の中で書いた言葉である。私はGPT-4に、ハズリットなら大規模言語モデルとそれが人間に及ぼすであろう影響について何と言っただろうと尋ねてみた。GPT-4はこう答えた。 

『GPT-4の出現によって、今日何が起きてるのか、特に人間の健康と福祉に及ぼす潜在的な影響を考えずに、ハズリットの言葉を読むことはできない。このことに関する世間の議論は、おそらく激しく騒がしいものとなるだろう。そして、本書がそうした議論に貢献しようとしても、ハリケーンに向かって叫ぶようなことになるかもしれない。しかし、本書がそのような議論に参加しようとする人たちにとって少しでも役に立てば幸いである。社会は今後、非常に重大な倫理的・法的な問題に直面することになるだろう。そのため私は、できるだけ多くの人々が、その答えを導き出せるような能力を備えることを切に願っている。我々は、AIと健康について理解している人々が積極的な役割を果たし、この新しい力を「不適切な行動」ではなく、「人間の善意」へと向ける必要がある。』 

感想

AIはやはりITの革新だと思います。それは以下のように思うからです。しかし、もし、AIが無秩序に利用されるとすれば、大きなリスクを抱えることも確かだと思います。

 「働く人は良い仕事をしたいと思っている。効率よく仕事をしたいと思っている。経営者は会社を維持そして成長させるため、仕事の質を上げたいと思っている。生産性を上げたいと思っている。利益を上げたいと思っている。世間からの評価を高めたいと思っている。

このためには、有能なパートナーが必要である。それは必ずしも人間でなくても問題はないのではないか。生成AIをパートナーのように有効活用したい経営者は間違いなくいる。そしてうまく活用した企業は大きな成長の機会を手にすると思う。」