AIと医療1

AIに関しては“生成AIの可能性”というブログをアップしています。そして、AIは一時的なものではなくITにとっての革新であり、発展していくものだろうと思っています。

今回の本のタイトルは『AI医療革命』なのですが、興味をもったのはAIを牽引するリーダー的存在のNVIDIAが、特にAI医療に注目しているということを知ったためです。 

購入してから気づいたのですが、本のタイトルには、「ChatGPTはいかに創られたか」と書かれていました。これには少し戸惑いを感じました。おそらくそれは医療革命という響きが、医療の歴史や現状、あるいは医療に関わるシステムや業務プロセスを変革するような大きなものをイメージしていたためだと思います。

読み終えてその違和感は、本書が掲げるAI医療革命とはソフトウェア（コンピュータ言語）革命であり、医師や医療従事者の「考える」あるいは「つくる」という分野にAIが入り込み、そして支援する（共生医療）。それにより仕事の「質（正確性）」と「量（処理スピード）」を、従来の改善という小さなものではなく、大きな変革と呼べるような医療の在り方に変える。というものではないかと感じました。

IBMが“IBM Personal Computer 5150”を世に送り出したのは1981年です。これはITにおけるハードウェア＆パーソナル革命と呼べるような気がします。

そして、米国では1967年から、日本では1984年から研究者の間だけで使われていたインターネットですが、本格的に普及し始めたのは“Netscape”というブラウザが画期的だったからではないかと思います。その最初のリリースは1994年です。IBMのPC5150のリリースから13年後、これはネットワーク＆モバイル革命のように思います。

私はSEではないので技術的なことは分かりませんが、メインフレームと呼ばれる大型汎用システムの言語はCOBOLだったと思います。一方、オープンシステムでマルチタスクが特長だったUNIXシステムに関しては、Fortran、C++、Javaといったコンピュータ言語が有名だったと思います。

一方、AIで使われている言語は全く新しいタイプの言語であり、LLM（大規模言語モデル）と呼ばれています。生成AIにとってLLMはまさに無くてはならないもので、ニューラルネットワークで構成されるコンピュータ言語モデルとされています。このニューラルネットワークとは生物の学習メカニズムを模倣した機械学習法とされており、今までのコンピュータ言語とは発想が全く異なります。このことが、AIはソフトウェア（コンピュータ言語）革命ではないかと考えた理由です。

目次

序文　OpeｎAI　サム・アルトマン

Chapter１　ファーストコンタクト

●GPT-4とは何か

●しかし、GPTは実際に医療について何か知っているのか

●医学の専門家も非専門家も使えるAI

●AIとの新たなパートナーシップは、新たな問いを投げかける

●ザックとその母に戻る

Chapter２　機械からの薬

●医療機関の新しいアシスタント

●GPT-4はつねに真実を語るのか

●臨床医のインテリジェントなスイスアミーナイフ

●給付金への説明

●医療の実践における伴走車

●GPT-4は現在進行形

Chapter３　大いなる疑問：それは、「理解」しているのか

●大いなる疑問：GPT-4は本当に自分の言っていることを理解しているのか

●常識的推論、道徳的判断、心の理論

●現実には限界がある

●では、大いなる疑問についてはどうだろう

Chapter４　信頼するが、検証する

●驚きと不安

●臨床試験

●訓練生

●しかし、パートナーとしては……

●先導者

Chapter５　AIで拡張された患者

●持たざる人々

●新しい三者の関係

●情報に基づく選択

●より良い健康

●セラピーAI

Chapter６　もっとはるかに：数字、コーディング、ロジック

●GPT-4は計算して、コードを書く

●GPT-4は不思議なことに論理的であり、常識的な推論もできる

●GPT-4とはいったい何なのか

●GPT-4は単なる自動補完エンジンなのか

●しかし、GPT-4にはいくつかの絶対的限界がある

●注意、GPT-4は微妙な誤りを犯す

●結論

Chapter７　究極のペーパーワークシュレッダー

●GPT-4は、紙の受付票を代替する

●GPT-4は診療記録の作成に役立つ

●GPT-4は品質向上を支援できる

●GPT-4は医療提供のビジネス面を支援できる

●GPT-4は価値基準医療の仕組みに役立つ可能性がある

●GPT-4に医療ビジネスの意思決定を任せられるか

Chapter８　より賢いサイエンス

●例：新しい減量薬の試験

●研究のための読書と執筆

●適格化のためのツール

●臨床データの分析

●消えたデータ

●基礎研究

Chapter９　安全第一

Chapter１０　リトル　ブラック　バッグ

おわりに

序文　OpeｎAI　サム・アルトマン

・本書は、GPT-4の汎用的な能力がどのように医療とヘルスケアに革命をもたらされるかを包括的に概説している。

・医療アプリケーションにおけるGPT-4の安全で倫理的かつ効果的な使用法に関する初期の実践指針を示し、その使用をテスト、認証、監視するための緊急の取り組みを呼びかけている。

Chapter１　ファーストコンタクト

・2022年秋、そのAIシステムはまだOpeｎAIが秘密裏に開発中だった。

・医療にどのような影響を与え、医学研究を変革する可能性があるかを探る。

・診断、診療記録、臨床試験のほぼすべての領域。

●GPT-4とは何か

・初心者ユーザはAIシステムを一種にスマートな検索エンジンのように捉えることが多いようだ。

・GPT-4は検索エンジンと統合できる。

・GPT-4の会話継続能力は素晴らしい。

・GPT-4は論理学や数学の問題を解くことができる。

・GPT-4はコンピュータプログラムを書ける。

・GPT-4はスプレッドシート、フォーム、技術仕様書など解読できる。

・GPT-4は外国語間の翻訳ができる。

・GPT-4は要約、チュートリアル、エッセイ、詩、歌詞、物語を書ける。これらはChatGPTより高度にこなす。

・GPT-4は複雑な数学の問題を解く一方で、単純な算数に間違えることもある。

・GPT-4は賢さと愚かさという二律背反の問題は、特に医療において最大の課題の一つである。

・携帯電話を忘れたような感覚はGPT-4にも言える。GTP-4がないと医療が成り立たない、手詰まりになる、そのような感覚を人間の健康という領域において共有することが本書の目的の一つである。

・GPT-4は新しい能力だけでなく、新しいリスクも提供する。

・GPT-4は出力の正しさを検証することが非常に重要である。

・GPT-4は自分自身の仕事と人間の仕事を見て、その正しさをチェックすることに長けている。

・医療は人間とAIの連携が求められる分野である。GPT-4だけでなく、人間によるエラーを減らすため、GPT-4をどのように使うか、事例とガイダンスが求められる。

・問題の核心にあるのは、人間と機械の新しいパートナーシップ、「共生医療」である。

●しかし、GPTは実際に医療について何か知っているのか

・GPT-4を医療に使う場合、GPT-4は医療について本当は何を知っているか、ということが大きな問題である。1つ確かなことは、GPT-4は医学の専門的な訓練を受けていないということである。

・医学的訓練を受けたGPT-4というアイデアは、OpeｎAIの開発者だけでなく、多くのコンピュータ科学者、医学研究者、医療従事者にとって非常に興味深いものである。その理由の1つは、GPT-4がどのような医学的「教育」を受けてきたかの正確な理解が、人間の医者についてと同様に重要なことが多いからである。

・「相関関係は因果関係を意味しない」。この区別は医療において決定的に重要である。例えば、パスタをたくさん食べると高血糖になるか、それとも単に相関関係があるだけで、根本的な原因は別にあるのかを知ることは重要である。GPT-4が因果関係の推論が可能かという問題は、本書の範囲外であり、まだ決着がついていないと言うのが適切である。

●医学の専門家も非専門家も使えるAI

・GPT-4は自らの回答を「易しく書き直して」、医学の素人も含めて、様々な人がアクセスできるようにすることが可能である。

・感情を想像し、人に共感できることがGPT-4の最も興味深い点の1つである。これは人の心の状態を想像する能力に関係しているかもしれない。このようなAIシステムとのやりとりについては、ときに機械による人間の感情の評価を「不気味」に感じることもあるだろう。

・GPT-4は不可解な診断例や難しい治療法の決定や臨床事務にも役立つが、最も重要なことは「患者との対話」において医師を支援する方法を見出したことだろう。GPT-4はしばしば驚くべき明晰さと思いやりをもってそれを実現する。

●AIとの新たなパートナーシップは、新たな問いを投げかける

・『ここまでで、GPT-4がまったく新しいタイプのソフトウェアツールであることはおわかりいただけたと願う。GPT-4の前に登場したヘルスケア向けのAIツールは、放射線スキャンを読み取ったり、患者記録のコレクションから入院リスクの高い患者を特定したり、診療録を読んで正しい請求コードを抽出し、保険請求のために提出したりといった特殊なタスクをこなしたりするものが多かった。このようなAIの応用は、重要かつ有用なものだ。何千人もの命を救い、医療費を削減し、医療に携わる多くの人々の日々の体験を向上させてきたことは間違いない。

しかし、GPT-4は、まさに別種のAIである。GPT-4は、特定のヘルスケアタスクのために特別に訓練されたシステムではない。実際、医療に関する専門的なトレーニングは一切受けていない。GPT-4は、従来の「狭義のAI」ではなく、医療に貢献できる初めての「汎用的な人工知能」なのだ。この点で、本書が扱う真の問いは、次のように要約される。すなわち、もし医療に関するほぼすべてを知る「箱の中の脳」があったら、それをどのように使うか、である。

しかしながら、もう1つ、より根本的な疑問がある。これほど重要かつ個人的かつ人間的で大きな役割を果たす資格が、人工知能にはどのくらいあるか、である。我々は皆、医師や看護師を信頼する必要がある。そのためには、我々をケアする人たちが良い心を持っていることを知る必要がある。

それゆえ、GPT-4が持つ最大の疑問、そして最大の可能性が見えてくる。GPT-4はどのような意味で「善良」なのだろう。そして、結局のところ、このようなツールは、我々人間をより良くしてくれるのだろうか。』

●ザックとその母に戻る

・『GPT-4をはじめとするAIが「考える」「知る」「感じる」のか、コンピュータ科学者、心理学者、神経科学者、哲学者、そしておそらく宗教家までもが、延々と続けるだろう。知性と意識の本質を理解しようとする我々の願いは、人類にとって最も根源的な旅の1つであることはたしかである。しかし、最終的に最も重要なのは、GPT-4のような機械と人間がどのように協力し、パートナーシップを結び、人間の状態を改善するために共同で探求していくのかということだ。』

Chapter２　機械からの薬

・GPT-4は文句を言ったり、叱ったりするのが好きではない。

・GPT-4と「関係」を持つという考え方は、本書の核心的な問いかけの1つであり、おそらく物議を醸すだろう。従来の常識では、思考し感情を持つ知覚的存在としてAIシステムを捉えるのは間違っており、AIを擬人化することには本当に危険が伴うと言われている。この問題は最も個人的な事柄の1つである医療において、特に重要だと思われる。

・GPT-4は常に変化し改善している。

●医療機関の新しいアシスタント

・米国の医療従事者の仕事量は20年間で劇的に増加した。医師や看護師は助けを必要としている。

・医療現場の日常業務の多くは、過酷で単調な事務作業などに追われている。

●GPT-4はつねに真実を語るのか

・GPT-4が出す間違った回答の問題点は、その答えが正しく見えることである。なぜなら、説得力のある方法で提示されるからである。

・GPT-4が医療現場のどこで使用すべきか、また医学のあらゆる側面、さらには医学研究論文などのレビューにも当てはまることである。

・GPT-4のような汎用AI技術は、教育的な推測や情報に基づく判断が必要とされる状況に巻き込まれる。

・医師-患者-AIアシスタントの「三位一体」が、医師-患者-AIアシスタント-AI検証者へと拡張される可能性がある。

●臨床医のインテリジェントなスイスアミーナイフ

・GPT-4は診療記録だけでなく、様々なフォーマットで質の高い診察後のサマリー（患者の診療情報や入院・退院時の概要、治療の経過などを簡潔にまとめた文書）を作成できる。

・GPT-4は会話に非常に長けているので、患者の状態や病歴に基づいて、内容の変更や推奨事項を提案することも可能である。

●給付金への説明

・GPT-4はデータを説明、比較、パーソナライズ、最適化し、フィードバック、推奨、精神的サポートを提供することで、医療費、検査結果、健康アプリなど消費者が自身の健康データを解読し、管理するのを支援できる。

●医療の実践における伴走車

・GPT-4はエビデンスに基づいた仮説を立て、複雑な検査結果を解釈し、一般的な疾患だけでなく稀な疾患や生命を脅かす疾患の診断も認識し、関連する参考文献や説明を提供することができる。

・GPT-4は高度に専門的な研究論文を読み、非常に洗練された議論を行うことができる。

・GPT-4の“ユニバーサル・トランスレーター”機能は、医師や看護師を目指す人々や一般の人々に対して、医学知識の普及や医学教育に役立つ可能性がある。

・GPT-4は医学雑誌の記事を読み、小学6年生の理科の授業にふさわしい要約とクイズを書くことができる。

・GPT-4は高度な医学研究の場で、推論を駆使して議論を促し、次の研究ステップの可能性を議論し、可能性のある答えを推測することができる。

・GPT-4はインフォームドコンセントのような倫理的概念にも精通していると思われる。

・GPT-4は全体として、透明性、説明責任、多様性、協調性、論理性、尊重の重要性について核心的な理解を持っている。

●GPT-4は現在進行形

・GPT-4は急速に進化しており、ここ数カ月の調査においても、その能力が著しく向上しているが、未完成であり、今後も絶え間なく進化し続けるだろう。

・本書の最大の目的は、この新しいAIが、ヘルスケアや医療、そして社会のその他の分野で果たす役割について、今後極めて重要な社会的議論に貢献することである。しかし、最も重要なことは、GPT-4自体が目的ではなく、新たな可能性と新たなリスクを併せ持つ世界への扉を開くものである。

・今後、GPT-4を凌ぐ有能なAIシステムは登場するだろう。GPT-4は加速度的に強力的になっていく汎用AIシステムの最初の一歩に過ぎないというのが、コンピュータ科学者たちの共通認識である。

・人工知能の進化に合わせ、医療へのアプローチをどのように進化させるのがベストなのかを理解することである。

Chapter３　大いなる疑問：それは、「理解」しているのか

・GPT-4が優れた会話システムであるのは、会話の全体像を把握している点である。これは今までのAI言語システムと大きく異なる点である。

・何のガイダンスもない場合、GPT-4はその回答を簡潔にするか、あるいは拡大解釈するかを自分で決めなければならない。

・GPT-4は口調を調整し、象徴を想起させ、進行中の会話の「雰囲気」に合わせるという能力を持っている。

●大いなる疑問：GPT-4は本当に自分の言っていることを理解しているのか

・GPT-4は読み書きを理解しアウトプットに意図はあるのか、それとも言葉をつなぎ合わせた無心のパターンマッチングなのかが疑問であるが、多くのAI研究者の見解は後者であり、ディープラーニングだけでは限界があると考えている。しかしながら、科学の問題としてこの「大いなる疑問」に答えるのは驚くほど難しい。そして、この種の問いは、科学的、哲学的議論の的であり、この疑問は長く続くものと思われる。

・GPT-4は詩を書くより分析する方が、文章を作成するより、それを見直す方が得意のようである。

・GPT-4が自分の意志を持っているとは思えないが、確信的な捏造や省略、さらには過失もある。このことは検証を必要とする理由である。

●常識的推論、道徳的判断、心の理論

・GPT-4は理解していないという根拠には、具体的な経験の欠如がある。また、より高度な知性、例えば、物理的世界における推論、常識、道徳的判断などにおいての限界は長年の研究結果もある。

・GPT-4はイエスかノーの答えを求める質問に応じないことによって、「自分の意思」を示しているようである。

●現実には限界がある

・今の所、「理解」という問題に決着をつけられていないが、GPT-4の推論能力にはいくつかの現実的な限界がある。

・GPT-4は数学において知性と無知が混在した不可解な動きを見せることがある。

●では、大いなる疑問についてはどうだろう

・GPT-4のように純粋に言語だけで訓練されたAIシステムは、「理解」していないという見解は正しいと思う。そして、大いなる疑問に関する全体的な科学的コンセンサスはその方向性に傾いている。しかしながら、少なくともGPT-4に関しては、これを証明することは意外に難しい。

・『数ヶ月にわたる調査の結果、私[ピーター・リー]は、最新の科学的研究によるテストでは、GPT-4が「理解が欠けている」ことを証明できないという結論に達した。そして、実際、我々がまだ把握していない、真に深遠な何かが起こっている可能性は十分にある。GPT-4は、我々がまだ特定ができていない何らかの「理解」と「思考」を持っているのかもしれない。ただ、1つ確実に言えるのは、GPT-4はこれまでに見たことのないものであるということだ。そして、GPT-4を、「単なる大きな言語モデル」として片付けるのは間違いであるということだ。』

・『大いなる疑問に対する回答や、知能と意図性についての、おそらくさらに大いなる疑問は、我々の科学的・哲学的探求の中心にある。一方で、最終的に最も重要なのは、GPT-4のようなAIシステムと我々の関係が、我々の心や行動をどのように形作るかということかもしれない。人間のように「理解」できるかに関わらず、GPT-4は、4章[信頼するが、検証する]で見るように、診療所から研究室に至るまで、我々の理解を大いに助けてくれるだろう。』