前のエピソード――第534話　Noisy minorityとSilent Majority

昨今、AI（人工知能）の進歩は著しい。AIの基盤をなす「深層学習」のメカニズムを、「網膜の神経細胞の配置と連携」を基に開発した、というリアルタイムなものとして、医学部進学前に所属していた学部学科の講座で行われていたのを見ていた身としては、非常に感慨深いものがある。「あの時のあれ（ネオコグニトロン）から、AIとしてこのように発展していったのだ」と思うと、この30年間のハードウェア、ソフトウェアの進歩と同時に、「深層学習」のシステムそのものが、これまた時代のキーワードでもある「バイオミメティクス」と深くつながっている、という点でも興味深いものがある。

さて先日、ソースは忘れたが、「生成系AIは、それ自身が生成したものが広く流布すると、その精度を下げる」という記事があった。「深層学習」は非常に多くの「学習させたいもの」とその「正解・不正解」を入力することで、各階層のつながりの係数を変化させ、適切な答えを導き出す、というものである。今の生成系AIは、「学習させたいもの」を広くネット上から集め、基本的にはそれらをすべて「正解（人間の作り出したもの）」として学習させている。

おもしろ画像などで、「生成系AI」が作成した、足が3本ある女の子の画像などが紹介されていたが、それらも、当然同じアルゴリズムで学習していくので、「生成系AI」が作成した「正解とは言えない」ものがネット上に多数あれば、当然ながら精度は低下していく、というのは自明の理である。

将棋や囲碁などのAIが人間より強くなっても、さらに進化を遂げている、というのはこれらのゲームは明確に「勝ち」というものが定義されているので、「正解・不正解」までコンピュータ上で判断できるからである。なので、コンピュータ同士を対戦させ、その結果の勝ち負けまでコンピュータが判断してくれるので、まさしく「自己学習」を「疲れることなく」続けてくれる。ということで、「ルール化された」物事については今後もどんどんAIの性能は上昇していくであろう。

一方で、「正解・不正解」を与えることが極めて難しい分野のものであれば、どうだろうか？

画像診断などの「正解・不正解」が分かりやすいものであれば、例えば正確な診断名が提示されなかったとしても「異常影」を拾い上げることはAIの得意分野となるであろうと推測される。例えば、胸部レントゲン写真。もっとも古くからある画像診断法の一つであるが、奥は極めて深い。ただし、正常な解剖での構造物を二次元に投射したものがレントゲン写真となるので、「正常」な胸部レントゲン写真を多数学習させておけば、与えられた画像が「この部分が正常ではない」とはじくことは可能だろう。

では、「診断系AI」はどうだろうか？もちろん「見た目一発」の疾患もたくさんあるので（例えば、水痘、帯状疱疹、ヘルパンギーナ、手足口病などなど）、そういったものの診断で困ることはあまりなさそうだと思われる。あとは操作的診断となる現在の精神科医療などもAIとの親和性は高いと思われる。もちろん、操作的診断の診断基準については、その感度、特異度も明らかとなっているので、それも勘案しての「推定診断」となるだろう。

しかし、複数の疾患が共存しており、そのどれが「一番悪さをしている」のか、よくわからない症例も存在している。特に高齢者の終末期などはその典型である。「深層学習」のためには「正解・不正解」を判断しなければならないのだが、全身の臓器の各機能が明らかに低下しており、バイタルサインも崩れて来ていて、「ではこの状態を引き起こしている、根本の原因は何だ」と言われても、人間でも正解を出せない。「正解・不正解」とともに症例を学習させていかなければ「深層学習」は深まらないので、「正解」を導くことは難しいだろう。

「特定の領域」に関するAIは進歩していき、「総合診療科」のようなところでは、AIが補助ツールとして有効に働くことは可能でも、AIが「ほぼ過たず」診断をつける、というのは困難だろう、と思っている。「診断の誤り」を「AIの教育側」が気付かなければ、誤りを正解と誤認識してAIが学習するため、おのずとその精度に限界が出るだろうと推測している。

私が経験した患者さんだが、糖尿病で他院通院中（私が紹介状を書いて、糖尿病専門医に紹介した）の80代の女性。ご本人も、お隣さんも当診療所のかかりつけさんで、「様子がおかしい」とのことで、お隣さんがご本人を引きずって、何とか診療所に連れてきてくれた方である。

本人は、自身ではしゃべる元気がないほどぐったりしている。お隣さんのお話では、「来院2時間ほど前に、急にご本人が玄関のドアを叩いてきた。ドアを開けると一目散にトイレに駆け込み、激しい嘔吐と下痢を繰り返した。2時間近くその状態が続いたが、ようやく症状が落ち着いてきたようなので、何とか連れてきた」とのことだった。ご本人に「どこか痛いところはないか」と聞いても首をわずかに横に振り、「なにか変わったものを食べた？」と聞いても首を横に振っていた。

外観は強い重篤感を感じる状態。体温　35.2度、血圧　96/54，脈拍112，SpO2　94%、うなずきで何とか意思表示可能だが、開眼せず、意識レベルはJCS-10と判断、全身は冷や汗をかいていた。

診療所レベルなので、バイタルがおかしい時点で、「原因検索」よりも「転送」を最優先としたが、では、原因は何だろうか？

「変なものは食べていない」とは言っていたが、朝に握ったおにぎりを常温で置いていて、お昼に食べた、というのなら、黄色ブドウ球菌による毒素性食中毒はありうる。下痢を伴っているので、消化器系のトラブルの可能性が高そうか？とも思うが、私の頭の中では鑑別診断の第一に「急性心筋梗塞」をあげていた。

糖尿病の基礎疾患があり、リスクが高いこと、突然発症の疾患であり、症状が突然に始まった（わざわざ自宅が隣にあるのに、間に合わずに隣家に向かった）こと、嘔吐は心筋梗塞の症状としては珍しくないこと（というか、どんな病気でも具合が悪ければ嘔吐をするので、嘔吐だけで病気を鑑別することはできない）、致死的な病態なので、交感神経、副交感神経とも不自然に興奮し、頻度の高い症状ではないが、「下痢」の存在が「心筋梗塞」を否定するものとはならないこと、そして、見た目には「あぁ、この人、このままでは死んでしまいそう」という見た目であり、少なくとも致死的な疾患であり、なおかつ、中枢神経系のトラブル（めまい、頭痛など）を呈していないことであった。一般的に中枢神経系のトラブルなら、死戦期でなければ血圧は急上昇しているはずである。

この患者さん、搬送先のDr.のバイアスを避けるため、起きていることだけを主訴として紹介状を作成した（主訴は「突然発症のひどい下痢嘔吐、ショックバイタル」とした）。

実際の診断は「下壁梗塞」と、私の予感が的中したが、「胸痛・背部痛・心窩部痛」などの痛みを伴わない「下痢・嘔吐」の主訴で「心筋梗塞」を鑑別診断の上位に挙げることは人間にとっても難しいことだと思うのと同時に、AIにとっても難しいのではないか、と思う。

随分とグダグダ書いてしまったが、ネットで見た記事「生成系AI」は、それ自身の作成物が流布するほど、AIの作品を学んでしまって精度が落ちる、ということに深く納得し、その原理の延長線上に「診断AI」作成の限界があるのではないか、と思った次第である。