2019年3月28日木曜日

病理の話(308) AI以前に加藤さんが敵

先日の日経メディカルにインタビュー記事( https://medical.nikkeibp.co.jp/leaf/mem/pub/report/t328/201903/560220.html?n_cid=nbpnmo_twbn )が掲載された。

ぼくの腕の組み方がヘタクソなところが萌えポイントなのでちゃんと萌えて欲しい。



この企画を作り上げた日経メディカル編集部のKさん……とイニシャル処理しようと思ったが記事中にふつうに名前が書いてあるから本名表記でいいか……加藤さんは、2017年に日本病理学会のオープンフォーラムを共同企画した実績で(ぼくの中で)有名な、やり手の記者である。

彼はたぶんぼくを下僕のように考えている。ときどき無茶な依頼をくれる。

今回も無茶な依頼がきた。突貫的なインタビューが敢行され、羽田空港で謎の腕組み写真を撮影されるという嫌がらせをうけた。羽田空港といっても別にベンチャー企業の意識高い風シャレオツ写真を撮ってくれたわけではない。「工事中のブースでたまたま白い壁の場所がありました、その前で写真を撮りましょう」と、第2ターミナル1階到着フロアの端っこ(トイレ前)に連行され、警備員が頭の上にハテナを4個くらい点灯させるのをスルーしつつ、バシャバシャと25枚くらい写真を撮られた。羽田である意味は全くなかった。




ぼくはかねがね、

「病理組織診断なんてものは、AIによってほとんどすべて置き換わってしまってかまわない。ヒトがあえてルーチンの病理診断に従事する必要性を感じない」

ということを述べている。つまりは、「AIはヒトより優れている派」なのだが、加藤さんはそのぼくを、あえて

「AIが発展してもヒト病理診断の重要性は揺るがない派」

の論客に選んだ。まったくひどい。この記事でぼくはひたすら「自分の意に沿わないこと」を言わされているのである(笑)。




でも、まあ、ディベートというのは、自分の普段考えていないほうに肩入れしてしゃべるほうが、絶対おもしろい。

「自分が内心思っていることと反対側の立場で、必死でつじつまを合わせ、論理を組み立てる」

という作業がやはりとても楽しかった。加藤さんの思う壺。ぜひ本文を読んでほしい。あ、でも、日経メディカルに登録しないと読めない記事な気がする。となると、非医療者にはハードルが高いだろうな。ごめんね。

というわけで、概略の一部をここに漏洩する。怒られたら謝って消す。今のうち今のうち。




ぼくがこの記事の中で書いた内容は主に4種類の理論から成り立つ(数えてみてほしい)。なかでも一番大きな柱は、

「AIが出してきた結果は必ずしも人間の意志決定(判断)を強制しない」

というものだ。

この話はとても大事で、ある意味、医療に限らず、これから来るAI時代にほとんどの人間が必ず直面するであろう問題ではないか、と思っている。





記事中に書いた例えを少し拡充しよう。

AIによる診断は、おそらく、天気予報に似たものになると思う。

「明日の降水確率は60%です」というのと同じように、

「あなたの病が3年以内に命に関わる確率は60%です」

というかんじで予測がなされる(ざっくりとした例えだ。実際にはもっと高度だと思う)。

ここで、降水確率が60%なら傘を持ってでかけよう、というノリで、我々は「命に関わる確率が60%なら、手術しなければ!」と判断できるものだろうか。

この問題は思った以上に難しい。

手術が失敗する確率が0.5%。

手術がうまくいっても病気の進行がさほど遅くならない確率が33%。

手術がうまくいって病気の進行が遅くなる確率が45%……。

あなたはこれらの数字をみただけで、「じゃ、傘を持って出かけよう」のノリみたいに、「じゃ、手術をうけてみよう」と判断できるだろうか?

ぼくはそんな判断は無理だと思う。




AIができるのは、判断をサポートするデータを提出するところまで。

AIが「診断を決定」してくれるような未来は来ない、というのがぼくの論点だ。




ただこの話には続きがある(それも記事中には書いてある)。

そもそも、患者が相手にするものが、AIだろうが、生身の医者だろうが、「患者が判断するときの困難さ」はさほど変わらないのではないか、という話だ。

患者にとって、自分のあずかり知らぬところにある大量の知識が自分に向かって「さあ決めて下さいよ」と詰め寄ってくる状況は、AIの普及以前に、人の医者を相手にする局面でもしょっちゅう発生していた。

このあたりをもう少しまじめに考えた方がいいんじゃないの……という話を最後に書いている。




まあよかったら読んでみてね。お前どっちなんだよ、って、つっこみたくなるでしょうから。そうなったらしめたもの。

「どっち」って決められないのが人間なんだよ、っていう結論が強固になるだけの話なのである。



追記:この記事を執筆したあとに、早川書房の「予測マシンの世紀」を読んでがくぜんとした。ほとんど同じようなことが、ぼくより巧妙な文体で丁寧に書かれていたからだ。まあそうだよな、みんな同じこと考えるよな、それにしてもあとからぱくったみたいでなんだか申し訳ねぇな、そもそも日経メディカルのインタビューを収録したのはもっと前なのにな、加藤さん、加藤さん、そこんとこフォローしてね、とか、そんなことを思った。