問題の中で生きているAIの弱点

AI素人の安田氏とAI専門家・三宅氏の対談は2回目を迎え、リズムが噛み合い始める。AIのポテンシャルに興味津々の安田氏は、その可能性を遠慮なく掘り下げる。だが、見えてきたのは意外にもAIの“未熟さ”だ。

人工知能の限界と可能性

安田　お医者さんの初診時の誤診率って6割超えているそうです。

三宅　そうみたいですね。

安田　そこに人工知能をもっていくとしたら、肉体を伴った狭義がいいのか、それとも分析が得意な広義がいいのか。

三宅　その場合、広義の方がいいですね。

安田　アンドロイドのお医者さんみたいなのではなく？

三宅　もちろん自律した、一番ＳＦチックで誰もが思い描くカタチもありますけど。

安田　そうですよね。そっちの方がロマンがあります。

三宅　ただそれには、まだ時間がかかります。まずは人間をサポートする立場としてAIが入ってくる。

安田　人間をサポートする立場？

三宅　つまり、AI自身が診察するというより、人間のチカラを何倍にも引き出す役割として登場する。

安田　たとえばどんな。

三宅　たとえば内科医の横で患者の声を聞いて、まれな症例であっても一番から百番まで候補を出してくれる。

安田　なるほど。それは便利ですね。

三宅　実際にAIは、お医者さんが分からなかった病気を見つけることもあります。

安田　じゃあ、もうAIでいいじゃないですか。

三宅　いや、だからといってAIに完全に入れ替えることはできないんです。

安田　それはどうして。

AIが完全に人間を代替できない理由

三宅　なぜかというと患者さんというのは、いろんな言い方をしたり、要を得ない話し方をしたりするから。

安田　そういうのはダメなんですか？AIは。

三宅　そういう人間とのコミュニケーションが、AIはとっても苦手なんです。人間側も身体や表情のないAIとの接し方が分からない。

安田　なるほど。

三宅　お医者さんがそれを整理して、コンピュータに明確な症状を入力した後は、AIがはるかに優れているんですけど。

安田　AIにも医者の手助けが必要なわけですね。

三宅　でもそれで終わりではないんです。候補の中からお医者さんが判断して、その判断の中から人工知能が選んで、さらにもう一回推論をする。

安田　医者とAIとで何度もキャッチボールすると。

三宅　そうです。AIは医者の頭脳をエンハンスしているけど、あくまでもAIと人間は対等で協調するわけです。

安田　互いに補完し合うわけですね。

三宅　AIと人間の協調が、これからの社会で必要になってくるでしょうね。

安田　それは医療以外の分野でも。

誰もがAIと一緒に仕事ができるようになる時代

三宅　これまでは、人工知能と人間の2択のよう言われていました。

安田　そうではないと？

三宅　誰でもコンピュータを使えるようになったように、誰でも人工知能と一緒に仕事ができるようになっていくと思います。

安田　たとえばどんな風に？

三宅　AIとしゃべるコツを教えるインターフェイスとか、弁護士用のAIとか、学校の先生のアシストをするAIとか。

安田　ひとつ純粋な疑問があるんですけど。

三宅　なんでしょうか？

安田　AIがサポートするなら、医者である必要はなくなるんじゃないですか。

三宅　医者じゃなくなる？

安田　たとえば医者よりもコミュニケーションが上手な人が問診するとか、医者よりも手先が器用な人が手術するとか。

三宅　AIの特徴として、自分で問題を切り取ることができません。

安田　どういうことですか？

三宅　人間は日々生きていく中で問いを立てて、「いま直面している問題はこれだ」と問題設定できますが、人工知能は全くできない。

安田　じゃあ、問いを立てる人がいないと、問題解決はできないと。

三宅　そういうことです。そして問題提起は永久にできないといわれています。

安田　そうなんですか！

三宅　ただ人工知能は、問題を設定された後は素晴らしい力を発揮します。将棋という問題設定、風邪かどうかを入力した後は、人間を凌駕する能力を発揮します。

安田　なるほど。確かにそうですね。

正確無比なAIの弱点とは

三宅　ところが、例えば手術において「ここだけこう切って」という作業ひとつでも、例外的なものが出てきたら人工知能は何一つ対処できない。人工知能は全くの無力です。

安田　そんなに例外に弱いんですか。

三宅　人間は「なだらかな対応」ができますが、人工知能は直角にストンと落ちます。

安田　100からいきなりゼロになると。

三宅　例えば料理がうまいAIがいたとして、レシピ通りにつくるとします。ところがその最中に猫が横切ったらもうだめです。

安田　たったそれだけで？

三宅　猫の設定なんてないから、AIにとっては意味がわからない。なんの対処もできない。そこで終わり、ジ・エンドです。

安田　ダメダメですね。

三宅　自動運転も理想的な道路なら走れるけど、現実には洗濯物が飛んでくるし、雷は鳴るし、ライトをぶらぶらしている人がいるかもしれない。

安田　まあ、現実の道路はそうですよね。

三宅　つまり、例外って無限個あるわけです。現実は雑音の集合なので。

安田　確かに。

三宅　だからどうしても問題設定の外に簡単にでちゃう。その時の対処の出来なさが凄まじいんです。

安田　たとえば盲腸のオペに特化したら、医者よりAIの方がカンペキということはないですか？

三宅　盲腸の手術にしても問題設定が難しい。

安田　たとえば？

三宅　「盲腸はココにあってこういう形をしている」と問題設定しても、開いてみると形が違ってるとか。血の色も定義と違うとか。例外がどうしようもなくたくさん存在するんです。

安田　逆にいえば「グレーゾーンの幅」みたいなのが、人間の特徴ってことですか。

三宅　そうです。あとは問題をつくれること。その場、その場で課題をつくれる。

安田　なるほど。

三宅　人工知能は、最初の段階からそういう設定をされていないとダメ。盲腸の手術でも血圧が上がってきたらこういう措置をしますとか、手術よりそっちの問題ですね。

安田　手取り足取りどころではないですね。

三宅　人間でも「問題からちょっと出たら、何もしない人」がいますよね。

安田　います、います。

三宅　それの極端なカタチですね。言ってしまえば「将棋以外の世界は存在しません」くらいのイメージ。そんな感じ。

安田　かなり偏った棋士さんですね。日常生活もままならないような。

三宅　いまの人工知能は「問題の中だけで」生きているんです。将棋を打つAIは、将棋の中でしか生きてない。それ以外は世界と思っていない。

安田　人間だったら恐ろしい人ですね。

三宅　なにしろ問題定義がされていないですから。将棋を打つAIにとっては、現実のリンゴとか蕎麦とかは、ないのと一緒。

安田　なるほど。じゃあ、そういうのを一個一個学んでいくしかないと。

人間を超えるAIの開発も進められているが…

三宅　それを目指しているのが汎用人工知能というものですね。人間の経験やらなんやらを一個一個積み重ねていけば「いつか気がつくんじゃないか」という。

安田　気がつきますかね？

三宅　常識って何個あるのかっていう。液体があったらこぼれます。お湯を沸かせば蒸発します。一体、何個あるんだって。

安田　限りなくありそうですよね。

三宅　しかもどうやって「知識として出せるか」という問題もある。例えば人工知能はリンゴを食べられないけど、ディープラーニングでリンゴの画像を仕分けることはできる。

安田　仕分けることは得意そうですよね。

三宅　本当にリンゴを知っていると言えるのか。識別はできるけど触ったことも味わったこともない。つまり人工知能は世界を経験できない。情報的な側面をピックアップしているだけ。

安田　じゃあ、人工知能には永遠に、リンゴを理解することは出来ない？

三宅　理解できるのは記号的なところだけ。リンゴは紅いですとか。

安田　それを積み重ねて行ったら、リアルに近づくんじゃないですか。

三宅　たとえば紙コップは柔らかいという情報。じゃぁ誰にとって柔らかいのか。人間にとってはそうでも蟻には硬い。

安田　なるほど。

三宅　人間がネットに上げている情報から「紙コップは柔らかい」という対応をしているだけ。これをもって「人工知能が何かを認識している」となるのか。ということですね。

全4連載「三宅陽一郎（ゲームAI開発者）×境目研究家・安田佳生」
Vol.1　AIは人間を超えられるのか
Vol.2　得意と不得意分野がハッキリしているAIをどう考えるか
Vol.3　AI時代に生き残れる人材とは
Vol.4　AI時代のリアルとバーチャルの境目はどうなるのか