問題の中で生きているAIの弱点

やっていることの意味が分からないAIのもろさ

menu

×AI

連載:逆説的AI論

Vol.2

三宅陽一郎(ゲームAI開発者)×境目研究家・安田佳生

得意と不得意分野がハッキリしているAIをどう考えるか

安田氏×三宅氏

AI素人の安田氏とAI専門家・三宅氏の対談は2回目を迎え、リズムが噛み合い始める。AIのポテンシャルに興味津々の安田氏は、その可能性を遠慮なく掘り下げる。だが、見えてきたのは意外にもAIの“未熟さ”だ。

人工知能の限界と可能性

安田 お医者さんの初診時の誤診率って6割超えているそうです。

三宅 そうみたいですね。

安田 そこに人工知能をもっていくとしたら、肉体を伴った狭義がいいのか、それとも分析が得意な広義がいいのか。

三宅 その場合、広義の方がいいですね。

安田 アンドロイドのお医者さんみたいなのではなく?

三宅 もちろん自律した、一番SFチックで誰もが思い描くカタチもありますけど。

安田 そうですよね。そっちの方がロマンがあります。

三宅 ただそれには、まだ時間がかかります。まずは人間をサポートする立場としてAIが入ってくる。

安田氏安田 人間をサポートする立場?

三宅 つまり、AI自身が診察するというより、人間のチカラを何倍にも引き出す役割として登場する。

安田 たとえばどんな。

三宅 たとえば内科医の横で患者の声を聞いて、まれな症例であっても一番から百番まで候補を出してくれる。

安田 なるほど。それは便利ですね。

三宅 実際にAIは、お医者さんが分からなかった病気を見つけることもあります。

安田 じゃあ、もうAIでいいじゃないですか。

三宅 いや、だからといってAIに完全に入れ替えることはできないんです。

安田 それはどうして。

AIが完全に人間を代替できない理由

三宅 なぜかというと患者さんというのは、いろんな言い方をしたり、要を得ない話し方をしたりするから。

安田 そういうのはダメなんですか?AIは。

三宅 そういう人間とのコミュニケーションが、AIはとっても苦手なんです。人間側も身体や表情のないAIとの接し方が分からない。

安田 なるほど。

三宅 お医者さんがそれを整理して、コンピュータに明確な症状を入力した後は、AIがはるかに優れているんですけど。

安田 AIにも医者の手助けが必要なわけですね。

三宅氏三宅 でもそれで終わりではないんです。候補の中からお医者さんが判断して、その判断の中から人工知能が選んで、さらにもう一回推論をする。

安田 医者とAIとで何度もキャッチボールすると。

三宅 そうです。AIは医者の頭脳をエンハンスしているけど、あくまでもAIと人間は対等で協調するわけです。

安田 互いに補完し合うわけですね。

三宅 AIと人間の協調が、これからの社会で必要になってくるでしょうね。

安田 それは医療以外の分野でも。

誰もがAIと一緒に仕事ができるようになる時代

三宅 これまでは、人工知能と人間の2択のよう言われていました。

安田 そうではないと?

三宅 誰でもコンピュータを使えるようになったように、誰でも人工知能と一緒に仕事ができるようになっていくと思います。

安田 たとえばどんな風に?

三宅 AIとしゃべるコツを教えるインターフェイスとか、弁護士用のAIとか、学校の先生のアシストをするAIとか。

安田 ひとつ純粋な疑問があるんですけど。

三宅 なんでしょうか?

安田 AIがサポートするなら、医者である必要はなくなるんじゃないですか。

三宅 医者じゃなくなる?

安田 たとえば医者よりもコミュニケーションが上手な人が問診するとか、医者よりも手先が器用な人が手術するとか。

三宅氏
三宅 AIの特徴として、自分で問題を切り取ることができません。

安田 どういうことですか?

三宅 人間は日々生きていく中で問いを立てて、「いま直面している問題はこれだ」と問題設定できますが、人工知能は全くできない。

安田 じゃあ、問いを立てる人がいないと、問題解決はできないと。

三宅 そういうことです。そして問題提起は永久にできないといわれています。

安田 そうなんですか!

三宅 ただ人工知能は、問題を設定された後は素晴らしい力を発揮します。将棋という問題設定、風邪かどうかを入力した後は、人間を凌駕する能力を発揮します。

安田 なるほど。確かにそうですね。

正確無比なAIの弱点とは

三宅 ところが、例えば手術において「ここだけこう切って」という作業ひとつでも、例外的なものが出てきたら人工知能は何一つ対処できない。人工知能は全くの無力です。

安田 そんなに例外に弱いんですか。

三宅 人間は「なだらかな対応」ができますが、人工知能は直角にストンと落ちます。

安田 100からいきなりゼロになると。

三宅 例えば料理がうまいAIがいたとして、レシピ通りにつくるとします。ところがその最中に猫が横切ったらもうだめです。

安田 たったそれだけで?

三宅 猫の設定なんてないから、AIにとっては意味がわからない。なんの対処もできない。そこで終わり、ジ・エンドです。

安田 ダメダメですね。

安田氏三宅 自動運転も理想的な道路なら走れるけど、現実には洗濯物が飛んでくるし、雷は鳴るし、ライトをぶらぶらしている人がいるかもしれない。

安田 まあ、現実の道路はそうですよね。

三宅 つまり、例外って無限個あるわけです。現実は雑音の集合なので。

安田 確かに。

三宅 だからどうしても問題設定の外に簡単にでちゃう。その時の対処の出来なさが凄まじいんです。

安田 たとえば盲腸のオペに特化したら、医者よりAIの方がカンペキということはないですか?

三宅 盲腸の手術にしても問題設定が難しい。

安田 たとえば?

三宅 「盲腸はココにあってこういう形をしている」と問題設定しても、開いてみると形が違ってるとか。血の色も定義と違うとか。例外がどうしようもなくたくさん存在するんです。

安田 逆にいえば「グレーゾーンの幅」みたいなのが、人間の特徴ってことですか。

三宅 そうです。あとは問題をつくれること。その場、その場で課題をつくれる。

安田 なるほど。

三宅 人工知能は、最初の段階からそういう設定をされていないとダメ。盲腸の手術でも血圧が上がってきたらこういう措置をしますとか、手術よりそっちの問題ですね。

安田 手取り足取りどころではないですね。

三宅 人間でも「問題からちょっと出たら、何もしない人」がいますよね。

安田 います、います。

三宅 それの極端なカタチですね。言ってしまえば「将棋以外の世界は存在しません」くらいのイメージ。そんな感じ。

安田 かなり偏った棋士さんですね。日常生活もままならないような。

三宅 いまの人工知能は「問題の中だけで」生きているんです。将棋を打つAIは、将棋の中でしか生きてない。それ以外は世界と思っていない。

安田 人間だったら恐ろしい人ですね。

三宅 なにしろ問題定義がされていないですから。将棋を打つAIにとっては、現実のリンゴとか蕎麦とかは、ないのと一緒。

安田 なるほど。じゃあ、そういうのを一個一個学んでいくしかないと。

人間を超えるAIの開発も進められているが…

三宅 それを目指しているのが汎用人工知能というものですね。人間の経験やらなんやらを一個一個積み重ねていけば「いつか気がつくんじゃないか」という。

安田 気がつきますかね?

三宅 常識って何個あるのかっていう。液体があったらこぼれます。お湯を沸かせば蒸発します。一体、何個あるんだって。

安田 限りなくありそうですよね。

三宅 しかもどうやって「知識として出せるか」という問題もある。例えば人工知能はリンゴを食べられないけど、ディープラーニングでリンゴの画像を仕分けることはできる。

安田 仕分けることは得意そうですよね。

三宅 本当にリンゴを知っていると言えるのか。識別はできるけど触ったことも味わったこともない。つまり人工知能は世界を経験できない。情報的な側面をピックアップしているだけ。

安田 じゃあ、人工知能には永遠に、リンゴを理解することは出来ない?

安田氏&三宅氏三宅 理解できるのは記号的なところだけ。リンゴは紅いですとか。

安田 それを積み重ねて行ったら、リアルに近づくんじゃないですか。

三宅 たとえば紙コップは柔らかいという情報。じゃぁ誰にとって柔らかいのか。人間にとってはそうでも蟻には硬い。

安田 なるほど。

三宅 人間がネットに上げている情報から「紙コップは柔らかい」という対応をしているだけ。これをもって「人工知能が何かを認識している」となるのか。ということですね。(続く

PROFILE

AI専門家

三宅陽一郎(みやけよういちろう)

京都大学で数学を専攻、大阪大学(物理学修士)、東京大学工学系研究科博士課程(単位取得満期退学)。2004年よりデジタルゲームにおける人工知能の開発・研究に従事。 理化学研究所客員研究員、東京大学客員研究員、九州大学客員教授、IGDA日本ゲームAI専門部会設立(チェア)、DiGRA JAPAN 理事、芸術科学会理事、人工知能学会編集委員。 著書に『人工知能のための哲学塾』 『人工知能のための哲学塾 東洋哲学篇』(ビー・エヌ・エヌ新社)、『人工知能の作り方』(技術評論社)など。 連続セミナー「人工知能のための哲学塾」を主催。最新の論文は『大規模ゲームにおける人工知能』(人工知能学会誌 Vol.32, No.2 Web AI書庫でWeb公開)。また人工知能 学会「私のブックマーク『ディジタルゲームの人工知能 (Artificial Intelligence in Digital Game)』」に寄稿している。

PROFILE

安田佳生

境目研究家

安田佳生(やすだよしお)

1965年、大阪府生まれ。高校卒業後渡米し、オレゴン州立大学で生物学を専攻。帰国後リクルート社を経て、1990年ワイキューブ設立。2006年に刊行した『千円札は拾うな。』は33万部超のベストセラー。新卒採用コンサルティングなどの人材採用関連を主軸に中小企業向けの経営支援事業を手がけたY-CUBE(ワイキューブ) は2007年に売上高約46億円を計上。しかし、2011年3月30日、東京地裁に民事再生法の適用を申請。その後、境目研究家として活動を続けながら、2014年、中小企業に特化したブランディング会社「BFI」を立ち上げる。経営方針は、採用しない・育成しない・管理しない。

関連記事