AIが100%でない本質的な理由

AIでもミスをするのはなぜなのか

menu

×AI

連載:AI脳の創り方

Vol.9

ビジネスパーソンのための戦略的AI活用のキモ

AI導入が難しい、見落としがちな重要ポイントとは

人工知能イメージ

AIは万能というイメージが強いのは、昨今の囲碁や将棋での実績、医療分野での目覚ましい進展などが目立つからかもしれません。確かに、AIにはそれだけのポテンシャルがあるのは事実です。しかし、課題を設定するのはあくまでも人間。AIは課題設定ができません。そこに、AIが100%でない本質的な理由が潜んでいるといえるでしょう。

人工知能がミスをする本質的な理由

そもそも、正解が明確にルールで定義できるような問題なら、なにもAIを使わずとも良いワケです。ですから、AIに解決してもらいたい問題は自ずと、人間でも100%の精度を出すことが難しいような問題となることがほとんどになります。そのため、人間がやっている作業をAIに置き換えようとすると、人間であれば曖昧なまま進められていたような箇所が、次々と課題として明らかになることが少なくありません。

しかし、それら全てのミスが発生しないようにすることはできませんし、それまで人間が間違えながらも問題なくできていたのであれば、そこで発生したミスは最終的な成果に影響がないことだってあります。例えば、統計的な処理をするためにVOC(顧客の声)の分類を行うだけであれば、多少の分類ミスはノイズとして無視できてしまうでしょう。

AIの導入時には精度は高ければ高いほど良いと考え、最低限どれだけの精度があれば効果が出せるのかという観点での検証を忘れがちです。人間がやるにしてもミスは少なければ少ないほうが良いというのはその通りです。一方でそうしたミスが発生することを前提として、その影響がどの程度あるのか、リカバリーの方法はあるのかといったことを考えておくことが重要です。

AIの場合は人間ほど柔軟に例外の発生を処理できないため、特にリカバリーを確実に行えるような業務設計ができるのかどうかが導入にあたっての重要なポイントになってくるでしょう。そこをあまり考えずにAI導入を決めてしまうと、AIで自動的に分類作業を行えるようになったものの、ミスがあっては困るので結局人間がもう一度全てチェックする。そんな本末転倒なことが置きかねません。

AIを導入してもミスは必ず発生する――。そう覚悟を決めて、それによるリスクをいかに回避するのか。それを思いつけるかどうかが、実はAIの精度を上げること以上に難しい問題であり、AI導入の難しさなのです。(続く)

PROFILE

小泉 敬寛

株式会社 TMJ 事業変革本部 コンサルティング部 Data Science推進室

小泉 敬寛(こいずみ たかひろ)

2008年より京都大学 工学研究科 助教としてウェアラブルメディア、コミュニケーションに関する研究を行う。2016年より株式会社TMJに入社。現職では統計処理や機械学習などの新技術に関する調査、研究・開発を担当。AIをはじめとする新規技術を使ったサービスやソリューションの提案やコンサルティングに取り組んでいる。

関連記事