AIが100％でない本質的な理由

AIは万能というイメージが強いのは、昨今の囲碁や将棋での実績、医療分野での目覚ましい進展などが目立つからかもしれません。確かに、AIにはそれだけのポテンシャルがあるのは事実です。しかし、課題を設定するのはあくまでも人間。AIは課題設定ができません。そこに、AIが100％でない本質的な理由が潜んでいるといえるでしょう。

人工知能がミスをする本質的な理由

そもそも、正解が明確にルールで定義できるような問題なら、なにもAIを使わずとも良いワケです。ですから、AIに解決してもらいたい問題は自ずと、人間でも100%の精度を出すことが難しいような問題となることがほとんどになります。そのため、人間がやっている作業をAIに置き換えようとすると、人間であれば曖昧なまま進められていたような箇所が、次々と課題として明らかになることが少なくありません。

しかし、それら全てのミスが発生しないようにすることはできませんし、それまで人間が間違えながらも問題なくできていたのであれば、そこで発生したミスは最終的な成果に影響がないことだってあります。例えば、統計的な処理をするためにVOC（顧客の声）の分類を行うだけであれば、多少の分類ミスはノイズとして無視できてしまうでしょう。

AIの導入時には精度は高ければ高いほど良いと考え、最低限どれだけの精度があれば効果が出せるのかという観点での検証を忘れがちです。人間がやるにしてもミスは少なければ少ないほうが良いというのはその通りです。一方でそうしたミスが発生することを前提として、その影響がどの程度あるのか、リカバリーの方法はあるのかといったことを考えておくことが重要です。

AIの場合は人間ほど柔軟に例外の発生を処理できないため、特にリカバリーを確実に行えるような業務設計ができるのかどうかが導入にあたっての重要なポイントになってくるでしょう。そこをあまり考えずにAI導入を決めてしまうと、AIで自動的に分類作業を行えるようになったものの、ミスがあっては困るので結局人間がもう一度全てチェックする。そんな本末転倒なことが置きかねません。

AIを導入してもミスは必ず発生する――。そう覚悟を決めて、それによるリスクをいかに回避するのか。それを思いつけるかどうかが、実はAIの精度を上げること以上に難しい問題であり、AI導入の難しさなのです。

AI脳の創り方「ビジネスパーソンのための戦略的AI活用のキモ」
前の記事　Vol.08　なぜAIは100％正しい答えを返せないのか
次の記事　Vol.10　実装後の注意点が示すAI時代の必須スキル