AI運用後のトラブルを最小化する重要ポイント

AIの導入検討時にはどれだけエラー（本来は問題なしなのに問題ありと判定してしまう事例）が含まれるのかは検証されているはずです。ただし、実運用が始まれば、そのデータは取れなくなってしまいます。従って、AIが検討時と同じ精度で判定をし続けてくれることを信用するしかありません。

とはいえ、以前も連載で触れたようにAIはパーフェクトではありません。時間の経過によって周囲の環境が変化（例えば光源が弱くなってきたなど）した場合、それまで問題なしと判定していたものを問題ありと判定するようになってしまうことがないとは言い切れません。あくまでもデータに基づいてしか判別できないAIが、そうした変化に臨機応変に対応することは、現実的には困難です。

だからといって、この部分のチェックを疎かにすると、ある時急に過大に不備ありと判定される製品が増えてしまい、想定した生産量に達しないなどの影響が出てきても、すぐには対応ができなくなってしまいます。そうした現象が起きてから、原因を探って問題を修正するには、これまで捨てていた問題ありとされていた製品のデータを改めてチェックしなければいけません。

製品不備の発生率自体は数パーセント以下のため、直近一か月分ではデータが足りないということもあるでしょう。当然新たにアノテーション作業を行うためのコストや時間もかかってしまいます。場合によっては、何か月分か過去のデータを遡って再チェックする必要もありますが、費用的な問題でAIが処理した後のデータは残されていない場合もあります。そうなってしまうと、時間をかけてデータを集めなおさなければいけないという事まで起きてしまう場合があります。

AI運用後のトラブルを最小化するために

このように、AIの運用がスタートした後になるとデータの取得自体が難しくなっている場合があります。AIを導入してからも何の変化もなく永遠に同じ業務が続くことは考えられません。人がやっているのであれば、そもそも人がデータの変化なり基準の変化に合わせてくれるかもしれません。しかし、AIは勝手にそうした変化に応じて基準を変えたりはしてくれません。また何か変化があったことを教えてもくれません。

こうしたAIの特性を踏まえ、運用後に予見されるトラブルを最小化するためには、AIが出力するデータなどからモデルの状態を把握できるような仕組みを作っておく必要があります。そうでなければ、変更に気づけず、ちょっとした変更があるたびに全てを作り直さなければいけないはめになります。これではAI導入がかえって非効率ということにもなりかねません…。

そうしたことがないよう、本番導入時にはAIの専門家とともにそうした変化に気づけるようなKPIの設計やAIの修正方法についても確認しておくことが肝要といえます。

AI脳の創り方「ビジネスパーソンのための戦略的AI活用のキモ」
前の記事　Vol.10　実装後の注意点が示すAI時代の必須スキル
次の記事　Vol.12　VOC（顧客の声）を音声認識＋AIで掘り起こせるか