AIへの過剰な期待は、なぜPoCを失敗させるのか
以下はフィクションです。ただ、急速に発展してきたAIに対する過度な期待や理解不足からか、企業のAI活用をご支援する中で、これに似た光景を目にすることが少なくありません。読み進めながら、ご自身の会社に重なるところがないか、確かめていただければ幸いです。
1．「生成AIで問い合わせ対応を変えよう」
あるメーカーでは、お客様相談窓口に届く問い合わせが増え、回答作成に時間がかかっていました。経営会議で社長が言います。
「生成AIを使えば、もっと早く回答できるのではないか。競合に遅れたくない」
DX推進部門は、過去の問い合わせ記録をAIに参照させ、回答案を作成するPoC（概念実証）を企画します。当初の目的は、担当者が回答を作成する際の負担軽減でした。しかし、経営陣からは次々に期待が寄せられます。
「せっかくなら、問い合わせを自動で分類できないか」
「重大な苦情を早期に発見してほしい」
「商品の改善点まで提案できないか」
「最終的には、人を介さず回答できるのではないか」
推進責任者は、これらを好意的に受け止めます。ここで「それは今回のPoCの対象ではありません」とは言いにくいからです。一方、IT部門は「技術検証は担いますが、どの業務にどこまで使うかは業務側で決めてください」と一歩引いた姿勢を取ります。
2．期待に応えたい推進者が、約束を膨らませる
推進責任者は、このプロジェクトをAI活用の成功事例にしたいと考えていました。経営会議では「生成AIを活用して顧客対応を高度化する」と説明し、効果として、回答時間の短縮、品質の均一化、顧客満足度向上、そして要員不足の解消を掲げます。
しかし、この時点では、どこまで実現できるか分かっていません。担当者も不安を感じていますが、「あまり慎重な説明をすると、予算が取れない」「まずは期待を持ってもらい、詳細はPoCで詰めればよい」と考えます。
ベンダーも「最新の生成AIと社内データを組み合わせれば可能です」と説明します。嘘ではありません。ただし「可能性がある」と「今回の条件で実用になる」の間には、大きな距離があります。
こうして、PoCで検証するはずのことが、いつの間にか実現を約束したことに変わっていきます。
3．懐疑派が、成功条件を引き上げる
一方、品質保証部門の責任者は、この計画に懐疑的でした。
「AIが誤った回答をして問題になったら、誰が責任を取るのですか」
「お客様に使う以上、100％正しくなければ困ります」
「人が全部確認するなら、AIを使う意味がないのではありませんか」
これらは一見、もっともな指摘です。しかし、その裏には別の事情もあります。品質保証部門は、AI導入によって自分たちが新たなリスクを背負うことを警戒しています。過去にIT主導で導入されたシステムの品質問題に苦労した経験もあります。そのため、反対とは明言せず、「実用化するなら完璧であるべき」という条件を提示します。
懐疑派によって期待値が下げられるとは限りません。むしろ、失敗を明らかにするために、成功条件が引き上げられることがあります。推進側は「そこまでできます」と言わなければプロジェクトを止められると感じ、さらに高い目標を掲げます。
4．現場の慎重論が「抵抗」として扱われる
相談窓口の担当者は、過去の問い合わせ記録を見れば回答案を作れるわけではないと説明します。同じ問い合わせでも、製品型番、購入時期、契約条件、過去の対応履歴によって回答は変わります。記録には、担当者が何を確認し、なぜその表現を選んだかまでは残っていません。
しかし推進側は、これを「現場は変化に抵抗している」と受け取ります。
現場には現場の事情もあります。経営会議で「要員不足の解消」が効果として掲げられたことが伝わり、自分たちの仕事がAIに置き換えられるのではないかという不安を裏付けてしまったのです。現場の責任者は、導入後のトラブル対応を任されることも心配しています。そこで、例外や危険性を強調するようになります。
推進側はAIの可能性を示そうとし、現場はAIにはできない理由を示そうとする。両者の説明は次第に極端になり、本来確認すべき「どの問い合わせなら回答案を作れるのか」という現実的な議論が進みません。
5．PoCの結果を、それぞれが違う物差しで測る
対象範囲の合意がないまま、PoCは開始されました。
結果として、よくある問い合わせについては、AIがかなり有用な回答案を作れることが分かりました。担当者がゼロから回答を作るより、短時間で済みます。一方で、契約条件が複雑な案件や重大な苦情では、誤った回答や不適切な表現も見られました。
ベンダーは「対象を定型的な問い合わせに限定し、人が確認して送信すれば実用可能」と報告します。しかし、経営陣が期待していたのは、顧客対応全体の大幅な効率化です。推進責任者は、当初説明したほどの効果を示せず困惑します。品質保証部門は「やはり100％ではない」と指摘し、現場からは「確認作業が残るなら、どれだけ楽になるのか分からない」と言われます。そもそも、掲げられていた品質の均一化や顧客満足度向上は、短期間のPoCでは測れない指標でした。誰もそのことを開始前に確認していません。
技術的には一定の成果が出ています。それでも、成功だと評価する人はいません。原因はモデルの性能だけではありません。関係者がそれぞれ異なる「成功」を想定したまま、PoCを始めていたのです。
6．過剰な期待は、誰か一人が作ったものではない
ここで物語を止め、期待値が膨らんだ構造を整理します。
| 関係者 | 表向きの発言 | 背後にある事情 |
|---|---|---|
| 経営陣 | 大きな成果を早く出してほしい | 投資に見合う効果を示したい |
| 推進責任者 | AIで顧客対応を高度化する | 期待に応え、予算と評価を得たい |
| ベンダー | 技術的には実現可能 | 商談を前に進めたい |
| 現場 | 例外が多く簡単には使えない | 負担増や仕事の置き換えが不安 |
| 品質保証部門 | 100％正しくなければ使えない | 新しいリスクを負いたくない |
| IT部門 | まずPoCで確認したい | 業務側に要件を決めてほしい |
誰も完全に間違ってはいません。それぞれの立場では合理的に行動しています。そして、この構図はAIに限った話ではありません。ERPを入れれば経営改革できる、BIを入れればデータ経営になる。新しい技術が登場するたびに、似た期待の膨張と失望は繰り返されてきました。だからこそ、「AIを正しく理解しましょう」という啓蒙だけでは解決しません。必要なのは、異なる期待を表に出し、PoCで何を証明し、何は証明しないのかを合意することです。対策の中心は「期待値コントロール」にあります。
7．期待を下げるのではなく、段階に分ける
「期待値コントロール」というと、経営陣に過度な期待を持たせないよう慎重に説明することだと思われがちです。しかし、単に期待を下げるだけでは、AIに取り組む意味まで失われます。必要なのは、期待を三つの段階に分けることです。
今回のPoCで確認すること
- よくある問い合わせに対して回答案を作れるか
- 担当者の作成時間をどの程度短縮できるか
- どのような案件で誤りやすいか
- 担当者が修正可能な回答案になっているか
実用化に向けて別途確認すること
- 参照データや権限をどう整えるか
- 誤回答を防ぐ確認手順をどうするか
- 利用対象をどの問い合わせに限定するか
- 利用後の品質を誰が監視するか
将来的に目指すこと
- 問い合わせの自動分類
- 対象となる問い合わせ範囲の拡大
- 緊急案件や重大苦情の検知
- 顧客対応データを使った商品改善
- 条件を限定した自動回答
加えて、精度だけでなく「どの状態なら次へ進むか」を合意します。回答の完全一致率ではなく、「対象案件の60％で下書きとして利用できる」「回答作成時間を平均30％短縮できる」「重大な誤りは人の確認で検出できる」「現場が継続利用したいと評価する」といった複数の判定軸を設定するのです。
さらに、誰が何を期待し、何を懸念しているかを、開始前に明らかにする必要があります。特に懐疑的な人には、「賛成か反対か」ではなく、次のように聞くと有効です。
- どのような結果なら、限定的な利用を認められますか
- 逆に、どのような結果なら中止すべきだと考えますか
これによって、後から成功条件が引き上げられることを防ぎやすくなります。
8．PoCは「改善の仕組み」まで検証する
もう一つ重要なのは、PoCの時点で最終的な精度を求めすぎないことです。AIは、導入しただけで自動的に業務を学習していくわけではありません。しかし、現場が回答案を採用したのか、どこを修正したのか、なぜ使えなかったのかを記録し、その結果を参照情報や判断ルール、検索方法の改善に反映すれば、実用性を段階的に高めることができます。
したがって、PoCで確認すべきなのは、現時点で何％正しいかだけではありません。どの条件で間違えるのか、その誤りを人が発見できるのか、改善に必要な情報を蓄積できるのか、改善後に同じ基準で再評価できるのか。ここまで含めて検証の対象です。
完成したAIを一度で作ろうとするのではなく、限定的に使い、人が評価し、その結果から仕組みを改善する。この循環まで設計されて初めて、AIは現場に適応していきます。最初から完璧を求めない。しかし、低い精度のまま妥協するのでもない。改善の仕組みを作り、実用性を段階的に高めていくのです。
9．結論：PoCは期待を揃える活動でもある
AIのPoCは、AIの性能だけを試すものではありません。経営陣、推進部門、現場、管理部門、ベンダーが抱いている異なる期待を表に出し、どこまでなら実現でき、どこから先には何が必要かを確認する活動でもあります。
期待に応えようとして大きな約束をし、反対を封じるためにさらに目標を引き上げる。懐疑派も、失敗を避けるために完璧さを要求する。その結果、限定的には価値がある成果まで「失敗」と判定されてしまいます。さらに、一度「AIは使えない」という評価が社内に定着すると、次の挑戦へのハードルまで上がってしまいます。過大な期待は、反動として過小な評価を生むのです。
AIへの過剰な期待がPoCを失敗させるのは、AIが期待に届かないからではありません。誰が何を期待し、何をもって成功とするのかを揃えないまま、PoCを始めてしまうからです。