AIが間違えた。悪いのはAI? AIを業務で使い続けるための条件
連載|AIを業務で使い続けるための条件
2026/11/11

AIの誤りは性能だけの問題ではない。使い続けるために見直す「渡す記録・確かめる画面・直す人」の3条件

問い合わせへの回答案や会議の要約、社内照会への応答など、業務にAIを試験導入したものの、出力の誤りを直す手間がかかり、元のやり方に戻ってしまった。そうした経験はないでしょうか。株式会社100は、手直しが減らずにAIが定着しない原因は、AIの性能だけでなく、次の3つが業務の中に整っていないことにもあると考えています。「人とAIが前提にする記録の基盤」「出力を確かめて直す確認の接点」、そして「直した結果を積み重ねて判断する、組織に残す力」です。

この3つの条件は、営業、カスタマーサポート、企画、管理部門など、どの業務でも共通しており、1つだけを整えても長続きしません。本記事では、AIを業務で使い続けるための3つの条件の全体像と、それぞれのつながりを整理します。

熟練者の頭の中にある前提や判断の基準を、どう仕組みにするか

カスタマーサポートの担当者5,179人を対象にした研究(学術誌Quarterly Journal of Economics、2025年)によると、AIアシスタントを使えるようになった担当者は、1時間あたりに解決した問い合わせの数が平均14%増えました。経験の浅い担当者やスキルの低い担当者では34%増えた一方、熟練の担当者ではほとんど変わりませんでした。

仕事の質は、マニュアルの手順だけでなく、仕事の前提になる情報や判断の基準に左右されます。こうした情報をコンテキストと呼びます。コンテキストには、顧客とのやり取りの経緯だけでなく、自社の製品やサービスの内容、社内の規定や判断の基準、文章のトーンといった、自社に関する情報も含まれます。この連載では、主に顧客とのやり取りの記録を例に説明します。たとえば、この言葉が出たら契約状況を確認する、過去の経緯と今回の相談は分けて扱う、といった基準です。これらは熟練者の頭の中にあることが多く、経験の浅い担当者やAIには伝わりにくいものです。熟練者は自分でコンテキストを補って仕事を進められますが、経験の浅い担当者や社内事情を知らないAIは、前提が示されていなければ適切に処理できません。

AIの効果を担当者全体に広げるには、こうしたコンテキストを仕事の仕組みに組み込めるかが問われると、株式会社100は考えています。

なぜプロンプトの工夫と現場の注意だけでは使われなくなるのか

多くの会社では、AIの出力にもっともらしい誤りが混ざると、次の2つのどちらかで対処しようとします。

1つ目は、指示文(プロンプト)の書き方を工夫することです。初期の調整は必要ですが、AIが参照する元の情報の中で、いつの時点のものか分からない記述や、未確定の話と決定事項が区別されていなければ、どれほど指示文を工夫してもAIは誤った文章を作ってしまいます。

2つ目は、現場の担当者に「AIの出力は必ず人の目でよく確認するように」と注意することです。しかし、根拠を確かめるたびにあちこちの資料やシステムを探し回る必要があるため、繁忙期に時間に追われると、「これだけ自然な文章なら合っているだろう」とそのまま通すか、AIを使わなくなってしまいます。

つまり、AIが現場に定着しない大きな原因は、AIに信頼できる前提を渡し、人が無理なく確かめ、直した結果を次の改善につなげる業務の設計が抜け落ちていることにあります。

AIを業務で使い続けるための3つの条件「FIT」

HubSpotの導入や、業務システムとAIを仕事に組み込む支援をしている株式会社100では、AIの出力を現場の仕事とかみ合わせて成果につなげるには、冒頭で挙げた3つの条件をセットでそろえる必要があると考えています。記録の基盤、確認の接点、組織に残す力の頭文字をとってFITと呼んでいます。

3つの条件 仕組みの中での役割 欠けると現場で起きること
1. 記録の基盤(Foundation) AIと人が、同じ信頼できる情報を前提に仕事を進められるようにする 何が正しい情報なのか人にもAIにも分からず、古い情報や推測が前提になり、もっともらしい誤りが出る
2. 確認の接点(Interface) 人がAIの出力を、根拠と照らして無理なく確かめ、その場で直せるようにする 確かめる手間が重くなり、中身を見ずに通すか、AIを使わなくなる
3. 組織に残す力(Transfer) 直した結果を組織の知恵として積み重ね、使い続けるか、改めるか、中止するかを判断できるようにする 同じ誤りが繰り返され、作った人が離れると仕組みが回らなくなる
AIを業務で使い続けるための3つの条件FIT。記録の基盤、確認の接点、組織に残す力が、使うほど手直しが減る成果を支える

1. 記録の基盤(Foundation):人とAIが同じ信頼できる情報を前提にする

  • 何を整えるか: 何が今の正しい情報か、誰がいつ確かめた情報か、まだ決まっていないことは何かが、人にもAIにも分かる状態にします。あわせて、仕事の前提や判断の基準であるコンテキストを、AIに渡せる形にしておきます。
  • 欠けると何が起きるか: 次のようなことが起き、回答案や引き継ぎ資料にもっともらしい誤りが混じります。
    • 過去の経緯や検討中の話が、今の前提と混ざる。
    • 大事な情報が担当者の頭や個人のメモにしかなく、異動や退職で消える。
    • 新しい情報で古い情報が上書きされ、経緯をたどれなくなる。
    • その情報がどこから来たのか、出典が分からない。
    • 複数のツールに同じ情報があり、内容が食い違う。
  • よくある思い込み: 「AIの性能が上がれば、整理していない資料をそのまま渡しても、AIがコンテキストをくみ取ってくれるはずだ」と考えがちです。実際には、元の情報で事実と推測や未確定の話が区別されていなければ、AIも区別できません。具体的なデータの整え方は、次回の記事で詳しく扱います。

2. 確認の接点(Interface):普段の仕事の流れの中で、根拠と照らして確かめて直せるようにする

  • 何を整えるか: AIの出力について最終的な責任を持つのは人です。その責任を果たせるよう、AIの出力を元の情報と照らして確かめ、必要に応じて直す作業が、普段の仕事の流れの中で無理なくできるようにします。同時に、どこをなぜ直したのかという結果が、次に生かせる形で残るようにします。
  • 欠けると何が起きるか: 次のようなことが起き、確認が形だけになります。
    • AIの出力が、どの情報を根拠にしたのかをたどれない。
    • 確かめる手間が重く、忙しい時期には中身を見ずに通してしまう。
    • 誰がどこまで確かめるのかが曖昧で、互いに相手が見たと思い込む。
    • 直したことが残らず、何をどう直したのかが次に生かされない。
  • よくある思い込み: 「最後に人が見れば大丈夫だ」「チャット画面を用意しておけば十分だ」と考えがちです。責任が人にあるのはそのとおりですが、確かめる手順が普段の業務から切り離されていると、確認そのものが負担になり形骸化します。人が無理なく確かめられる具体的な画面の作り方は、今後の記事で扱います。

3. 組織に残す力(Transfer):直した結果を組織の知恵として積み重ね、判断する役割を決める

  • 何を整えるか: 現場でAIの出力を直した結果が、組織のルールや判断の基準として積み重なるようにします。そのうえで、誰が基準を更新し、誰が効果やリスクを見て使い続けるか、改めるか、中止するかを判断するのかを決めておきます。
  • 欠けると何が起きるか: 次のようなことが起き、仕組みが少しずつ現場の実態から離れていきます。
    • 担当者が手元で直しても仕組みに反映されず、同じ誤りが繰り返される。
    • 作った人や外部の支援会社が離れると、誰も仕組みを直せなくなる。
    • 中止を判断する人や基準がなく、効果が出ていなくても惰性で続く。
    • 事業や商材、社内のルールの変化に、AIの前提が追いつかない。
  • よくある思い込み: 「導入時に作り込めば、あとは手をかけずに使い続けられるはずだ」と考えがちです。実際には、商品やルール、顧客の相談は少しずつ変わるため、基準を育てる仕組みと判断する役割が欠かせません。具体的な役割の決め方や運用の方法も、今後の記事で扱います。

3つの条件が連動して初めて、「使うほど手直しが減るサイクル」が回る

この3つの条件は、互いにほかの2つが働くための前提になっています。そのため、どれか1つが欠けると、残りの2つも効かなくなります。

  • 記録の基盤が欠けると、確認の接点で確かめようにも照らし合わせる根拠がありません。組織に残す力で積み重ねる基準も、どの情報を正しいとするかが定まらないまま揺れます。
  • 確認の接点が欠けると、記録の基盤を整えてもAIの読み違えに気づけません。組織に残す力で生かすべき、直した結果も集まりません。
  • 組織に残す力が欠けると、確認の接点で直した結果がその場限りで終わります。記録の基盤も業務の変化に合わせて更新されず、やがて古くなります。

3つがそろうと、信頼できる情報をもとにAIが下書きを作り、人が根拠と照らして確かめて直し、直した結果が組織の基準として積み重なって次の下書きと記録に戻る、という循環ができます。使うほど手直しが減っていくのは、この循環が回っているときです。

この連載の初回で紹介した、法人研修を提供するアルテラ・キャリア株式会社(説明のために作った架空の会社で、実在の会社とは関係ありません)の例で見てみましょう。同社では、営業担当2人が受け持つ月100件の相談で、初回面談の準備メモをAIで作る試験導入をしました。その際、記録の基盤として情報を「区分①確認済みの事実」「区分②顧客の発言・希望」「区分③未確認の点」「区分④双方の合意事項」という4つの区分に分けて扱いました。第1週には、前年度の別相談の予算が混ざる、顧客が試したいと言っただけのことを導入の決定と書く、といった読み違えが起きました。そこで直した結果を残し、別案件の金額を書き写さない、試すという言葉は検討中の案として扱う、といった基準を毎週積み重ねました。その結果、第1週には週14件あった手直しが第4週には週1件になり、1件あたりの確認時間は平均9分から4分になりました。積み重ねた基準は、新しく配属された人が仕事の前提を学ぶ材料にもなり得ます。

自社でAIの仕組みを点検する3つの問い

AIを試すときや、手直しが減らずに悩んでいるときは、AIに任せたい仕事を1つ思い浮かべながら、次の3つの問いに答えてみてください。

  • 記録の基盤(Foundation): その仕事の担当者が休んでいる日に、ほかの人が今の正しい内容をすぐに見つけられますか。同じ情報がいくつもの場所にあるとき、どれを信じればよいかが社内で決まっていますか。
  • 確認の接点(Interface): AIの下書きを1件確かめるのに、今どれくらいの手間がかかっていますか。月末のような忙しい日でも、同じように確かめられるでしょうか。誤りを見つけて直したことは、来週ほかの人が見ても分かる形で残っていますか。
  • 組織に残す力(Transfer): 先月直したAIの誤りが、今月も同じように出ていませんか。仕組みを作った人が明日いなくなっても、ルールを直せる人は社内にいますか。効果が出ていないとき、中止を言い出すのは誰ですか。

営業色ナシ、
実務に役立つヒントだけ

HUBSHOTのアイコン

HUBSHOTで、
業務を前に進めるヒントを

AI活用のヒントやHubSpotの最新動向を、現場目線で解説するコラムを毎週木曜にお届けします。

メールマガジンに登録する

田村 慶

田村 慶

株式会社100 代表取締役

2005年に株式会社24-7を創業し、2012年からHubSpot事業に取り組む。2018年に株式会社100を創業。日本唯一のHubSpot Eliteパートナーであり、日本初のLovable公式パートナーである同社を率いる。HubSpotとLovableを組み合わせ、AI時代のGTM戦略から仕組みの構築、運用改善まで支援している。

『HubSpot大百科』の著者。HubSpot公式トレーナーや、HubSpotユーザーグループの主催者として、HubSpot利用者の交流や学びの場づくりに取り組む。
HubSpot社とAIに関する提言や議論を行うHubSpot AI PACメンバー。
2026年10月、Lovableアンバサダープログラムの東京「City Lead」に就任。

出典

  • Erik Brynjolfsson, Danielle Li, Lindsey R. Raymond「Generative AI at Work」Quarterly Journal of Economics 140(2)、2025年
  • アルテラ・キャリア株式会社の例:説明のために設定した架空の会社であり、実在の会社とは関係ありません。件数や時間は説明のための試算です