人間ならではの付加価値：企業があえて人間に残すものとその理由

著者: Victor Hoang · 更新日: 2026年9月22日

人間ならではの付加価値（human premium）とは、特定のタスクにモデルではなく人間を置くという意図的な選択です。そこでは人間のほうが、より高い信頼、より高い満足度、より少ない高くつくミスといった、計測可能なより良い成果を生むからです。これは感傷ではなく証拠に基づく人員配置の判断であり、これを戦略として扱えるかどうかが、正しく見極められる企業と、すべてを自動化するか、何も自動化しないかのどちらかに偏る企業とを分けます。

AIと仕事に関する文章の多くは、「人間に残す」を、変化に居心地の悪さを感じる人の逃げ道として扱っています。本記事はこれを、自らその地位を勝ち取らなければならない仮説として扱います。そして、証拠を正しく読み取った企業は、「ここは人間に残している」を、漠然とした安心材料ではなく、競争上の主張に変えています。

重要なポイント

• 消費者は、問題が複雑になると人間の担当者を強く好みます。 California Management Reviewによるチャットボットへの不満の研究の統合では、その割合は70〜80%とされており、ガートナーの5,728人の顧客調査では、AIのみのサービスを理由に提供元の乗り換えを検討するとした人が53%に上ったと引用されています。California Management Review, "Chatbot Frustration Is Real"
• 企業が断らなければならないとき、AIでも問題ありません。謝らなければならないときは、人間のほうがうまくいきます。 クレーム対応に関する2026年のJournal of Business Researchの研究では、人間による謝罪とAIによる拒否の組み合わせが、認知された誠実さによって最も好ましい結果を生みました。Zhao, Song & Cai, Journal of Business Research (2026)
• 同じミスでも、人はアルゴリズムへの信頼を人間よりも早く手放します。 バークレー・ディートボルストのアルゴリズム回避の研究では、アルゴリズムが平均して人間より優れていたにもかかわらず、人は誤りを目にした後、アルゴリズムによる予測者への信頼を人間の予測者よりも早く失うことがわかりました。Chicago Booth Review, "Even When Algorithms Outperform Humans, People Often Reject Them"
• 本当にリスクの高い意思決定では、アルゴリズムが同等の性能でも、人は人間を選びます。 約9,000人の米国の回答者を対象とした事前登録型のコンジョイント実験では、公判前の釈放では人間の裁判官がアルゴリズムより7.6ポイント、融資では人間の融資担当者がアルゴリズムより4.3ポイント好まれました。PNAS Nexus, "Public attitudes on performance for algorithmic and human decision-makers"
• KlarnaのAIファーストのカスタマーサービスへの賭けは、自動化では解決できない品質の問題にぶつかりました。 AIが月に約230万件の会話を処理し、人員が22%減った後、CEOのセバスチャン・シェミアトコフスキは2025年に方針を転換し、人間によるサポートの品質を「未来への道」と呼んで、AIが置き換えるはずだった職種の採用を再開しました。Entrepreneur, "Klarna Is Hiring Customer Service Agents After AI Couldn't Cut It on Calls"
• 企業向け生成AIのパイロットの大半は、計測可能な財務的インパクトに到達しません。 MITによる企業パイロットの追跡によるもので、「当面はここを人間に残す」がしぶしぶの代替策ではなく、合理的な既定の選択であることが多い理由の一つです。Fortune, "MIT report: 95% of generative AI pilots at companies are failing"
• マイクロソフトの2025年Work Trend Indexは、結果に責任を負う人が必要なため、一部の仕事は人間に残ると論じています。 経済学者ダニエル・サスキンドの枠組みを引用し、3つの理由を挙げています。人間とAIの協働のほうが効率的なことが多いこと、人は人間とのやり取りを好む傾向が根強いこと、そして道徳的責任には、それを負える人が必要なことです。Microsoft WorkLab, "2025: The Year the Frontier Firm Is Born"

人間ならではの付加価値が実際に意味するもの

この言葉は緩く使われがちなので、正確にしておく価値があります。人間ならではの付加価値とは、「顧客は人間が好き」という、限られた人員予算をどこに使うかについては何も説明しない当たり前の話ではありません。それは、その差が重要となる接点において、タスクを人に回すか、モデルに回すかで生じる、成果（満足度、解決の質、維持される収益、回避される評判の毀損）の計測可能な差のことです。

この捉え方は両刃です。差が小さい場合、その「付加価値」はリターンのないコストであり、それを守ることは原則ではなく、高くつく習慣です。差が大きい場合、人間を削るべき費用項目として扱うことが誤りです。仕事の未来が実際にどのような姿なのかは、接点ごとに決まる組み合わせであり、人間ならではの付加価値は、その組み合わせを人間のほうへ傾けるべき接点を指し示すものです。

これは、AIが置き換えるのではなく変える仕事とは異なります。そちらは、役割のタスク構成がどう変わるかを問います。人間ならではの付加価値が問うのは、より限定的で商業的な問いです。その裏でAIが起草や分析をしているかどうかにかかわらず、この特定の場面の最終的な声として人間を残すことは、人間を外すよりも良い事業成果を生むのか、というものです。

証拠が示す、人が人間を求める場面

機械に単独で任せたくない、リスクの高い意思決定

最も明確な実験的証拠は、誤ると高くつき、元に戻しにくい意思決定に関するものです。先に挙げたPNAS Nexusの研究では、約9,000人の回答者が、アルゴリズムの公表された精度が人間と同等かそれ以上であっても、公判前の釈放では人間の裁判官を、融資ではアルゴリズムより人間の融資担当者を支持しました。

このメカニズムは、法廷や銀行の窓口を超えて一般化できます。実在する人が元に戻しにくい結果を負う意思決定はどれも、同じ反応を引き起こします。道理を尽くして話し合え、責任を問える人に、判断してもらうか、少なくともレビューしてもらいたい、と人は考えるのです。それは「最も正確な答えを得る」という要件とは別物です。だから、貸倒れリスクの予測で融資担当者を上回るモデルでも、単独では融資担当者の完全な代替にはならないのです。

複雑で感情のこもったクレーム

カスタマーサービスは、これが実務で最も表れる場所です。先のJournal of Business Researchの知見が最も鋭いデータです。企業が定型的な拒否を伝えるとき、AIでも問題はありません。企業が自らの失敗を謝罪しなければならないとき、人間の謝罪は、AIによる謝罪にはない誠実さをもって受け止められ、その認知された誠実さは、問題が解決したかどうか以上に満足度を左右します。

これは、より広いチャットボットへの不満に関する文献（状況が複雑になると70〜80%が人間を好む）と一致しており、文化とカスタマーエクスペリエンスが、クレームを閉じるべきチケットではなく、関係性の局面として扱う理由とも重なります。また、AIが介在するコミュニケーションが、メッセージの意味するところをどう変えるかとも関わります。自分のクレームに誰も向き合っていないと疑う顧客は、その不在を、見る手間をかけるほど会社が気にかけていない証拠と受け取り、どんな言い回しでもそれを直せません。

信頼に左右される場面と、最初のミスの問題

アルゴリズム回避は、AIを本番運用するすべてのチームがいずれ直面するパターンを説明します。AIが最初に見せるミスは、同じミスを人間がした場合より、信頼に不釣り合いな損害を与えます。ディートボルストの研究では、アルゴリズムが全体として明らかに正確であったにもかかわらず、同一の誤りの後、人はアルゴリズムによる予測者への信頼を人間の予測者よりも早く失うことがわかりました。人はアルゴリズムに、人間には決して当てはめない、ほぼ完璧という基準を課し、一度の悪い結果だけで関係が永久に損なわれることも少なくありません。

この非対称性は、論破すべき顧客の欠点ではなく、現実の設計上の制約です。目に見えるミスが一つでもブランドに過大な損害を与えるような接点では、同じ仕事を人間がするよりもAIがするほうが、ミスの実質的なコストは高くなります。人々の反応がそれほど違うという、ただそれだけの理由です。だからこそ、こうした接点で人間の判断を鋭く保つことが重要になります。誤った回答を見抜く技術を練習しなくなったレビュアーが、最初の大きなミスを通してしまう弱い環になるからです。

創造的な判断と、作者性のプレミアム

小規模ながら興味深い一群の研究によれば、人は、同程度の品質であっても、人間が作ったと知ると、創造的な仕事の価値を違って捉えます。最近のアンケート調査に基づく研究（プレプリントで、大学生70人が参加しているため、示唆的なものとして扱ってください）では、回答者の72.9%が、人間が作ったと信じる作品には、洗練度ではなく、認知された労力と作者性に結びついて、より多く支払う意思を示しました。顧客が創造的でブランドを形づくる成果物に見出す価値の一部は、特定の人物がその背後にいると知ることにあります。センスや判断といった補完的な人間のスキルが実際の商品となる役割では、守る価値があります。

実際に責任を問える説明責任

先のマイクロソフトの枠組みは、顧客の選好データだけでは捉えきれない点を挙げています。一部の意思決定には、顧客が話したがる相手というだけでなく、説明責任を問える人が必要だということです。AIシステムは再学習させたり、抽象的に「モデルのせい」にしたりできますが、解雇することも、個人的な犠牲を払って謝罪することも、誰がこの判断を下したのかと問われたときに名前を挙げられる存在になることもできません。AIによる意思決定の責任が不明確になりそうな場面ではどこでも、その曖昧さ自体が、その接点が人間のものであることを示す合図であり、AIのチームメイトへの信頼に、信頼できる人間にはない上限がある理由でもあります。

カスタマーサービスでAIが裏目に出るとき：Klarnaの事例

Klarnaの方針転換は、同社が賭けと撤回の両方について透明だったため、最も明快な公開事例です。2024年2月、CEOのセバスチャン・シェミアトコフスキは、KlarnaのAIアシスタントが人間の担当者700人分に相当する仕事をこなし、月に約230万件の会話を処理して、解決時間を11分から2分未満に短縮したと述べました。この期間に人員は22%減りました。当時は、カスタマーサポートの完全自動化を示す決定的な事例のように読まれました。

2025年には、シェミアトコフスキは異なる話をしていました。サービス品質は、件数では小さな割合ながら、顧客感情では大きな割合を占めるクレームやエッジケース、つまり上記の研究が、誠実で説明責任を負える人間を必要とすると指摘するまさにそのケースで低下していたのです。彼の説明は率直でした。AIファーストのアプローチは「正しい道ではなかった」し、「人間によるサポートの品質に投資することが未来への道だ」というものでした。Klarnaは、うまくいかなくなったやり取りのために、主にリモートの人間の層の採用を再開し、AIは引き続きうまくこなす定型的な件数に残しました。

教訓は「カスタマーサービスでAIは失敗する」ではありません。KlarnaのAIは今も、定型的でリスクの低い問い合わせの大半を処理しており、それを元に戻そうと提案した人はいません。教訓は、平均解決時間や1件あたりのコストといった単一の混合指標が、上記の証拠が人間の居場所だと示すまさにその場所、すなわち複雑なクレーム、感情のこもった場面、顧客が話を聞いてもらえたと感じる必要があるケースでの品質の崩壊を覆い隠していたことです。平均だけを最適化すると裾野を見逃します。そして、解約と評判の毀損が実際に潜んでいたのは、その裾野でした。

ヒューマンウォッシングのリスク：提供していない付加価値を謳うこと

「人間に残している」が宣伝文句になると、新しい失敗の形が生まれます。企業が提供していない人間ならではの付加価値を謳うことです。これをヒューマンウォッシングと呼びましょう。AIウォッシングのカスタマーサービス版であり、文言、名前、インターフェースの設計が、実質は自動化されたままなのに人が関わっているかのように示す、あるいは実在の人間はいても、結果を変える権限がない状態を指します。

このパターンは見分けがつきます。人間らしい名前と顔写真を付けたチャット画面が、「担当者」が逸脱できないスクリプトにつながっている。「専門担当者へのエスカレーション」が、実は同じボットへの、より長い待ち行列にすぎない。「いつでも人間に連絡できます」と約束しながら、その人間が、そもそも顧客を不快にさせた自動化された決定を覆せない。どれも表面的な監査はくぐり抜けるかもしれませんが、顧客が本当に望んでいたもの、つまり自分の状況に判断を下せる人を満たしていません。

ヒューマンウォッシングは、正直な自動化よりも悪い賭けであり、安全な中間地点ではありません。アルゴリズム回避の研究は、開示されたAIのミスを、同等の人間のミスよりも厳しく罰することを示しています。約束された人間が実は権限を与えられていなかったと知ることは、意図的に欺かれたという感覚という、2つ目のペナルティを加えます。出荷前に、3つの確認でほとんどを見抜けます。この「人間」は、より温かく繰り返すだけでなく、実際に結果を変えられるか。その対応の背後に、実在し、名前があり、説明責任を負う人がいるか。そして、そのうちどれだけを人が実際に扱ったかを顧客が正確に見られるとしても、企業は平気でいられるか。

どの接点を人間に残すかを見極める、明確なテスト

すべての接点を2つの問いにかけてください。1つ目は、悪い結果が実際に何をもたらすか、つまりお金、安全、法的リスク、あるいは長年にわたって築かれた関係において、いくらかかるか。2つ目は、結果への信頼が、内容そのものが正しいかどうかとは別に、人がその状況に向き合ったと信じられることに左右されるかどうか。どちらかの問いで高く評価される接点は、人間ならではの付加価値の候補です。両方で低い接点は、自動化しても安全であり、そのほうが良いことも少なくありません。

このテストを正直に実行すれば、いくつかの行では直感が示す以上に自動化を、別の行では予算が望む以上に保護を、勧めるはずです。その緊張こそが肝心です。自動化しか勧めない、あるいは人間しか勧めないテストは、実際にはテストではありません。

社内版：決して委譲してはならないマネジメントの仕事

上記のすべては社内にも当てはまり、そこでのリスクは通常さらに高くなります。中間管理職の仕事はすでにAIのもとで形を変えつつあり、モデルに人のマネジメントの一部を起草、採点、決定させたいという誘惑は現実のものです。AIは、パフォーマンスデータの取りまとめ、フィードバックの初版の起草、チーム全体のパターンの検出といった機械的な部分で確かに役立つからです。

それが止まるべき場所は、顧客向けテストが引く線と同じです。AIが基盤の仕事をしているときのパフォーマンス管理でも、数字がこの人にとって何を意味するかを解釈し、結論を伝える人間が必要です。昇進、報酬、懲戒、解雇は、公判前の釈放や融資の決定に相当する社内の判断です。リスクが高く、元に戻しにくく、受ける側の人が、問いただせて責任を問える意思決定者を望む領域です。適切に行うヒューマンインザループとは、マネージャーがダッシュボードに判を押すことではありません。マネージャーがその決定を自分のものとし、モデルの言葉ではなく自分の言葉で説明できるということです。

社内の失敗の形は、社外のヒューマンウォッシングに似ています。AIの出力を、自分がなお所有している決定への一つの入力ではなく、実際の決定として扱いながら、「システムがあなたをこの件でフラグ付けしました」と言うマネージャーです。従業員は、自分の状況を考えてくれたマネージャーと、スコアを転送しただけのマネージャーを見分けられます。その判断を外注していたと露見したときの信頼のコストは、関係の行き場がほかにないため、顧客向けのものより悪くなることが少なくありません。

人員配置に人間ならではの付加価値を組み込む

これらは、カスタマーサービスやマネジメントでAIが実際の仕事をすることに反対する議論ではありません。証拠が見返りを示す場所に人間ならではの付加価値を使い、それによって浮いた時間を別の場所で取り戻すことを主張しています。定型的な件数は遠慮なくAIに回してください。自社のミスに関わるクレーム、誰かの契約を終わらせる決定、自社の名前を背負う創造的な判断には、訓練を受け、権限を与えられた人を置いてください。両面を正直に測定してください。自動化したものについて節約されたコストと、保護したものについて回避された解約と評判の毀損です。

特定の接点を挙げて、「ここは人が担当しており、その理由はこうです」と正しく言える企業は、純粋に自動化された競合が一晩では真似できないものを築いています。それが、正しく実践された人間ならではの付加価値です。人を残すほうが賢明な判断となる場所の、短く擁護できるリストであり、企業が実際にそれを実行しているという裏付けを伴うものです。