AIチームの心理的安全性：疑ってよく、ノーと言える環境

著者: Victor Hoang · 更新日: 2026年8月26日

AIチームの心理的安全性とは、エイミー・エドモンドソンが示した元の概念、つまりチームは対人リスクをとっても安全だという共通認識を、AIが仕事の一部を担って初めて生じる新しいリスクへと広げたものです。エージェントの出力に疑問を呈する、タスクにAIを使ったと認める、AIのエラーを指摘したり推奨を上書きしたりする、そして「この結果は信用できません」とはっきり言う。こうしたことが、地位や信用を損なったり、評価に傷がついたりすることなくできると、人々が感じられる状態を指します。

エドモンドソンは、発言すれば命やプロジェクトが救えるときでさえ、病院、コックピット、役員会議室で人々が沈黙するのはなぜかを研究して、キャリアを築きました。彼女が見いだした仕組み、つまり沈黙とは、リスクを罰する場に対する合理的な反応だということは、ほぼそのままAIにも当てはまります。かつては、スプレッドシートを疑うのに許可は要りませんでした。今では、働く人の増えつつある割合がまさにその許可を必要としており、それを声に出して与えたことのあるチームはほとんどありません。この記事では、人とAIのチームにおける安全性の何が本当に新しいのか、それが欠けたときに現れる失敗パターンとしての自動化バイアスと過度な追従、人が「なぜ」を問わなくなる理由に関する実際の研究、そしてリーダーがそれを取り戻すためにすべきことを取り上げます。

エドモンドソンのモデルを広げる：安心して言えるべき新しい4つのこと

エドモンドソンの元の4段階モデル、すなわちインクルージョン、学習者、貢献者、挑戦者の安全性は、人と人のやり取りを軸に作られていました。その全体像は職場の心理的安全性で扱っています。AIエージェントが、誰かがひそかに使う道具ではなくチームの働く一員になると、同じ4つの段階を、1999年のエドモンドソンがモデル化する必要のなかった新しい場面にまで広げなければなりません。当時は、疑問を投げかける相手が常に同僚だったからです。

AIの出力に疑問を呈しても安全であること

エージェントが出した成果を見て、何かがおかしいという引っかかりを覚えることがあります。直感と合わない数字、きれいすぎる引用、人なら指摘するはずだと思う工程などです。エドモンドソンのモデルでの挑戦者の安全性は、計画や責任者に疑問を投げかけて構わないと感じられる段階です。AIチームでのその段階は、機械に疑問を呈することであり、そこには異なる社会的コストがあります。同僚のアイデアを疑っても悪く見えることはありませんが、「皆」が何も言わずに受け入れているように見えるシステムを疑うと、遅い人、あるいは疑り深い人と見られかねません。

AIを使ったと認めても安全であること

これは、インクルージョンと学習者の安全性に近いものです。下書き、要約、分析にAIを使うことは告白ではありません。しかし、告白ではないと誰も声に出して言っていないために、多くのチームでは告白のように扱われます。AI利用を隠す人は、悪意で嘘をついているのではありません。開示しても安全だと感じさせたことのない場であるなら、その場を正しく読んでいるのです。この沈黙には直接的なコストがあります。マネージャーは、仕事が実際にどう生み出されたかが見えなくなり、この記事が扱う失敗パターンそのものに気づけなくなります。

AIのエラーを指摘したり、推奨を上書きしても安全であること

エージェントが間違えることもあれば、人がその推奨を上書きして別のことをすることもあります。どちらも貢献者の安全性の場面、つまり自分の判断を使い、それが認められるという場面ですが、今では、調達され、設定され、おそらく上級の誰かが推進してきたシステムを上書きすることを伴います。人のミスを指摘すれば気まずい会話になるおそれがあります。システムのミスを指摘したり上書きしたりすれば、会社がそのシステムに投じた投資を信用していないように見えるおそれがあり、それは、一人で背負うには、しばしばより重い、別種のリスクです。

「この結果は信用できません」と言っても安全であること

これが最も重要な一言であり、ほとんどのチームが最も言い慣れていない一言でもあります。これは精度についての技術的な主張ではありません。有能で決断力があるように見えるべき人が口にする、不確かさの表明です。同僚の仕事についてそう言うのは居心地が悪くても、なじみのある領域です。速く、流暢で、プロらしく見える答えを出したシステムについて、同席する誰も異を唱えないなかでそう言うことこそ、この記事の題名にもなっている、本当に新しい対人リスクです。

自動化バイアスと過度な追従：新しい失敗パターン

心理的安全性に関するアドバイスの多くが見落としているのが、ここです。AIをめぐってチームが安全でないとき、失敗は対立の形をとりません。同意の形をとります。全員がうなずき、出力は出荷され、チームは完全に足並みがそろっているように見えます。そして、高くつく場所でミスが表面化するその時まで、それが続きます。

自動化バイアスとは実際に何か

研究者のリンダ・スキトカ、キャスリーン・モジア、マルコム・バーディックは、1999年の研究でこのパターンに名前を付けました。この研究は今もこの分野の基本的な引用文献です。自動化バイアスとは、人が本来自分で行うはずの注意深い確認の代わりに、自動化システムの出力を受け入れてしまう傾向のことです。模擬的な飛行監視タスクで行われた彼らの研究では、ここで意味を持つほど具体的なことがわかりました。人は2種類のはっきり異なるエラーを犯したのです。1つは省略のエラーで、自動化システムが警告しなかったために問題に気づかないこと。もう1つは実行のエラーで、他の利用可能な情報が誤りだと示唆していても、自動化された推奨に積極的に従うことです。出典：Skitka, Mosier & Burdick, "Does Automation Bias Decision-Making?"

文化をめぐる議論では、2番目の種類が重要です。実行のエラーは事故ではありません。その場で、自分自身の判断よりも自動化された答えを選ぶ人の選択であり、他の手がかりが目の前にあるときでさえそうなることがよくあります。それは研修の不足ではありません。その人を取り巻く場が、何を言い、何をするのを心地よくさせるかによって形づくられた決断なのです。

心理的安全性が見落とされている変数である理由

自動化バイアスについての文章の多くは、これを個人の認知上の欠陥として扱い、UIの改善や研修モジュールで直すものとしています。その捉え方は、チームの次元の仕組みを完全に見落としています。実行のエラーが最も起こりやすいのは、まさにシステムに疑問を呈することが社会的に高くつくと感じられ、黙っていることがただで済むと感じられるときです。インセンティブを逆にすれば、同じ人が、同じ認知の仕組みのままで、異なる行動をとります。スキトカの研究室の知見とエドモンドソンの現場研究は、同じ形を2つの方向から描いています。自動化バイアスは、不確かな状況で人が受け入れに傾くことを示し、心理的安全性は、不確かな状況で声を上げることが高くつくのか、ただで済むのかを何が決めるかを示します。AIへの過度な追従は、新しい種類の人間の失敗ではありません。エドモンドソンが描いた最も古い失敗、つまり発言を罰し沈黙に報いるチームが、新しいインターフェースをまとったものです。

ローン担当者の研究：「なぜ」を問わないことが目的になるとき

ハーバード・ビジネス・スクールのアレックス・チャンが率いた2026年の研究は、その沈黙がどれほど意図的になりうるかを、実際の数字で示しています。研究者は、オンラインの参加者2,512人に融資担当者の役を担わせ、実在する10,000ドルの融資申請を2件ずつ組にして審査してもらいました。各申請には、AIシステムがリスクスコアを付けています。参加者の80%はAIのリスクスコアを見たがりましたが、その背後にある説明まで見たいと求めたのは46%にとどまりました。説明はワンクリックで見られたにもかかわらずです。一部の参加者に、固定報酬ではなく、融資が実際にどう推移したかに応じたボーナスを無作為に割り当てると、説明を避ける割合は20ポイント上がり、人種や性別がAIのスコアに影響した可能性を説明が明らかにするかもしれないと考える理由があるときには、さらに10ポイントを超えて跳ね上がりました。出典：HBS Working Knowledge, "When AI Gives Advice, Employees Rarely Ask Why"

チャン自身がこの結果をまとめた言葉は、じっくり考える価値があります。「AIの最大のリスクは、誤った答えや導入の遅れだけではありません。人に『なぜ』を問わなくさせてしまうことです」。参加者たちは、AIの推論の見方がわからずに迷っていたわけではありません。かなりの割合が、見ることで不都合な何かが表に出るおそれがあるために、見ないことを選んだのです。それは、受け身の認知的な近道としての自動化バイアスではありません。能動的で動機づけられた選択としての自動化バイアスであり、より難しい問いを投げかけることに誰のインセンティブも報いない環境によって、いっそう選びやすくなったものです。

重要な事実

• 人が自分の注意深い確認の代わりに自動化システムの出力を受け入れる傾向である自動化バイアスは、スキトカ、モジア、バーディックの1999年の研究で定義されました。この研究は、人が省略のエラー（システムが警告しなかった問題を見逃すこと）と実行のエラー（反対の証拠があるのに誤った自動化の推奨に積極的に従うこと）の両方を犯すことを見いだしました。出典：International Journal of Human-Computer Studies, via ACM
• 融資担当者の役を担った2,512人の参加者を対象とする2026年の研究では、80%がAIシステムのリスクスコアを見たがったものの、その背後にある説明を求めたのは46%だけでした。融資の成績に連動する金銭的なボーナスがあると説明を避ける割合は20ポイント上昇し、説明が人種や性別によるバイアスを明らかにしうる場合には、さらに10ポイントを超えて上昇しました。出典：HBS Working Knowledge
• エイミー・エドモンドソンとジェイシュリー・セスによる2026年のHarvard Business Reviewの研究は、企業がAIに期待する生産性向上にもかかわらず、チームのパフォーマンスはむしろ低下することが多いと見いだしました。人は自分自身を疑い始め、信頼は突き止めにくい形で損なわれていきます。この力学を、彼女たちは「信頼の曖昧さ」と呼んでいます。出典：Harvard Business Review
• MicrosoftのWork Trend Index 2026は、マネージャーがAIの試行をめぐって意図的に心理的安全性をつくると、従業員のAIレディネスと認識される価値が最大20ポイント高くなり、エージェント型AIを高頻度で使うようになる可能性が1.4倍になると報告しています。出典：Microsoft Work Trend Index 2026
• DeloitteのGlobal Human Capital Trends 2026の調査は、経営幹部の60%がすでに意思決定にAIを使っている一方、それをうまく管理できていると答えたのは5%にすぎないことを見いだしました。このギャップは、問題を声に出して名指しできるほど安全な人が誰もいないとき、DeloitteがAIカルチャーの負債と呼ぶものへと積み上がります。出典：Deloitte 2026 Global Human Capital Trends

この種の沈黙が見過ごされやすい理由

昔ながらの会議での沈黙には、見慣れた形があります。誰かが懸念を抱き、場が静まり、誰も口にしなくても全員がその緊張を感じ取れます。AIをめぐる沈黙は、緊張のようにはまったく感じられないことがよくあります。それはなめらかな同意のように感じられます。システムに従うことは、人に従うことと同じようには目に見える社会的な重みを持たないからです。同僚がAIの数字を黙って受け入れるのを見ても、誰も、大きな声に押し切られた人を見たときのように、折れたとは読み取りません。そこが危険な点です。人々が互いに意見が合わないあらゆることについて公然と議論を交わし、一見完全に安全に見えるチームが、AIの触れるものについては、検証されない死角を抱えたまま動いていることがありえます。

エドモンドソンとセスの2026年の研究は、その仕組みをはっきり名指ししています。AIを使い続けると、間違いを見抜くのにちょうど必要な専門知識を持っていても、AIの出力に異を唱える自分の能力への自信が、静かに削られていくことがあるというのです。これは、自信が本来働く方向と逆です。分野の専門家は通常、経験を積むほど断定的になり、弱くはならないからです。流暢でプロらしく見える答えが何度も出てくるのを見ていると、別のことを学びます。正当化が必要なのは受け入れではなく、受け入れるのをためらうことのほうだ、と。AIがチームメイトのときの信頼では、AIの出力が、人の出力よりもなぜ自信の度合いを読み取りにくいのかを説明しています。これは、その同じ仕組みが安全性にもたらす帰結であり、誰かが指摘して直せる公然とした意見の相違ではなく、静かな自己不信として現れます。

そのコストは、起きている最中には見えないために積み重なります。同僚の計画への疑念を飲み込んだ人は、少なくとも自分がそうしたことを知っています。疑念を口にせずにAIの出力を受け入れた人は、折れたとはまったく感じていないことが多く、ただ先に進んだように感じるだけです。それをチーム全体で何か月も積み重ねると、まさに雇われた目的である判断を静かに働かせなくなった集団ができあがります。しかも、どこで間違ったのかと指し示せる瞬間は、ひとつもありません。

AIチームの心理的安全性を築くためにリーダーがすること

この失敗パターンを避けているチームは、AIポリシーが最も慎重なチームではありません。疑う、認める、ためらうといったことを、誰かが正当化しなければならない例外ではなく、仕事の進め方の普通の一部にする、具体的なリーダーの行動をいくつか実践しているチームです。

自分自身がAIを疑う姿を、目に見える形で示す

最もレバレッジの高い一手は、リーダーがチームの前で、AIの出力を公然と疑ってみせることです。結果的にAIが正しかった場合も含めてです。場で最も上位の人が言う「これを使う前に、この数字を確認したい」は、どんな文書化された方針よりも、同じ行動を他の全員に許す効果があります。マネージャーが自分のAI利用を目に見える形で示すことに関するMicrosoftの調査は、チーム全体がAIに批判的に向き合う意欲に、単なる導入率だけでなく、実際に測定できる効果があることを見いだしました。広がる行動は、確認することを奨励するというメモではなく、確認するという目に見える行為なのです。

速く出荷することだけでなく、エラーを見つけたことに報いる

チームで認められる成果がスピードだけなら、欠陥のあるAIの出力を見つけて、直すために手を止めた人は、プロジェクトを救った人ではなく、納期を逃した人に見えます。スループットだけを軸に作られた評価の仕組みは、人々に細かく見るのをやめるよう静かに教え込みます。AIのエラーを出荷前に見つけた人の名前を挙げて称えること、良いチームがリリース前にバグを見つけた人を称えるのと同じやり方で称えることで、ミスを見つけることは、地位を危うくする行動から、地位を築く行動に変わります。

AIのミスも、毎回、非難なしで扱う

チームがミスにどう対応するかは、ミスが人から出たものでも機械から出たものでも、見ているすべての人を訓練します。非難文化と学習文化は、エージェントのエラーにも人のエラーにも同じように当てはまります。AIのミスを「気づくべきだった」人のせいにひそかにするチームは、次に最も安全な動きは精査ではなく沈黙だと全員に教えてしまいます。ミスを情報として扱い、エージェントは何を見落としたのか、再発しないよう何を変えるのかを考えるチームは、次の人が自己防衛に走らず正直に声を上げられる道を、開いたままにします。

「これは信用できません」を普通の一言にする

リーダーは、これが自然に出てくることを期待するのではなく、直接そう言葉にできます。チームミーティングで、「エージェントが出したものを見て何かおかしいと思ったら、それこそ私が聞きたい一言です。まだ理由をうまく説明できなくてもかまいません」と言うことは、見た目以上の働きをします。漠然とした、正当化しにくい感覚を、明確に歓迎される貢献へと変えるからです。まさに、チャンの研究が見いだした人々が陥る隔たりに当たります。問いを投げかける手段がないからではなく、問いかけるだけの手間に見合うと場の誰も伝えなかったから、問いを避けるのです。

「何を」だけでなく「なぜ」を問う習慣をつくる

「AIは何を推奨したか」と問うだけで止まるチームは、この記事が説明する過度な追従に、構造的に陥りやすくなっています。「なぜそれを推奨したのか、その推論は成り立つか」を、ときどきの直感的な確認ではなく、一定のリスク水準を超えたときの標準的な手順として、ワークフローそのものに組み込むチームは、ボーナスのために説明を見るのが都合悪くなったときのチャンの参加者とは、逆のことをしています。これは、人とエージェントのチームが説明責任全般のために必要とする規律と同じもので、何かがすでにうまくいかなくなってからではなく、出力が出荷される前の時点に適用するものです。

簡易監査：あなたのチームには本当にあるか

多くのチームは、漠然とした雰囲気ではなく具体的なシグナルを探してみるまで、AIをめぐる心理的安全性があるかどうかわかりません。下の表は、安全性がある状態の実際の姿と、ない状態の姿を分けて示します。どちらも表面上は穏やかに見えることがあるからです。

自分たちの姿が主に右の列にあるチームは、壊れているわけではありません。チャンの研究と、スキトカの元の自動化バイアスの枠組みがどちらも、静かに実行のエラーを積み重ねると予測する、まさにその状態で動いているというだけです。解決策は新しいツールではありません。左の列を、チームがすでに交わしている、ごく普通で目立たない話し方にすることです。

次に読むべき記事

この記事は、心理的安全性に関する基礎的な研究を、特定の新しい文脈へと広げたものです。ここから先は、次の記事をどうぞ。

• 職場の心理的安全性：この記事が土台にしているエドモンドソンの元の4段階モデルとGoogleのプロジェクト・アリストテレスの研究について
• AIがチームメイトのときの信頼：較正された信頼の仕組みと、AIの自信に満ちた口調が人のようには読み取れない理由について
• 人とエージェントのチーム：エージェントがチームの働く一員になったときに浮上する、オーナーシップと説明責任の問いについて
• 非難文化と学習文化：人でもAIでも、ミスに対するチームの対応が、次の人が声を上げるかどうかをどう左右するかについて
• AIカルチャーの負債：AIをめぐる信頼と安全性のギャップが放置されたときに、何が積み上がるかについて
• AIエチケットと職場の規範：この記事の2つ目のリスクの分類が属する、開示をめぐる暗黙のルール全般について
• フロンティア・ファームとエージェント・ボスの台頭：オーケストレーターという役割が、リーダーが示すべきことをどう変えるかについて
• AIレディな文化を築く：この取り組みが含まれる、より広い一連の実践について
• AIネイティブ文化とは：この記事の問いが含まれる、基礎となる概念について
• AI時代に文化をリードする：セクション7全体を貫くリーダーシップの全体像について

AIチームの健全さは、ひとつの瞬間に現れます。誰かが「この結果は信用できません」と言ったとき、場はそれを仕事をしていると受け止めるのか、それとも皆の足を引っ張っていると受け止めるのか。開示の規範も、エラーの報告も、自信に満ちた機械を上書きする意欲も、その答えから導かれます。その瞬間のために築けば、残りは楽になります。一度でもそれを罰すれば、人々は静かにそれを言わなくなり、そのときこそ自動化バイアスがあなたにコストを課し始めるのです。