人事AIにおける人間による監督：人間が担い続けるべき意思決定

著者: Kevin Kim · 更新日: 2026年10月11日

人事AIにおける人間による監督とは、AIの出力が従業員や候補者に影響する前に、それを疑い、結果を変えるための権限、情報、時間を持つ、特定された担当者がいることを指します。 誰かが「承認」をクリックするだけでは認められません。規制当局も研究者もそう述べており、人がAIの推奨に対して実際にどう振る舞うかについての研究が、その理由を示しています。

本記事は、AIがどこで推奨でき、どこで実行でき、どこで人が判断の責任を負わなければならないかを決めようとしている人事部長、ピープルマネージャー、コンプライアンス責任者に向けたものです。どの人事判断がどの階層に属するか、法律が「実質的な」関与をどう定めているか、形だけに終わらないレビューをどう設計するか、何を文書化するかを扱います。全体像は人事におけるAIと、パターンそのものについてはヒューマン・イン・ザ・ループの概念と合わせてお読みください。これは一般的な情報であり、法的助言ではありません。

重要なポイント

• GDPR第22条により、個人は、法的効果を生じさせる、または同様に重大な影響を及ぼす判断について、もっぱら自動化された処理に基づく判断の対象とされない権利を持ちます（GDPR第22条）。
• 欧州のデータ保護当局は、人間の関与が認められるのは、監督が「形だけではなく実質的」であり、「判断を変更する権限と能力を持つ者」が行う場合に限ると述べました（第29条作業部会、WP251）。
• EU AI Actは、履歴書の選別ソフトウェアなど、雇用や労働者管理に使うAIツールを高リスクに分類しており、義務は2027年12月2日から適用されます（欧州委員会）。
• シミュレーションされたAIの推奨を使って候補者を選考した528人を対象とするワシントン大学の研究では、参加者の選択は、著しく偏ったAIの推奨に約90%の確率で従いました（ワシントン大学、2025年11月）。
• 広く引用されるヒューマンファクターの総説は、自動化バイアスが初心者にも専門家にも起こり、「訓練や指示では防げない」ことを明らかにしました（Parasuraman and Manzey、Human Factors、2010年）。

法律が実際に求めること

欧州で人を採用・管理する人事チームには、2つの法的手段がほとんどの役割を果たし、3つ目の枠組みはそれ以外の地域で役立ちます。

GDPR第22条

第22条(1)は、プロファイリングを含め、法的効果を生じさせる、または同様に重大な影響を及ぼす判断について、もっぱら自動化された処理に基づく判断の対象とされない権利を個人に与えています。例外として、判断が契約の締結や履行に必要な場合、保護措置を伴う法律で認められている場合、または明示的な同意に基づく場合があります。その場合でも、契約と同意のケースでは、管理者は適切な保護措置を講じなければならず、少なくとも人間の介入を得る権利、自らの見解を表明する権利、判断を争う権利が含まれます（GDPR第22条）。

規制当局のガイドラインは、誰もが試したくなる抜け道について率直です。管理者は、人間の関与をでっち上げることで第22条を回避できません。自動生成されたプロファイルを、結果に実際の影響を与えることなく機械的に適用するだけの人がいても、その判断は依然として「もっぱら自動化されたもの」です。ガイドラインは、「人間の介入が一切ない電子採用の慣行」も、人に重大な影響を及ぼす判断の典型例として挙げています（WP251）。

では「もっぱら」はどこまで広がるのでしょうか。SCHUFA事件で、EU司法裁判所は2023年12月7日に、信用情報機関が自動的に算出した確率スコアは、それを受け取る第三者が本人との契約を決める際にそのスコアに「強く依拠する」場合、自動化された個人に対する判断にあたると判示しました（CJEU、C-634/21）。この事件は雇用ではなく与信に関するものですが、論理は通用します。採用担当者がほぼ常にスクリーニングのスコアに従うなら、実質的にはスコアが判断であり、人間の確認段階はあなたを守りません。

EU AI Act

同法は、雇用と労働者管理に使われるAIを高リスクとして扱い、履歴書の選別ソフトウェアを例として挙げています。Digital Omnibus改正を受けて、これらのシステムに対する義務は2027年12月2日から適用され、欧州委員会は要件の中に「適切な人間による監督措置」を挙げ、導入者が人間による監督と監視を確保するとしています（欧州委員会）。この改正は2026年7月27日に発効しました（Lewis Silkin）。

人事にとって特に重要な条文は2つあります。

• 第14条は、高リスクシステムは、人が効果的に監督できるように設計されなければならないと定めています。監督を担当する人は、システムの能力と限界を理解し、「出力に自動的に頼る、または過度に依存する傾向（自動化バイアス）」に常に注意を払い、出力を正しく解釈し、システムを使わない判断をすること、また出力を「無視、上書き、または覆す」ことができなければなりません（AI Act第14条）。
• 第26条は、導入者である雇用主に義務を課しています。「必要な能力、訓練、権限」を持つ人に監督を割り当て、他の法律に別段の定めがない限りシステムが自動生成するログを少なくとも6か月間保管し、高リスクシステムを使用する前に従業員代表と影響を受ける従業員に通知しなければなりません（AI Act第26条）。

第86条は、附属書IIIの高リスクの出力に基づく判断の影響を受ける人に、「意思決定の手続きにおけるAIシステムの役割についての明確で実質的な説明」を受ける権利を加えています（AI Act第86条）。AIが何に寄与したかの記録を残すべき実務上の理由です。詳しくは後述します。

EU域外

それ以外の地域の規則はまちまちで、自動化された意思決定に関する米国の複数の州法は改正や延期が行われているため、採用を行う地域ごとに確認してください。NISTのAI Risk Management Frameworkは2023年1月26日に公開された任意の米国の枠組みで、どの法域でもガバナンスの骨格として使えます（NIST）。また、雇用差別に関する法律は、ソフトウェアが関与しているかどうかを問わず適用されます。29 CFR 1607.4の5分の4ルールによる比較のようなグループ単位のモニタリングは、あらゆる選考ツールに対する標準的な最初の確認です。

「人がレビューする」だけでは不十分なことが多い理由

法的なテストは、機械に実際に異を唱えられる人間がいることを前提としています。研究によると、それは思うより難しいことが分かっています。

Human Factorsの2010年の総説は、自動化バイアスにより、人が省略エラー（ツールが指摘しなかったものを見逃すこと）と作為エラー（誤った助言に従うこと）の両方を犯すことを明らかにしました。これは初心者にも専門家にも起こり、「訓練や指示では防げない」とされています（Parasuraman and Manzey）。AIの限界についての1時間の講習は、統制にはなりません。

採用に特化した証拠も同じ方向を示しています。ワシントン大学の研究では、528人の参加者がシミュレーションされたAIの推奨を使って16の職種の候補者を選考しました。AIがない、または中立的なAIの場合は、白人と非白人の応募者を同じ割合で選びました。中程度に偏ったAIの場合は、AIが優遇したグループに合わせるように選び、著しく偏ったAIの場合は、その推奨に約90%の確率で従いました（ワシントン大学）。推奨はシミュレーションであるため、これが示すのは人が偏った提案にどう反応するかであり、実際の製品がどう動作するかではありません。それでも直接的な警告です。AIの推奨を先に見たレビュー担当者は、それを追認しがちです。

つまり、監督は人員配置の問題ではなく、設計の問題です。レビュー担当者に注意するよう伝えるだけでは解決できません。

意思決定の階層表

どの人事判断を人間が担い続けなければならないかを列挙した単一の法的リストはなく、答えは法域によって異なります。以下の階層は、上記の法的テストを実務に当てはめる方法です。判断が人の生計、権利、尊厳に影響するほど、人が責任を負う度合いを高める必要があります。これは顧問弁護士が調整するための出発点となる方針であり、いずれかの法律が求める内容を述べたものではありません。

この表の背後には2つの原則があります。第1に、判断が、人に対して何かを終わらせる、拒否する、減らすことに近いほど、人間が理由を読まずにAIができることを少なくすべきです。 第2に、「もっぱら」の判断とは、人が関与せずに実行されるものだけではありません。人が出力に機械的に従うものも含まれます。 レビュー担当者が異を唱えた例を一度も示せないなら、形式上は人間が関与していても、第22条の問題を抱えている可能性があります。

職種別の実例

• 採用活動。 採用管理システムが、サポート職の応募者800人を自動でランク付けします。採用担当者は上位40人を読みます。それより下位の応募者は、実質的にアルゴリズムによって不採用にされます。対策は、毎週、読まれていない山からランダムなサンプルをレビューすることと、足切りによる不採用の前に人が明示された理由を必ず見ることです。AI履歴書スクリーニングをご覧ください。
• パフォーマンスと昇進。 あるツールが、マネージャーのメモとプロジェクトデータを要約し、「昇進の準備ができている」というフラグを提案します。マネージャーはそのフラグを答えとして扱います。望ましい運用は、マネージャーが先に自分の評価を書き、それをツールと比較することで、機械が判断のアンカーにならないようにすることです。詳しくは人事評価におけるAIをご覧ください。
• 報酬。 あるモデルが、予算の範囲内で昇給を推奨します。40件の推奨を10分で承認するマネージャーは、レビューしていません。一括で扱う件数に上限を設け、外れ値の理由を先に示し、人事がグループ単位のパターンを別に確認してください。

確認せずに承認することにならない監督の作り方

1. 人事のAI支援による意思決定をすべて洗い出します。 ランキング、フラグ、ナッジ、下書きされた評価など、目立たないものも含めます。見つけていないものは階層化できません。小さな棚卸しでも、マネージャーが誰にも告げずに導入していたツールが見つかることがよくあります。
2. それぞれの意思決定を、階層と特定の責任者に割り当てます。 上の表をテンプレートに使います。責任者は「人事チーム」ではなく、実際の権限を持つ役割です。
3. レビュー担当者に権限を与えます。 第14条と第26条はいずれも、出力を無視、上書き、覆す能力と、能力と権限を持つ人に監督を割り当てることを軸にしています（第14条、第26条）。ツールを上書きするのに3つの承認と謝罪が必要なら、誰もやりません。
4. レビュー担当者に情報を与えます。 入力、出力の理由、システムが提供する場合は信頼度を示します。スコアだけでは、人はそれに従いがちです。説明可能なAIが役立つのはここです。
5. レビュー担当者に時間を与えます。 妥当な件数にまとめます。処理量の目標のせいで実質的なレビューが不可能なら、確認せずに承認する仕組みを設計したことになります。
6. 重大な判断では、作業の順序を変えます。 可能な限り、AIの結果を見せる前に、本人の評価を求めます。これにより、機械の提案へのアンカリングが減ります。
7. 上書き率とレビューの深さを追跡します。 レビュー担当者がAIに99%同意しているなら、同意しているのか、ただクリックしているのかを問い直してください。上書き率がほぼゼロなのは、成功指標ではなく警告サインです（他の公平性指標とあわせた追跡方法は、人事におけるAIの測定をご覧ください）。上書き率は、レビュー担当者間や、候補者・従業員のグループ間でも比較します。
8. 人間への経路を用意します。 重要なことについては、AIが関与していることを伝え、人にもう一度見てもらうよう求められるようにし、本人の言い分を付け加えられるようにします。これは第22条(3)の保護措置と第86条の説明を受ける権利に対応します。
9. 状況が変わったら階層を見直します。 新しいモデルのバージョン、新しいデータソース、古いスコアの新しい使い方は、意思決定の階層を引き上げることがあります。

ツール自体の監視もここに含まれます。グループ別の結果の検証方法は、AI採用バイアスをご覧ください。

何を文書化するか

記録は、監督が行われたことを証明する手段であり、規制当局、監査人、従業員の弁護士が求めるものです。規制当局のガイドラインは、管理者は意思決定過程における人間の関与の度合いと、それがどの段階で行われるかを特定し記録すべきだとしています（WP251）。実用的な最低限の記録は次のとおりです。

• 意思決定、その階層、その責任者。
• AIが何を出力したか、どのバージョンが出力したか、レビュー担当者が何を見たか。
• レビュー担当者の判断、出力を上書きした場合はその理由、かかった時間。
• 影響を受けた本人からの連絡（人間によるレビューや説明の要求など）と、その結果。
• 法律が求める期間保管されたログ。EUの高リスクシステムでは、導入者は、他の法律に別段の定めがない限り、自動生成されたログを少なくとも6か月間保管します（第26条）。

構造化されたAI監査証跡があれば、メールから経緯を再構成するよりもはるかに楽になります。

よくある落とし穴

• クリックを監督と数える。 レビュー担当者が結果を変えられない、または決して変えないなら、規制当局はその判断を自動化されたものと見なす可能性があります。
• 理由を隠す。 スコアしか見えないレビュー担当者は、それに従います。
• レビュー担当者に負荷をかけすぎる。 1日200件のキューは、デフォルトで承認される状況を生みます。
• 訓練を解決策とみなす。 研究によれば、意識を高めるだけでは自動化バイアスはなくならないため、講習だけでなく仕組みを作ってください。
• 上書き率を、レビュー担当者を評価する指標として使う。 ツールに異を唱えて評価を下げられるなら、人は異を唱えなくなります。
• 誰も開かない山を放置する。 誰も読まない不採用こそ、誤りとバイアスが隠れる場所です。