AI採用バイアス：発生源と監査の方法

著者: Kevin Kim · 更新日: 2026年10月11日

AI採用バイアスとは、自動化されたツールが異なるグループの候補者を扱う方法に生じる体系的な違いのことです。原因は、候補者の行動ではなく、ツールが学習したデータ、使用するシグナル、あるいは運用の仕方にあります。 偏見のようには見えないことがほとんどです。男性を女性より、若い応募者を年配の応募者より多く通過させるランキング、スコア、足切りルールとして現れますが、誰も数えていないので、誰も気づきません。

本記事は、すでにスクリーニングや評価のツールを使っている、または購入しようとしている人事部長、タレントアクイジションの責任者、社内弁護士向けです。バイアスが入り込む場所、アドバースインパクトの測り方、説明のつく監査の進め方を解説します。一般的な概念についてはAIにおけるバイアスを、スクリーニングについてはAI履歴書スクリーニングをご覧ください。これは一般的な情報であり、法的助言ではありません。

重要なポイント

• Amazonの実験的な採用エンジンは、候補者を1から5の星で評価し、10年間に提出された履歴書（大半は男性のもの）から学習し、「women's」という語を含む履歴書にペナルティを与えました。このチームは解散されました（Reuters、2018年10月）。
• 連邦のUniform Guidelinesでは、選考通過率が最も高いグループの通過率の5分の4（80%）を下回る場合、一般にアドバースインパクトの証拠とみなされますが、それより小さな差でも該当しうるとされています（29 CFR 1607.4）。
• iTutorGroupは、応募用ソフトウェアが55歳以上の女性と60歳以上の男性を自動的に不採用にしたとしてEEOCが提起した訴訟について、36万5,000ドルを支払うことで和解しました。対象となった応募者は200人を超えます（Duane Morris、2023年8月）。
• ワシントン大学による3つの言語モデルのテストでは、白人に結びつく名前が85%の確率で好まれたのに対し、黒人に結びつく名前は9%でした。黒人男性に結びつく名前が、白人男性に結びつく名前より好まれたことは一度もありませんでした（University of Washington、2024年10月）。
• ニューヨーク市のバイアス監査規則は、性別、人種・民族、およびそれらの交差するカテゴリーごとにインパクト比率を求めることを義務づけ、前回の監査から1年を超えたツールの使用を禁じています（NYC DCWP adopted rule）。

採用AIのバイアスはどこから来るのか

バイアスの入り口は1つではありません。1つを塞いでも他は塞がらないというのが、以下の記録された事例の主な教訓です。

多くのチームがつまずくのは、次の2点です。第一に、保護対象の属性を取り除いても、バイアスは取り除かれません。 モデルは、相関するシグナルからそれを再構築できるからです。Amazonは、特定の性別を示す語を無視するようプログラムを編集しましたが、この取り組みに詳しい人々はReutersに、システムが候補者を選別する別の差別的な方法を見つけないという保証にはならなかったと語りました（Reuters）。第二に、ルールベースのツールも、学習型のツールと同じくらい偏りうるという点です。iTutorGroupのソフトウェアは謎めいたモデルではなく、EEOCは、年齢の上限が設定されるようプログラムされていたと主張しました（Duane Morris）。

知っておくべき記録された事例

Amazonが廃止した採用モデル（2018年）

Reutersは、Amazonのチームが2014年から履歴書審査のプログラムを開発しており、2015年までに、このシステムがソフトウェア開発者などの技術職の候補者を性別に中立な形で評価していないことに気づいたと報じました。モデルは、10年間に提出された、大半が男性のものである履歴書で学習していました。「women's」という語を含む履歴書にペナルティを与え、Amazonはのちにこのチームを解散しました（Reuters）。報道によれば、採用担当者はツールの推奨を見ていましたが、そのランキングだけに頼ることはありませんでした。この事例は、ラベルと学習データのバイアスの標準的な例です。

EEOCとiTutorGroup（2023年）

EEOCは、iTutorGroupが家庭教師の応募用ソフトウェアを、55歳を超える女性応募者と60歳を超える男性応募者を不採用にするようプログラムし、2020年初めに55歳以上の適格な応募者200人超を採用しなかったと主張しました。2023年8月9日に提出された同意判決では、影響を受けた応募者に36万5,000ドルが支払われ、その内訳は補償的損害賠償とバックペイが半々で、研修、差別禁止の方針、EEOCによる監視を伴う5年間の期間が設けられました（Duane Morris）。これは、ソフトウェアに組み込まれた意図的な異別取扱いであり、学習されたバイアスとは異なる失敗です。監査ではルールも読むべきだという注意喚起でもあります。

Mobley v. Workday（係属中）

Derek Mobley氏は、Workdayのプラットフォームを使う雇用主を通じて100を超える求人に応募し、そのたびに不採用になったこと、そしてWorkdayのAIツールが年配の応募者に不利に働くことを主張しています。2025年5月16日、カリフォルニア北部地区連邦地方裁判所のRita Lin判事は、年齢差別禁止法（Age Discrimination in Employment Act）に基づく集団訴訟について、2020年9月24日以降にプラットフォームを通じて採用の推奨を得られなかった40歳以上の応募者を対象に、予備的な認定を認めました。裁判所が示した共通の争点は、推奨システムが40歳を超える応募者に差別的影響を及ぼすかどうかでした（Holland & Knight、Fisher Phillips）。Workdayは、この訴訟には理由がなく、認定はあくまで予備的なものだと述べています。2026年半ばの雇用法の最新情報の時点では、この訴訟は引き続き係属中で、請求は人種と障害にも拡大され、2026年6月下旬には一部の州法上の請求が訴え却下の申立てを乗り越え、Workdayは認定の判断について中間上訴を求めていました（employment law update, Spring 2026）。本案については何も決まっていないため、バイアスがあったという判断ではなく、法的な考え方を示すシグナルとして受け止めてください。この考え方自体は、購入者にとって重要です。雇用主だけでなく、ソフトウェアのベンダーも対象としているからです。

言語モデルにおける名前のバイアス（2024年）

ワシントン大学の研究者は、550件を超える実際の履歴書の名字以外の部分を変えずに名前（白人と黒人の男女に結びつく120の名前）だけを変え、9つの職種にわたる500件を超える求人に照らしてランク付けしました。3つの言語モデルを使い、300万件を超える比較を行っています。白人に結びつく名前は85%の確率で、黒人に結びつく名前は9%の確率で好まれました。男性に結びつく名前は52%に対して、女性に結びつく名前は11%でした。そして、黒人男性に結びつく名前が、白人男性に結びつく名前より好まれたことは一度もありませんでした（University of Washington）。これは汎用モデルを対象とした統制された研究テストであり、市販の採用製品の監査ではありません。自社の設定をテストすべき理由を示しており、バイアスが「人種や性別を単独で見るだけでは必ずしも見えなかった」という研究者の指摘は、交差性（インターセクショナリティ）の確認が必要であることを裏づけています。

アドバースインパクトと5分の4ルール

アドバースインパクトとは、意図の有無にかかわらず、選考手続きが、あるグループを他のグループより有意に低い割合でしか次の段階に進めないことを指します。連邦のUniform Guidelinesは、あるグループの選考通過率が最も高いグループの通過率の5分の4（80%）を下回る場合は一般にアドバースインパクトの証拠とみなし、それを上回る場合は一般にそうではないとみなします。また、統計的にも実務的にも有意であれば、より小さな差でもアドバースインパクトになりうること、少数の人数に基づく大きな差は該当しない場合があることも述べています。雇用主は、手続きの影響を性別と人種・民族のグループ別に示す記録を保管することが求められています（29 CFR 1607.4）。

架空の数字を使った具体例です。

グループCの比率0.70は0.80を下回っており、調査を始める合図です。グループBはちょうど基準線上にあり、このしきい値が評決ではなくスクリーニングのシグナルである理由を示しています。グループが小さいと、数人の採用で比率が大きく動くため、比率には有意性検定を組み合わせ、数か月分のデータを見てください。

採用ツールの監査方法

ニューヨーク市の規則は、公表されているなかで最も明確なひな形を示しており、対象外であっても役立ちます。この規則は、監査において各カテゴリーの選考通過率とインパクト比率を算出することを求めており、インパクト比率とは、あるカテゴリーの選考通過率を、最も選ばれたカテゴリーの通過率で割ったものと定義されています。スコアを出すツールについては、同じやり方でスコアリング率（サンプルの中央値を上回るスコアを得た割合）を用います。計算は、性別のカテゴリー、人種・民族のカテゴリー、性別と民族と人種を組み合わせた交差カテゴリーのそれぞれについて別々に行う必要があり、監査では不明のカテゴリーに入った人数も報告しなければなりません。独立した監査人は、データの2%未満のカテゴリーについて、要約でその理由を説明し、そのカテゴリーの数字を示す場合に限り、除外することができます（NYC DCWP adopted rule）。

ステップごとの手順

1. 自動化されたステップをすべて挙げます。 パース、ランキング、足切りの質問、アセスメント、チャットによるスクリーニング、面接のスコアリングです。バイアスは、どこにでも潜みえます。履歴書以降の段階については、AI採用前アセスメントと面接におけるAIをご覧ください。
2. 各ステップでの判断を定義します。 「通過させる」「不採用にする」「中央値を上回るスコア」などです。測れるのは、定義したものだけです。
3. グループ別の結果データを集めます。 性別、人種・民族、年齢層別の応募者数と通過者数が必要で、「不明」の区分も設けます。ここでは入力の質が重要になるため、AIのための人事データの基盤から始めてください。
4. 採用時だけでなく、各段階でインパクト比率を計算します。 最終的なオファー率が公平でも、ファネルの早い段階の偏ったスクリーニングを隠していることがあります。
5. 交差を検証します。 男性と女性、黒人と白人の候補者がどちらも許容範囲に見えても、黒人女性や年配の女性はそうでないことがあります。
6. 対応する入力でテストします。 氏名、代名詞、卒業年、住所だけが異なる同一の履歴書を提出し、出力が変わるかを確かめます。これにより、集計値では見逃しかねない代理変数の影響を捉えられます。
7. 各入力の関連性を確認します。 すべての特徴量について、職務に関連し必要である理由を文書化し、実際には代理変数であるものは外します。
8. 選ばれた人だけでなく、不採用も見直します。 評価の低い層を毎週サンプリングし、ツールの判断を覆せる担当者を置きます（ヒューマン・イン・ザ・ループ）。
9. 結果の責任者を決めます。 人事が数字を出し、法務が解釈し、名前の挙がったリーダーが是正措置を承認します。
10. 定期的に、そして変更のたびに繰り返します。 新しい基準、新しい職種群、ベンダーのモデル更新があれば、時計はリセットされます。

比率が基準を満たさなかったとき

出力を80%に届くよう調整し直すだけにしないでください。まず原因を突き止めます。差を特定の入力、ラベル、ステップまでたどり、同じ事業上のニーズを満たしつつ、より差別的でない代替手段を検討します。たとえば、代理変数の特徴量を外す、学位の要件をスキルテストに置き換える、足切りを人による審査に変える、などです。何を見つけ、何を変えたかを文書化してください。より広い運用の手順については、人事AIにおける人間の監督をご覧ください。

法的背景の概要

ルールは場所によって異なり、変化しているため、最新の要件は法務担当者に確認してください。より詳しい概観は、AI採用に関する法律をご覧ください。

• ニューヨーク市。 Local Law 144は、過去1年以内のバイアス監査と公開された要約がない自動雇用判断ツールの使用を禁じており、消費者・労働者保護局（DCWP）は2023年7月5日に執行を開始しました（NYC DCWP）。規則は合否のしきい値を定めておらず、比率を算出して公表することを求めています。
• イリノイ州。 2024年8月9日に署名され、2026年1月1日に発効したHB 3773は、イリノイ州人権法を改正し、保護対象のグループに対する差別的な効果を持つAIの使用、または郵便番号をその代理として使うことを違法とし、雇用判断にAIを使う場合の通知を義務づけています。通知のルールは、イリノイ州人権局が定めることになっています（DLA Piper）。
• 連邦の執行姿勢。 2025年4月23日に署名された大統領令14281は、差別的影響の責任を「可能な限り最大限」排除する方針を掲げ、関連する法令や規則の執行を優先度の低いものとするよう各機関に指示しています（Compilation of Presidential Documents, GovInfo）。大統領令は、法令や判例を変えるものではなく、私人の原告や州法は引き続き利用できます。Mobley訴訟がたどっているのは、まさにこの経路です。

よくある落とし穴

• 最終的な採用だけを監査すること。 偏りは、最初のフィルターにあることが多いのです。
• 5分の4の比率をセーフハーバーとみなすこと。 少数の人数で0.80をクリアしても、証明できることはほとんどありません。下回った場合は、違法の証拠ではなく、調べる理由です。
• ベンダーの監査だけに頼ること。 それはベンダーのデータを対象にしたもので、自社の職種群や応募者層は対象外です。
• 代理変数を1つ取り除いて、解決したとすること。 相関するシグナルが、その穴を埋めます。
• 属性データを一切集めないこと。 それがなければ何も測れず、Uniform Guidelinesもグループ別の記録を求めています。慎重に取り扱い、採用判断とは切り離してください。
• ランキングがそのまま判断になってしまうこと。 審査する人は、リストの上位だけを読んで止まります。
• 再テストを省くこと。 稼働時に合格したツールも、基準や応募者層が変わるにつれてドリフトすることがあります。