AI is more likely than humans to form biases when hiring（AI 在招聘時比人類更容易形成偏見）

來源： MIT Technology Review 原文日期： 2026-07-20

中文摘要

普林斯頓與芝加哥大學研究（ICML 2025 發表）讓 ChatGPT、Claude、Gemini 等 LLM 進行模擬招聘遊戲：模型會從少量早期觀察快速形成刻板印象，把不同族群候選人隔離到不同職業（例如某族裔一次「當醫生失敗」就不再被考慮當醫生，轉而被派去當清潔工）。模型的族群隔離程度比人類受試者高約 65%（人類 0.84，OpenAI o3 達 1.83，接近滿分 2），且推理能力越強的新模型偏見越明顯。研究發現：直接要求模型「公平」效果有限，但承諾多元僱用獎勵、以及提供與工作相關的個人資訊，能顯著降低偏見。

關鍵洞察

LLM 不只複製訓練資料中的偏見，還會從「經驗」中學習並創造「從未有人教過的新偏見」。

機制根源是「探索-利用權衡」（exploration-exploitation dilemma）：與模型擅長解數學題的泛化本能同源，因此在社會情境中易過早定論。

治理啟示：激勵結構設計（incentive design）比價值說教更有效——把「多元僱用」寫進目標函數才有用。

記憶/個人化功能會放大偏見風險：模型會過度索引過去互動中見過的行為模式。

原文關鍵句（英文保留）

> "The biases we should worry about may include ones no human ever taught them. 'These novel biases—they're sort of ever present.'"

對 CJ 哥的價值

HR AI 導入（履歷篩選、AI 面試）的風險評估與治理素材：實證說明為何需要「人機協作 + 定期審計」。

ESG 報告「公平僱用與多元」章節的硬數據案例（ICML 背書）。

協助客戶設計 AI 招聘的激勵結構、監控指標與個人化資訊使用原則，降低歧視與法律風險。