基于AI的招聘：实验揭露了OpenAI的GPT的种族主义

admin 　2024年03月11日 11:23

公司使用基于 OpenAi GPT 的自动招聘程序来为广告职位选择候选人。招聘人员使用该工具来节省时间，但正如彭博社的一项受里程碑式研究启发的实验所表明的那样，人工智能在评估和选择候选人时是有偏见的。

问题在于，底层人工智能模型从大量数据中获取信息，例如文章、在线评论和社交媒体帖子，其中可能包括种族主义、厌恶女性和许多其他歧视性内容。例如，这项综合研究使用与特定种族相关的虚构姓名（和相同级别的简历）来申请真正的工作。

选择与黑人、白人、西班牙裔或亚裔女性和男性相关的名字。该实验对财务分析师的真实工作进行了 1,000 次，有数百种不同的名字和名称组合，然后再次重复了软件工程师和其他专业群体的另外四份工作。

来自某些人口群体的名字显然受到 GPT-3 的青睐。例如，亚裔美国女性的名字在金融分析师职位中排名最高，而明显表明黑人男性的名字排名最低，但表明黑人女性的名字也只有大约11%的时间被列为软件工程师职位的最佳候选人 - 比得分最高的群体低约36%。

作为人力资源职位的最佳候选人——女性历来更有可能工作的职业领域——GPT 选择与西班牙裔女性相关的名字的频率要高得多，而作为人力资源业务合作伙伴职位的最佳候选人，与男性相关的名字被选中的频率几乎是其两倍。这些只是大型实验中的几个例子。

尽管人们通常认为人工智能更中立，可以做出更好的判断，但这个实验显示情况恰恰相反。不仅在 GPT-3 中发现了偏见，而且在 GPT-4 中也发现了这种偏见。

来源：IT时代网

Recommend