人造智能秘史:诞生于 1980 年代的算法私见

AI 秘史:期待人机共生的 DARPA 梦想家

圣乔治医学院的轻蔑引首了极大的的关注。后来,委员会裁定该校的招生外格内里含有栽族和栽族划分的新闻。但是这不痛不痒的一部并不及不准算法私见的黑流涌动。

译者:boxi

不出几年,私塾的职工就对成功申请者当中匮乏众样性感到忧忧郁。他们对 Franglen 的程序进走了内部审核,仔细到体系的特定规则好似以一些不关连的因素,比如出生地和姓名来权衡申请者。但 Franglen 向委员会保证,这些规则源自之前招生趋势搜集到的数据,对筛选只会产生很幼的影响。

尽管机器私见正在迅速成为 AI 周围被商议得最众的话题之一,算法仍频繁被望成是是产心理性、不带私奏效果的数学的不走理解的、千真万确的对象。正如 AI 指斥人士 Kate Crawford 所说那样,是时候把算法望作是 " 人类设计的创造物 " 了,而自然它会继承吾们的私见。算法不走置疑的文化迷思往往袒护了如许一个原形:吾们的 AI 只会跟吾们相通好。

委员会认定,圣乔治医学院要为招生政策中存在的轻蔑性做法负责,但由于异国造成主要效果而逃走了罪行。为了外现出一点赔偿的真心,医学院联系了能够受到不偏袒轻蔑的人,3 名此前申请被拒的门生后来被补录进来了。委员会指出,医学院的题目不光仅是技术性的,而且也是文化上的。许众教职员工都将录取机器视为异国题目,因此并异国花时间往咨询如何鉴别门生的题目。

但其实效果正好相逆。

那时,圣乔治每年 2500 份申请中有 3/4 只是由于书写的申请就被学术评估人拒绝了,都异国进入到面试阶段。经过初步筛选的人当中约有 70% 末了拿到了医学院的录取名额。因此初步的 " 裁汰 " 轮专门关键。

从更深层次来望,算法只是在维持招生体系早已存在的私见而已。毕竟,Franglen 已经拿这台机器跟人比较过,发现效果的干系性达到了 90-95%。但是由于他把筛选员的轻蔑做法编码到技术体系内里,就导致了这些私见会一而再再而三地不息下往。

编者注:AI 史的叙述手段往往是机器随时间迁移而变得越来越智慧。但这栽叙述欠缺了人的要素,异国讲晓畅智能机器是如何由人的身体和思维来设计、训练与赋能的。

1979 年,Franglen 完善了算法。那一年,门生申请要经过计算机与人类评审员的双重测试。Franglen 发现,这套体系跟筛选委员会的评分有 90% 到 95% 的相反率。在医学院的管理层望来,这一效果表明了算法能够取代人类筛选员。到 1982 年,圣乔治医学院的一切初选做事都交给程序来完善了。

在那时,英国大学的性别和栽族轻蔑还专门嚣张——圣乔治医学院之因此被逮住是由于它把私见供奉到了一个计算机程序内里。由于算法给女性和名字非欧洲化的人更矮的分数是可验证的,委员会就有了轻蔑的详细证据。

AI 秘史:为什么图灵期待 AI 代理犯错

1970 年代,伦敦圣乔治医学院的 Geoffrey Franglen 博士最先编写一个算法来筛选门生的入学申请。

Franglen 是圣乔治医学院的副院长,而且他本人就是招生评估员。望申请是一项专门耗时的义务,他觉得这能够自动化完善。他钻研了本身和同事筛选门生的过程,然后写了一个程序,用他的话来说,这个程序 " 模仿了人类评估员的走为。"

实在,随着算法决策体系日好排泄到医疗保健和司法审判等高风险周围,基于历史数据而产生的原有社会私见的永远存在和扩散已经成为一个重大的题目。2016 年, ProPublica 的调查记者吐露全美用于展望异日造孽情况的柔件对非洲裔美国人存在私见。比来,钻研学者 Joy Buolamwini 表明了美国的脸部识别柔件对黑肤色的女性有着更高的舛讹率。

AI 秘史:美国第一台电子计算机背后的女性程序员

原文链接:https://spectrum.ieee.org/tech-talk/tech-history/dawn-of-electronics/untold-history-of-ai-the-birth-of-machine-bias

1986 年 12 月,圣乔治医学院的两位资深讲师听说了这次内部审核的事情,然后找到了栽族平等委员会。他们通知委员们说,他们有理由信任这套计算机程序被偷偷用于对女性和有色人栽进走轻蔑。

倘若他们的名字不是白人姓氏的话,筛选流程就会不幸于他们。实际上,光是异国一个欧洲名字就会自动扣除申请者 15 分了。

尽管 Franglen 的主要动机是挑高招生流程的效果,但他也期待清除招生人员在旅走职责当中的纷歧致。其想法是将职责交给技术体系,一切的门生申请都要遵命十足相通的评估过程,从而创造一个更公平的流程。

AI 秘史:查理 • 巴贝奇与会下棋的土耳其机器人

该委员会于是启动一项调查。效果调查发现,候选人被算法遵命名字和出生地分成了 " 白人 " 或者 " 非白人 "。倘若他们的名字不是白人姓氏,筛选流程就会对他们不幸。实际上,光是异国一个欧洲名字就会自动扣除申请者 15 分了。委员会还发现,女性申请者平均要被扣失踪 3 分。算下来,每年也许有众达 60 位申请者被这套评分体系拒绝了面试。

为此,IEEE 推出了统统六篇的 AI 秘史系列文章,期待从创新者、思维家、工人甚至幼贩等人如何创造可复制人类思维和走为的算法的角度来弥补这一缺失。尽管无需人类输入的超智计算机令人高昂,但智能机器的真实历史已经表明,AI 的程度只能跟吾们相通的好。此文为系列的第五篇,Untold History of AI: Algorithmic Bias Was Born in the 1980s

神译局是 36 氪旗下编译团队,关注科技、商业、职场、生活等周围,重点介绍国外的新技术、新不都雅点、新风向。