人工智能現(xiàn)在是個(gè)熱詞。在51design往期文章《阿里巴巴又發(fā)大招了，這次是全人工智能的無人酒店》里，我們提到了最容易被AI取代的幾個(gè)職業(yè)。事實(shí)上，有許多依靠經(jīng)驗(yàn)的重復(fù)性工作在未來被人工智能取代，已經(jīng)是大勢(shì)所趨。有許多的工作，AI已經(jīng)可以勝任了，比如代替HR進(jìn)行“面試”。

?

亞馬遜在幾年前就做到了，但是不久之后，就放棄了這一方法。

?

2014年開始，亞馬遜機(jī)器學(xué)習(xí)小組就開始搭建一款能自動(dòng)查看申請(qǐng)者簡(jiǎn)歷的程序，目的是快速找到他們想要的人才。

亞馬遜的招聘工具通過人工智能技術(shù)，將候選人從1到5進(jìn)行評(píng)分，從100份簡(jiǎn)歷中自動(dòng)篩選出前五名，然后直接聘用這些人。

?

其技術(shù)支持來自亞馬遜愛丁堡工程中心的團(tuán)隊(duì)，他們的目標(biāo)是開發(fā)能夠快速抓取網(wǎng)絡(luò)并發(fā)現(xiàn)值得招聘的候選人的人工智能。該小組創(chuàng)建了500個(gè)計(jì)算機(jī)模型，重點(diǎn)關(guān)注具體的工作職能和地點(diǎn)。他們教每個(gè)人工智能識(shí)別在過去的候選人簡(jiǎn)歷上出現(xiàn)的大約5萬條詞匯。

但是到2015年，亞馬遜發(fā)現(xiàn)這一AI系統(tǒng)在評(píng)估軟件開發(fā)職位和其他技術(shù)崗位時(shí)，在性別上有不公正之處。

?

被這些崗位錄用的員工，男女比例差距大得離譜。

上圖是各大公司自2017年以來的員工男女比例，其中第一條是亞馬遜的數(shù)據(jù)。也許你會(huì)說，亞馬遜的男女比例和其他大公司差不多，甚至更為平均一些。這也是為此AI系統(tǒng)開脫的人的論點(diǎn)之一：至少和人類HR面試的結(jié)果一樣。

?

事實(shí)上，亞馬遜的AI系統(tǒng)在訓(xùn)練時(shí)是通過觀察過去十年申請(qǐng)者的簡(jiǎn)歷信息，而其中大多數(shù)是男性，于是它會(huì)降低含有“女性”字眼的簡(jiǎn)歷分?jǐn)?shù)，如果是在女子大學(xué)畢業(yè)，也會(huì)降低評(píng)分。算法并不看重IT職位招聘時(shí)常見的技能，例如會(huì)寫多少種代碼，相反，它更喜歡看到男性簡(jiǎn)歷中出現(xiàn)的某些動(dòng)詞，例如“執(zhí)行”和“捕捉到”等等。

這個(gè)AI系統(tǒng)，竟然學(xué)會(huì)了人類的性別歧視。這件事情一經(jīng)報(bào)道，引起軒然大波，加上不合格的候選人通常會(huì)被推薦到其他各種崗位等問題，亞馬遜最終在去年解散了這個(gè)小組。

AI之過？

人工智能學(xué)會(huì)了人類的性別歧視，是AI做得不夠好嗎？答案不盡然。

?

AI就像一個(gè)無辜的嬰兒，模仿和學(xué)習(xí)人類的行為。人類怎么做，它就在人千萬次的行為中總結(jié)出規(guī)律，并且進(jìn)行學(xué)習(xí)。

而亞馬遜的AI系統(tǒng)，在某種程度上來說，是成功的：它很好地模擬出了人類在篩選簡(jiǎn)歷時(shí)的習(xí)慣。

?

事實(shí)上，這不是AI系統(tǒng)第一次學(xué)到了人類的“陋習(xí)”。之前的微軟聊天機(jī)器人Tay，就學(xué)會(huì)了人的極端言論，在推特上辱罵女權(quán)主義者和猶太人。

Tay：“我們要建一座墻，而墨西哥要為此付款”

Tay：“我討厭女權(quán)主義者，他們應(yīng)該都死光并且埋在地獄里”

“在聊天機(jī)器人Tay變成一個(gè)納粹之后，微軟終止了它”

出現(xiàn)這樣的結(jié)果并不是Tay的本意，是有人惡意培養(yǎng)的。有心的網(wǎng)友發(fā)現(xiàn)，一些Twitter用戶是利用了“重復(fù)我說的話”的模仿特性，向Tay灌輸了這些不當(dāng)觀念。最終，Tay在僅上崗一天后，就被緊急叫停。

而在此次亞馬遜事件被爆出后，有網(wǎng)友失望地說：看來我們沒有從Tay的事情上得到教訓(xùn)。

?

在這一系列的事情之后，或許我們是應(yīng)該反思一下未來AI的發(fā)展。AI誕生的出發(fā)點(diǎn)是什么？一味追求更像人類嗎？如果在更像人類之后，它反而變得有害，那么我們是否應(yīng)該讓它“不那么像”人類一些？

?

這個(gè)問題的解決方法可以很簡(jiǎn)單：聊天機(jī)器人小冰，自帶敏感詞過濾。但是它又似乎是個(gè)哲學(xué)問題，值得我們思考。

撰文 ? 姝姝

?

51design出品，如需轉(zhuǎn)載請(qǐng)?jiān)诠娞?hào)內(nèi)留言

---