□ 俞飛

(資料圖)

前不久,一則關(guān)于美國(guó)互聯(lián)網(wǎng)巨頭Meta公司的消息令人不寒而栗——這家公司采用算法隨機(jī)解雇了60名美國(guó)勞務(wù)派遣員工。

值得一提的是,此前,Meta創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格警告員工:“市場(chǎng)低迷是我們近年來(lái)最為嚴(yán)峻的挑戰(zhàn),必須通過(guò)積極的業(yè)績(jī)?cè)u(píng)估來(lái)淘汰表現(xiàn)不佳的員工。實(shí)際上,公司里很多人可能不應(yīng)該來(lái)。”

近年來(lái),全球諸多大型科技公司、互聯(lián)網(wǎng)平臺(tái)熱捧算法,Meta無(wú)疑是其中之一。然而,在此次算法大裁員事件中,算法黑箱、算法歧視、算法暴政等負(fù)面效應(yīng)一一暴露,引發(fā)了國(guó)際輿論的強(qiáng)烈關(guān)注。

“算法解雇”屢見(jiàn)不鮮

太陽(yáng)底下沒(méi)有新鮮事。早在2020年8月,游戲支付處理公司Xsolla“重組”,一次性裁掉美國(guó)洛杉磯450名員工中的三分之一。該公司表示:這次裁員完全是算法斷定,這150名前員工“缺乏敬業(yè)精神,效率低下”。

“無(wú)論如何,解雇員工的人永遠(yuǎn)是雇主、一個(gè)或幾個(gè)高管。但算法這臺(tái)無(wú)形機(jī)器成為裁員的最新理由。這甚至不是新聞了。”西班牙勞動(dòng)法專家內(nèi)瓦多如是說(shuō)。

“從道德的角度來(lái)看,你可能會(huì)被一個(gè)運(yùn)用通用標(biāo)準(zhǔn)的算法解雇,這種算法絕不考慮個(gè)人情況。最關(guān)鍵的是,公司不愿展現(xiàn)最起碼的尊重和同理心親自與你溝通。”內(nèi)瓦多感慨道,“老板和人力資源部門以算法技術(shù)創(chuàng)新為借口,推卸解雇責(zé)任,勞資關(guān)系一步步失去人性。如果不加改變,未來(lái)一片黑暗。”

類似的“算法解雇”事件正在不斷上演。

鏡頭拉回到去年10月2日凌晨3點(diǎn),美國(guó)鳳凰城合同司機(jī)諾曼丁醒來(lái),看到手機(jī)上一封自己為之工作4年的亞馬遜的最新電郵。跟蹤他一舉一動(dòng)的算法判斷:您沒(méi)有正確地完成工作,評(píng)級(jí)低于可接受的水平,公司遺憾地解除合同。63歲的他頓時(shí)手足失措。

原來(lái),有一次他將包裹送到后,卻無(wú)法打開(kāi)亞馬遜儲(chǔ)物柜。他與支持人員通話30分鐘,對(duì)方告知包裹退回送貨站即可。然而,就是這次看似不起眼的小事故,讓諾曼丁的個(gè)人評(píng)分突然閃崩。諾曼丁心急如焚,但公司告訴他“不用擔(dān)心”。

“他們從來(lái)沒(méi)有恢復(fù)我的評(píng)分。”諾曼丁說(shuō)。

無(wú)奈之下,諾曼丁向亞馬遜創(chuàng)始人杰夫·貝佐斯直接投訴:“我要求提供解雇決定的具體細(xì)節(jié),希望對(duì)我4年送貨全記錄進(jìn)行徹底審查。我相信自己始終如一的最高水平表現(xiàn),證明我是一個(gè)理性而謹(jǐn)慎的人。”

12小時(shí)后,諾曼丁收到電郵,貝佐斯派人處理。但好幾天過(guò)去了,投訴沒(méi)有結(jié)果。是時(shí)候再次直接與人類打交道了,已經(jīng)改行的諾曼丁直言:“算法對(duì)現(xiàn)實(shí)世界的運(yùn)作方式?jīng)]有任何常識(shí)!”

算法革命的附帶損害

“人工智能算法優(yōu)化工作流程,長(zhǎng)期來(lái)看,它創(chuàng)造的就業(yè)崗位將遠(yuǎn)遠(yuǎn)多于它摧毀的就業(yè)崗位。”貝佐斯曾強(qiáng)調(diào):唯一重要的商業(yè)決策是“戰(zhàn)略決策”。其他的事情,不管它們有多重要,他更愿意把它們留給算法,因?yàn)樗鼈兊男袆?dòng)是“考慮到所有相關(guān)信息而不受情感干擾”。

對(duì)于貝佐斯這般巨富而言,高歌猛進(jìn)的算法革命帶來(lái)的附帶損害,或許無(wú)足輕重。但是對(duì)于像諾曼丁這樣的輸家,荒謬至極。他說(shuō):“我是一個(gè)老派的人,每份工作都付出了110%,我究竟做錯(cuò)了什么?沒(méi)人告訴我。”

在亞馬遜將人力資源業(yè)務(wù)交給算法后,軟件成了職員、倉(cāng)庫(kù)工人、合同司機(jī)、獨(dú)立承包者的監(jiān)控方,負(fù)責(zé)雇傭、評(píng)估和解雇數(shù)百萬(wàn)亞馬遜員工。貝佐斯堅(jiān)信,機(jī)器算法決策比人更快更準(zhǔn)確,成本更低,競(jìng)爭(zhēng)優(yōu)勢(shì)更大。

沙希德與諾曼丁有著相似的遭遇。

2019年,沙希德在英國(guó)伯明翰為優(yōu)步公司開(kāi)車。此前5年,這位金牌司機(jī)得到的客戶評(píng)分為4.96——接近滿分5分。那年8月早上,他發(fā)現(xiàn)無(wú)法登錄上班,損失慘重。

后來(lái)才知道,優(yōu)步算法檢測(cè)到沙希德存在“持續(xù)的不當(dāng)使用”,因而禁止他進(jìn)入公司系統(tǒng)。沙希德無(wú)法申訴,而優(yōu)步也拒絕透露司機(jī)錯(cuò)在何處,因?yàn)椤斑@是公司的商業(yè)秘密”。

“過(guò)去一年半里,我給優(yōu)步打了60次電話。我懇求他們,沒(méi)有回應(yīng)。”沙希德說(shuō)。

2020年10月,代表沙希德和其他3名在英葡萄牙司機(jī)的運(yùn)輸工人國(guó)際聯(lián)盟代表,在存儲(chǔ)優(yōu)步歐洲數(shù)據(jù)的荷蘭起訴,指控算法不當(dāng)解雇。“多年來(lái),優(yōu)步一直被允許違反雇傭法而不受懲罰,現(xiàn)在我們看到了一個(gè)奧威爾式的工作世界,工人沒(méi)有權(quán)利并由機(jī)器算法管理。如果不制止優(yōu)步,這種做法將成為每個(gè)人的常態(tài)。”

原告律師強(qiáng)調(diào),歐盟《通用數(shù)據(jù)保護(hù)條例》(GDPR)(以下簡(jiǎn)稱《條例》)第22條規(guī)定:“數(shù)據(jù)主體有權(quán)不受僅基于自動(dòng)化決策所作決定的影響,包括那些會(huì)對(duì)他們產(chǎn)生法律效力或類似重大影響的特征分析。”據(jù)此,司機(jī)遭不當(dāng)解雇,公司不僅未給出解雇理由,還剝奪司機(jī)申訴權(quán),顯然違背了《條例》的要求。值得重視的是:受害歐洲司機(jī)人數(shù)超過(guò)1000人,但此前無(wú)人起訴。

被告律師反駁,優(yōu)步收到顧客投訴,算法檢測(cè)到司機(jī)謊報(bào)行車路線,安裝使用操縱軟件,嚴(yán)重影響公司正常運(yùn)營(yíng)。對(duì)此,原告律師反擊道:《條例》保護(hù)個(gè)人免受不公平的算法自動(dòng)決策的影響,作出解雇決定前,必須有人參與;希望法官?gòu)?qiáng)制優(yōu)步披露秘密決策全過(guò)程。

誰(shuí)來(lái)監(jiān)管“數(shù)字老板”

次年4月,阿姆斯特丹法院判決:優(yōu)步解雇司機(jī)的決定可被視為僅基于自動(dòng)化處理(包括分析)的決定,這對(duì)原告具有負(fù)面法律后果,嚴(yán)重影響他們依據(jù)《條例》第22條第1款所享有的基本權(quán)利。優(yōu)步必須在一周內(nèi)恢復(fù)司機(jī)工作。

“存在明確倫理后果的領(lǐng)域,永遠(yuǎn)不允許人工智能輕易取代人類推理經(jīng)驗(yàn)和能力。換言之,永遠(yuǎn)不允許機(jī)器決定誰(shuí)被處決,誰(shuí)被碾死,誰(shuí)被解雇。算法基于純粹的效率標(biāo)準(zhǔn)行事。重大決策不能自動(dòng)化,不能脫離負(fù)責(zé)任的反思——這是人類特有的優(yōu)勢(shì)。”《機(jī)器人新法則》的作者——紐約布魯克林法學(xué)教授帕斯夸里批判,“人淪為純粹的工具,喪失自由和理性生物的地位,完全失去人性。把人當(dāng)作非人對(duì)待,數(shù)字老板永遠(yuǎn)是一個(gè)暴君”。

西班牙工會(huì)在《勞動(dòng)關(guān)系中的算法關(guān)系》文件中表示,防止使用算法解雇員工的安全網(wǎng)必須采取明確規(guī)定的形式,要求人工智能使用透明的標(biāo)準(zhǔn);必須采用預(yù)防原則,因?yàn)樗惴〞?huì)犯錯(cuò),會(huì)對(duì)“人的安全和基本權(quán)利”產(chǎn)生嚴(yán)重的負(fù)面影響。

Meta高管哈巴斯也提醒,算法甚至對(duì)創(chuàng)建它們的工程師來(lái)說(shuō)都是黑箱。機(jī)器學(xué)習(xí)系統(tǒng)和軟件算法由數(shù)以萬(wàn)計(jì)的數(shù)據(jù)點(diǎn)組成,一般為即時(shí)計(jì)算,難以檢索原始輸入。公司往往不愿投入大量人力、物力、財(cái)力,追蹤算法輸入輸出全過(guò)程,除非新法或法院裁決強(qiáng)制推行算法審查和算法解釋,公司才會(huì)這樣做。算法偏差最常發(fā)生在沒(méi)有提供足夠多樣化的訓(xùn)練數(shù)據(jù)的情況下。這會(huì)導(dǎo)致算法產(chǎn)生盲點(diǎn)并提供不準(zhǔn)確或有偏見(jiàn)的決策。

由此可見(jiàn),在悄然來(lái)臨的算法時(shí)代,法律監(jiān)管算法已經(jīng)刻不容緩。否則,人類有朝一日難免淪為算法的奴隸。