1. AI成“監(jiān)工”：算法下外賣騎手挑戰(zhàn)交通規(guī)則，“助手”可能變“殺手”

得票率：51.2%

案例描述：

為提高配送效率，一些外賣平臺(tái)研究開(kāi)發(fā)了實(shí)時(shí)智能配送系統(tǒng)。借助AI算法，平臺(tái)可以最優(yōu)化地安排訂單，也能給騎手規(guī)劃最合理的路線。但出于平臺(tái)、騎手和用戶三方效率最大化的目標(biāo)，AI算法將所有時(shí)間壓縮到了極致，為了按時(shí)完成配送，騎手們只能用超速去挽回超時(shí)這件事。超速、闖紅燈、逆行……外賣騎手挑戰(zhàn)交通規(guī)則的舉動(dòng)是一種逆算法，是騎手們長(zhǎng)期在系統(tǒng)算法的控制與規(guī)訓(xùn)之下做出的不得已的勞動(dòng)實(shí)踐，而這種逆算法的直接后果則是——外賣員遭遇交通事故的數(shù)量急劇上升。同時(shí)，這也意味著，在很多人類勞動(dòng)者和AI的協(xié)作專業(yè)工作中，人類將處在被管轄和被監(jiān)督之下。（來(lái)源：《人物》雜志）

專家點(diǎn)評(píng)：

徐云程 曠視首席發(fā)展官、曠視 AI 治理研究院院長(zhǎng)

這個(gè)案例雖然講的是外賣騎手，但我們可以思考，當(dāng)AI算法嵌入到人類社會(huì)的方方面面，人類在不知不覺(jué)中已經(jīng)作為一個(gè)數(shù)據(jù)被算法研究，人類每天看到的信息究竟是算法推送還是客觀公正的？當(dāng)算法的技術(shù)不斷臻于完美，商業(yè)利益不斷迭代，對(duì)人類福祉的影響到底是什么？對(duì)AI企業(yè)來(lái)說(shuō)，應(yīng)在早期產(chǎn)品實(shí)驗(yàn)室研究過(guò)程和產(chǎn)品化過(guò)程中考慮到平等問(wèn)題；作為個(gè)人，在推動(dòng)AI治理時(shí)，應(yīng)思考如何貢獻(xiàn)更多前瞻性看法。

梁正 清華大學(xué)公共管理學(xué)院教授、清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng)

選擇該案例并不是因?yàn)檫@是一個(gè)現(xiàn)象級(jí)問(wèn)題，而是可以看出人工智能治理問(wèn)題不是某一個(gè)單一主體可以解決的。我們可以看到，在這個(gè)案例里還包括交通規(guī)劃、收入保障體系不到位等問(wèn)題，我的結(jié)論是——我們需要一個(gè)多元主體共治的治理體系。

徐勇 哈爾濱工業(yè)大學(xué)深圳研究生院教授、博導(dǎo)

AI技術(shù)的發(fā)展與普及給人類生活帶來(lái)了極大的便利，但由于商業(yè)驅(qū)動(dòng)產(chǎn)生了以盈利為導(dǎo)向的技術(shù)優(yōu)化，使得勞動(dòng)人員在技術(shù)監(jiān)管下對(duì)現(xiàn)實(shí)社會(huì)規(guī)章制度產(chǎn)生破壞行為。AI技術(shù)的應(yīng)用應(yīng)有利于人類社會(huì)良性發(fā)展，我國(guó)處于AI技術(shù)高速發(fā)展的階段，企業(yè)以AI技術(shù)壓榨人力勞動(dòng)術(shù)來(lái)增加商業(yè)利益無(wú)疑是一種舍本逐末的行為。需要運(yùn)用法律和道德對(duì)AI技術(shù)的研發(fā)和應(yīng)用進(jìn)行約束，正確引導(dǎo)企業(yè)的價(jià)值觀。在人工智能普及的時(shí)代，也應(yīng)充分保護(hù)勞動(dòng)者的合法權(quán)益，人工智能算法的應(yīng)用在追求效率和利益之外，不可忽略人性與理性，不能讓機(jī)器的冰冷碾壓人性的光輝。