摘 要:算法的設(shè)計(jì)或許可以在數(shù)學(xué)邏輯上做到完美，但缺乏對(duì)人性和社會(huì)環(huán)境的綜合考慮，從“真空”環(huán)境中誕生的算法本身帶有機(jī)械性。一味追求效率、不斷壓縮配送時(shí)間的外賣配送算法，即體現(xiàn)了算法程序的不盡合理之處。面對(duì)算法缺陷及其產(chǎn)生的問題，應(yīng)將算法嵌入到整個(gè)社會(huì)體系中評(píng)估，分析算法運(yùn)行所牽涉的各個(gè)環(huán)節(jié)，以體系化的思維為算法向善提供解決方案。

關(guān)鍵詞:人工智能 大數(shù)據(jù) 算法治理

【中圖分類號(hào)】D630 【文獻(xiàn)標(biāo)識(shí)碼】A

法缺陷及其產(chǎn)生的問題

以外賣配送系統(tǒng)為例，外賣平臺(tái)利用大數(shù)據(jù)分析計(jì)算最優(yōu)配送路徑，極大縮短了騎手的配送時(shí)間，提高了配送效率。但也存在諸多問題，有些是算法本身缺陷所導(dǎo)致的，有些則因其他社會(huì)問題與算法相伴而產(chǎn)生。

算法程序中可能存在不盡合理之處。算法中的程序幾乎是算法控制者單方設(shè)定的，即使程序中可能有不盡合理之處，算法相對(duì)方也只能被動(dòng)接受。例如，外賣配送系統(tǒng)中設(shè)定了騎手等級(jí)，騎手需要通過(guò)每日登錄APP、分享邀請(qǐng)有禮活動(dòng)鏈接、上傳健康證、完成各種訂單配送等方式獲取晉升等級(jí)所需要的積分。其中也有減分項(xiàng)目，比如配送超時(shí)減3分，獲得一星差評(píng)或不滿意評(píng)價(jià)減5分等，甚至一個(gè)差評(píng)或延時(shí)會(huì)直接扣除騎手工資。在這種規(guī)則之下，配送時(shí)間成為非常重要的考核指標(biāo)，騎手面臨很大壓力。盡管這些規(guī)則在人性化、合理性上還值得商榷，但騎手只能被動(dòng)適應(yīng)，接受算法規(guī)則的約束，甚至對(duì)算法產(chǎn)生依賴。

算法容易使個(gè)體失去自主性。自泰勒提出標(biāo)準(zhǔn)化管理模式之后，工作逐漸被標(biāo)準(zhǔn)化和簡(jiǎn)單化，工人操作的自由度降低了，簡(jiǎn)單重復(fù)的動(dòng)作讓人越來(lái)越像機(jī)器。正如媒體曾經(jīng)報(bào)道的富士康工廠的情況一樣，在高度標(biāo)準(zhǔn)化的生產(chǎn)中，工人的工作效率以秒來(lái)計(jì)算，工人往往處于高度疲態(tài)和枯燥之中。算法的運(yùn)行與此相似，算法具有隱蔽性和高度專業(yè)性的特征，每個(gè)參與算法的個(gè)體就是一個(gè)數(shù)據(jù)節(jié)點(diǎn)，在算法高速運(yùn)轉(zhuǎn)中，個(gè)體只能被動(dòng)接受信息并執(zhí)行算法命令。騎手屬于勞動(dòng)密集型職業(yè)，工作中需要耗費(fèi)大量精力，若只受算法支配而喪失自主性，他們作為勞動(dòng)者的休息權(quán)則無(wú)法得到保障。同時(shí)，騎手與社會(huì)其他群體具有緊密聯(lián)系，一旦發(fā)生事故不僅會(huì)傷害自己，還會(huì)傷及他人。從這一點(diǎn)來(lái)看，保障騎手休息的權(quán)利也在一定程度上意味著保護(hù)社會(huì)公共利益。

僅靠算法的自我迭代難以有效解決問題。算法的設(shè)計(jì)或許可以在數(shù)學(xué)邏輯上做到完美，但缺乏對(duì)人性和社會(huì)環(huán)境的綜合考慮，從“真空”環(huán)境中誕生的算法本身帶有機(jī)械性。在外賣配送算法中，為了追求效率，可以對(duì)所有阻礙因素進(jìn)行優(yōu)化，把配送時(shí)間不斷壓縮。但如果因?yàn)橛?jì)算最優(yōu)路徑而忽視了實(shí)際道路狀況、實(shí)時(shí)天氣狀況和小區(qū)管理情況等影響因素，計(jì)算結(jié)果往往就會(huì)不準(zhǔn)確，算法不斷迭代的過(guò)程也就可能演變成了加大騎手困難的過(guò)程。實(shí)際上，其他社會(huì)因素會(huì)深刻影響算法的運(yùn)轉(zhuǎn)情況?，F(xiàn)實(shí)中經(jīng)常可以看到，由于城市交通違章查處、電動(dòng)車限速標(biāo)準(zhǔn)執(zhí)行不夠嚴(yán)格，大量違章、超速外賣騎手電動(dòng)車上路等現(xiàn)象。除了交通規(guī)則外，一些小區(qū)的管理也需要調(diào)整，如一些商務(wù)樓、醫(yī)院、小區(qū)等不允許騎手進(jìn)入，騎手只能在外等待或者步行送餐，最后導(dǎo)致送餐延遲。如果忽視這些問題，單靠算法本身的迭代是無(wú)法有效解決問題的。

算法治理的路徑

為應(yīng)對(duì)上述算法的缺陷，可以從內(nèi)部的算法自我優(yōu)化與外部的監(jiān)督規(guī)范中找到解決路徑。

設(shè)計(jì)算法應(yīng)該走出“真空”接受社會(huì)實(shí)驗(yàn)。算法背后是代碼，代碼是“冰冷”的，沒有人文溫度，忽視人性的算法無(wú)法為人類帶來(lái)福祉。在現(xiàn)行外賣配送算法中，如果騎手因偶然因素實(shí)現(xiàn)了快速送餐，算法就會(huì)提供獎(jiǎng)勵(lì)，讓騎手接到更多訂單。這樣一來(lái)，騎手出于利益最大化的動(dòng)機(jī)，肯定會(huì)追求速度越快越好，訂單越多越好，由此陷入惡性循環(huán)。為了避免速度成為唯一的考量因素，算法評(píng)價(jià)機(jī)制中也應(yīng)該引入其他考量因素，比如為從來(lái)沒有發(fā)生交通事故的騎手提供獎(jiǎng)勵(lì)，引導(dǎo)騎手更加注意安全。

制定算法規(guī)則需要多方參與盡量避免不合理之處?；跈C(jī)器學(xué)習(xí)的算法具有“黑箱”特征，算法相對(duì)方無(wú)法就算法規(guī)則提出建議或意見，只能被迫“追趕”算法設(shè)定的目標(biāo)。多方參與規(guī)則制定是正當(dāng)程序的必然要求，比如一些電商平臺(tái)推出“規(guī)則眾議院”，平臺(tái)上的買賣雙方都可以通過(guò)眾議院機(jī)制就規(guī)則制定發(fā)表意見。也有學(xué)者提出算法解釋權(quán)，即賦予主體知曉及理解算法運(yùn)行邏輯的權(quán)利。該觀點(diǎn)認(rèn)為，受到自動(dòng)化決策不利影響的人應(yīng)有權(quán)知曉決定的內(nèi)容與理由，并擁有申訴和申辯的機(jī)會(huì)。算法解釋權(quán)是賦予個(gè)體對(duì)抗“算法權(quán)力”的重要武器，因?yàn)閭€(gè)體知悉算法規(guī)則后才能就其不合理之處提出建議，并參與到規(guī)則的制定之中。

應(yīng)對(duì)算法的負(fù)外部性需要多種公共政策相互補(bǔ)充。算法實(shí)際是嵌入在社會(huì)的多樣應(yīng)用場(chǎng)景中的，各個(gè)場(chǎng)景所牽涉的主體、外部因素和行為規(guī)范都不相同。因此，不能將算法視為單純的技術(shù)問題進(jìn)行治理，而要匹配不同政策工具進(jìn)行綜合治理。對(duì)于“困在系統(tǒng)”中的騎手，國(guó)家應(yīng)該重視對(duì)這部分人群勞動(dòng)權(quán)益的保障，特別是休息、薪酬、安全等合法權(quán)益。外賣平臺(tái)應(yīng)該參照其他平臺(tái)的舉措，設(shè)置強(qiáng)制騎手休息的規(guī)則，保障騎手安全，進(jìn)而維護(hù)社會(huì)安全。為了應(yīng)對(duì)騎手闖紅燈、超速等問題，交通管理部門也應(yīng)該嚴(yán)格制定和執(zhí)行交管規(guī)則，對(duì)騎手進(jìn)行外部約束。社區(qū)管理部門也應(yīng)參與其中，對(duì)外賣、快遞進(jìn)社區(qū)等管理規(guī)范進(jìn)行完善細(xì)化，如允許騎手安全送餐，或者配置取餐柜等，緩解騎手“最后一公里”送餐難的問題。

為算法建立法律監(jiān)管與道德約束機(jī)制。2017年1月，美國(guó)計(jì)算機(jī)協(xié)會(huì)專門發(fā)布了算法治理倫理原則，涵蓋利益相關(guān)者責(zé)任、救濟(jì)機(jī)制、算法使用機(jī)構(gòu)責(zé)任、鼓勵(lì)可解釋算法研發(fā)、數(shù)據(jù)治理、算法審查要求、實(shí)時(shí)檢查責(zé)任等七個(gè)方面的內(nèi)容。2019年4月，美國(guó)參議員提出《2019年算法問責(zé)法案》，要求美國(guó)聯(lián)邦貿(mào)易委員會(huì)對(duì)企業(yè)進(jìn)行算法審查。歐盟也在《人工智能時(shí)代：確立以人為本的歐盟人工智能戰(zhàn)略》《通用數(shù)據(jù)保護(hù)條例》和《人工智能道德準(zhǔn)則》等多個(gè)文件中，強(qiáng)調(diào)以價(jià)值觀引導(dǎo)人工智能技術(shù)的發(fā)展。需要從外部規(guī)范的角度為算法制定倫理標(biāo)準(zhǔn)，并建立相應(yīng)的倫理審查制度。特別是在算法設(shè)計(jì)和研發(fā)的標(biāo)準(zhǔn)、規(guī)則和透明度等方面出臺(tái)法律規(guī)范，并建立算法問責(zé)機(jī)制，保障個(gè)體權(quán)利，包括算法解釋的權(quán)利、更正或修改數(shù)據(jù)的權(quán)利、退出算法決策的選擇權(quán)等。

算法治理的理念

治理算法需要以基本原則和理念為指導(dǎo)，并根據(jù)情況的變化適時(shí)調(diào)整算法治理的具體方法。

算法治理應(yīng)堅(jiān)持利益平衡原則。利益平衡既包括算法內(nèi)部所涉主體之間的利益平衡，也包括算法使用者與社會(huì)公眾之間的利益平衡。通常外賣平臺(tái)將消費(fèi)者置于首位，而商家次之。在這種機(jī)制下，平臺(tái)為了消費(fèi)者的滿意只能“壓迫”騎手。算法使用者應(yīng)該平衡好這三方的利益，對(duì)算法的治理也應(yīng)該平衡好企業(yè)與社會(huì)公眾之間的利益，在尊重企業(yè)逐利天性的基礎(chǔ)上為算法立規(guī)矩，保證算法在正確的軌道上運(yùn)行，只有這樣才不會(huì)因噎廢食。

算法治理應(yīng)堅(jiān)持人本主義。在算法時(shí)代，尊重個(gè)體主體性、自治性和人格尊嚴(yán)始終是發(fā)展底線，算法治理也應(yīng)該注重保護(hù)人類尊嚴(yán)、公民權(quán)利以及社會(huì)公平。特別是要加大對(duì)弱勢(shì)群體的關(guān)注，避免“數(shù)字鴻溝”，實(shí)現(xiàn)實(shí)質(zhì)公平?？梢酝ㄟ^(guò)強(qiáng)化企業(yè)社會(huì)責(zé)任的方式在算法治理中體現(xiàn)人文主義，比如從社會(huì)福利的角度評(píng)估企業(yè)在關(guān)懷弱勢(shì)群體、保護(hù)用戶隱私、尊重個(gè)體人格以及勞動(dòng)者休息權(quán)利等方面作出的努力。

總之，算法治理是一項(xiàng)長(zhǎng)期工程，算法在不斷演進(jìn)，對(duì)算法的治理也應(yīng)該不斷迭代，其中算法問責(zé)機(jī)制、算法評(píng)估機(jī)制、算法監(jiān)督機(jī)制都是需要繼續(xù)討論的重要話題。對(duì)算法的治理不應(yīng)局限于算法本身，而是需要將算法嵌入到整個(gè)社會(huì)體系中評(píng)估，分析算法運(yùn)行所牽涉的各個(gè)環(huán)節(jié)，以體系化的思維為算法向善提供解決方案。

【本文作者為清華大學(xué)公共管理學(xué)院教授、清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng)；清華大學(xué)公共管理學(xué)院博士后曾雄對(duì)本文亦有貢獻(xiàn)】

責(zé)編：羅 婷 / 司文君

聲明：本文為《國(guó)家治理》周刊原創(chuàng)內(nèi)容，任何單位或個(gè)人轉(zhuǎn)載請(qǐng)回復(fù)國(guó)家治理周刊微信號(hào)獲得授權(quán)，轉(zhuǎn)載時(shí)務(wù)必標(biāo)明來(lái)源及作者，否則追究法律責(zé)任。