算法（Algorithm），原本只是解決特定問題的數(shù)理路徑，但現(xiàn)在作為人工智能的“底層代碼”，已經(jīng)嵌入社會資源的調(diào)配過程。毫不夸張地說，基于算法的智能應用，正逐漸改變著人們的“存在方式”——社交媒體塑造電子身份、出行軟件記錄活動軌跡、電子黃頁等革新生活方式、網(wǎng)絡商城改變消費理念、搜索引擎劃定知識邊界、生成式人工智能主導知識傳播。就此而論，“算法社會”已經(jīng)悄然降臨。

算法可能引發(fā)的風險及成因

算法雖具有便利生活、改善決策、提高效率、優(yōu)化產(chǎn)能等優(yōu)勢，但同時也因缺乏有效的規(guī)制而存在諸多難以根除的風險，第一，過度依賴算法決策。即便是經(jīng)驗豐富的司機，完全離開手機導航，也會有如坐針氈之感。隨著輔助性算法日趨頻繁地介入人們的日常決策，算法同人類的關系好比“象與騎象人”，很難確定最終決定行走方向的究竟是作為潛意識的大象，還是作為顯意識的騎象人。第二，“信息繭房”充斥信息獲取過程。大型語言模型打底的生成式人工智能可輕易實現(xiàn)海量內(nèi)容的海量生產(chǎn)，若輔之以基于推薦算法的“精準推送”，人們將被困于由人工智能主導的“信息繭房”之中，甚至將不得不迎合由算法所引導的潮流。第三，技術黑箱所隱匿的決策偏誤。數(shù)據(jù)集偏差、編程人員的自我價值負載都可能導致非中立、不公正的算法結果。資信審查算法對于不同性別的利率差等，反映出算法對既有社會性偏見的強化，AI聊天軟件屢屢發(fā)表的有喜好偏見的言論，更是對這一問題的直觀體現(xiàn)。

算法運行原理及步驟

無論是乘客在網(wǎng)約車平臺選擇不同檔次的出租車、用戶在手機短視頻應用中的互動，抑或是商業(yè)銀行通過評分系統(tǒng)考察客戶資信等，這些日常行為所包含的算法活動可大致劃分為三個典型步驟：第一步，平臺端通過（主動或被動的）數(shù)據(jù)挖掘，獲取用戶、消費者及同類群體的原始數(shù)據(jù)，例如所在位置、健康信息、消費記錄、瀏覽歷史、行為言論、運動軌跡等；第二步，云端將規(guī)整后的數(shù)據(jù)輸入機器學習模型，輸出概率、排名、風險、傾向、估值等具有明確指向性的分數(shù)和結果；第三步，應用終端生成可供決策的評價和預測報告，例如，搜索引擎生成排序界面、自動駕駛系統(tǒng)規(guī)劃行車路徑、問診機器人給出醫(yī)療建議、出行幫手設計旅行方案、電子商務網(wǎng)站識別消費偏好并推送廣告、平行管理與控制的混合增強智能框架進行虛擬現(xiàn)實等。

人工智能的“智能”水平，事實上同“人工”在上述步驟中的含量成反比，但這并不能否認適當?shù)?ldquo;人工”干預對于風險治理的效果。工具的好壞取決于使用它的人，促進算法向善的關鍵在于算法背后的人之向善。從前述步驟拆解來看，有必要將“以人為本”的精神貫徹運用至算法活動的全流程。算法應用具有顯著溢出效應，正確使用可推動經(jīng)濟社會各領域從數(shù)字化、網(wǎng)絡化向智能化加速躍升，實現(xiàn)對社會、經(jīng)濟和生活的全面推動。尤其是先進的法律制度可以為確保算法活動不至于具有脅迫性而建立防火墻。

算法治理及對策

對算法規(guī)制的目標在于：一方面，防范本來應當是中立的人工智能應用，成為少數(shù)人的集權；另一方面，為技術優(yōu)勢方和算法受眾提供商談場域，避免法律淪為“技術寡頭”的幫兇?；仡櫵惴ɑ顒拥牡湫筒襟E，規(guī)制算法技術風險可從以下三方面展開。

保障用戶和受眾享有不受算法“支配”的權利。算法因異化而膨脹出的權力越是絕對，人類的尊嚴就越受威脅。只有在決定自身利益的關鍵事務上享有積極參與的權利，人類才有可能維持和延續(xù)在知識、經(jīng)驗和道德上的卓越。為此，有三個層次的權利，效果從低到高依次為允許數(shù)據(jù)主體修訂或替換不合理數(shù)據(jù)的“更正權”、允許數(shù)據(jù)主體要求數(shù)據(jù)控制者擦除關于其個人數(shù)據(jù)的“被遺忘權”以及允許個體不受自動化決策限制的“脫離自動化決策權”。

加強以預期效果為導向的信息披露。“算法透明”一直是算法規(guī)制的重點方向，但各國政策制定者就如何實現(xiàn)“算法透明”觀點不一。2021年我國國家互聯(lián)網(wǎng)信息辦公室和工信部等部門聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》，要求算法推薦服務提供者制定并公開算法推薦服務相關規(guī)則。落實算法透明的核心在于有效披露算法決策的邏輯、運算和分析過程。為此，技術方必須主動解釋清楚智能應用的軟硬件和外部環(huán)境之間的相互作用將如何影響算法的行為模式，并清晰直觀地就以下事項作出真實、準確、完整的信息披露：第一，供機器學習模型使用的數(shù)據(jù)的來源、典型特征和分類方式；第二，終端程序的運作原理、代碼邏輯和預期效果；第三，可能存在的系統(tǒng)偏差、運行故障和矯正機制；第四，智能應用的即期效果和遠期影響。對于算法程序的重大修改，技術方有必要及時進行補充信息披露。

確保責任主體鏈條的追蹤識別。目前，隨著機器學習的不斷進步以及數(shù)字技術的相互開源，很多算法程序已經(jīng)自我改良到可能完全偏離其創(chuàng)作者預設但尚未獲得獨立法律地位的地步，這種復雜性進一步加大了損害賠償訴訟確定責任主體的難度。在人工智能主體尚未獲得明確的法律地位之前，確保其算法程序能夠被追蹤至可識別的造物者是當前責任體系構建的基礎?？少Y借鑒的制度設計是無人機牌照試點，如，強化算法運用的事后監(jiān)管和效果追蹤，倒逼技術方事先排除某些會產(chǎn)生不公現(xiàn)象功能的置入。對于集成不同來源、多個算法程序的人工智能應用，跨境數(shù)據(jù)傳輸中的常見業(yè)務關聯(lián)協(xié)議，提供了可類推適用的解決方案，可考慮在封閉應用和開放應用中都置入硬核編碼的審計日志，以便為將來可能的責任劃分留下記錄。