（圖片來(lái)源：Pixabay）

外賣平臺(tái)的算法亂象正逐步受到監(jiān)管的重視。

7月26日，市場(chǎng)監(jiān)管總局等七部門聯(lián)合印發(fā)《關(guān)于落實(shí)網(wǎng)絡(luò)餐飲平臺(tái)責(zé)任，切實(shí)維護(hù)外賣送餐員權(quán)益的指導(dǎo)意見(jiàn)》，首次指出：不得將“最嚴(yán)算法”作為外賣送餐員考核要求，通過(guò)“算法取中”等方式，合理確定訂單數(shù)量、準(zhǔn)時(shí)率、在線率等考核要素，適當(dāng)放寬配送時(shí)限。

早在2020年9月，人物雜志的一篇題為《外賣騎手，困在系統(tǒng)里》的文章引起廣泛熱議，使得全社會(huì)共同關(guān)注到了外賣騎手的困境。文章描述了支撐外賣系統(tǒng)運(yùn)行的AI算法，為“實(shí)現(xiàn)勞動(dòng)價(jià)值的最大化和高效化”，不斷壓縮外賣騎手的接單時(shí)間、送餐時(shí)間，甚至送單的路線，繼而引發(fā)交通安全等系列問(wèn)題。

過(guò)去20年，中國(guó)線上經(jīng)濟(jì)蓬勃發(fā)展，新業(yè)態(tài)、新模式層出不窮，受此推動(dòng)下，互聯(lián)網(wǎng)科技企業(yè)野蠻生長(zhǎng)。但利用帶來(lái)生活便利的同時(shí)，憑借著AI算法、大數(shù)據(jù)技術(shù)、資本優(yōu)勢(shì)等，市場(chǎng)資源加速向頭部平臺(tái)集中，巨頭逐步占據(jù)市場(chǎng)壟斷地位，通過(guò)信息繭房、“大數(shù)據(jù)殺熟”、推薦算法定價(jià)等方式，使用算法的互聯(lián)網(wǎng)平臺(tái)對(duì)公民生活造成了一定的利益損害。

算法作為國(guó)家戰(zhàn)略層面的重要資源之一，也是最重要的底層要素與生產(chǎn)力。在此背景下，今年，美國(guó)，歐盟和中國(guó)同時(shí)出手，對(duì)網(wǎng)絡(luò)平臺(tái)尤其是超大型平臺(tái)的治理手段大大加強(qiáng)，開始嘗試對(duì)算法進(jìn)行監(jiān)管，提出算法透明、公正、保證算法的“可信度”等細(xì)致要求。

那么，從法律層面來(lái)看，如何解決互聯(lián)網(wǎng)企業(yè)的平臺(tái)治理、算法責(zé)任這些難題？

7月初的2021世界人工智能大會(huì)的法治青年論壇上，北京科技大學(xué)文法學(xué)院副教授張凌寒發(fā)布了題為《平臺(tái)治理與算法責(zé)任》的主題演講。

張凌寒在演講中表示，隨著時(shí)代的發(fā)展，技術(shù)的不斷變革，平臺(tái)的商業(yè)模式和架構(gòu)由算法搭建，后者已經(jīng)在平臺(tái)運(yùn)行當(dāng)中承擔(dān)著核心角色。而平臺(tái)既是數(shù)字經(jīng)濟(jì)的基礎(chǔ)設(shè)施，也是數(shù)字經(jīng)濟(jì)交易的多邊市場(chǎng)，所以用原來(lái)的法律框架已經(jīng)無(wú)法有效的規(guī)制平臺(tái)。因此，應(yīng)穿透網(wǎng)絡(luò)平臺(tái)運(yùn)行的“技術(shù)面紗”，將平臺(tái)監(jiān)管的觸角和追責(zé)視角直接指向背后的算法責(zé)任。

北京大學(xué)法學(xué)院副教授胡凌則在法制青年論壇的演講中提到，過(guò)去20年以來(lái)，互聯(lián)網(wǎng)技術(shù)平臺(tái)正在塑造一個(gè)“過(guò)程合法性”的架構(gòu)，而這個(gè)架構(gòu)會(huì)使得非常多的利益群體以及相關(guān)者在這一空間中，通過(guò)技術(shù)和商業(yè)模式建構(gòu)起來(lái)新的利益形態(tài)。那么，新技術(shù)下的法律規(guī)制思路就要考慮，如何持續(xù)推動(dòng)生產(chǎn)要素的跨平臺(tái)流動(dòng)，抑制平臺(tái)企業(yè)的壟斷效應(yīng)；如何推動(dòng)數(shù)字基礎(chǔ)設(shè)施的建立，并加強(qiáng)互聯(lián)互通等。

算法治理本質(zhì)上是平臺(tái)治理

簡(jiǎn)單來(lái)說(shuō)，算法是指在有限的步驟中生成問(wèn)題答案或者解決方案的系統(tǒng)程序。

此前大數(shù)據(jù)時(shí)代中，算法就已經(jīng)被廣泛應(yīng)用，理論上包括機(jī)械原理、邏輯思維和社會(huì)規(guī)則等，都已納入算法的范疇。但隨著大數(shù)據(jù)時(shí)代和智能時(shí)代的交疊，AI算法得到普遍應(yīng)用。

人類使用AI算法的初衷，在于輔助或部分代替人類決策，使生活變得更加便捷和智能。AI算法作為人工智能、區(qū)塊鏈、大數(shù)據(jù)分析等技術(shù)的核心要素，確實(shí)地推動(dòng)人類生產(chǎn)生活的變革。但同時(shí)，AI算法作用過(guò)程和決策機(jī)制較為隱蔽甚至不便于人類思維理解，有時(shí)類似密不透風(fēng)的“黑匣子”——這導(dǎo)致其被濫用的風(fēng)險(xiǎn)驟然提升，最終可能與使用初衷背道而馳。信息繭房、大數(shù)據(jù)殺熟、算法歧視等事件的層出不窮，也讓人們對(duì)看似理性、中立的算法進(jìn)行反思。

本次法治青年論壇上，張凌寒在演講中表示，算法治理的背后，本質(zhì)上是平臺(tái)治理。

事實(shí)上，平臺(tái)的運(yùn)行有賴于各種技術(shù)的運(yùn)用，近幾年來(lái)，算法被廣泛使用來(lái)推進(jìn)平臺(tái)運(yùn)行的自動(dòng)化，人工干預(yù)大大減少。例如電商平臺(tái)利用算法進(jìn)行商品定價(jià)、社交媒體平臺(tái)利用算法進(jìn)行信息分發(fā)與推送。但平臺(tái)的自動(dòng)化似乎必然導(dǎo)向了更輕的平臺(tái)主觀過(guò)錯(cuò)，進(jìn)而導(dǎo)向更輕的平臺(tái)責(zé)任。如此一來(lái)，AI時(shí)代下的平臺(tái)主觀過(guò)錯(cuò)的認(rèn)定機(jī)制變得模糊不清。也正是基于這樣的大背景，各國(guó)近年來(lái)都不約而同地加強(qiáng)了平臺(tái)責(zé)任，算法治理背后的平臺(tái)責(zé)任變得愈加關(guān)鍵。

去年7月，歐盟頒布了《數(shù)字服務(wù)法案》，其中包含平臺(tái)治理的一攬子計(jì)劃，例如要求平臺(tái)承擔(dān)監(jiān)管非法內(nèi)容和商品的責(zé)任，對(duì)消費(fèi)者公平、合理地使用算法，法案也允許對(duì)大型在線平臺(tái)進(jìn)行事前監(jiān)管等。而在今年4月歐盟發(fā)布的《制定關(guān)于人工智能的統(tǒng)一規(guī)則（人工智能法案）并修訂某些歐盟立法》，明確對(duì)AI技術(shù)以及機(jī)器學(xué)習(xí)算法等進(jìn)行監(jiān)管，包括但不限于在整體層面上，設(shè)立AI的倫理原則，將算法的發(fā)展方向框定在“對(duì)人類有益”的范圍之內(nèi)，而在各類應(yīng)用場(chǎng)景中，提出算法透明、公正、保證算法的“可信度”等細(xì)致要求。

在中國(guó)，立法最早是2000年時(shí)候的《電信條例》，以及后來(lái)的《網(wǎng)絡(luò)安全法》、《電子商務(wù)法》等，從法律層面對(duì)網(wǎng)絡(luò)安全的監(jiān)管和電子商務(wù)行為的規(guī)范做了系統(tǒng)規(guī)定，為網(wǎng)絡(luò)空間治理的法治化提供了制度保障。行政機(jī)關(guān)頻頻發(fā)布各種規(guī)章、文件對(duì)平臺(tái)施加更重的責(zé)任，監(jiān)管部門也有突破立法原意、過(guò)度擴(kuò)張平臺(tái)義務(wù)的潛在動(dòng)力。

在張凌寒看來(lái)，如今平臺(tái)已經(jīng)不是單純的網(wǎng)絡(luò)服務(wù)提供者角色，也不再局限于經(jīng)濟(jì)基礎(chǔ)設(shè)施，而是一個(gè)兼具多重角色的社會(huì)經(jīng)濟(jì)組織概念。平臺(tái)在社會(huì)生產(chǎn)中的地位主要體現(xiàn)為三個(gè)角色：1、平臺(tái)是數(shù)據(jù)生產(chǎn)要素的提煉加工者；2、平臺(tái)是數(shù)字經(jīng)濟(jì)的基礎(chǔ)設(shè)施；3、平臺(tái)也是數(shù)字經(jīng)濟(jì)交易的多邊市場(chǎng)。

以國(guó)內(nèi)網(wǎng)約車平臺(tái)發(fā)展為例。早期依靠大量經(jīng)濟(jì)補(bǔ)貼，將乘客、司機(jī)與車輛吸引到平臺(tái)上，通過(guò)推動(dòng)市場(chǎng)交易便利化使市場(chǎng)信息更對(duì)稱，形成了多邊市場(chǎng)的網(wǎng)絡(luò)效應(yīng)，就進(jìn)一步享有了不斷擴(kuò)大服務(wù)范圍和市場(chǎng)數(shù)量的話語(yǔ)權(quán)。網(wǎng)約車平臺(tái)可憑其海量乘客與司機(jī)以及車輛資源換取其更大讓步，而因其司機(jī)與車輛資源的市場(chǎng)份額優(yōu)勢(shì)，也可通過(guò)算法個(gè)性化定價(jià)，壓榨消費(fèi)者的剩余價(jià)格承擔(dān)空間。

不過(guò)，張凌寒也指出，隨著外界質(zhì)疑越來(lái)越多，以及平臺(tái)運(yùn)行日益自動(dòng)化的當(dāng)下，在法律規(guī)則沒(méi)完全覆蓋到平臺(tái)治理時(shí)，經(jīng)常會(huì)面臨“政府管平臺(tái)，平臺(tái)管一切”這一尷尬境地。

她認(rèn)為，出現(xiàn)上述問(wèn)題的核心原因，主要是平臺(tái)3.0時(shí)代的責(zé)任沒(méi)搞清，生產(chǎn)關(guān)系還沒(méi)有適應(yīng)生產(chǎn)力的發(fā)展。

“在平臺(tái)1.0時(shí)代，我們已經(jīng)習(xí)慣了平臺(tái)作為一個(gè)信息門戶去分享消息內(nèi)容，這個(gè)時(shí)候平臺(tái)所做的可能就像我們當(dāng)時(shí)的遷徙版權(quán)法案一樣，只要做到傳播的管理就好；那么到了平臺(tái)2.0時(shí)代，社交媒體橫空出世，眾生喧嘩；可是，我們現(xiàn)在實(shí)際上已經(jīng)到了平臺(tái)3.0時(shí)代?！睆埩韬谘葜v中表示，現(xiàn)在平臺(tái)已經(jīng)成為了現(xiàn)在數(shù)字社會(huì)生產(chǎn)的核心經(jīng)濟(jì)組織。甚至還承擔(dān)了大量的公共治理的責(zé)任。那么當(dāng)平臺(tái)成為這樣一個(gè)數(shù)字生產(chǎn)的核心經(jīng)濟(jì)組織的時(shí)候，勢(shì)必用原來(lái)的法律框架已經(jīng)無(wú)法有效的規(guī)制平臺(tái)。

張凌寒強(qiáng)調(diào)，平臺(tái)的商業(yè)模式和架構(gòu)是由算法搭建的，甚至連個(gè)人信息和個(gè)人數(shù)據(jù)的收集處理工作，都是由算法自動(dòng)進(jìn)行的。也就是說(shuō)，如果要進(jìn)行平臺(tái)治理，勢(shì)必不可能離開人們對(duì)于算法的治理和問(wèn)責(zé)。如果擁有負(fù)責(zé)任的算法，人們才能夠找到負(fù)責(zé)任的平臺(tái)。

平臺(tái)治理問(wèn)責(zé)的三步方案

在演講中，張凌寒指出，AI時(shí)代平臺(tái)治理的未來(lái)走向，理應(yīng)聚焦于對(duì)算法的問(wèn)責(zé)，尤其是針對(duì)事前的、主觀的問(wèn)責(zé)。既應(yīng)符合平臺(tái)底層的技術(shù)邏輯，也應(yīng)符合主客觀相一致、責(zé)罰相適應(yīng)的法律原則。因此，如果想揭開平臺(tái)追責(zé)的技術(shù)面紗，就需要穿透這層面紗，而直指平臺(tái)底層的技術(shù)邏輯，也就是算法責(zé)任。

具體來(lái)說(shuō)，張凌寒提出對(duì)平臺(tái)進(jìn)行主觀方面問(wèn)責(zé)的三步解決方案：

首先，在事前階段，通過(guò)算法備案制度，對(duì)平臺(tái)算法的過(guò)錯(cuò)點(diǎn)進(jìn)行事前固定。平臺(tái)因?yàn)樗惴ū粏?wèn)責(zé)，通常是因?yàn)闆](méi)有履行法律和道德義務(wù)，以及無(wú)法向利益相關(guān)方作出解釋并證明自己沒(méi)有主觀過(guò)錯(cuò)。合理的平臺(tái)算法問(wèn)責(zé)離不開清晰的主觀過(guò)錯(cuò)認(rèn)定，通過(guò)算法評(píng)估、備案與審計(jì)對(duì)平臺(tái)事前和運(yùn)行中的問(wèn)責(zé)點(diǎn)進(jìn)行固定，能夠有效評(píng)估平臺(tái)是否可以評(píng)估、控制、糾正算法帶來(lái)的危害。

其次，在過(guò)錯(cuò)的事后認(rèn)定階段，設(shè)置獨(dú)立的算法解釋環(huán)節(jié)。監(jiān)管部門可依據(jù)算法事前備案內(nèi)容，來(lái)判斷平臺(tái)是否具有故意或過(guò)失的主觀過(guò)錯(cuò)，并結(jié)合客觀的損害結(jié)果直接進(jìn)行行政處罰與問(wèn)責(zé)。在此過(guò)程中平臺(tái)需進(jìn)行算法解釋，算法解釋是認(rèn)定主觀過(guò)錯(cuò)進(jìn)行平臺(tái)問(wèn)責(zé)的必經(jīng)程序。解釋環(huán)節(jié)不僅具有行政程序上的必要性、功能上的必要性，這個(gè)環(huán)節(jié)本身也理應(yīng)成為監(jiān)管考察的對(duì)象。

最后，在法律責(zé)任方面，應(yīng)根據(jù)平臺(tái)主觀過(guò)錯(cuò)的程度輕重分層次設(shè)置。對(duì)于故意和過(guò)失的平臺(tái)算法的主觀過(guò)錯(cuò)，施以主客觀相一致的實(shí)質(zhì)責(zé)任。對(duì)于提供虛假算法備案與虛假解釋的平臺(tái)，則施加類似于證券虛假陳述責(zé)任的虛假備案與虛假解釋責(zé)任。

張凌寒在演講結(jié)尾強(qiáng)調(diào)，她希望將來(lái)對(duì)于平臺(tái)的治理能夠圍繞著算法治理展開，有效的克服平臺(tái)自動(dòng)化運(yùn)行的這種技術(shù)面紗，實(shí)現(xiàn)一個(gè)有效的算法治理。

值得一提的是，阿里巴巴遭182億元重罰之后，7月27日，阿里巴巴董事局主席兼首席執(zhí)行官?gòu)堄略诠蓶|信中首次指出，平臺(tái)經(jīng)濟(jì)是全世界共同面臨的嶄新課題。過(guò)去一年，阿里巴巴對(duì)平臺(tái)經(jīng)濟(jì)有了更深入的理解。平臺(tái)型企業(yè)帶有天然的社會(huì)公共屬性。作為一家平臺(tái)型公司，需要更多深入思考能創(chuàng)造多少社會(huì)價(jià)值，參與解決多少核心科技問(wèn)題，如何更好地支持鄉(xiāng)村振興，如何變得更綠色和可持續(xù)，從而以平臺(tái)之心，聚八方之力，能夠做一家有擔(dān)當(dāng)、負(fù)責(zé)任的好公司。

（本文首發(fā)鈦媒體App，作者｜林志佳）

北京科技大學(xué)文法學(xué)院副教授張凌寒?

以下是張凌寒的演講全文，由鈦媒體編輯整理：

各位來(lái)賓好，今天我想分享的題目是：《平臺(tái)治理與算法問(wèn)責(zé)》。

2020年底，一篇題為《外賣騎手，困在系統(tǒng)里》的網(wǎng)文火爆全網(wǎng)，使得全社會(huì)共同關(guān)注到了外賣騎手的困境。

那么，通過(guò)這篇文章，我們知道外賣平臺(tái)的系統(tǒng)，也就是算法，能夠極大的控制騎手接單的時(shí)間，送單的時(shí)間，甚至送單的路線。我們?cè)谙硎芰送赓u騎手帶來(lái)的便利的同時(shí)，外賣騎手的工作時(shí)間則被壓榨到最低，他們的工作的效率也被算法逼到了極致。

其實(shí)，這已經(jīng)不是第一次由算法引起的不利后果，引起社會(huì)的廣泛關(guān)注。

早在2017年，我們就注意到了，由于今日頭條推薦算法，造成內(nèi)容的一些生態(tài)問(wèn)題，引起了相關(guān)部門和人民日?qǐng)?bào)的多次批評(píng)。而幾年之前一直到現(xiàn)在都很火的“大數(shù)據(jù)殺熟”，也使得我們知道了平臺(tái)的定價(jià)算法可能會(huì)對(duì)消費(fèi)者造成傷害。

所以說(shuō)，我們可以看到現(xiàn)在平臺(tái)可能引起的治理問(wèn)題，往往圍繞著算法進(jìn)行?？墒?，算法的自動(dòng)化運(yùn)行，又給平臺(tái)的治理造成了很多問(wèn)題。

我們舉兩個(gè)簡(jiǎn)單的例子：

第一，如果我們真的要對(duì)平臺(tái)追責(zé)的話，傳統(tǒng)的法律主體行為責(zé)任這樣的框架，經(jīng)常會(huì)被平臺(tái)說(shuō)，算法是自動(dòng)運(yùn)行的，你怎么能夠把這個(gè)罪責(zé)怪到我身上來(lái)進(jìn)行推脫。

那么另外一方面，我們已經(jīng)習(xí)慣了用過(guò)錯(cuò)來(lái)衡量責(zé)任。也就是說(shuō)，我們法律原則當(dāng)中體現(xiàn)的“罪責(zé)刑相適應(yīng)，主客觀相一致”這樣樸素的價(jià)值觀?？墒?，自動(dòng)運(yùn)行的算法，我們又如何衡量它的過(guò)錯(cuò)呢？

面對(duì)這樣的問(wèn)題，我們國(guó)家的監(jiān)管部門通過(guò)主體責(zé)任和社會(huì)責(zé)任來(lái)推動(dòng)平臺(tái)的監(jiān)管。

簡(jiǎn)而言之，主體責(zé)任就是監(jiān)管部門認(rèn)為“誰(shuí)辦網(wǎng)誰(shuí)負(fù)責(zé)”，只要出了事情我就找平臺(tái)；而社會(huì)責(zé)任又極大地?cái)U(kuò)展了平臺(tái)責(zé)任的范疇，不僅僅平臺(tái)要承擔(dān)內(nèi)容治理的義務(wù)，同時(shí)視頻、勞動(dòng)用工等等，都被囊括到了平臺(tái)的責(zé)任當(dāng)中。

那么，這樣的治理方式是否是最佳的？主體責(zé)任和社會(huì)責(zé)任能解決如今AI時(shí)代平臺(tái)追責(zé)的問(wèn)題嗎？

我們聽(tīng)到很多學(xué)者批評(píng)說(shuō)，現(xiàn)在平臺(tái)治理已經(jīng)變得“管道化”了。就是政府管平臺(tái)，平臺(tái)管一切。那么，也有學(xué)者和平臺(tái)會(huì)抱怨說(shuō)，“社會(huì)責(zé)任是個(gè)框，什么都能往里裝。”

也就是說(shuō)，我們現(xiàn)在平臺(tái)治理的機(jī)制經(jīng)常面臨這樣的尷尬境地：平臺(tái)覺(jué)得很委屈，公眾覺(jué)得不滿意，甚至監(jiān)管部門自己也覺(jué)得底氣不足。

那么，究竟是什么原因，造成了平臺(tái)治理這樣的困境？簡(jiǎn)而言之，不過(guò)是我們的生產(chǎn)關(guān)系還沒(méi)有適應(yīng)生產(chǎn)力的發(fā)展。

隨著平臺(tái)的發(fā)展，在平臺(tái)1.0時(shí)代，我們已經(jīng)習(xí)慣了平臺(tái)作為一個(gè)信息門戶去分享消息內(nèi)容，這個(gè)時(shí)候平臺(tái)所做的可能就像我們當(dāng)時(shí)的遷徙版權(quán)法案一樣，只要做到傳播的管理就好。那么到了平臺(tái)2.0時(shí)代，社交媒體橫空出世，眾生喧嘩。

可是，我們現(xiàn)在實(shí)際上已經(jīng)到了平臺(tái)3.0時(shí)代，簡(jiǎn)而言之，就是平臺(tái)已經(jīng)成為了現(xiàn)在數(shù)字社會(huì)生產(chǎn)的核心經(jīng)濟(jì)組織。平臺(tái)不僅僅通過(guò)數(shù)據(jù)和算法搭建自己的商業(yè)模式和架構(gòu)，并且聯(lián)通了電商平臺(tái)、社交媒體等等的資源，同時(shí)把各種社會(huì)生產(chǎn)資料鏈接到平臺(tái)上。甚至我們可以看到在疫情期間，平臺(tái)還承擔(dān)了大量的公共治理的責(zé)任。

那么，當(dāng)平臺(tái)成為這樣一個(gè)數(shù)字生產(chǎn)的核心經(jīng)濟(jì)組織的時(shí)候，勢(shì)必用原來(lái)的法律框架已經(jīng)無(wú)法有效的規(guī)制平臺(tái)。

我們可以看到，算法已經(jīng)在平臺(tái)運(yùn)行當(dāng)中成為了平臺(tái)核心的角色。我們可以說(shuō)，平臺(tái)的商業(yè)模式和架構(gòu)是由算法搭建的，平臺(tái)上用戶的評(píng)分機(jī)制，乘客和司機(jī)之間的匹配是由算法進(jìn)行的，甚至連個(gè)人信息和個(gè)人數(shù)據(jù)的收集處理工作也都是由算法自動(dòng)進(jìn)行的。也就是說(shuō)，當(dāng)我們要進(jìn)行平臺(tái)治理，勢(shì)必不可能離開我們對(duì)于算法的治理和問(wèn)責(zé)。只有有了負(fù)責(zé)任的算法，我們才能夠找到負(fù)責(zé)任的平臺(tái)。

所以，如果想揭開平臺(tái)追責(zé)的技術(shù)面紗，我們就要穿透這層面紗，而直指平臺(tái)底層的技術(shù)邏輯，也就是算法治理。

可以說(shuō)，技術(shù)的原理毫無(wú)疑問(wèn)是中立的，但是技術(shù)的應(yīng)用絕對(duì)不是中立的。平臺(tái)在設(shè)計(jì)部署和運(yùn)行算法的過(guò)程當(dāng)中，都嵌入了自己的主觀價(jià)值和自己的這種價(jià)值排序。那么，這也是我們對(duì)平臺(tái)算法追責(zé)的根本原因，是法律對(duì)于平臺(tái)追責(zé)的指向所在。

所以，現(xiàn)在的問(wèn)題來(lái)了，我們?nèi)绾螌⑵脚_(tái)使用算法，進(jìn)行數(shù)字社會(huì)生產(chǎn)的這種新興的生產(chǎn)方式，契合于傳統(tǒng)的法律職責(zé)框架？

我們可以回到平臺(tái)算法主觀過(guò)錯(cuò)認(rèn)定機(jī)制的這一法律框架當(dāng)中。

既然要從算法當(dāng)中去找平臺(tái)的主觀過(guò)錯(cuò)，首先，我們要明確什么是過(guò)錯(cuò)。

平臺(tái)在設(shè)計(jì)部署算法多個(gè)層面，我們都可以看到嵌入自己的主觀價(jià)值。比如說(shuō)，曾經(jīng)某平臺(tái)發(fā)生過(guò)順風(fēng)車服務(wù)強(qiáng)奸殺人的惡性事件，可是在出事之前，當(dāng)這款服務(wù)推出的時(shí)候，這個(gè)平臺(tái)的高管就曾經(jīng)說(shuō)過(guò)，“我們已經(jīng)可以看到順風(fēng)車服務(wù)是一個(gè)‘性感’的社交場(chǎng)景”。也就是說(shuō)，他（她）預(yù)見(jiàn)到了可能會(huì)發(fā)生的這樣的情況，但是面對(duì)這樣的利益，把安全的價(jià)值排序到了后面。

再比如說(shuō)，微軟曾在2016年上線過(guò)一個(gè)叫“Tay”的聊天機(jī)器人，在推特上，Tay機(jī)器人很快就說(shuō)出了一些仇恨的語(yǔ)言。那么，如果說(shuō)它沒(méi)有進(jìn)行充分的事先的測(cè)試，就把這樣的一個(gè)可能有自動(dòng)學(xué)習(xí)功能的機(jī)器人，上線到這樣一個(gè)充滿了仇恨言論的環(huán)境平臺(tái)當(dāng)中去，本身平臺(tái)就沒(méi)有盡到自己應(yīng)有的注意義務(wù)。

去年比較轟動(dòng)的“企查查案件”，最后雖然說(shuō)是公用數(shù)據(jù)的問(wèn)題，但實(shí)際上，就是平臺(tái)對(duì)于自己算法自動(dòng)運(yùn)行的結(jié)果沒(méi)有進(jìn)行充分的審核義務(wù)。

其次，算法使平臺(tái)運(yùn)行日益“自動(dòng)化”，我們又如何從自動(dòng)化運(yùn)行的算法當(dāng)中去找到那些可以度量、可以追溯、可以標(biāo)定的平臺(tái)的主觀過(guò)錯(cuò)？

因此，算法的備案評(píng)估和審計(jì)工作，就成為了現(xiàn)在對(duì)于算法監(jiān)管的重點(diǎn)。我很高興，在這篇文章發(fā)表之后不久，現(xiàn)在監(jiān)管部門已經(jīng)開始推廣算法的備案工作。

比如說(shuō)，采用算法的備案，要求平臺(tái)在上線重要算法之前，要向監(jiān)管部門說(shuō)明自己的價(jià)值排序，設(shè)計(jì)目標(biāo)和具體權(quán)重，這樣既使得我們將來(lái)可以追溯到平臺(tái)可能存在的設(shè)計(jì)層面的主觀過(guò)錯(cuò)，同時(shí)也免去了平臺(tái)擔(dān)憂自己的商業(yè)秘密受到侵害的這種煩惱。

那么另一方面，在平臺(tái)的運(yùn)行過(guò)程當(dāng)中，你是否進(jìn)行了風(fēng)險(xiǎn)與過(guò)程的有效控制？在結(jié)果輸出層面又是否盡到了應(yīng)有的注意義務(wù)？這些都是我們將來(lái)在進(jìn)行平臺(tái)算法問(wèn)責(zé)的時(shí)候，可能去尋找的平臺(tái)算法的問(wèn)責(zé)點(diǎn)，根據(jù)平臺(tái)主觀過(guò)錯(cuò)的程度輕重分層次設(shè)置。

當(dāng)平臺(tái)算法運(yùn)行到不利后果發(fā)生的時(shí)候，如果說(shuō)，我們可以找到平臺(tái)的實(shí)質(zhì)責(zé)任，對(duì)于故意和過(guò)失的平臺(tái)算法的主觀過(guò)錯(cuò)，施以主客觀相一致的實(shí)質(zhì)責(zé)任。

但是，如果平臺(tái)進(jìn)行虛假陳述，虛假備案或者誤導(dǎo)性的算法解釋，我們則要求平臺(tái)承擔(dān)類似于證券監(jiān)管方面的這種虛假的陳述責(zé)任。

我們希望將來(lái)對(duì)于平臺(tái)的治理能夠圍繞著算法展開，有效的克服算法自動(dòng)化運(yùn)行的這種技術(shù)面紗，希望我們將來(lái)的平臺(tái)治理也是一個(gè)有效的算法治理。

我就分享到這里，謝謝大家。

注：張凌寒，女，法學(xué)博士，北京科技大學(xué)副教授，康奈爾大學(xué)訪問(wèn)學(xué)者。本碩博均畢業(yè)于吉林大學(xué)法學(xué)院，北京航空航天大學(xué)法學(xué)院博士后。中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息研究會(huì)理事，中國(guó)法學(xué)會(huì)婚姻法學(xué)研究會(huì)理事。國(guó)家人工智能倫理與道德標(biāo)準(zhǔn)小組成員，國(guó)家工信部重點(diǎn)法治實(shí)驗(yàn)室研究員，中央網(wǎng)信辦網(wǎng)絡(luò)安全治理基地特聘研究員，中國(guó)信息安全法律大會(huì)專家委員會(huì)委員。研究方向?yàn)槊裆谭ǎW(wǎng)絡(luò)法，近年來(lái)專注于數(shù)據(jù)治理與算法規(guī)制方向，發(fā)表論文二十余篇，其中多篇被《人大報(bào)刊復(fù)印資料》《高等學(xué)校文科學(xué)術(shù)文摘》全文轉(zhuǎn)載，主持國(guó)家社科基金、教育部、司法部、中國(guó)法學(xué)會(huì)、博士后基金等人文社科項(xiàng)目。出版專著《網(wǎng)絡(luò)虛擬財(cái)產(chǎn)侵權(quán)責(zé)任研究》《權(quán)力之治：人工智能時(shí)代的算法規(guī)制》，參編參譯多部教材專著。

更多精彩內(nèi)容，關(guān)注鈦媒體微信號(hào)（ID：taimeiti），或者下載鈦媒體App