人工智能疾風(fēng)勁吹企業(yè)呼吁明晰權(quán)責(zé)邊界、分類分級監(jiān)管

2023-08-17 17:30:20 來源：新浪財經(jīng)

來源：媒體滾動

(資料圖片)

來源：21世紀(jì)經(jīng)濟(jì)報道

2022年底，ChatGPT橫空出世，掀起了新一輪人工智能革命。此后，各國科技公司紛紛加碼大模型研發(fā)，“千模大戰(zhàn)”愈發(fā)激烈。人工智能疾風(fēng)勁吹，深刻地改變著社會生產(chǎn)力與生產(chǎn)關(guān)系，同時，數(shù)據(jù)泄露、版權(quán)糾紛、歧視偏見等伴生風(fēng)險成為隱憂，全球都在進(jìn)行人工智能治理話語競賽，尋求監(jiān)管主導(dǎo)權(quán)。在此背景下，中國將會如何通過立法來貢獻(xiàn)出具有中國特色的AI治理路徑？

8月15日，由中國社會科學(xué)院法學(xué)研究所主辦，中國社會科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室、南財合規(guī)科技研究院等共同承辦的“全球治理話語競賽下人工智能立法的中國方案”研討會在北京舉行，研討會邀請監(jiān)管部門、專家學(xué)者與行業(yè)代表，共同就我國人工智能發(fā)展相關(guān)問題建言獻(xiàn)策。

人工智能產(chǎn)業(yè)鏈特性使責(zé)任原則難落實

人工智能浪潮涌起，技術(shù)發(fā)展帶來的挑戰(zhàn)與機(jī)遇影響著產(chǎn)業(yè)鏈的每一環(huán)節(jié)。星紀(jì)魅族集團(tuán)有限公司數(shù)據(jù)合規(guī)執(zhí)行總監(jiān)朱玲鳳從產(chǎn)業(yè)鏈的角度探討了當(dāng)前人工智能治理的難點?！耙苿討?yīng)用的生態(tài)系統(tǒng)，從APP到SDK、應(yīng)用分發(fā)、操作系統(tǒng)，我們一般稱之為‘生態(tài)圈’。但人工智能有所不同，是有上下游關(guān)系的，芯片、算力、存儲、算法模型等缺一不可，才能最終形成服務(wù)，可以理解為‘產(chǎn)業(yè)鏈’。”

朱玲鳳表示，人工智能產(chǎn)業(yè)鏈?zhǔn)欠稚⑹降模嗷ヒ来媲姨幱趧討B(tài)變化中?！胺?wù)的最終形態(tài)會因過程中的數(shù)據(jù)輸入、場景和選擇鏈路變化而發(fā)生改變。例如，當(dāng)上游的訓(xùn)練數(shù)據(jù)過程存在人口統(tǒng)計偏差卻沒有及時處理，下游投入應(yīng)用，如面部識別時，則可能因代表人群缺失等缺陷而產(chǎn)生極端事件?！?/p>

“新興行業(yè)通常會推崇責(zé)任原則，強(qiáng)調(diào)企業(yè)能夠證明自己已經(jīng)有效履行合規(guī)義務(wù)。但在人工智能產(chǎn)業(yè)鏈上，責(zé)任原則很難落實，風(fēng)險管理制度處于失效狀態(tài)，對于研發(fā)者來說很難基于使用場景來識別和管理風(fēng)險，對提供者來說了解使用場景，但是可能并不掌握訓(xùn)練數(shù)據(jù)、模型選擇、模型測試等情況，無法實際判斷風(fēng)險?！敝炝狲P說。

小米集團(tuán)高級法務(wù)總監(jiān)陳一夫認(rèn)為，目前AI技術(shù)水平仍屬于弱人工智能，是完成特定任務(wù)的信息化工具，不具備自主意識，現(xiàn)有法律框架仍可以規(guī)制。但長遠(yuǎn)來看，AI技術(shù)的革命性創(chuàng)新給社會關(guān)系帶來根本性的挑戰(zhàn)。一是社會倫理的挑戰(zhàn)，如教育、隱私、網(wǎng)絡(luò)安全、欺詐、歧視等等。二是經(jīng)濟(jì)的挑戰(zhàn)，人工智能可能對勞動者進(jìn)行替代，引發(fā)就業(yè)問題。三是生存的挑戰(zhàn)，未來具有自主意識的強(qiáng)人工智能對人類文明的影響不可控。因此，需要全社會在倫理維度有更多思考。同時，企業(yè)要建立正確的科技理念，技術(shù)發(fā)展要對人類文明有長期價值，長期持續(xù)投入，給人工智能賦予人類的價值觀。

企業(yè)呼吁明晰權(quán)責(zé)邊界、分類分級監(jiān)管

人工智能技術(shù)與各個產(chǎn)業(yè)融合漸深，覆蓋多種應(yīng)用場景，不同類型、程度的風(fēng)險也逐漸被人注意。然而，技術(shù)對產(chǎn)業(yè)轉(zhuǎn)型升級的效用也不可忽視。參與研討會的從業(yè)者認(rèn)為，未來應(yīng)聚焦應(yīng)用風(fēng)險，建構(gòu)基于風(fēng)險的監(jiān)管治理體系。

新浪集團(tuán)法務(wù)部總經(jīng)理谷海燕指出，整體監(jiān)管上，企業(yè)期待更有區(qū)分度和顆粒度的監(jiān)管措施。比如歐盟《人工智能法案》中，根據(jù)不同的風(fēng)險等級、區(qū)分規(guī)制路徑并設(shè)置法律的義務(wù)。這類措施能夠更好平衡企業(yè)社會責(zé)任和能量釋放，促進(jìn)產(chǎn)業(yè)健康發(fā)展。

朱玲鳳表示，行業(yè)期待法律的確定性，進(jìn)一步明確義務(wù)邊界和責(zé)任分工有利于營造更優(yōu)的營商環(huán)境?！耙匀斯ぶ悄芡该鞫群涂山忉屝耘e例，上游數(shù)據(jù)提供方可以通過提供‘?dāng)?shù)據(jù)卡’的方式，告知數(shù)據(jù)來源、數(shù)據(jù)質(zhì)量、清洗過程等，模型開發(fā)者也可以通過‘模型卡’的方式解釋模型的選擇，以此類推，通過技術(shù)流程予以明確義務(wù)，不同的主體之間有清晰的責(zé)任邊界且互相銜接的方式，強(qiáng)化通過技術(shù)監(jiān)管的方式來應(yīng)對風(fēng)險?！?/p>

淘天集團(tuán)法務(wù)部數(shù)據(jù)合規(guī)負(fù)責(zé)人顧偉則結(jié)合自身實務(wù)經(jīng)驗指出，技術(shù)進(jìn)展日新月異，要精準(zhǔn)地預(yù)測每一個伴生風(fēng)險并不容易。因此，應(yīng)當(dāng)增加法律、規(guī)則中的容錯機(jī)制，為產(chǎn)業(yè)發(fā)展留出空間?！叭斯ぶ悄芰⒎☉?yīng)當(dāng)強(qiáng)調(diào)基于原則性的規(guī)定，而非具體規(guī)則。”

隨著人工智能發(fā)展踏上新臺階，2022年至今，政府接連出臺新政策，以期助力行業(yè)發(fā)展。今年7月，國家網(wǎng)信辦等七部門發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱“《暫行辦法》”），對服務(wù)各環(huán)節(jié)提出一系列要求。作為我國在AI治理領(lǐng)域的最新規(guī)則，《暫行辦法》體現(xiàn)了我國怎樣的治理思路？

“相比于此前的征求意見稿，《暫行辦法》更鼓勵產(chǎn)業(yè)發(fā)展，將企業(yè)保證義務(wù)變成了倡導(dǎo)和承諾?！标愐环蛘J(rèn)為，《暫行辦法》一定程度上保證了從業(yè)者的權(quán)責(zé)平衡，為行業(yè)發(fā)展留出了空間。針對未來治理實踐，陳一夫建議，應(yīng)當(dāng)審慎執(zhí)法，同時保證有典型性的執(zhí)法，保障行業(yè)健康發(fā)展的同時，也有底線可以參照；此外，還要加強(qiáng)倫理和責(zé)任制的研究，讓身處技術(shù)中的各方明晰權(quán)責(zé)。

人工智能立法應(yīng)堅持以監(jiān)管促發(fā)展

未來，中國人工智能監(jiān)管如何平衡發(fā)展與治理？

中國信通院云大所內(nèi)容科技部研究員呼娜英認(rèn)為要以“數(shù)據(jù)、模型、內(nèi)容、服務(wù)”為核心關(guān)切，首先應(yīng)聚焦數(shù)據(jù)治理，確保源頭可信，把控訓(xùn)練數(shù)據(jù)來源合法性，關(guān)注合乎版權(quán)的數(shù)據(jù)處理規(guī)范，保護(hù)敏感信息；其次要加強(qiáng)模型治理，提高模型科技倫理治理要求，促進(jìn)模型應(yīng)用上下游信息共享，強(qiáng)調(diào)模型全生命周期安全可控；最后深化內(nèi)容治理，探索溯源技術(shù)，防范虛假信息的生產(chǎn)傳播，構(gòu)建健康文明網(wǎng)絡(luò)生態(tài)。

全國人大常委會法制工作委員會經(jīng)濟(jì)法室副處長林一英強(qiáng)調(diào)，“不發(fā)展就是最大的不安全”已經(jīng)成為共識。當(dāng)前，全球都將人工智能作為提高國際競爭力、維護(hù)國家安全的重要戰(zhàn)略，在此背景下，我國應(yīng)堅持“以監(jiān)管促發(fā)展”的思路來推進(jìn)立法，堅持安全與發(fā)展并重。

北京交通大學(xué)國家安全法治發(fā)展研究院聯(lián)席院長趙剛比較了中美人工智能監(jiān)管的差異，他認(rèn)為，中美在大模型的訓(xùn)練框架、訓(xùn)練效率、安全性、可解釋性、可信度等方面差距較明顯，建議發(fā)揮體制優(yōu)勢，建立國家在人工智能方面的科技戰(zhàn)略力量，整合研發(fā)資源，加快核心技術(shù)攻關(guān)，鼓勵地方政府及各行業(yè)優(yōu)先應(yīng)用我國的人工智能產(chǎn)品、技術(shù)和服務(wù)。

“全球范圍內(nèi)的人工智能立法已經(jīng)鋪開，中國探討自己的AI立法是復(fù)雜且艱巨的?！北本┮暯缏蓭熓聞?wù)所合伙人吳凡表示，生成式AI是劃時代的革命性工具，建議按照AI適用的場景和相應(yīng)的風(fēng)險進(jìn)行分級管理。對于國家安全、主流價值觀、倫理道德等劃定紅線，對高風(fēng)險、中風(fēng)險、低風(fēng)險的AI應(yīng)用采取不同的監(jiān)管方式，例如規(guī)定差異化的數(shù)據(jù)容錯率、審批制與備案制相結(jié)合等等。

“探索中國AI立法之路，首先要尊重行業(yè)差異，不同行業(yè)對人工智能的使用方式和效果都有著非常大的區(qū)別；其次要強(qiáng)調(diào)政治安全，同時促進(jìn)社會公平，保護(hù)個人隱私；此外，發(fā)展的彈性和確定性要相結(jié)合，確定性較高的事情可以公開透明地讓公眾了解，因技術(shù)而帶來的不確定性，應(yīng)當(dāng)保持一定的彈性；最后，在國內(nèi)國際雙循環(huán)的背景下，人工智能的發(fā)展要與國際合作相結(jié)合，更好地融入到世界的技術(shù)迭代當(dāng)中。”吳凡說。

（作者：鐘雨欣,馮戀閣,實習(xí)生劉爽編輯：王?。?/p>

關(guān)鍵詞：