專家認為，意大利對ChatGPT的禁用，可能會在世界范圍內(nèi)引起連鎖效應，其他國家可能跟進。目前，加拿大已宣布就數(shù)據(jù)安全問題調(diào)查OpenAI。
編者按：本文來自微信公眾號財經(jīng)E法（ID：ichuangyebang），作者：姚佳瑩 ，編輯：郭麗琴，創(chuàng)業(yè)邦經(jīng)授權(quán)發(fā)布。
當?shù)貢r間4月4日，據(jù)加拿大隱私專員辦公室（Office of the Privacy Commissioner，OPC）官網(wǎng)信息，OPC宣布開始調(diào)查OpenAI，涉及“OpenAI未經(jīng)同意收集、使用和披露個人信息”的指控。隱私專員Philippe Dufresne表示，對于隱私的關注需要跟上、甚至領先于快速發(fā)展的技術(shù)。
(資料圖片)
歐盟國家已有動向。當?shù)貢r間4月3日，德國聯(lián)邦數(shù)據(jù)保護專員Ulrich Kelber在德國《商報》中表示，出于對數(shù)據(jù)安全問題的考量，德國存在暫時禁止使用ChatGPT的可能性。
當?shù)貢r間3月31日，意大利個人數(shù)據(jù)保護局（Garante per la protezione dei dati personali，GPDP）宣布，即日起暫時禁止ChatGPT的使用，同時，對ChatGPT背后的OpenAI公司展開調(diào)查，限制其處理意大利的用戶信息。同一時間，作為回應，OpenAI已在意大利下線了ChatGPT的相關服務。
GPDP認為，3月20日，ChatGPT出現(xiàn)用戶對話數(shù)據(jù)和付款服務支付信息丟失的情況，平臺沒有就處理用戶信息情況進行告知，缺乏大量收集和存儲個人信息的法律依據(jù)。
據(jù)Kelber介紹，德國聯(lián)邦數(shù)據(jù)保護機構(gòu)已要求意大利監(jiān)管機構(gòu)提供其禁止ChatGPT的進一步信息。
盡管暫無其他國家宣布關于ChatGPT的限制性措施，但意大利對ChatGPT的禁用顯然已在世界范圍內(nèi)引起關注。北京師范大學法學院博士生導師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括向財經(jīng)E法表示，意大利封禁ChatGPT所主張的對于個人信息安全的考量，對歐洲其他國家甚至世界范圍內(nèi)進一步推動對ChatGPT的監(jiān)管將產(chǎn)生很大影響，可能會引起連鎖效應，“其他國家很可能跟進”。
01更多歐洲國家禁用ChatGPT？
除了個人信息安全的考量，GPDP還對OpenAI忽略用戶年齡審查表達了擔憂。
OpenAI于2023年3月14日更新用戶使用條款，規(guī)定用戶必須年滿13歲才能使用OpenAI及附屬公司的服務，如果未滿 18 歲，必須獲得父母或法定監(jiān)護人的許可才能使用服務。
GPDP指出，盡管OpenAI發(fā)布了年齡限制的規(guī)定，但并未對用戶做年齡驗證，考慮到ChatGPT的發(fā)展程度和自我意識，未成年人在使用時可能接觸到不合適其瀏覽的回復內(nèi)容。
GPDP 要求OpenAI在 20 天內(nèi)，通過其在歐洲的代表對GPDP的相應指控做出回應，否則將被處以2000 萬歐元或全球年營業(yè)額4%的罰款。同時，GPDP 稱，OpenAI 需證明已解決GPDP發(fā)現(xiàn)的問題，封禁方會解除。
在意大利宣布關于ChatGPT的“禁令”后，除了德國外，法國和愛爾蘭亦表現(xiàn)出對該事件走向的關注。公開消息顯示，兩個國家的隱私監(jiān)管機構(gòu)表示，已與意大利數(shù)據(jù)監(jiān)管機構(gòu)聯(lián)系，討論其調(diào)查結(jié)果。瑞典監(jiān)管機構(gòu)則稱，暫無禁止ChatGPT的計劃。
為何是意大利率先對ChatGPT說“不”？
吳沈括指出，意大利的個人信息保護主要依據(jù)本國的《個人數(shù)據(jù)保護法》，同時也遵循歐盟的統(tǒng)一立法，特別是通用數(shù)據(jù)保護條例（GDPR）?？傮w的個人信息保護特點是位階高、效力高、處罰水平高，同時保持與歐盟統(tǒng)一立法的高度一致。
吳沈括進一步表明，在歐盟的個人數(shù)據(jù)保護生態(tài)中，意大利具有舉足輕重的地位。首先，意大利在歐洲個人數(shù)據(jù)保護機制的設計和落地中，貢獻了很多具有意大利特色的方案，例如關于科研數(shù)據(jù)處理的一般許可機制，便屬于比較突出的意大利特色機制設計；其次，歐盟個人數(shù)據(jù)保護領域的權(quán)威學者、監(jiān)管機構(gòu)中的高級別人士中，意大利籍占據(jù)的比例較高，如GDPR國際談判首席代表是意大利人；此外，意大利在個人數(shù)據(jù)監(jiān)管執(zhí)法的案例典型，數(shù)量多，處罰力度高。“比如意大利是迄今為止世界上唯一動用刑事處罰谷歌高管的國家”。吳沈括表示。
2006年，一名唐氏綜合癥少年被4名青年毆打的視頻在谷歌上傳播，盡管谷歌在收到意大利政府刪除視頻的通知后，已配合刪除視頻，但2008年7月，意大利有關部門仍對谷歌4名高管提起刑事訴訟。2010年，意大利法院裁決，谷歌放任該視頻傳播，觸犯了意大利關于個人隱私的法律規(guī)定，由此判處谷歌4位高管半年監(jiān)禁，緩期執(zhí)行，其中便包括谷歌負責全球范圍個人隱私事務的法律顧問。
吳沈括表示，此次意大利封禁ChatGPT所主張的對于個人信息安全的考量，對整個歐洲下一步監(jiān)管將產(chǎn)生很大影響。他認為，由于意大利所提出的OpenAI在個人數(shù)據(jù)處理當中的違法事由，在歐盟法的一般框架下是成立的，所以“其他國家很可能會跟進，甚至引起歐盟層面的高度關注，運用一站式解決機制統(tǒng)一對GPT應用場景做出規(guī)定或者樹立執(zhí)法案例?！眳巧蚶ū硎尽?/p>02
緣起數(shù)據(jù)丟失事件
意大利開出“禁令”的導火索是今年3月，ChatGPT的一次用戶對話數(shù)據(jù)丟失事件。
當?shù)貢r間3月20日，多名ChatGPT用戶在Reddit等互聯(lián)網(wǎng)平臺上發(fā)帖稱，其賬號下的聊天歷史欄出現(xiàn)了他人的聊天記錄。3月21日，OpenAI回應表示，已暫時下線聊天歷史功能，并強調(diào)發(fā)生泄漏的只涉及聊天歷史的標題，用戶無法看到他人的詳細聊天內(nèi)容。
3月23日，OpenAI首席執(zhí)行官Sam Altman在社交媒體表示，此次嚴重問題是由開源代碼庫的一個程序錯誤導致，會有小部分用戶可以看到其他用戶的聊天記錄標題。目前開發(fā)團隊已發(fā)布修復程序，并完成驗證。
該事件引發(fā)了對ChatGPT數(shù)據(jù)處理的普遍憂慮。
根據(jù)OpenAI的隱私政策，ChatGPT收集的數(shù)據(jù)包括用戶賬戶信息、輸入或上傳的內(nèi)容、通信信息、日志數(shù)據(jù)、使用數(shù)據(jù)、設備信息等，如果社交媒體上搭載了ChatGPT功能，還會收集社交媒體信息。
關于如何使用個人信息，隱私政策包括：提供、管理、維護、改進和分析服務；進行研究；開發(fā)新的項目和服務等，但OpenAI亦強調(diào)，將以匿名或去識別化的形式維護和使用去識別化信息，不會嘗試重新識別信息。
浙江大學計算機科學與技術(shù)學院教授、中國人工智能學會智能創(chuàng)意與數(shù)字藝術(shù)專業(yè)委員會委員湯斯亮向財經(jīng)E法表示，ChatGPT確實在收集個人數(shù)據(jù)時，存在數(shù)據(jù)泄露的可能性。目前ChatGPT的數(shù)據(jù)存儲周期并不明晰，存在黑客侵入造成的數(shù)據(jù)泄露風險；另外，若OpenAI不當使用存儲信息，也可能造成數(shù)據(jù)泄露。
“如果在訓練時加入了個人隱私數(shù)據(jù)，而后續(xù)的安全機制又未能過濾這部分數(shù)據(jù)，那么通過提問和引導，ChatGPT便可能輸出涉及這部分數(shù)據(jù)的回答?！睖沽琳f。
但湯斯亮同時表示，雖然ChatGPT收集了個人數(shù)據(jù)，但大部分數(shù)據(jù)未必可以用來訓練ChatGPT。用于ChatGPT訓練的高質(zhì)量語料強調(diào)邏輯性，如代碼和學術(shù)文獻，而其他大部分對話語料在訓練時會被篩除，“如果你把身份證號碼告訴它，它可能只是存儲，即使真的記住了身份證號碼，這段信息在ChatGPT龐大如45TB的語料中，日后被用以生成回答的概率也是極小的。”湯斯亮說。
ChatGPT的橫空出世，也打亂了歐盟對《人工智能法案》的推進節(jié)奏。
歐盟委員會（European Commission）、歐洲議會（European Parliament）和歐盟理事會（European Council）在2021年就提出了《人工智能法》（Artificial Intelligence Act）的草案，該草案系統(tǒng)闡述了人工智能的定義、禁止應用人工智能的領域、支持創(chuàng)新的舉措等，旨在推動人工智能創(chuàng)新和發(fā)展的同時，保障公民的基本權(quán)利免受侵害。該草案還計劃把人工智能的一些具體用途指定為“高風險”，將開發(fā)人員綁定到更嚴格的透明度、安全和人力監(jiān)督要求上。按照流程，歐盟理事會于2022年12月批準了新版本的《人工智能法》草案，該法案將委托委員會為通用人工智能制定網(wǎng)絡安全、透明度和風險管理要求。
此前，外界曾預計，該法案將于3月底在歐洲議會進行投票，屆時各成員國將就法案的最終條款進行談判。但分析人士認為，ChatGPT等生成式人工智能的話題在2月份的迅速崛起，在一定程度上擾亂了法案出臺的節(jié)奏。
吳沈括表示，ChatGPT帶來的立法挑戰(zhàn)至少包括三個方面：第一，ChatGPT豐富多樣的應用場景所反映的風險類型，風險等級存在不確定性，需要更多的時間觀察其風險趨勢；第二，ChatGPT所凸顯的數(shù)據(jù)治理和人工智能治理之間的交叉融合，給原有的監(jiān)管思路產(chǎn)生了極大沖擊，其反映的數(shù)字生態(tài)更復雜，相關主體及業(yè)務鏈更多樣，這意味著各方的權(quán)利義務和責任配置也需要更廣泛的研判。
“今天的人工智能立法形勢與歐盟當時草案形成的時期相較，已發(fā)生了很大變化”。
本文（含圖片）為合作媒體授權(quán)創(chuàng)業(yè)邦轉(zhuǎn)載，不代表創(chuàng)業(yè)邦立場，轉(zhuǎn)載請聯(lián)系原作者。如有任何疑問，請聯(lián)系editor@cyzone.cn。