ChatGPT陷入安全危機(jī),入安成也數(shù)據(jù)傷也數(shù)據(jù)。全危ChatGPT正在卷入一又一個爭論中。入安昆明(找外圍)外圍大學(xué)生vx《192-1819-1410》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)對于數(shù)據(jù)安全性問題,全危主要有三個方面:一是入安數(shù)據(jù)合法性問題,二是全危數(shù)據(jù)使用問題,三是入安個人信息保護(hù)問題。為保障數(shù)據(jù)安全性,全危開發(fā)人員必須采取措施,入安以保證訓(xùn)練數(shù)據(jù)的全危隱私性。
新聞詳情
這兩天,入安本來一路高歌猛進(jìn)的全危 ChatGPT突然跌入了輿論風(fēng)口浪尖。
上個周末,入安意大利先是全危對 ChatGPT進(jìn)行了臨時禁令,禁止其對國內(nèi)用戶的入安信息進(jìn)行處理。隨后,韓國媒體報導(dǎo),在三星引入芯片ChatGPT不足20天后,機(jī)密數(shù)據(jù)被泄露。之后,又傳出了 ChatGPT目前已停止注冊的消息,并開始大范圍的封號,四月二日在亞洲全面封號。
圍繞著 ChatGPT的爭論仍在持續(xù)著,而這一波接一波的事件中,無論是封殺,還是泄密,又或者封號,都有一個共同點(diǎn),那就是數(shù)據(jù)安全。事實(shí)上,昆明(找外圍)外圍大學(xué)生vx《192-1819-1410》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)自 ChatGPT開始流行至今,其數(shù)據(jù)安全性始終是人們關(guān)注的焦點(diǎn),而此時,其數(shù)據(jù)安全性已經(jīng)不可避免地成為了現(xiàn)實(shí)問題。

封殺、泄密、封號
意大利對中國煙草公司的禁令來得太突然了。
三月三十一日,意大利個人資料保護(hù)局宣布,從今天開始,將禁止名為 ChatGPT的聊天機(jī)器人的使用,并對 OpenAl對意大利用戶的資料進(jìn)行處理也將受到限制。這也是世界上首個明確規(guī)定對其進(jìn)行“封殺”的西方國家。
之所以頒布這項禁令,是因為意大利官員認(rèn)為, OpenAI并未對至少應(yīng)為13歲的 ChatGPT用戶的年齡進(jìn)行審查,而且也未對用戶信息的收集與處理作出任何通知,因此在大規(guī)模收集與儲存?zhèn)€人信息方面缺乏法律依據(jù)。
這是真的, ChatGPT沒有被冤枉。ChatGPT在最近發(fā)生了“用戶對話數(shù)據(jù)和支付服務(wù)的支付信息丟失”的事件。而這條消息,也得到了 OpenAI的官方證實(shí)。
不僅如此,最近,國際巨頭三星公司的 ChatGPT也出了問題,三星公司引入 ChatGPT不到二十天,便爆出三條關(guān)于半導(dǎo)體設(shè)備測量數(shù)據(jù)、產(chǎn)品良率等機(jī)密數(shù)據(jù)泄露,網(wǎng)上有傳言稱這三條數(shù)據(jù)已經(jīng)被存儲在了 ChatGPT公司的數(shù)據(jù)庫里。
這條消息一出,立刻在網(wǎng)絡(luò)上引起了軒然大波,韓媒體更是指出,由于三星公司的員工向 ChatGPT中輸入了公司的機(jī)密信息,導(dǎo)致相關(guān)內(nèi)容被存儲在了學(xué)習(xí)數(shù)據(jù)庫中。三星稱,為防止類似事件重演,已告誡其員工謹(jǐn)慎使用ChatGPT。如果此后仍有類似的事件發(fā)生,公司內(nèi)部網(wǎng)絡(luò)將會被禁止使用ChatGPT。
事實(shí)上,從開發(fā)之初,關(guān)于 ChatGPT可能會泄露公司數(shù)據(jù)的擔(dān)心就從未停止過。據(jù) Cyberhaven統(tǒng)計,在160萬打工者中,有8.2%曾經(jīng)在工作場合使用過它,很多人說,由于使用了它,他們的生產(chǎn)力“提高了10倍”。與此同時,6.5%的雇員說他們會把企業(yè)數(shù)據(jù)拷貝到ChatGPT中,3.1%的雇員說他們曾經(jīng)把企業(yè)機(jī)密數(shù)據(jù)存入ChatGPT。
相應(yīng)地,越來越多的公司由于擔(dān)心機(jī)密數(shù)據(jù)泄露而禁止其員工使用 ChatGPT,如摩根大通,美國銀行,花旗,高盛,德意志銀行等等。軟銀最近還通知了所有員工,關(guān)于禁止向 ChatGPT輸入機(jī)密信息的警告。看起來, ChatGPT確實(shí)可以提高生產(chǎn)力,但是它也確實(shí)可以將對話內(nèi)容用作訓(xùn)練數(shù)據(jù)。
就在 ChatGPT被封殺,機(jī)密被泄露的時候,又有大量的賬號被封。4月2號,各大社交平臺上都出現(xiàn)了關(guān)于 ChatGPT官方大范圍封號的消息,特別是針對亞洲的用戶。根據(jù)他收集到的信息,并不是所有的賬號都被影響了,有的能成功登陸,有的只能登陸手機(jī),有的則無法登陸。但是,對 ChatGPT來說,一場大規(guī)模的封殺行動似乎正在展開。市場調(diào)查顯示,數(shù)以百萬計的用戶帳號受此影響。關(guān)于新用戶的注冊,目前已經(jīng)無法進(jìn)入注冊頁面,更重要的是,許多收取代碼的平臺已經(jīng)在近期關(guān)閉。
除了 ChatGPT之外,3月30日,據(jù)國外媒體報道,目前最流行的 AI繪畫工具—— Midjourney,已經(jīng)停止了免費(fèi)使用。它的創(chuàng)立者和首席執(zhí)行官大衛(wèi)·霍爾茲在接受采訪時說,這一舉措主要是由于大量的新用戶涌入。David Holz在一篇名為“Discord”的社交軟件中提到了“怪異需求和試用濫用”。
從封殺到泄密再到封號, ChatGPT正被卷入一個又一個爭論中。

成于數(shù)據(jù),傷于數(shù)據(jù)
其成功的關(guān)鍵在于大數(shù)據(jù)的輔助。ChatGPT模型是基于大量的會話數(shù)據(jù)來訓(xùn)練的,這些數(shù)據(jù)來自于社會媒體,公眾論壇和其他一些未知的渠道。通過大量數(shù)據(jù)的訓(xùn)練, ChatGPT才能取得如此優(yōu)異的性能。
但是,它還意味著,這個模型一直處于各種可能含有相關(guān)敏感信息的對話之中。每一次升級都會帶來新的談話內(nèi)容,以及隱私泄漏的新風(fēng)險。為保障數(shù)據(jù)安全性,開發(fā)人員必須采取措施,以保證訓(xùn)練數(shù)據(jù)的隱私性。然而,事實(shí)卻并不是這樣。
由 ChatGPT引發(fā)的數(shù)據(jù)安全性問題主要有三個方面。首先,他要解決的就是這些數(shù)據(jù)的合法性問題。如 ChatGPT等大規(guī)模語言模型的訓(xùn)練需要海量的自然語言數(shù)據(jù),訓(xùn)練數(shù)據(jù)主要來源于互聯(lián)網(wǎng),而開發(fā)者 OpenAI對數(shù)據(jù)來源未作明確說明,使得訓(xùn)練數(shù)據(jù)的合法性受到質(zhì)疑。
歐洲數(shù)據(jù)保護(hù)委員會(European Data Commission Council)委員亞歷山大·漢夫(Alexander Hanff)認(rèn)為,“數(shù)據(jù)包”是一項商業(yè)性產(chǎn)品,盡管因特網(wǎng)上有很多可供查閱的信息,但是,在含有“禁止第三方數(shù)據(jù)爬取”條款的網(wǎng)站上收集大量數(shù)據(jù),卻違反了相關(guān)規(guī)定,不構(gòu)成合理使用。國際機(jī)器學(xué)習(xí)會議 ICML說,盡管 ChatGPT接受了公開數(shù)據(jù)的培訓(xùn),但是他們經(jīng)常未經(jīng)同意就收集了這些數(shù)據(jù)。此外,還有一些個人信息受到了 GDPR等的保護(hù),因此,爬取這些信息是違法的。
其次,就是使用該酶的過程中產(chǎn)生的數(shù)據(jù)泄露問題。目前, ChatGPT并沒有對用戶群體進(jìn)行太多的篩選,只要滿足了基本條件,就可以注冊成為用戶。此外,用戶在使用 ChatGPT之前,也不需要經(jīng)過專門的培訓(xùn),因此,它對用戶的使用沒有任何限制。這就是說,用戶可以很隨意、很開放的使用 ChatGPT。
因此,當(dāng)用戶為完成某種任務(wù)或?qū)崿F(xiàn)某種目標(biāo)時,可能會輸入一些敏感數(shù)據(jù)、商業(yè)秘密甚至機(jī)密信息,一個不注意就可能導(dǎo)致數(shù)據(jù)泄露。就像三星最近擔(dān)心的那樣,數(shù)據(jù)一旦輸入,將會被收集并使用,并且無法刪除或更改。
三月底, ChatGPT被曝出存在漏洞,會造成用戶聊天記錄、付款信息的丟失。這種情況曾一度造成 ChatGPT的暫時停業(yè)。在回應(yīng)中, OpenAI稱,該漏洞可能會使1.2%的 ChatGPT+用戶在9小時內(nèi)的付款信息泄露。而且,這個漏洞還會讓其他人看到用戶的聊天內(nèi)容和聊天記錄,如果里面有隱私信息,就有被泄露的危險。
最后,還有可能被惡意利用的 ChatGPT數(shù)據(jù)。OpenAI首席技術(shù)官米拉·穆拉蒂表示,有人可能利用 ChatGPT的自然語言編寫功能,編寫出一套可以規(guī)避反病毒軟件偵測的惡意程序;使用 ChatGPT的編寫功能,可以生成釣魚郵件;利用 ChatGPT的對話功能,冒充真實(shí)的個人或組織騙取他人信息等。
數(shù)據(jù)安全風(fēng)險的防范
為了保證數(shù)據(jù)的安全,最好的辦法就是將數(shù)據(jù)從物理上隔離開來,讓數(shù)據(jù)成為“死”的,這才是最“安全”的。但這會讓數(shù)據(jù)失去價值,因為數(shù)據(jù)的流動、共享和處理,都是有價值的。
數(shù)據(jù)安全治理的核心是保證數(shù)據(jù)的安全、可控制性和使用性,使其發(fā)揮價值。換言之,數(shù)據(jù)本身是無罪的,它不能得到安全的保護(hù)和使用。換言之,要實(shí)現(xiàn)數(shù)據(jù)安全性,關(guān)鍵在于具體的實(shí)現(xiàn)方式與管理手段。
因此,如何保證數(shù)據(jù)授權(quán),明確數(shù)據(jù)安全責(zé)任和科技公司義務(wù),以及如何避免隱私泄露和知識產(chǎn)權(quán)等風(fēng)險,是人工智能大規(guī)模進(jìn)入公共領(lǐng)域后必須要解決的首要問題。
可見,“數(shù)據(jù)本位”是數(shù)據(jù)安全工作的核心技術(shù)理念。這意味著,以數(shù)據(jù)的防竊取、防濫用、防誤用為主線,以數(shù)據(jù)生命周期內(nèi)各不同環(huán)節(jié)所涉及的信息系統(tǒng)、運(yùn)行環(huán)境、業(yè)務(wù)場景和操作人員等為圍繞數(shù)據(jù)安全保護(hù)的支撐。此外,數(shù)據(jù)要素的所有權(quán),使用,監(jiān)管,信息保護(hù),數(shù)據(jù)安全,都需要新的治理制度。這就要求“劃清紅線”,以規(guī)范體系為基礎(chǔ)。例如,明確開發(fā)人員、使用人員等主體的責(zé)任劃分與承擔(dān)方式;落實(shí)數(shù)據(jù)分類分級制度,明確數(shù)據(jù)獲取方式與方法的法律法規(guī)。
其次,數(shù)據(jù)安全的實(shí)現(xiàn)有賴于“用數(shù)字化治理”,即用數(shù)字化和智能化技術(shù)來優(yōu)化數(shù)據(jù)安全的技術(shù)系統(tǒng),從而提高數(shù)據(jù)安全的治理能力。例如,在數(shù)據(jù)安全遵從體系中引入 ChatGPT語言訓(xùn)練方法和算法遵從,加強(qiáng)技術(shù)監(jiān)管,并定期開展安全審計。
實(shí)際上,在數(shù)據(jù)生命周期的各個階段,數(shù)據(jù)所面臨的安全威脅以及所能采取的安全措施都是不同的。在數(shù)據(jù)收集階段,可能會出現(xiàn)收集到的數(shù)據(jù)直接被攻擊者竊取,或個人生物特征數(shù)據(jù)被非法儲存并面臨泄露的風(fēng)險;在數(shù)據(jù)存儲階段,可能會出現(xiàn)存儲系統(tǒng)受到入侵,進(jìn)而導(dǎo)致數(shù)據(jù)被盜,或存儲設(shè)備丟失導(dǎo)致數(shù)據(jù)泄露等情況;在數(shù)據(jù)處理過程中,由于算法的不當(dāng),可能會導(dǎo)致用戶個人信息的泄露等問題。
針對不同階段、不同視角的風(fēng)險,對其進(jìn)行“對癥下藥”,完善“治理技術(shù)”、“治理手段”和“治理模式”,可有效實(shí)現(xiàn)“超大尺度協(xié)同”、“精準(zhǔn)滴灌”、“雙向觸達(dá)”和“超時空預(yù)判”。
實(shí)現(xiàn)數(shù)據(jù)安全性不僅需要從上而下,而且需要從下而上。數(shù)據(jù)安全治理的核心目標(biāo)是在安全和發(fā)展之間找到一個平衡點(diǎn)。在這方面,需要讓企業(yè)有動力去提升和證明自身數(shù)據(jù)安全能力成熟度水平,讓數(shù)據(jù)安全能力成熟度高的企業(yè)擁有更大的發(fā)展空間和競爭優(yōu)勢。另一方面,應(yīng)加強(qiáng)對用戶數(shù)據(jù)安全風(fēng)險的認(rèn)識,并制定相應(yīng)的安全規(guī)范。
隨著人工智能技術(shù)的飛速發(fā)展,數(shù)據(jù)作為戰(zhàn)略資源的基本屬性越來越突出。在數(shù)據(jù)安全管理方面, ChatGPT只是第一步,而且是不可避免的重要步驟。