大廠“禁用”ChatGPT

Callejon

不久之前，三星推出了一項新政策,，要求員工不得在工作場所使用OpenAI的ChatGPT和谷歌Bard等生成式人工智能,。

目前，三星員工被禁止在公司設(shè)備上使用人工智能工具,，包括電腦,、平板電腦、手機等,。但員工仍可以在個人設(shè)備上使用人工智能工具,，不過僅限于與工作無關(guān)的事情。備忘錄中還強調(diào),，要求員工認真遵守安全準(zhǔn)則,，若違規(guī)并導(dǎo)致公司信息或數(shù)據(jù)泄露的話,，員工將得到紀(jì)律處分，情節(jié)嚴重者將被解雇,。

事實上,，在三星這項“嚴厲”的新政策之前，全球范圍內(nèi),，不少企業(yè)便陸續(xù)發(fā)布了“限制”自家員工使用ChatGPT的公告,。

首先對ChatGPT發(fā)出“不友好”聲音的企業(yè)，來自金融行業(yè),。

ChatGPT掀起熱潮不久后,，今年2月，JP摩根大通,、美國銀行,、花旗、富國銀行等華爾街巨頭陸續(xù)表示將禁止或限制使用ChatGPT,。據(jù)了解,，摩根大通不準(zhǔn)員工在辦公室使用ChatGPT，其表示,，有關(guān)禁令并非源自任何特定事件,，而是基于公司對第三方軟件的正常管控。

美國銀行例行提醒員工切勿使用未經(jīng)授權(quán)軟件時,，也特別點名提到ChatGPT,。德意志銀行更是表明，嚴禁員工在公司內(nèi)用ChatGPT,，并從內(nèi)部阻斷連接OpenAI網(wǎng)站,。而盡管高盛鼓勵編程人員采用AI來輔助編程，但禁止旗下交易員使用ChatGPT,。

日本方面,，軟銀、日立,、富士通,、日本瑞穗金融集團等企業(yè)也開始限制ChatGPT等交互式人工智能服務(wù)在商業(yè)運作中的使用。

相比金融行業(yè),，科技行業(yè)的動作絲毫不慢,。

今年3月初，臺積電發(fā)布了一系列內(nèi)部公告,，提醒員工謹慎使用網(wǎng)絡(luò)工具如ChatGPT或Bing AI Chat等,。除三星外，同屬韓國企業(yè)的全球第二大存儲芯片巨頭SK海力士亦稱“除必要時刻外”,，禁止公司內(nèi)網(wǎng)使用ChatGPT,。

不可否認,，ChatGPT這樣的生成式AI對提高工作效率很有幫助，但對于這樣一個還不足夠成熟的AI工具來說,，它所展現(xiàn)出的負面效應(yīng),，并不小于它的正面效應(yīng)。就如同一把雙刃劍,，在沒有“劍鞘”作為一種保護機制出現(xiàn)之前,，對于ChatGPT的“圍剿”絕對不會停止。

能夠預(yù)料的是,，禁用ChatGPT的企業(yè),，仍然會持續(xù)增加。

數(shù)據(jù)安全是核心原因

ChatGPT的火爆,，實際上是“深度學(xué)習(xí)”大模型的成功,。

生成式AI工具，離不開大數(shù)據(jù)的幫助,。它的進化,，需要海量的數(shù)據(jù)來訓(xùn)練，通過感應(yīng)器采集數(shù)據(jù),，進行信息存儲,、加工，通過算力進行計算,，最后形成決策機制,，進行反饋。龐大的數(shù)據(jù)訓(xùn)練,，造就了ChatGPT強大功能，但這也意味著,，ChatGPT實際上在不斷地接觸各種對話,，其中可能包含相關(guān)的敏感信息。

無論是個人,、企業(yè),，還是國家層面，機密數(shù)據(jù),、文件隱私,，都有可能在使用過程中被ChatGPT采集到，從而被大規(guī)模地擴散,。這些數(shù)據(jù)的泄露,，也很有可能會對個人、企業(yè),，甚至是國家造成重大的損失,。

三星無疑是一個典型的“受害者”,。

據(jù)了解，今年3月三星的半導(dǎo)體事業(yè)暨裝置解決方案事業(yè)部（DS）部門允許員工使用ChatGPT,，隨后20天內(nèi)就發(fā)生了三起將公司內(nèi)部半導(dǎo)體數(shù)據(jù)上傳到ChatGPT的事件,。

其中，員工A用ChatGPT幫自己查一段代碼的bug,；員工B想用ChatGPT幫自己優(yōu)化一段代碼,；員工C想先用AI語音助手Naver Clova將自己的會議錄音轉(zhuǎn)成文字，再用ChatGPT幫他總結(jié)一下會議內(nèi)容,，做成摘要,。

前兩起案件已分別導(dǎo)致三星公司的半導(dǎo)體設(shè)備測量資料、產(chǎn)品良率等機密內(nèi)容錄入到ChatGPT的學(xué)習(xí)資料庫中,，這讓三星很是擔(dān)憂其數(shù)據(jù)將通過人工智能平臺最終落入其他用戶手中,。

不止三星，數(shù)據(jù)安全服務(wù)Cyberhaven曾檢測到并阻止了其客戶公司160萬名員工中,，4.2%的人將數(shù)據(jù)輸入ChatGPT的請求,，因為存在泄露機密信息、客戶數(shù)據(jù),、源代碼或監(jiān)管信息的風(fēng)險,。

Cyberhaven還發(fā)現(xiàn)，隨著ChatGPT的應(yīng)用率越來越高,，給它上傳企業(yè)數(shù)據(jù)的打工人數(shù)量也越來越多,。一天之內(nèi)（3月14日），每10萬名員工就平均給ChatGPT發(fā)送了5267次次企業(yè)數(shù)據(jù),。

ll1z2y3

保密嚴格的很正常

Wong1998

出現(xiàn)過泄露,，三星這么做也是正常