三星率先接入ChatGPT狂飆，但在20天內翻車了。

韓媒消息，三星電子引入ChatGPT不到20天，就曝出 3 起內部機密資料外泄事故。其中，2 起跟半導體設備有關，1 起跟會議內容有關。

目前，這些機密資料已被存入 ChatGPT 的數(shù)據(jù)庫中，或將導致半導體設備測量資料、產品良率原封不動傳輸給了美國公司。

怎么出的事？

本次三星使用 ChatGPT 泄密事件共有 3 起，2 起與半導體設備有關，1 項與會議內容有關。

設計芯片設備的事件中，三星半導體事業(yè)暨裝置解決方案（Device Solutions）部門的員工于操作半導體測試設備下載軟件的過程中，發(fā)現(xiàn)復制有問題，即把有問題的代碼復制到 ChatGPT 中尋找答案，此舉有可能令 ChatGPT 把三星的機密信息當作訓練資料使用。

另一事件同樣發(fā)生在該部門，借助 ChatGPT 來優(yōu)化代碼，只不過此代碼是涉及芯片良率的。三星 DS 部門于 3月 11日才允許員工使用 ChatGPT，不到 20 天時間便出現(xiàn)了意外。

第三起則是讓 ChatGPT 記錄會議內容，雖然不是技術機密，但仍可能導致會議內容外泄。

三星的反應

目前，三星正在制定相關保護措施杜絕類似事故再發(fā)生。綜合 Economist、SBS 等韓媒消息，三星方面稱，如遇類似事故，三星內部可能會切斷 ChatGPT 服務。

如果切斷一旦發(fā)生，三星“運算新事業(yè)組”所研發(fā)的“新一代超大型 AI 方向定制款存儲器”這一明星項目也將被叫停，這對三星的損失是巨大的。

最初三星也因擔憂內部機密外泄而禁用 ChatGPT，不過基于半導體是“生成式 AI”的建構基礎，三星自2023年3月11日起放行 DS 部門使用 ChatGPT，但裝置體驗（Device eXperience；DX）部門仍禁用 ChatGPT。

三星在 ChatGPT 的使用指南中也特別呼吁職員注意 ChatGPT 的使用方式，并提醒使用者在 ChatGPT 輸入內容后，相關資料都將傳送到外部服務器無法回收。

三星 DS 部門放行 ChatGPT 不到20天，就出現(xiàn)內部機密資料外泄疑慮，證實先前部分觀點的擔憂，三星也在認知內部資料外泄風險后，緊急將每一個 ChatGPT提問容量限制在 1，024 byte 以下，日后不排除懲處。

信息泄露引發(fā)廣泛憂慮

數(shù)據(jù)安全公司Cyberhaven的研究人員分析了不同行業(yè)客戶的160 萬員工的ChatGPT 使用情況——企業(yè)員工平均每周向 ChatGPT 泄露敏感數(shù)據(jù)達數(shù)百次，一周內約有 10萬名員工的機構，向基于 AI 的聊天機器人提供機密文件199 次、客戶數(shù)據(jù)173 次，以及源代碼159 次。

隨著更多服務通過API 集成ChatGPT技術，在未來幾個月內信息安全事件可能會迅速增加。

出于對機密數(shù)據(jù)泄露的憂慮，美國銀行、花旗集團、德意志銀行、高盛集團、富國銀行、摩根大通和 Verizon 等越來越多的機構禁止員工使用 ChatGPT 聊天機器人處理工作任務。

許多日本大公司也限制了ChatGPT 和類似聊天機器人的商業(yè)用途。該名單包括軟銀、富士通、瑞穗金融集團、三菱日聯(lián)銀行、三井住友銀行等。

三星被爆信息泄露第二天，意大利國家數(shù)據(jù)保護局宣布全國范圍內禁用 ChatGPT。緣因對 OpenAI 公司的調查中出現(xiàn)了“數(shù)據(jù)泄露”“非法收集用戶信息”等危險行為。

可見，技術帶來的數(shù)據(jù)安全隱患，包括數(shù)據(jù)獲取、隱私泄露、惡意濫用、跨境合規(guī)等等，正在不斷引發(fā)各方重視。