97碰视频人人视频香蕉,cao最新免费国产地址

重磅！我國(guó)首部《生成式人工智能服務(wù)管理辦法》即將立法審議

2023-06-12 09:45

隨著生成式AI的快速發(fā)展，全社會(huì)開(kāi)始對(duì)該技術(shù)存在的隱患擔(dān)憂(yōu)。近日來(lái)，全球各國(guó)政府都在尋求建立和完善生成式AI的監(jiān)管機(jī)制，以引導(dǎo)未來(lái)AI技術(shù)的可控和可持續(xù)的健康發(fā)展。

在這場(chǎng)和AI賽跑的時(shí)間爭(zhēng)奪戰(zhàn)中，中國(guó)依靠立法走在了AI監(jiān)管的前列。

6月8日，國(guó)務(wù)院辦公廳日前印發(fā)了《國(guó)務(wù)院 2023 年度立法工作計(jì)劃》，其中顯示，《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》等預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議。

“AI監(jiān)管”，正在進(jìn)行時(shí)

目前，由ChatGPT引發(fā)的AI熱潮正在全球蔓延。經(jīng)過(guò)多年的技術(shù)迭代、樣本積累和算力的爆發(fā)增長(zhǎng)，生成式人工智能迎來(lái)了真正的“涌現(xiàn)能力”節(jié)點(diǎn)。

這股潮流被視作“百年來(lái)不可錯(cuò)失之機(jī)遇”。國(guó)內(nèi)外科技巨頭、互聯(lián)網(wǎng)大廠(chǎng)紛紛下場(chǎng)參戰(zhàn)，大大小小的AI大模型如雨后春筍，霎時(shí)間擠滿(mǎn)了生成式AI賽道。

而“野蠻生長(zhǎng)”的背后，往往隱藏著不可預(yù)知的威脅。自去年底ChatGPT爆火以來(lái)，生成式AI從一定程度上降低了相關(guān)技術(shù)的操作門(mén)檻。隨之，有關(guān)AI詐騙、AI非法換臉等利用AI技術(shù)侵犯人權(quán)和財(cái)產(chǎn)的犯罪事件層出不窮。

技術(shù)層面，AI訓(xùn)練和處理數(shù)據(jù)涉及個(gè)人信息，隱私泄露和安全問(wèn)題尤為突出。其次，現(xiàn)階段生成式AI大模型通常采用“黑箱”技術(shù)，AI系統(tǒng)無(wú)法“解釋”其行為或決策的標(biāo)準(zhǔn)，可能產(chǎn)生誤導(dǎo)性和歪曲性。

此外，數(shù)據(jù)投毒攻擊、對(duì)抗樣本攻擊也對(duì)生態(tài)和國(guó)家安全存在威脅。

面對(duì)生成式AI迅猛的發(fā)展速度，實(shí)行嚴(yán)格的監(jiān)管制度勢(shì)在必行。

2023年4月11日，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī)，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（下文簡(jiǎn)稱(chēng)“《征求意見(jiàn)稿》”或“《新規(guī)》”），并就《征求意見(jiàn)稿》向社會(huì)公開(kāi)征求意見(jiàn)。

鑒于生成式AI的利弊表現(xiàn)，征求意見(jiàn)稿提出一系列相應(yīng)要求：生成式人工智能產(chǎn)品提供服務(wù)前需申報(bào)安全評(píng)估；需對(duì)生成的圖片、視頻進(jìn)行標(biāo)識(shí)；內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確；不利用生成內(nèi)容損害他人形象、名譽(yù)以及其他合法權(quán)益，不進(jìn)行商業(yè)炒作、不正當(dāng)營(yíng)銷(xiāo)等。

圖源：中國(guó)司法部官網(wǎng)

在征求意見(jiàn)稿公布之前，國(guó)際上尚無(wú)一部規(guī)制生成式人工智能的法律法規(guī)。此次意見(jiàn)稿率先發(fā)布，也反映了中國(guó)在人工智能治理領(lǐng)域的先發(fā)位置。

早在ChatGPT爆火之前，我國(guó)已對(duì)生成式人工智能有所關(guān)注，并開(kāi)始為規(guī)范和監(jiān)管生成式AI布局。

2022年3月，我國(guó)頒布實(shí)施了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，其中對(duì)生成式AI的“深度合成技術(shù)”加以關(guān)注，將生成合成類(lèi)算法作為五類(lèi)算法推薦服務(wù)規(guī)制對(duì)象之首，從而將深度合成算法技術(shù)納入我國(guó)算法監(jiān)管體系之中。

2023年1月，我國(guó)已經(jīng)開(kāi)始施行《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，這是中國(guó)首部專(zhuān)門(mén)針對(duì)人工智能特定技術(shù)制定的法規(guī)。

事實(shí)上，AI監(jiān)管這條賽道上，不止有中國(guó)。

“AI監(jiān)管”，下一個(gè)增量賽道

類(lèi)GPT大模型表現(xiàn)出來(lái)的不受控和無(wú)視規(guī)則，讓各界奔走呼吁，加強(qiáng)AI監(jiān)管。

包括AI“教父”杰弗里辛頓，“ChatGPT之父”、OpenAI創(chuàng)始人薩姆奧特曼，Google DeepMind 首席執(zhí)行官戴米斯哈薩比斯，以及2018年圖靈獎(jiǎng)得主約書(shū)亞本希奧在內(nèi)的等AI領(lǐng)域的大佬，紛紛在不同場(chǎng)合表達(dá)了關(guān)于對(duì)AI立即采取監(jiān)管措施的訴求。

關(guān)于推進(jìn)AI監(jiān)管的公開(kāi)信，全球也已陸續(xù)簽署了多篇。為應(yīng)對(duì)呼吁和督促，世界各國(guó)政府也在抓緊推進(jìn)相關(guān)的限制和監(jiān)管舉措。

4月11日，美國(guó)商務(wù)部也開(kāi)始正式公開(kāi)征求意見(jiàn)，其中包括新人工智能模型在發(fā)布前是否應(yīng)經(jīng)過(guò)認(rèn)證程序等內(nèi)容。

5月11日，歐洲議會(huì)內(nèi)部市場(chǎng)委員會(huì)和公民自由委員會(huì)通過(guò)了歐盟委員會(huì)提出的“人工智能法案”提案的談判授權(quán)草案，該草案將于6月中旬提交歐洲議會(huì)全會(huì)表決。

5月11日，日本政府召開(kāi)了“AI戰(zhàn)略會(huì)議”，討論如何妥善應(yīng)對(duì)AI的潛力和風(fēng)險(xiǎn)。

5月16日，美國(guó)國(guó)會(huì)召開(kāi)主題為“AI監(jiān)管：人工智能規(guī)則的聽(tīng)證會(huì)”，首次對(duì)OpenAI創(chuàng)始人薩姆奧特曼質(zhì)詢(xún)，參議院表示該場(chǎng)聽(tīng)證會(huì)開(kāi)啟了對(duì)人工智能先進(jìn)算法和強(qiáng)大技術(shù)的監(jiān)督和闡釋工作。

5月24日，歐盟委員會(huì)宣布其正著手在法律正式生效之前制定一項(xiàng)涉及歐洲和非歐洲公司的AI協(xié)議。

6 月 8 日，英國(guó)政府宣布，今年秋天將舉辦有史以來(lái)第一次人工智能安全全球峰會(huì)。這次峰會(huì)將邀請(qǐng)關(guān)鍵國(guó)家、領(lǐng)先的科技公司和研究人員，共同討論評(píng)估和監(jiān)督人工智能帶來(lái)的最重大風(fēng)險(xiǎn)的安全措施。

圖源 Pexels

由此可見(jiàn)，AI的“全面監(jiān)管”時(shí)代即將到來(lái)。

而對(duì)AI進(jìn)行監(jiān)管，有業(yè)內(nèi)人士表示，嚴(yán)格的監(jiān)管措施可能會(huì)阻礙AI技術(shù)的進(jìn)一步發(fā)展。但是要看到，目前為止的AI技術(shù)革新，來(lái)自于之前已經(jīng)納入發(fā)展規(guī)范的各領(lǐng)域技術(shù)的融合。合理的監(jiān)管，是促進(jìn)技術(shù)正向發(fā)展的必要條件。

法立于上，則俗成于下。我國(guó)出臺(tái)的《生成式人工智能服務(wù)管理辦法》以及世界各國(guó)即將落地的監(jiān)管政策，將為生成式AI劃定“邊界”和“底線(xiàn)”，同樣也為AI技術(shù)圈定適宜的生存空間。

創(chuàng)新技術(shù)的存在，是為造福人類(lèi)。已經(jīng)開(kāi)始飛奔的AI技術(shù)，不可能按下暫停鍵，但是可以引導(dǎo)他駛向光明的未來(lái)。

附《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》：

第一條為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律、行政法規(guī)，制定本辦法。

第二條研發(fā)、利用生成式人工智能產(chǎn)品，面向中華人民共和國(guó)境內(nèi)公眾提供服務(wù)的，適用本辦法。

本辦法所稱(chēng)生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

第三條國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。

第四條提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗，符合以下要求：

（一）利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀(guān)。

（二）在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過(guò)程中，采取措施防止出現(xiàn)種族、民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)等歧視。

（三）尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)實(shí)施不公平競(jìng)爭(zhēng)。

（四）利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息。

（五）尊重他人合法利益，防止傷害他人身心健康，損害肖像權(quán)、名譽(yù)權(quán)和個(gè)人隱私，侵犯知識(shí)產(chǎn)權(quán)。禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

第五條利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人（以下稱(chēng)“提供者”），包括通過(guò)提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；涉及個(gè)人信息的，承擔(dān)個(gè)人信息處理者的法定責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。

第六條利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門(mén)申報(bào)安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷(xiāo)備案手續(xù)。

第七條提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來(lái)源的合法性負(fù)責(zé)。

用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)，應(yīng)滿(mǎn)足以下要求：

（一）符合《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī)的要求；

（二）不含有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容；

（三）數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形；

（四）能夠保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀(guān)性、多樣性；

（五）國(guó)家網(wǎng)信部門(mén)關(guān)于生成式人工智能服務(wù)的其他監(jiān)管要求。

第八條生成式人工智能產(chǎn)品研制中采用人工標(biāo)注時(shí)，提供者應(yīng)當(dāng)制定符合本辦法要求，清晰、具體、可操作的標(biāo)注規(guī)則，對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，抽樣核驗(yàn)標(biāo)注內(nèi)容的正確性。

第九條提供生成式人工智能服務(wù)應(yīng)當(dāng)按照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》規(guī)定，要求用戶(hù)提供真實(shí)身份信息。

第十條提供者應(yīng)當(dāng)明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途，采取適當(dāng)措施防范用戶(hù)過(guò)分依賴(lài)或沉迷生成內(nèi)容。

第十一條提供者在提供服務(wù)過(guò)程中，對(duì)用戶(hù)的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶(hù)身份的輸入信息，不得根據(jù)用戶(hù)輸入信息和使用情況進(jìn)行畫(huà)像，不得向他人提供用戶(hù)輸入信息。法律法規(guī)另有規(guī)定的，從其規(guī)定。

第十二條提供者不得根據(jù)用戶(hù)的種族、國(guó)別、性別等進(jìn)行帶有歧視性的內(nèi)容生成。

第十三條提供者應(yīng)當(dāng)建立用戶(hù)投訴接收處理機(jī)制，及時(shí)處置個(gè)人關(guān)于更正、刪除、屏蔽其個(gè)人信息的請(qǐng)求；發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權(quán)、名譽(yù)權(quán)、個(gè)人隱私、商業(yè)秘密，或者不符合本辦法要求時(shí)，應(yīng)當(dāng)采取措施，停止生成，防止危害持續(xù)。

第十四條提供者應(yīng)當(dāng)在生命周期內(nèi)，提供安全、穩(wěn)健、持續(xù)的服務(wù)，保障用戶(hù)正常使用。

第十五條對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶(hù)舉報(bào)的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過(guò)濾等措施外，應(yīng)在 3 個(gè)月內(nèi)通過(guò)模型優(yōu)化訓(xùn)練等方式防止再次生成。

第十六條提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)。

第十七條提供者應(yīng)當(dāng)根據(jù)國(guó)家網(wǎng)信部門(mén)和有關(guān)主管部門(mén)的要求，提供可以影響用戶(hù)信任、選擇的必要信息，包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來(lái)源、規(guī)模、類(lèi)型、質(zhì)量等描述，人工標(biāo)注規(guī)則，人工標(biāo)注數(shù)據(jù)的規(guī)模和類(lèi)型，基礎(chǔ)算法和技術(shù)體系等。

第十八條提供者應(yīng)當(dāng)指導(dǎo)用戶(hù)科學(xué)認(rèn)識(shí)和理性使用生成式人工智能生成的內(nèi)容，不利用生成內(nèi)容損害他人形象、名譽(yù)以及其他合法權(quán)益，不進(jìn)行商業(yè)炒作、不正當(dāng)營(yíng)銷(xiāo)。

用戶(hù)發(fā)現(xiàn)生成內(nèi)容不符合本辦法要求時(shí)，有權(quán)向網(wǎng)信部門(mén)或者有關(guān)主管部門(mén)舉報(bào)。

第十九條提供者發(fā)現(xiàn)用戶(hù)利用生成式人工智能產(chǎn)品過(guò)程中違反法律法規(guī)，違背商業(yè)道德、社會(huì)公德行為時(shí)，包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評(píng)、制造垃圾郵件、編寫(xiě)惡意軟件，實(shí)施不正當(dāng)?shù)纳虡I(yè)營(yíng)銷(xiāo)等，應(yīng)當(dāng)暫�；蛘呓K止服務(wù)。

第二十條提供者違反本辦法規(guī)定的，由網(wǎng)信部門(mén)和有關(guān)主管部門(mén)按照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律、行政法規(guī)的規(guī)定予以處罰。

法律、行政法規(guī)沒(méi)有規(guī)定的，由網(wǎng)信部門(mén)和有關(guān)主管部門(mén)依據(jù)職責(zé)給予警告、通報(bào)批評(píng)，責(zé)令限期改正；拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停或者終止其利用生成式人工智能提供服務(wù)，并處一萬(wàn)元以上十萬(wàn)元以下罰款。構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。

第二十一條本辦法自 2023 年月日起實(shí)施。