文:彭思雨 來源:中國(guó)證券報·中證網
國(guó)家網信辦7月13日消息,近日,國(guó)家網信辦聯合國(guó)家發(fā)展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布《生成(chéng)式人工智能(néng)服務管理暫行辦法》,自2023年8月15日起(qǐ)施行。《辦法》提出,鼓勵生成(chéng)式人工智能(néng)算法、框架、芯片及配套軟件平台等基礎技術的自主創新,鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源;生成(chéng)式人工智能(néng)服務提供者應當依法開(kāi)展預訓練、優化訓練等訓練數據處理活動。
重視安全可信
随著(zhe)生成(chéng)式人工智能(néng)技術的快速發(fā)展,爲經(jīng)濟社會(huì)發(fā)展帶來新機遇的同時,也産生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題。國(guó)家互聯網信息辦公室有關負責人表示,制定《辦法》是落實《網絡安全法》《數據安全法》《個人信息保護法》《科學(xué)技術進(jìn)步法》有關規定的重要要求,明确了促進(jìn)生成(chéng)式人工智能(néng)技術發(fā)展的具體措施,規定生成(chéng)式人工智能(néng)服務的基本規範,進(jìn)一步規範數據處理等活動。
在促進(jìn)發(fā)展具體措施上,《辦法》提出,一是鼓勵生成(chéng)式人工智能(néng)技術在各行業、各領域的創新應用,生成(chéng)積極健康、向(xiàng)上向(xiàng)善的優質内容,探索優化應用場景,構建應用生态體系。
二是支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成(chéng)式人工智能(néng)技術創新、數據資源建設、轉化應用、風險防範等方面(miàn)開(kāi)展協作。
三是鼓勵生成(chéng)式人工智能(néng)算法、框架、芯片及配套軟件平台等基礎技術的自主創新,平等互利開(kāi)展國(guó)際交流與合作,參與生成(chéng)式人工智能(néng)相關國(guó)際規則制定。
四是提出推動生成(chéng)式人工智能(néng)基礎設施和公共訓練數據資源平台建設。促進(jìn)算力資源協同共享,提升算力資源利用效能(néng)。推動公共數據分類分級有序開(kāi)放,擴展高質量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。
規範數據處理
《辦法》制定了生成(chéng)式人工智能(néng)服務規範和數據處理要求。
《辦法》要求,采取有效措施防範未成(chéng)年人用戶過(guò)度依賴或者沉迷生成(chéng)式人工智能(néng)服務。規定提供者應當按照《互聯網信息服務深度合成(chéng)管理規定》對(duì)圖片、視頻等生成(chéng)内容進(jìn)行标識。規定提供者發(fā)現違法内容的,應當及時采取停止生成(chéng)、停止傳輸、消除等處置措施并采取模型優化訓練等措施進(jìn)行整改。明确提供者發(fā)現使用者利用生成(chéng)式人工智能(néng)服務從事(shì)違法活動的,應當依法依約采取有關處置措施,保存有關記錄,并向(xiàng)有關主管部門報告。
數據治理方面(miàn),《辦法》明确,生成(chéng)式人工智能(néng)服務提供者應當依法開(kāi)展預訓練、優化訓練等訓練數據處理活動,使用具有合法來源的數據和基礎模型;涉及知識産權的,不得侵害他人依法享有的知識産權;涉及個人信息的,應當取得個人同意或者符合法律、行政法規規定的其他情形;采取有效措施提高訓練數據質量,增強訓練數據的真實性、準确性、客觀性、多樣(yàng)性。此外,明确了數據标注的相關要求。
數據監管方面(miàn),《辦法》提出,有關主管部門依據職責對(duì)生成(chéng)式人工智能(néng)服務開(kāi)展監督檢查,提供者應當依法予以配合,按要求對(duì)訓練數據來源、規模、類型、标注規則、算法機制機理等予以說明,并提供必要的技術、數據等支持和協助。