該標準全稱為《信息技術神經網絡表示與模型壓縮第一部分:卷積神經網絡》(GB/T 42382.1-2023),由華為、百度、北京大學、鵬城實驗室等 16 家單位共同編制。將于2023年10月1日正式實施。
本次“生成式 AI 服務管理辦法公布征求意見稿”的意見反饋截止時間為 2023 年 5 月 10 日。
針對爆火的生成式 AI 產業,各國政府和科技巨頭正在加速規范政策的出臺以應對。
“國標”誕生始末
該國家標準是由鵬城實驗室網絡智能研究部副主任田永鴻教授帶領的云腦項目團隊牽頭制定,華為、百度、北京大學等 16 家單位共同編制。屬于該項目團隊在 AI 模型領域全球標準體系化布局中國內標準推進工作的重要成果。
2017 年 12 月,鵬城實驗室云腦項目團隊正式啟動了標準研制。在標準推進策略上,云腦項目團隊采用國際國內“兩條腿”模式,根據標準研制中不同標準化組織相關方的反饋對標準進行迭代優化。
第一條腿邁向國際。
2022年,云腦項目團隊牽頭在 IEEE 成功發布《Standard for Artificial Intelligence (AI) Model Representation, Compression, Distribution and Management》標準(《人工智能(AI)模型表示 、壓縮 、分發和管理標準》),該標準在前期工作的基礎上進一步結合了全球領域內更廣泛的意見,形成了更具有國際市場適配性的全球首個 AI 模型國際標準,云腦項目團隊后來還在國際電信聯盟電信標準分局 ITU-T 成功立項新一代 AI 模型表示技術標準。
第二條腿深踞國內。
2021 年 10 月 21 日,云腦團隊在新一代人工智能產業技術創新戰略聯盟 AITISA 發布了《信息技術 神經網絡表示與模型壓縮第一部分:卷積神經網絡》團體標準,并在該團體標準的基礎上進行迭代優化,最終形成了本次發布的國標。至此,首個全球 AI 模型表示與壓縮技術標準體系布局基本成型。
該系列標準根據當前 AI 產業界在資源受限設備和 AI 模型部署方面的需求,管理辦法涉及的生成式人工智能包括基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。
該系列部分標準已在 AI 開發框架(百度)、AI 芯片(華為海思)和 AI 開放平臺(海康威視)等領域得到應用。本次發布的系列標準輻射到 AMD Xilinx 賽靈思等國際 AI 領軍公司。
網信辦公開征求意見
國家網信辦就《生成式人工智能服務管理辦法(征求意見稿)》公開征求意見,意見反饋截止時間為2023年5月10日。
網信辦稱,為促進生成式人工智能技術健康發展和規范應用,根據《中華人民共和國網絡安全法》等法律法規,國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法(征求意見稿)》,現向社會公開征求意見。
重要看點有——
1、國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作,鼓勵優先采用安全可信的軟件、工具、計算和數據資源。
2、利用生成式人工智能生成的內容應當體現社會主義核心價值觀,不得含有顛覆國家政權、推翻社會主義制度,煽動分裂國家、破壞國家統一,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、淫穢色情信息,虛假信息,以及可能擾亂經濟秩序和社會秩序的內容。
3、利用生成式人工智能生成的內容應當真實準確,采取措施防止生成虛假信息。
4、禁止非法獲取、披露、利用個人信息和隱私、商業秘密。
5、利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人(以下稱“提供者”)承擔該產品生成內容生產者的責任;涉及個人信息的,承擔個人信息處理者的法定責任,履行個人信息保護義務。
6、提供者發現用戶利用生成式人工智能產品過程中違反法律法規,違背商業道德、社會公德行為時,包括從事網絡炒作、惡意發帖跟評、制造垃圾郵件、編寫惡意軟件,實施不正當的商業營銷等,應當暫停或者終止服務。
7、提供者應當明確并公開其服務的適用人群、場合、用途,采取適當措施防范用戶過分依賴或沉迷生成內容。
8、用生成式人工智能產品向公眾提供服務前,應當向國家網信部門申報安全評估。
9、提供者應當按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內容進行標識。
10、提供者在提供服務過程中,對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息,不得根據用戶輸入信息和使用情況進行畫像,不得向他人提供用戶輸入信息。
11、提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責。對標注人員進行必要培訓,明確并公開其服務的適用人群、場合、用途,對用戶的輸入信息和使用記錄承擔保護義務。
國外科技巨頭正在推進生成式AI標準出臺
維科網人工智能之前有報道,以馬斯克、諾獎得主等多位科技行業大佬聯名發表了一封公開信,呼吁 OpenAI 和其他公司暫停開發更強人工智能技術,暫停時間要求持續6個月,在此期間制定并落實安全協議。
此呼吁引發社會各界對人工智能技術進行監管的重視,但目前尚未通過任何重大立法,各國政府和科技巨頭們正有意促成 AI 使用標準的制定。
外媒報道,4月11日,頂級投資公司 SV Angel 召集了全球科技巨頭代表就“如何以最負責任的態度繼續開發人工智能”為題開展會議。出席會議的有OpenAI、微軟、谷歌、蘋果、英偉達、Stability AI、Hugging Face 和 Anthropic 等公司代表。
該會議目前仍在協調中,并未有商議結果釋出。美國議員們同樣認為有必要對人工智能技術進行監管,但目前尚未通過任何重大立法。