過去幾個月，ChatGPT為人工智能技術按下加速鍵。這個聊天程序證明了超大參數模型和通用型人工智能的可行性，谷歌、亞馬遜等巨頭紛紛推出自主研發的相關平臺，國內也已有十數家企業在該領域有所布局。

它們被統稱為“生成式人工智能”。簡單來說，這種AI可以通過算法生成新內容，包括圖像、文字、音樂，甚至視頻、代碼等。

這令人興奮也不乏擔憂。數據安全、個人隱私、信息造假、算法歧視……各國監管部門對一系列潛在風險反應迅速，動作不斷。

(資料圖片僅供參考)

3月底，意大利個人數據保護局宣布暫時禁止使用ChatGPT，歐盟多個國家跟進，醞釀具體監管措施。美國商務部4月公開征求意見，討論新人工智能模型在發布前是否應經過認證程序等內容。我國國家網信辦也于近日發布《生成式人工智能服務管理辦法（征求意見稿）》，針對準入門檻、數據來源、標注規則等作出明確規定。

風險到哪里 監管到哪里

“相比以往的AI技術，生成式AI可以直接利用自然語言和計算機進行交互，使用門檻低，生成內容質量高。”世輝律師事務所合伙人、律師王新銳對科技日報記者表示，“這讓其一旦被濫用或誤用，迷惑性比以往的人工智能技術更強，潛在損害也更大。并且它有可能成為一種影響各行業的底座型技術。”

除了涉及數據安全、個人信息保護等傳統問題，中國互聯網協會研究中心副主任吳沈括強調，生成式AI也給內容治理、社會運行產生沖擊和影響，這給現有的治理體制機制的敏捷性、覆蓋性和穿透性帶來很大挑戰。

據王新銳介紹，目前，意大利、西班牙、德國、加拿大、英國等國家出于數據和隱私保護的考慮對ChatGPT及其開發者展開調查，此外，域外有可能將ChatGPT等生成式AI列入高風險人工智能清單，希望通過立法防范其風險。

吳沈括表示，前述主要國家對于生成式AI的監管依然從經典的數據治理、數據安全的角度切入，在他們看來，生成式AI的核心邏輯在于海量數據的匯集、加工、處理以及豐富的運算輸出，因此，采取數據治理的思路順理成章。

但回到我國，僅從數據治理出發還不夠，“我們的關切涉及內容治理、消費者權益、透明度、公平性、知識產權保護等各個方面，基本覆蓋了目前與生成式AI相關的主要風險類型，故而采取的是一種風險預防、風險干預的多層次綜合治理思路。”吳沈括說。

建構多方參與的治理生態

技術大步向前，如何平衡技術創新和政策管理，考驗各方智慧。

“一方面，我們需要加強數據隱私和個人信息安全的保護，對生成式AI從訓練到投入使用的全生命周期的個人信息的處理和數據保護作出規范。另一方面，從生成式AI可能帶來的風險出發，在現有法律框架上進一步建立健全生成式AI產業各方主體治理框架和問責機制，落實生成式AI相關主體的權利義務。”王新銳說，下一步需要進一步細化落實平臺合規機制、加強科技倫理要求、確保算法安全并建立健全問責機制、促進高質量數據合法合規地流通共享。

吳沈括提出，治理規則的明確性和確定性需要不斷提升，努力打造實時、敏捷、全面的監管機制，最大限度發揮監管的引導作用及紅線保護的根本價值。

生成式AI爆火，涉及諸多利益訴求及關切。對此，王新銳建議，需要充分觀察產業界和監管機構、大眾媒體的互動，建立多方參與的治理機制。同時，加強公眾教育和參與，提高公眾對生成式AI的認識和理解，共同推動生成式AI的健康發展。