6月20日，國家互聯網信息辦公室(下稱“網信辦”)發布境內深度合成服務算法備案清單，其中包括美團在線智能客服算法、快手短視頻生成合成算法、百度文生圖內容生成算法、百度PLATO大模型算法、天貓小蜜智能客服算法等41則深度合成服務算法備案信息。

        “算法備案同審查與評估一樣，是監管重要環節之一，備案清單的發布有利于促使備案單位進一步加強合規管理。”工信部新基建重大項目評審專家、北京郵電大學科技園元宇宙產業協同創新中心執行主任陳曉華在接受《證券日報》記者采訪時表示，這體現了我國對此輪人工智能引領的科技變革的重視，針對生成式算法的法規標準化步伐正在加速推進。隨著相關監管條例逐步清晰，我國AI產業生態將更加規范有序。

        所謂深度合成技術是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。去年12月份，由網信辦等三部門發布的《互聯網信息服務深度合成管理規定》(下稱《規定》)明確，具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照相關規定履行備案和變更、注銷備案手續。同時，完成備案的深度合成服務提供者和技術支持者應當在其對外提供服務的網站、應用程序等的顯著位置標明其備案編號并提供公示信息鏈接。

        “設立境內深度合成服務算法備案清單是對《規定》的貫徹和落實，旨在對尚未履行備案手續的深度合成服務提供者和技術支持者起到引導作用，也讓公眾獲得了解、查詢相關主體是否履行備案手續的渠道。”國浩律師(上海)事務所律師朱奕奕對《證券日報》記者表示。

        深度合成技術最大的特點之一是“以假亂真”，通過人工智能和大數據算法合成的虛擬數據能夠使人難辨真假。例如，5月8日，包頭市公安局電信網絡犯罪偵查局發布一起使用智能AI技術進行電信詐騙的案件，涉案金額超330萬元。據相關通報，行騙者通過AI換臉和擬聲技術，佯裝受害者熟人以實施詐騙。

        對此，清華大學研究生院院長周杰表示，深度合成技術快速發展的同時，也帶來了新的安全風險。誤用、濫用以及惡意使用深度合成技術生成的數據，將為個人、企業帶來聲譽損害和財產損失，甚至對國家安全、社會穩定造成威脅。

        在此背景下，生成式AI(AIGC)產品進一步規范迫在眉睫。在朱奕奕看來，此次網信辦發布境內深度合成服務算法備案清單，將引導尚未履行備案手續的深度合成服務提供者和技術支持者盡快申請備案。同時，也方便公眾了解相關信息后進行監督、投訴、舉報。

        對于相關企業來說，朱奕奕表示，一方面應依法履行備案手續，在提供深度合成服務時應嚴格遵守相關法律法規、行業標準、準則及自律管理制度，尊重社會公德和倫理道德;另一方面，應積極承擔起社會監督責任，例如在運營過程中發現違法和不良信息的，應當依法采取處置措施，保存有關記錄，及時向網信部門和有關主管部門報告。

        此外，朱奕奕提示，相關規定中僅明確了通過隱瞞有關情況、提供虛假材料等不正當手段取得備案情況下的法律責任，但并未規定未履行備案手續而直接提供深度合成服務，或未履行備案手續而直接為深度合成服務提供技術支持的法律責任。后續需在配套政策細則中予以補充、完善。

《電鰻快報》