久久国产老熟女精品|尤物视频免费在线观看|色依依国产精品中文字幕|亚洲欧美在线网址

林愛珺

武執(zhí)政

“人工智能生成合成內(nèi)容標識政策法規(guī)宣講活動”現(xiàn)場。

隨著人工智能技術(shù)持續(xù)迭代發(fā)展，利用真假難辨的AI生成內(nèi)容偽造惡搞、編造新聞、釣魚詐騙等現(xiàn)象初步顯現(xiàn)，AI　內(nèi)容真假難辨的問題引發(fā)廣泛關(guān)注。如何幫助公眾識別AI生成內(nèi)容?AI謠言怎么治理?

為深入貫徹落實國家互聯(lián)網(wǎng)信息辦公室聯(lián)合多部門發(fā)布的《人工智能生成合成內(nèi)容標識辦法》(簡稱“標識辦法”)及配套強制性國家標準《網(wǎng)絡(luò)安全技術(shù)　人工智能生成合成內(nèi)容標識方法》(簡稱“標識方法”)，促進人工智能健康發(fā)展，4月18日，“人工智能生成合成內(nèi)容標識政策法規(guī)宣講活動(廣東站)”在廣州舉辦。

本次宣講會由中央網(wǎng)信辦網(wǎng)絡(luò)管理技術(shù)局、廣東省委網(wǎng)信辦指導(dǎo)，中國網(wǎng)絡(luò)空間安全協(xié)會、廣東省網(wǎng)絡(luò)數(shù)據(jù)安全與個人信息保護協(xié)會主辦，南方都市報、南都大數(shù)據(jù)研究院承辦，廣州市白云區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局，趣丸科技提供支持。參編專家現(xiàn)場詳細解讀，企業(yè)分享思路舉措，助力人工智能生成合成內(nèi)容標識機制的落地實施。同時，還多方共議生成式人工智能內(nèi)容安全保障，為AI謠言治理建言獻策。

來自省市相關(guān)主管部門、高?？蒲性核⑷斯ぶ悄芷髽I(yè)、互聯(lián)網(wǎng)平臺等單位的100多位代表參加本次宣講會。

新規(guī)解讀

新規(guī)參編專家:技管聯(lián)動推動AI內(nèi)容標識落地落實

在人工智能生成合成內(nèi)容標識政策法規(guī)宣講活動上，專家指出，《標識辦法》和《標識方法》通過標識機制提升內(nèi)容透明度，幫助用戶辨別虛假信息，并明確相關(guān)主體的責任義務(wù)，規(guī)范內(nèi)容制作、傳播環(huán)節(jié)的標識行為，與現(xiàn)有法規(guī)形成聯(lián)動。通過管理規(guī)定與技術(shù)標準協(xié)同，確保政策可落地、可實施、可考核，形成安全治理與產(chǎn)業(yè)發(fā)展的良性平衡。未來還將不斷完善標識技術(shù)體系，探索建立生成式人工智能治理長效機制，提高公眾的人工智能素養(yǎng)與標識意識。

打出“管理+技術(shù)”組合拳　推動AI內(nèi)容標識落地落實

近年來，隨著人工智能技術(shù)持續(xù)迭代發(fā)展，生成式AI帶來的新型風險挑戰(zhàn)不容忽視。防范AI風險，促進產(chǎn)業(yè)良性發(fā)展迫在眉睫，幫助公眾識別AI生成內(nèi)容，減少虛假信息傳播，增強公眾對互聯(lián)網(wǎng)傳播內(nèi)容的信任，厘清虛假內(nèi)容生產(chǎn)傳播責任鏈，成為網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理的重要一環(huán)。

與此同時，我國人工智能安全治理體系正在不斷完善。此前《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)規(guī)定已明確提出“標識”概念，并將既有的標識要求延伸至生成式人工智能的安全治理工作中。專家表示，此次《標識辦法》的發(fā)布與施行，是對標識工作的“再明確”與“再細化”，推進相關(guān)規(guī)定的落地和落實。

目前，對AI生成合成內(nèi)容進行標識已成為國際共識，而我國率先打出內(nèi)容標識“管理+技術(shù)”組合拳，將標識工作推進至實踐層面，為全球AI治理貢獻中國智慧。專家指出，《標識辦法》聚焦人工智能“生成合成內(nèi)容標識”關(guān)鍵點，通過標識提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標識責任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標識行為，以合理成本提高安全性，促進人工智能在文本對話、內(nèi)容制作、輔助設(shè)計等各應(yīng)用場景加快落地，同時減輕人工智能生成合成技術(shù)濫用危害，防范利用人工智能技術(shù)制作傳播虛假信息等風險行為，推動人工智能健康有序發(fā)展。

而《標識方法》作為《標識辦法》的配套技術(shù)標準，明確了生成合成內(nèi)容標識應(yīng)當遵循的技術(shù)方法，為產(chǎn)業(yè)落地提供了參考依據(jù)?！啊脊芙Y(jié)合’中的‘技術(shù)’”，首先體現(xiàn)在強制標準上?！睂＜医榻B，與《標識辦法》同步發(fā)布的《標識方法》作為首個人工智能領(lǐng)域強制性國家標準，具有一定法律屬性，企業(yè)提供相關(guān)服務(wù)時需符合全部條款。通過管理規(guī)定與技術(shù)標準聯(lián)動，確保政策可落地、可實施、可考核，形成協(xié)同治理合力，并通過持續(xù)不斷提升技術(shù)水平，構(gòu)建技術(shù)能力，實現(xiàn)管理要求與技術(shù)手段的有機結(jié)合，提升人工智能安全治理能力。

構(gòu)建“顯式+隱式”雙層標識體系

強制性國家標準指引產(chǎn)業(yè)落地

專家指出，《標識辦法》通過構(gòu)建顯式與隱式雙層標識體系，形成可識別、可追溯的AI內(nèi)容標識規(guī)范。其中，顯式標識的基礎(chǔ)要求是能被用戶明顯感知，根據(jù)AI生成與合成內(nèi)容分模態(tài)場景提出具體標識要求。隱式標識則考慮企業(yè)實踐成本，對技術(shù)難點如文本隱式標識、數(shù)字水印等不強制要求，提供低成本實施方案，為創(chuàng)新保留空間，平衡安全與管控。

其次，《標識辦法》重點關(guān)注傳播環(huán)節(jié)，對網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)提供者銜接顯式與隱式標識、用戶聲明標識與服務(wù)、偽造內(nèi)容識別等方面均作出相關(guān)規(guī)定。從內(nèi)容生成到傳播建立全鏈條責任機制，明確各方標識義務(wù)，通過元數(shù)據(jù)驗證解決“誰生成的”“從哪里生成的”等關(guān)鍵問題。

《標識辦法》還充分考慮用戶側(cè)情況，要求服務(wù)提供者對用戶做出相關(guān)提醒，用戶也需遵守標識相關(guān)規(guī)定，同時也給用戶申請無顯式標識內(nèi)容的需求留出制度空間。此外，《標識辦法》還銜接審核環(huán)節(jié)要求，對互聯(lián)網(wǎng)應(yīng)用分發(fā)、深度合成及生成式人工智能備案環(huán)節(jié)作出提供及核驗生成合成內(nèi)容標識相關(guān)材料的相關(guān)規(guī)定。

區(qū)別于《標識辦法》對多主體提出相關(guān)標識要求，《標識方法》重點聚焦于AI內(nèi)容制作與內(nèi)容傳播平臺，對顯式與隱式標識實踐給予了具體的標準指引。此外，《標識方法》在給出人工智能生成合成內(nèi)容標識技術(shù)方法的基線要求的同時，也為探索不同應(yīng)用場景下，兼顧“明顯提示用戶”和“考慮用戶使用體驗”預(yù)留了空間。例如在駕駛員與車載終端高頻語音交互時，如果智能駕駛助手每次語音回復(fù)均播報語音標識，不僅影響交互體驗，還可能對駕駛安全性造成影響。因此，可通過設(shè)置在一輪交互中只提示一次等方式避免頻繁提示對人工智能的實際應(yīng)用造成影響。此外，專家還進一步講解了《網(wǎng)絡(luò)安全標準實踐指南——人工智能生成合成內(nèi)容標識　服務(wù)提供者編碼規(guī)則》，對文件元數(shù)據(jù)隱式標識中服務(wù)提供者的編碼結(jié)構(gòu)、賦碼規(guī)則、組織與個人的編碼示例做出了詳細介紹。

不斷完善標識技術(shù)體系

探索建立生成式AI治理長效機制

宣講會上專家強調(diào)，人工智能是“矛”與“盾”同步發(fā)展的狀態(tài)，《標識辦法》并非生成式人工智能治理的終點，而是實現(xiàn)路徑。未來還將不斷完善標識技術(shù)體系，在原有技術(shù)的基礎(chǔ)上不斷創(chuàng)新，突破數(shù)字水印廣泛應(yīng)用的技術(shù)難題，探索高泛化性的生成合成內(nèi)容檢測技術(shù)，開發(fā)更高效的識別AI生成內(nèi)容的檢測工具和水印檢測算法，以及基于數(shù)字水印的內(nèi)容防偽技術(shù)。同時還將積極參與IEEE、ISO/IEC等國際標準的制定與推廣，以及相關(guān)國家標準、技術(shù)文件、實踐指南的研究制定，推動技術(shù)認知形成行業(yè)共識。

在社會層面，還要探索建立生成式人工智能治理長效機制，引導(dǎo)組織政府、企業(yè)、研究機構(gòu)和社會組織共同參與，推動標識的廣泛應(yīng)用，并以此為基礎(chǔ)進一步完善制度體系。此外，還要通過對公眾進行標識的說明與合規(guī)引導(dǎo)，培育用戶正確使用相關(guān)服務(wù)的安全意識，防范生成合成內(nèi)容引發(fā)的相關(guān)風險。

“今年年初，DeepSeek完成了讓人們使用AI的教育，《標識辦法》則是要進行讓用戶安全使用AI的教育?！睂＜冶硎?，隨著《標識辦法》施行，不斷強化用戶的標識意識，給AI生成內(nèi)容“打標”將會逐漸成為一種習慣。這可以提升公眾對于信息內(nèi)容真實性、來源可追溯性的批判性評估能力，提高公眾人工智能素養(yǎng)，確保人工智能技術(shù)成果普惠共享。

AI謠言治理

暨南大學新聞與傳播學院教授林愛珺:

AI內(nèi)容真假難辨?建議構(gòu)建人機協(xié)同核查機制

在生成式人工智能內(nèi)容安全及謠言治理的分享環(huán)節(jié)，暨南大學新聞與傳播學院教授林愛珺圍繞“AIGC時代多模態(tài)虛假信息的識別與人機協(xié)同核查”主題作分享。在林愛珺看來，“標識辦法”和“標識方法”的實施，有助于公眾辨別虛假信息，推進AI從內(nèi)容生成到傳播全鏈條的治理。　　

AI多模態(tài)能力加劇偽造信息隱蔽性　　

林愛珺指出，整合文本、圖像、音頻及視頻等多種形式數(shù)據(jù)的多模態(tài)信息具有極強的隱秘性與滲透性。例如，一段偽造的視頻不僅有虛假的圖像，還配有與之匹配的虛假聲音和字幕，不同模態(tài)的信息互相補充和驗證，若將偽造信息與事實融合于復(fù)雜的圖像和視頻之中，會加劇偽造信息的隱蔽性，同時增加公眾辨識的難度。　　

“標識辦法”助力虛假信息識別和溯源　　

林愛珺強調(diào)，AI大模型的權(quán)威性表達風格與流暢的敘事邏輯，使得錯誤信息具有極強的迷惑性，尤其是在多模態(tài)虛假信息中，受眾往往會將這些虛假內(nèi)容誤認為是真實信息。

如何識別與監(jiān)測多模態(tài)虛假信息?林愛珺表示，“標識辦法”要求人工智能生成合成內(nèi)容添加顯式標識和隱式標識，這為虛假信息的識別和溯源提供了支持。

她指出，顯式標識通過文字、聲音或圖形等手段直接展示內(nèi)容的人工智能屬性，標識技術(shù)與自然語言處理、深度偽造檢測等方法相結(jié)合，能有效提高對虛假內(nèi)容的識別，幫助用戶直觀辨別人工智能生成合成內(nèi)容，快速評估其真實性。

隱式標識技術(shù)記錄文件屬性、提供者編碼及傳播路徑等關(guān)鍵信息，能為虛假信息溯源和責任認定提供數(shù)據(jù)支持。如通過記錄和分析信息發(fā)布的時間順序，識別出最早發(fā)布信息的節(jié)點和賬戶，從源頭上禁止虛假賬號發(fā)布信息；運用節(jié)點分析追蹤信息源和傳播鏈條，通過識別出信息傳播的關(guān)鍵節(jié)點和核心路徑，揭示虛假信息的傳播軌跡?！　?/p>

需要通過技術(shù)、法律、倫理綜合手段治理　　

談及AI大模型的事實核查能力，林愛珺認為，目前的AI大模型尚不具有鑒別信息真?zhèn)蔚哪芰?在訓練階段，大模型需要廣泛地從互聯(lián)網(wǎng)搜集各種信息，由于缺乏事實核查機制，這些信息未經(jīng)篩選便被納入機器學習的語料庫中，導(dǎo)致信息在被利用前未能得到充分核查。

她建議構(gòu)建人機協(xié)同的事實核查機制，通過人工智能、人工審核及公眾參與實現(xiàn)多維度數(shù)據(jù)獲取。利用人工智能數(shù)據(jù)挖掘技術(shù)，提取動態(tài)網(wǎng)絡(luò)信息中的有價值數(shù)據(jù)，為事實核查提供基礎(chǔ)數(shù)據(jù)支持；建立“人工智能+人工”的雙重審核機制，對某些專業(yè)領(lǐng)域的信息，結(jié)合領(lǐng)域?qū)＜业闹R和背景進行分析判斷；借助用戶反饋與專家評估，推動人工智能的自我學習與優(yōu)化，持續(xù)提升人工智能的事實核查準確性與效率。

在林愛珺看來，治理人工智能生成合成虛假信息，需要通過技術(shù)、法律、倫理的綜合手段，建立一個全方位的保障體系。她建議建立“政府－AIGC服務(wù)提供者－AIGC服務(wù)使用者”三方協(xié)同治理框架，共同提升公眾的數(shù)字素養(yǎng)，增強其對虛假信息的識別能力，防止虛假信息蔓延。

香港中文大學(深圳)副教授武執(zhí)政:

聲音傳播多重隱私信息，AI語音標識有必要性

在宣講活動的“生成式人工智能內(nèi)容安全及謠言治理分享環(huán)節(jié)”，香港中文大學(深圳)副教授武執(zhí)政以“偽造語音生成及其鑒別技術(shù)”為主題，從“語音是怎么生成出來的”，以及“如何去鑒別聲音”兩方面展開了分享。武執(zhí)政表示，語音的重要性不言而喻，以直播帶貨場景為例，“視覺決定直播的吸引力，聽覺決定直播的銷售力”，話語的感染力常常能夠更加帶動購買的行為。聲音不僅可以傳播內(nèi)容，而且還能夠傳播身份信息、環(huán)境信息等，這里面也包含了很多我們的個人隱私信息，現(xiàn)在有許多聲音合成相關(guān)的技術(shù)和產(chǎn)品，這也是要標識AI的重要原因。

現(xiàn)場，武執(zhí)政介紹了由其團隊研發(fā)出的“AI合成音頻鑒別系統(tǒng)”，他指出，“AI語音合成的檢測是比較難的，當前的偽造語音技術(shù)不只是可以偽造聲音，還能夠偽造當前所處的場景，可以預(yù)見接下來的幾年內(nèi)也將會有越來越多和聲音處理相關(guān)的AI模型”。武執(zhí)政也指出，由于AI合成與其他AI聲音處理技術(shù)具有很強的相關(guān)性，也給偽造鑒別帶來了挑戰(zhàn)。

出品:南都大數(shù)據(jù)研究院

采寫:南都記者 袁炯賢 張雨亭 方曉林 熊潤淼 李偉鋒 陳袁 孔令旖

攝影:南都記者 袁炯賢 李煒鋒

制圖:黃亞嵐(騰訊元寶AI)

責編：李傳新

一審：李傳新

二審：劉文韜

三審：楊又華

來源：南方都市報