久久国产老熟女精品|尤物视频免费在线观看|色依依国产精品中文字幕|亚洲欧美在线网址

湖南法治報(bào)全媒體記者 戴志杰 通訊員 王美燕

“AI人工智能技術(shù)快速發(fā)展，大模型版本甚至在以月為時(shí)間周期迭代。這對(duì)AI 應(yīng)用的安全防控是一個(gè)巨大的挑戰(zhàn)！”4月25日，在長(zhǎng)沙開福信創(chuàng)產(chǎn)業(yè)發(fā)展基地，由湖南文盾信息有限公司牽頭，聯(lián)合湖南日?qǐng)?bào)報(bào)業(yè)集團(tuán)等共同舉辦了一場(chǎng)AI驅(qū)動(dòng)媒體融合創(chuàng)新研討沙龍，60多個(gè)業(yè)內(nèi)公司和高校代表線上線下同步參加。各界大咖熱烈探討著AI帶給內(nèi)容生產(chǎn)和安全管理的挑戰(zhàn)與機(jī)遇，文盾公司董事長(zhǎng)任江春客串主持。

大模型護(hù)欄的“保險(xiǎn)箍”模式

大模型應(yīng)用日用品化，由專業(yè)系統(tǒng)轉(zhuǎn)向個(gè)人助手；大模型應(yīng)用公共產(chǎn)品化，深度嵌入交通、醫(yī)療、金融等公共基礎(chǔ)設(shè)施。這種趨勢(shì)下易帶來大模型風(fēng)險(xiǎn)的泛化，需要平衡大模型創(chuàng)新與安全應(yīng)用。方濱興院士團(tuán)隊(duì)成員、廣州大學(xué)粵語(yǔ)語(yǔ)料庫(kù)建設(shè)與大模型評(píng)測(cè)重點(diǎn)實(shí)驗(yàn)室主任齊佳音分析大模型應(yīng)用的發(fā)展形勢(shì)時(shí)指出，當(dāng)前大模型監(jiān)管與大模型發(fā)展尚不適應(yīng)，須從護(hù)衛(wèi)模式給大模型安全應(yīng)用加一道“保險(xiǎn)箍”。

針對(duì)大模型發(fā)展伴生效應(yīng)帶來的內(nèi)生安全風(fēng)險(xiǎn)，齊佳音提出，治理思路可以從兩種思路著眼。一是大模型開發(fā)者提供自衛(wèi)的大模型內(nèi)部安全對(duì)齊的自衛(wèi)模式；二是大模型應(yīng)用者提供近衛(wèi)的第三方專業(yè)安全防護(hù)的近衛(wèi)模式。針對(duì)大模型應(yīng)用中的衍生安全為題，她建議采用護(hù)衛(wèi)模式，就是從國(guó)家層面提供整體性基礎(chǔ)安全。方濱興院士團(tuán)隊(duì)構(gòu)建了護(hù)衛(wèi)模式下的大模型保險(xiǎn)箍系統(tǒng)，是一種護(hù)衛(wèi)模式下的大模型護(hù)欄系統(tǒng)，為大模型安全的國(guó)家級(jí)監(jiān)管提供了創(chuàng)新性思路。

全周期安全合規(guī)已成剛需

當(dāng)下，生成合成大模型正面臨多種風(fēng)險(xiǎn)。中科睿鑒科技有限公司AI安全產(chǎn)品總監(jiān)萬瑩介紹，使用AI生成逼真的虛假信息，在社交媒體、知識(shí)社區(qū)等未經(jīng)查實(shí)廣泛傳播，帶來了不同程度的意識(shí)形態(tài)風(fēng)險(xiǎn)、虛假幻覺風(fēng)險(xiǎn)。不同的訓(xùn)練語(yǔ)料在大模型學(xué)習(xí)過程中發(fā)生價(jià)值觀偏差，極易出現(xiàn)偏見歧視問題、道德倫理問題，危害受眾身心健康。在商業(yè)應(yīng)用中還有數(shù)據(jù)隱私泄露風(fēng)險(xiǎn)。加速安全合規(guī)需求已成為剛需。（轉(zhuǎn)03版）

生成合成大模型在數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、模型備案、模型運(yùn)營(yíng)、內(nèi)容傳播階段的全生命周期，都必須有相應(yīng)的安全評(píng)測(cè)、防護(hù)等措施。目前，國(guó)家陸續(xù)出臺(tái)了《互聯(lián)網(wǎng)信息深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》等。

中科睿鑒科技有限公司是標(biāo)識(shí)辦法的主要起草單位之一。本報(bào)記者提問：“作為普通用戶，是否都要添加AI標(biāo)識(shí)？”萬瑩介紹：“用戶用AI 生成合成內(nèi)容只要進(jìn)入傳播，比如在抖音、視頻號(hào)上，就必須添加AI標(biāo)識(shí)，否則平臺(tái)有權(quán)拒絕和攔截發(fā)布。媒體機(jī)構(gòu)在生產(chǎn)或接收AI生成合成內(nèi)容時(shí)，也必須遵守標(biāo)識(shí)辦法規(guī)定。個(gè)人用戶在個(gè)人場(chǎng)景有限使用時(shí)，則不一定要加標(biāo)識(shí)?！敝锌祁ｈb科技有限公司產(chǎn)品以數(shù)字內(nèi)容偽造檢測(cè)為核心，目前已能識(shí)別90%以上的AI生成內(nèi)容，包括AI文本、音頻、圖像、視頻等。

給媒體一雙智慧的眼睛

有挑戰(zhàn)，更有機(jī)遇。在AI驅(qū)動(dòng)下的媒體融合創(chuàng)新，正呈現(xiàn)百花爭(zhēng)艷的景象，與會(huì)者帶來的創(chuàng)新成果在研討沙龍上讓人大飽眼福。

中科聞歌業(yè)務(wù)發(fā)展中心帶來了公司開發(fā)的優(yōu)雅（YoYa）多模態(tài)內(nèi)容創(chuàng)作平臺(tái)，展示了平臺(tái)與央媒、芒果TV等合作創(chuàng)作的多款A(yù)I作品，讓人們看到歷史素材二次煥新，媒體發(fā)掘數(shù)字資產(chǎn)的精彩視像。

湖南日?qǐng)?bào)報(bào)業(yè)集團(tuán)和湖南文盾信息有限公司共同開發(fā)的“智眸”內(nèi)容安全智能風(fēng)控平臺(tái)，以涉政內(nèi)容合規(guī)檢測(cè)為核心，提供全場(chǎng)景跨模態(tài)的人機(jī)協(xié)同AI 風(fēng)控解決方案。目前已在200多個(gè)單位成功應(yīng)用，累計(jì)檢測(cè)超兩億次。

《齊魯晚報(bào)》的AI應(yīng)用已形成豐富的產(chǎn)品矩陣，如“繁星”智能體開發(fā)平臺(tái)、“浩宇”文旅數(shù)字化平臺(tái)、“文趣”數(shù)字創(chuàng)意互動(dòng)平臺(tái)，“靈溪”小游戲開發(fā)平臺(tái)，“天成”戲曲演藝數(shù)字平臺(tái)等，從不同維度將古老的齊魯文化以數(shù)智化形式展示在世人面前。

責(zé)編：梁原

一審：梁原

二審：羅霞

三審：戴志杰

來源：新湖南客戶端

版權(quán)作品，未經(jīng)授權(quán)嚴(yán)禁轉(zhuǎn)載。湖湘情懷，黨媒立場(chǎng)，登錄華聲在線官網(wǎng)www.voc.com.cn或“新湖南”客戶端，領(lǐng)先一步獲取權(quán)威資訊。轉(zhuǎn)載須注明來源、原標(biāo)題、著作者名，不得變更核心內(nèi)容。