|
||||||
AI“吸粉”亂象背后——
如何引導(dǎo)技術(shù)向善
外國人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學(xué)……社交媒體上，一些AI生成的視頻關(guān)注度頗高，“細(xì)節(jié)滿滿”讓很多網(wǎng)友信以為真。有媒體調(diào)查發(fā)現(xiàn)，不少社交賬號利用AI技術(shù)造假、博眼球快速“吸粉”起號，進(jìn)而變現(xiàn)。 近期，多個平臺對“AI起號”現(xiàn)象開展專項治理行動，清理違規(guī)內(nèi)容并封禁部分賬號。 現(xiàn)象 AI造假起號成新套路 廣西市民王夏經(jīng)常刷到這樣的視頻：“帥哥”“美女”高頻率更新日常生活，并在評論區(qū)與網(wǎng)友頻繁互動。由于熟悉AI軟件，王夏很快發(fā)現(xiàn)這些視頻的主角是AI數(shù)字人，“但視頻沒有任何AI生成提示字樣，好幾個賬號顯示來自同一家MCN公司”。 當(dāng)前，生成式人工智能技術(shù)日益普及，不少內(nèi)容創(chuàng)作者通過AI創(chuàng)作出更具想象力的作品。但也有一些人利用AI造假，無底線博眼球，作為起號變現(xiàn)捷徑。 最近，跳水運動員全紅嬋因為“幫媽媽推銷土雞蛋”登上熱搜。人氣很高的乒乓球運動員孫穎莎、王楚欽也發(fā)聲助陣，“孫穎莎”直言“我為嬋寶家農(nóng)家土雞蛋代言”，“王楚欽”則是“收到嬋妹私信”前來幫忙。 但媒體采訪調(diào)查發(fā)現(xiàn)，“奧運冠軍帶貨”子虛烏有，他們的聲音是用AI工具合成的。在他們之前，知名演員靳東、劉曉慶，企業(yè)家雷軍等公眾人物，都曾遭遇相似問題。除了讓被仿冒者口碑受損，造成網(wǎng)友、粉絲經(jīng)濟(jì)損失，技術(shù)造假如果得不到有效遏制，還會動搖社會的信任基礎(chǔ)。有不少人擔(dān)心：如今眼見、耳聽都不一定為實，還能相信什么？ 以此次“運動員代言土雞蛋”事件為例，違法者只需一款A(yù)I軟件，再找一段清晰的語音樣本，就能快速合成出自己設(shè)定好的內(nèi)容。幾位經(jīng)常出現(xiàn)在公眾場合的知名運動員的語音幾乎隨手就能搜到。侵權(quán)賬號也屬于難以辨別主體、數(shù)量龐大的“賬號矩陣”之一，被發(fā)現(xiàn)侵權(quán)后立即清空，將內(nèi)容遷移至別的賬號上。維權(quán)者要想在信息浩若煙海的互聯(lián)網(wǎng)上鎖定數(shù)字賬戶背后的侵權(quán)者、固定侵權(quán)證據(jù)，難度在不斷提高。 措施 阻斷AI造假起號利益鏈 當(dāng)前，主流網(wǎng)絡(luò)平臺普遍升級AI內(nèi)容識別系統(tǒng)，要求對AI生成作品添加標(biāo)注，但仍有一些人采用各種手段繞過審核。 “平臺甄別AI內(nèi)容主要依靠特征性技術(shù)痕跡，一些起號者通過多種手段削弱特征痕跡，逃避平臺標(biāo)注?！敝貞c理工大學(xué)計算機(jī)科學(xué)與工程學(xué)院教授李彥說，如通過微信轉(zhuǎn)壓縮等方式改變視頻文件代碼結(jié)構(gòu)，再上傳至平臺，就較難判定為AI生成內(nèi)容。 新華社記者用一款A(yù)I軟件生成一張人像圖片，裁掉AI生圖軟件水印后發(fā)布在社交平臺上。發(fā)布后，平臺系統(tǒng)并未自動識別、提示添加標(biāo)注。相當(dāng)一部分網(wǎng)友辨別不出這是AI生成圖，紛紛點贊、發(fā)送私信。 “零基礎(chǔ)3天漲粉過萬”“輕松月入過萬”……近來，社交平臺上一批打著“AI變現(xiàn)”旗號的教程正以極具誘惑力的宣傳語吸引著不少人的目光。但據(jù)媒體報道，其實際內(nèi)容多為網(wǎng)上隨處可尋的基礎(chǔ)AI工具使用方法，按教程操作不僅難達(dá)宣傳效果，還可能因違規(guī)被平臺限制流量，且商家常缺乏有效售后，甚至“售后即失聯(lián)”。 在一些社交平臺上，有不少網(wǎng)友分享了被這類課程“坑”過的經(jīng)歷——有人付了錢只拿到些零散資料，自己對著學(xué)半天也摸不著門道；有人嘗試操作卻屢屢碰壁，于是調(diào)侃“現(xiàn)在防AI如防狼”；更有人想找商家咨詢，對方卻早已沒了蹤影，只能自認(rèn)倒霉。 AI培訓(xùn)課程虛假宣傳亂象叢生，已成為侵害消費者權(quán)益的重災(zāi)區(qū)，眾多學(xué)員陷入“交錢易、維權(quán)難”的困境。在社交平臺，大量網(wǎng)友吐槽被AI培訓(xùn)課程“畫餅”欺騙，課程宣傳時承諾“AI起號輕松變現(xiàn)”“月入過萬不是夢”，甚至?xí)癯鎏摷俑呤找姘咐?，同時，這些課程常以“低價體驗課”引流，后續(xù)層層誘導(dǎo)付費，用“限時優(yōu)惠”制造緊迫感迫使學(xué)員沖動購買高價課，不少學(xué)員被誘導(dǎo)二次消費，陷入“不續(xù)費沒服務(wù)，續(xù)費更入坑”的連環(huán)套。而當(dāng)學(xué)員發(fā)現(xiàn)課程與宣傳不符要求退費時，商家會百般推脫，甚至直接失聯(lián)跑路，還會解散學(xué)習(xí)群、刪除聯(lián)系方式，切斷學(xué)員維權(quán)溝通渠道。 重慶公孝律師事務(wù)所執(zhí)行主任徐斌表示，AI造假起號灰色產(chǎn)業(yè)鏈?zhǔn)羌夹g(shù)異化的結(jié)果，可能造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，擾亂網(wǎng)絡(luò)空間秩序，亟待加強(qiáng)清理整治。 今年4月以來，中央網(wǎng)信辦部署開展“清朗·整治AI技術(shù)濫用”專項行動，聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象開展重點整治。第一階段累計處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬余條，處置賬號3700余個。 前不久，多家互聯(lián)網(wǎng)平臺發(fā)布專項治理公告，重點整治AI批量造假、AI起號引流帶貨、轉(zhuǎn)讓銷售AI虛擬賬號等違規(guī)行為。 北京郵電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心執(zhí)行主任謝永江建議，技術(shù)提供者強(qiáng)化技術(shù)的安全性和合規(guī)性研發(fā)，提供技術(shù)支持和解決方案；平臺提高對深度偽造內(nèi)容的檢測精度，進(jìn)一步完善相關(guān)規(guī)則，明確對AI造假起號等違規(guī)行為的界定和處罰標(biāo)準(zhǔn)等。 反思 技術(shù)向善，任重道遠(yuǎn) 既然是違法乃至犯罪行為，不該也不能成為無解難題。隨著技術(shù)發(fā)展，此類違法行為還會增加并不斷變化，必須從技術(shù)和制度層面上筑牢防火墻，才能有效懲治違法行為，維護(hù)互聯(lián)網(wǎng)安全。 以技術(shù)治理技術(shù)是一條可取之道。如今一些社交媒體平臺已經(jīng)開始試點在AI生成內(nèi)容上標(biāo)注提醒，今年9月1日起將實施的《人工智能生成合成內(nèi)容標(biāo)識辦法》則明確要求“生成合成內(nèi)容添加顯式標(biāo)識”“提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容”。同時，平臺也應(yīng)利用AI技術(shù)和大數(shù)據(jù)信息，及時分析比對違法內(nèi)容，主動攔截、及時下架并保存數(shù)據(jù)作為證據(jù)。 社交平臺對這類“AI起號教程”的發(fā)布、售賣應(yīng)承擔(dān)怎樣的審核和監(jiān)管責(zé)任？中國人民大學(xué)法學(xué)院副教授黃尹旭表示，社交平臺應(yīng)承擔(dān)的審核和監(jiān)管責(zé)任包括：第一，內(nèi)容合規(guī)審查責(zé)任。平臺需依據(jù)《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《人工智能生成合成內(nèi)容標(biāo)識辦法》等規(guī)范，對AI起號教程進(jìn)行前置審核，確保其不包含虛假宣傳、賬號買賣，以及偽造身份、批量起號等違規(guī)操作指導(dǎo)。 第二，標(biāo)注與真實性核查責(zé)任。若教程涉及AI生成內(nèi)容，平臺應(yīng)要求發(fā)布者明確標(biāo)注“AI生成”，并核查其宣傳真實性，防止夸大或欺詐性營銷。若平臺未核驗AI起號教程的AI生成標(biāo)注，法院可推定其未盡合理注意義務(wù)；若平臺放任未標(biāo)注AI起號教程傳播的，可認(rèn)定其默許風(fēng)險發(fā)生。 第三，動態(tài)監(jiān)測與處置責(zé)任。建立技術(shù)監(jiān)測機(jī)制，提升深度偽造內(nèi)容檢測精度，完善AI造假行為界定標(biāo)準(zhǔn)和處罰規(guī)則，提高虛假內(nèi)容識別效率，從源頭上斬斷傳播鏈條。對已發(fā)布的教程進(jìn)行持續(xù)篩查，發(fā)現(xiàn)違規(guī)后采取下架、限流、封號等措施，并向監(jiān)管部門報告。 加強(qiáng)AI技術(shù)治理，絕不是限制技術(shù)發(fā)展。技術(shù)本無錯，為牟利踩踏法律紅線、踐踏他人權(quán)益的是藏在技術(shù)背后的人。加強(qiáng)治理利用AI技術(shù)違法犯罪，不僅是保護(hù)個體權(quán)益，也是為AI健康發(fā)展鋪平道路。將技術(shù)創(chuàng)新納入法律規(guī)范之中，是未來發(fā)展的必由之路，也考驗我們的治理智慧。 （綜合新華社、《解放日報》、法治網(wǎng)等）
|
