近日，北京市市場(chǎng)監(jiān)管局查處首例AI虛假?gòu)V告案。不法企業(yè)通過AI技術(shù)偽造電視臺(tái)主持人的形象，在直播間進(jìn)行虛假宣傳，宣稱普通糖果類產(chǎn)品具備疾病治療功能，吸引八十八萬(wàn)粉絲關(guān)注，對(duì)消費(fèi)者構(gòu)成嚴(yán)重誤導(dǎo)。此類案例并非個(gè)例，知名人物形象因具備極高的公眾信任度，已成為AI造假黑產(chǎn)的“搶手素材”，其偽造內(nèi)容借助算法精準(zhǔn)推送，極易誤導(dǎo)消費(fèi)者，造成惡劣社會(huì)影響。
隨著生成式人工智能技術(shù)的規(guī)?；瘧?yīng)用，AI造假已從技術(shù)概念演變?yōu)楝F(xiàn)實(shí)風(fēng)險(xiǎn)，其假亂真的危害不斷突破認(rèn)知邊界，對(duì)社會(huì)信任、市場(chǎng)秩序及公民權(quán)益構(gòu)成嚴(yán)重威脅。
當(dāng)前AI造假已呈現(xiàn)出“高精度、低門檻、廣場(chǎng)景”的顯著特征。在技術(shù)層面，AI甚至能夠精準(zhǔn)模仿名人的語(yǔ)氣神態(tài)，使偽造內(nèi)容難以通過肉眼辨別真?zhèn)?。在?yīng)用場(chǎng)景上，造假行為已從最初的娛樂惡搞，擴(kuò)展至廣告欺詐、電信詐騙、輿論操縱等多個(gè)領(lǐng)域，形成了“素材獲取—模型訓(xùn)練—聲音克隆—商業(yè)濫用”的完整灰色產(chǎn)業(yè)鏈。
從個(gè)體層面看，AI換臉?biāo)婕肮娙宋飼?huì)面臨名譽(yù)受損、權(quán)益被侵害的風(fēng)險(xiǎn)，而普通消費(fèi)者則可能因虛假宣傳遭受財(cái)產(chǎn)損失。從市場(chǎng)層面講，AI造假破壞了公平競(jìng)爭(zhēng)環(huán)境，擠壓合法經(jīng)營(yíng)者的生存空間，更為致命的是對(duì)社會(huì)信任體系的侵蝕。同時(shí)，AI生成內(nèi)容的數(shù)據(jù)規(guī)模呈爆炸式增長(zhǎng)，全面檢測(cè)的成本極高，傳統(tǒng)監(jiān)管模式已無(wú)法適應(yīng)規(guī)模化治理的需求。如何精準(zhǔn)區(qū)分合法的AI創(chuàng)作與違法的造假行為，避免“一刀切”式監(jiān)管造成的誤傷，實(shí)現(xiàn)“不冤枉一個(gè)好人、不放過一個(gè)壞人”的治理目標(biāo)，成為當(dāng)前監(jiān)管工作的重要難題。
鑒于以上方面，治理AI造假，一是要強(qiáng)化立法保障，細(xì)化AI造假的法律界定與處罰標(biāo)準(zhǔn)，明確素材獲取、模型訓(xùn)練、內(nèi)容傳播等各環(huán)節(jié)的法律責(zé)任。要建立AI服務(wù)提供者“黑名單”制度，對(duì)偽造權(quán)威形象、實(shí)施虛假宣傳等違法行為，依法從重處罰并限制市場(chǎng)準(zhǔn)入。二是要完善溯源機(jī)制，實(shí)現(xiàn)全鏈條追責(zé)。落實(shí)“標(biāo)識(shí)管理”要求，強(qiáng)制AI生成內(nèi)容添加顯式標(biāo)識(shí)與隱式數(shù)字水印，構(gòu)建“生成—傳播—溯源”的完整鏈路，對(duì)未落實(shí)標(biāo)識(shí)義務(wù)的平臺(tái)依法追責(zé)。三是要構(gòu)建技術(shù)防線，提升動(dòng)態(tài)防控能力。以“技術(shù)對(duì)抗技術(shù)”的思路，構(gòu)建基座化AI鑒偽模型，通過多模態(tài)特征對(duì)齊、動(dòng)態(tài)對(duì)抗訓(xùn)練等技術(shù)，提升對(duì)新型造假手段的泛化檢測(cè)能力。
總之，AI技術(shù)的發(fā)展本應(yīng)服務(wù)于社會(huì)進(jìn)步與人類福祉，但其濫用引發(fā)的造假亂象已成為不容忽視的現(xiàn)實(shí)風(fēng)險(xiǎn)。對(duì)此，必須強(qiáng)化治理力度，通過立法完善、技術(shù)創(chuàng)新、溯源追責(zé)與社會(huì)共治的多維度舉措，構(gòu)建全方位的防控體系。在遏制造假行為的同時(shí)，為人工智能產(chǎn)業(yè)的健康發(fā)展保駕護(hù)航，最終實(shí)現(xiàn)技術(shù)向善的發(fā)展目標(biāo)。（尹訓(xùn)銀）
官方微信公眾號(hào)
官方微博
