斬斷AI造假起號利益鏈刻不容緩

外國人熟練演唱中文歌曲、銀發奶奶傳授養生秘訣、氛圍感女孩分享穿搭美學……據8月11日新華網報道，社交媒體上，一些AI生成的視頻關注度頗高，“細節滿滿”讓很多網友信以為真，不少社交賬號利用AI技術造假、博眼球快速“吸粉”起號，進而變現。

從利用AI打造“完美熟齡女性形象”進行“年齡焦慮”營銷，到通過情感、養生、顏值等類別教程批量產出吸睛內容，一些人借助AI技術，精心炮制虛假內容誤導網友，進而通過電商帶貨、賬號轉賣等手段實現流量變現。這種行為不僅違背了道德倫理，更觸犯了法律法規。

AI造假起號亂象背后，是復雜的利益鏈條。技術提供者為起號者提供造假工具，傳播平臺在審核環節存在漏洞，內容發布者則肆意傳播虛假信息，而賬號售賣市場的火爆，更是讓這一亂象愈發猖獗。一個萬粉AI賬號，從幾百元到上萬元不等，百萬粉絲的賬號甚至要十幾萬元，巨大的利益誘惑讓不少人趨之若鶩。

AI造假起號帶來的危害不容小覷，會造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，誤導公眾認知，破壞社會信任。一些“三無”保健產品廣告借助虛假賬號大肆推廣，不僅損害了消費者的身體健康，也擾亂了正常的市場秩序。此外，這種行為還擠壓了真實優質創作者的生存空間，抑制了網絡空間的創新活力。

斬斷AI造假起號利益鏈刻不容緩。監管部門應發揮主導作用，加強協同治理。一方面，督促平臺履行治理責任，建立違規賬號“黑名單”，對高頻、反復觸犯平臺規則的賬號加大處罰力度。另一方面，持續開展專項整治行動，加大對AI造假起號等違規行為的打擊力度，形成有效震懾。

平臺作為內容傳播的重要載體，應提高對深度偽造內容的檢測精度，利用先進技術手段，提升審核效率和準確性，同時進一步完善規則，明確對AI造假起號等違規行為的界定和處罰標準。技術提供者也應強化自身社會責任感，技術研發過程中加強安全性和合規性，為打擊AI造假起號提供技術支持和解決方案。

此外，公眾是網絡空間的使用者和受益者，也是監督虛假信息的重要力量，因而可以引導公眾積極舉報可疑賬號、引入專業機構開展評估等，形成全社會共同參與治理的良好氛圍。