本刊記者 焦艷

近日，安徽一女子用AI工具生成了高度逼真的“流浪漢臥坐餐廳”等圖片，發(fā)送給在外聚餐的丈夫，丈夫當即報警求助。此類以“戲謔”為名的AI生成內容濫用事件已在多地頻發(fā)，部分案件引發(fā)公安機關連夜處警，暴露出AI生成合成內容(含虛擬圖像、數(shù)字人像、合成語音等多模態(tài)形式)的法律風險防控漏洞。有觀點認為，此類行為僅為“戲謔”;也有觀點認為，該行為絕非單純的“玩笑”，亟須從法治層面明確規(guī)范，以防范潛在的社會危害。

AI“整蠱”亂象頻發(fā)

近日，安徽銅陵一名女子使用AI生成“流浪漢臥坐家中餐廳”的逼真圖像，丈夫收到后立即報警，當?shù)嘏沙鏊鶈討睓C制，民警連夜出警，最終證實為虛假情況。警方隨后對該女子進行批評教育，指出其行為“屬于浪費公共資源”。

隨著生成式AI技術迭代演進，其“雙刃劍”效應日益凸顯：一方面，便利了創(chuàng)意表達，另一方面，因技術門檻低，催生了深度偽造、虛假信息、有害信息傳播等多重亂象。據(jù)記者了解，用戶只需打開AI生圖工具，上傳一張家中內部照片，輸入一句簡單的提示詞，幾秒即可生成以假亂真的“流浪漢闖入家中”畫面，再用圖生視頻功能，即可生成“流浪漢在家中行走”的視頻畫面。更有平臺在相關視頻下方直接接入生圖工具入口，用戶刷到類似內容后，可一鍵跳轉、選擇同款模板，迅速生成“整蠱”圖片，極易誘導用戶模仿。

“生成式AI大模型的多維度演進，使內容生成呈現(xiàn)‘低門檻+高逼真’的特征，導致網(wǎng)絡違法信息的演化路徑更趨復雜?！庇坡蓭熓聞账鶖?shù)字經(jīng)濟研究會主任王風和表示，此類“整蠱”名義的行為，不僅導致權利侵害和公共資源占用，還給清朗網(wǎng)絡空間有效治理帶來一定挑戰(zhàn)。

法律治理存在瓶頸

上海政法學院上海司法研究所講師周陳在接受采訪時表示，當前AI生成內容治理面臨以下瓶頸：一方面，法律規(guī)制與技術發(fā)展存在適配時差?，F(xiàn)有法律條款對AI工具使用的規(guī)制大多停留在禁止性條款層面，缺乏對技術濫用場景的動態(tài)調整。“同樣是生成虛假圖像，個人基于好奇向親友分享與商業(yè)主體為流量變現(xiàn)發(fā)布至公共平臺的行為，其社會危害性與主觀惡性差異顯著，亟須差異化的法律責任配置?！敝荜愓f。

另一方面，網(wǎng)絡有害信息傳播呈現(xiàn)“量產(chǎn)化+病毒式”特征。生成式AI技術為網(wǎng)絡違法有害信息的批量生產(chǎn)提供了技術支撐，部分自媒體、營銷機構利用AI工具快速生成聳人聽聞的虛假新聞蹭取流量，相較于傳統(tǒng)文字謠言，其傳播效率提升數(shù)倍，導致監(jiān)管部門的被動處置難以跟上傳播速度。

王風和補充道，短視頻與社交平臺作為主要傳播渠道，面臨海量信息審核壓力與技術識別短板的雙重制約，部分平臺為追逐流量收益，未落實實質審核義務，僅依賴關鍵詞篩查機制，導致違規(guī)內容得以規(guī)避監(jiān)管。當前，高度逼真的合成內容疊加“娛樂化”包裝，降低了公眾的辨別難度，且缺乏成熟的生成式內容快速核驗技術，進一步加劇了虛假信息的傳播風險。

濫用或面臨多重法律責任

“AI‘整蠱’絕非法外之地，其制作與傳播行為可能觸及民事、行政乃至刑事多重法律責任。”周陳說，在行政責任層面，若該類行為構成散布謠言擾亂公共秩序的情形，將違反現(xiàn)行治安管理處罰法第二十五條規(guī)定，行為人需承擔相應行政處罰責任;在刑事責任層面，故意編造、傳播虛假信息，情節(jié)嚴重的可能觸犯刑法第二百九十一條之一規(guī)定的編造、故意傳播虛假信息罪，若針對特定主體實施誹謗行為，則可能構成第二百四十六條規(guī)定的誹謗罪。

在民事侵權領域，未經(jīng)授權使用他人肖像、聲音生成合成內容的，違反民法典第一千零一十九條關于肖像權保護、第一千零二十四條對名譽權保護的規(guī)定。實踐中，利用AI生成虛假名人代言視頻進行商品推銷的，可能構成欺詐或虛假廣告;將合成內容用于低俗傳播的，侵害他人人格權益的，受害人可依法主張停止侵害、賠禮道歉及精神損害賠償。

《生成式人工智能服務管理暫行辦法》第十四條明確規(guī)定平臺方的審核義務，若未履行標識核驗、違規(guī)處置等義務，需承擔連帶責任，但應遵循技術中立原則，合理劃分平臺與用戶的責任邊界，避免過度苛責抑制技術創(chuàng)新。

構建剛性法律制度

2025年9月1日施行的《人工智能生成合成內容標識辦法》(以下簡稱《標識辦法》)，標志著我國生成式AI治理從原則性規(guī)范進入精細化規(guī)制階段。《標識辦法》明確AI生成內容的使用規(guī)范與法律責任，要求生成環(huán)節(jié)的服務提供者必須在內容產(chǎn)出時自動添加顯性標識與隱性標識，顯性標識通過文字、聲音、圖形等方式讓用戶明顯感知，隱性標識嵌入文件元數(shù)據(jù)記錄生成屬性、服務提供者編碼等信息，確保內容可識別、可追溯。

“構建可信的AI生成內容生態(tài)，需要產(chǎn)業(yè)鏈上各方的共同努力。”王風和提出，應依托網(wǎng)絡安全法、數(shù)據(jù)安全法、個人信息保護法及《標識辦法》，構建剛性法律制度，明確AI生成內容的產(chǎn)權歸屬、責任劃分及懲戒標準，尤其要完善“算法黑箱”穿透式監(jiān)管機制，解決證據(jù)鏈溯源難題。

周陳建議，建立分級分類的治理機制：針對個人非商業(yè)使用、商業(yè)推廣、惡意侵權等不同場景，設置差異化的規(guī)制措施;推動建立跨部門協(xié)同監(jiān)管平臺，整合網(wǎng)信、公安及行業(yè)協(xié)會等監(jiān)管資源，實現(xiàn)違法線索的快速移送與處置。同時，須強化行業(yè)自律與公眾教育，提升公民的AI素養(yǎng)與權利保護意識，引導技術應用“向善發(fā)展”。

“生成式AI的治理絕非簡單的‘禁止’或‘放任’，而是要在保護創(chuàng)新活力與守住法律底線之間找到平衡點?！蓖躏L和說，未來應持續(xù)推進技術標準與法律規(guī)范的協(xié)同創(chuàng)新，完善“標準-檢測-評價”的閉環(huán)治理機制，讓生成式AI真正服務于社會進步與公眾福祉，實現(xiàn)“以人為本、技術向善”的治理目標。