充斥直播間帶貨的AI張文宏，氣得真人張文宏想報警。不少網(wǎng)友反映，疑似知名醫(yī)生張文宏在直播間售賣一種蛋白棒，家中老人信以為真、大量下單。就AI合成的帶貨視頻，張文宏本人回應(yīng)：除了向平臺方投訴，也曾考慮報案，但對方賬號不斷變化，只能寄希望于相關(guān)部門加強監(jiān)管。

在AI的操控下，偽造這樣一個能說會道的張文宏很簡單。有業(yè)內(nèi)團(tuán)隊介紹，只要提供一段約1分鐘的當(dāng)事人相關(guān)視頻，就能做到面部特征抓取及音色模仿學(xué)習(xí)，生成相似度較高、質(zhì)量較好的模型。依靠換臉技術(shù)，素人主播搖身一變成了張文宏；借助張文宏醫(yī)生的知名度，原本不好賣的食品、保健品、垃圾產(chǎn)品頓時銷量大增。

消費者因為信張文宏醫(yī)生而買，張文宏醫(yī)生的形象和公信力卻被“AI張”賣了。張文宏依法維權(quán)，漫長的時間、巨大的精力，對忙著爭分奪秒治病救人的大夫而言簡直不可能。此外，換臉名人帶貨還嚴(yán)重侵犯消費者知情權(quán)，涉嫌虛假宣傳和詐騙。

在假張文宏割韭菜事件引發(fā)關(guān)注前，還有假靳東迷倒一眾大媽、假馬云推薦情商圖書、假雷軍辣評世間百態(tài)、假于東來一邊自夸一邊帶貨……有數(shù)據(jù)顯示，2023年基于AI的深度偽造欺詐增長了3000％。究竟有多少人因不能鑒別真假，被實實在在地騙走了時間、精力、情感、金錢，恐怕已經(jīng)無從統(tǒng)計。換臉名人的網(wǎng)絡(luò)“蝗災(zāi)”泛濫至此，監(jiān)管的“殺蟲劑”可不能再舍不得噴灑了。

技術(shù)本身沒有好壞，是使用技術(shù)的人有好有壞。近年來，我國頒布實施《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)，就是為了嚴(yán)格監(jiān)管AI的規(guī)范使用。然而，隨著AI技術(shù)發(fā)展及其應(yīng)用場景日益廣泛，變臉名人的賬號多而分散，虛假直播時間并不固定，運營者尋找著網(wǎng)絡(luò)平臺的隱蔽角落、打一槍換一個地方，無不給監(jiān)管帶來了難度。不法分子能用AI仿冒名人來騙人，難道各平臺就不能用AI來監(jiān)測防范？是不愿，還是不能？監(jiān)管部門要進(jìn)一步明確界定AI合成的責(zé)任歸屬，督促網(wǎng)絡(luò)平臺的落實管理義務(wù)，同時不斷提高技術(shù)識別能力、監(jiān)管打擊水平，實現(xiàn)對AI技術(shù)的指引。

據(jù)《北京晚報》

責(zé)任編輯：王旭偉