《甄嬛傳》變身“槍戰(zhàn)片”、《紅樓夢(mèng)》改成“武打戲”、孫悟空騎著摩托車揚(yáng)長而去……據(jù)報(bào)道，廣電總局網(wǎng)絡(luò)視聽司日前發(fā)布《管理提示（AI魔改）》，指出近期AI“魔改”視頻以假亂真、“魔改”經(jīng)典現(xiàn)象頻發(fā)，要求各相關(guān)省局督促轄區(qū)內(nèi)短視頻平臺(tái)排查清理AI“魔改”影視劇的短視頻，限期反饋工作情況；嚴(yán)格落實(shí)生成式人工智能內(nèi)容審核要求，舉一反三，對(duì)各自平臺(tái)開發(fā)的大模型或AI特效功能等進(jìn)行自查，對(duì)在平臺(tái)上使用、傳播的各類相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)看，對(duì)AI生成內(nèi)容作出顯著提示。

對(duì)此，有評(píng)論指出：表面是“魔改”，其實(shí)就是“去經(jīng)典化”“去原著化”，把一個(gè)完整的作品分拆為一個(gè)個(gè)形象、一個(gè)個(gè)片段，并將之還原為某種“模塊”“物料”“字符”，加以二次組裝、胡亂拼接。這整個(gè)過程，我們感受到的是“娛樂整活”之于“嚴(yán)肅表達(dá)”的凌駕，是AI暴力對(duì)于文化敘事的強(qiáng)拆。

其實(shí)，從“AI換臉特效”“AI復(fù)活親人”到“AI愛人”，對(duì)AI技術(shù)使用邊界的討論始終不曾停止。特別是用“換臉”“換聲”假扮熟人的AI惡搞乃至詐騙、傳播淫穢內(nèi)容的AI色情騙局、批量化生成的AI造謠等新型違法犯罪花樣翻新、層出不窮?！?024年人工智能安全報(bào)告》顯示，基于AI的深度偽造欺詐在2023年激增30倍，對(duì)網(wǎng)絡(luò)安全和社會(huì)安全構(gòu)成了較為嚴(yán)重的威脅。前不久，浙江省杭州市公安機(jī)關(guān)偵破一起利用AI技術(shù)偽造活體視頻，突破部分網(wǎng)絡(luò)平臺(tái)登錄認(rèn)證，竊取用戶信息的案件。這些不法分子在登錄他人賬號(hào)竊取用戶敏感信息后，將其出售獲利。這不僅侵害了用戶的個(gè)人信息權(quán)益，也給整個(gè)網(wǎng)絡(luò)安全帶來了嚴(yán)重威脅。

應(yīng)該說，AI技術(shù)只是工具，如何運(yùn)用取決于人。技術(shù)本身并無善惡，但技術(shù)的發(fā)展與應(yīng)用必須合乎人類主流價(jià)值規(guī)則體系。換句話說，AI技術(shù)是一把“雙刃劍”，其既可成為人類的幫手，幫助人們提升工作效能、改善服務(wù)體驗(yàn)，也有可能成為不法分子的幫兇，給公眾生活帶來難以防范的安全隱患。

目前，我國已頒布實(shí)施《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)，但面對(duì)高速發(fā)展的AI技術(shù)及其日益廣泛的應(yīng)用場(chǎng)景，相關(guān)法律法規(guī)仍需進(jìn)一步深化、細(xì)化，立法、執(zhí)法、司法等相關(guān)各方仍待進(jìn)一步形成合力。

小馬飛刀以為，只有在引導(dǎo)鼓勵(lì)人工智能創(chuàng)新發(fā)展的同時(shí)，對(duì)AI技術(shù)濫用可能引發(fā)的安全風(fēng)險(xiǎn)予以依法防范化解，讓相關(guān)各方清晰認(rèn)知并守住使用AI技術(shù)的法律邊界，才能讓AI等新興技術(shù)更好地服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展。

AI技術(shù)發(fā)展到哪里，法律法規(guī)空白就要填補(bǔ)到哪里。

小馬飛刀

責(zé)任編輯：王旭偉