過(guò)去人們常說(shuō)，有圖有真相?，F(xiàn)在，人們會(huì)說(shuō)，有視頻、音頻為證。但是，小馬飛刀告訴大家，很多時(shí)候，偽造的視頻已經(jīng)做到了肉眼無(wú)法分辨的程度，“換臉術(shù)”“變聲術(shù)”早已不是什么新鮮事了。

為什么要和大家聊聊這個(gè)話題呢？先來(lái)看一則新聞：國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部近日聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，強(qiáng)調(diào)不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動(dòng)，要求深度合成服務(wù)提供者落實(shí)信息安全主體責(zé)任，規(guī)定將于2023年1月10日起施行。

什么是深度合成技術(shù)？簡(jiǎn)單地說(shuō)，就是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息的技術(shù)，包括文本轉(zhuǎn)語(yǔ)音、音樂(lè)生成、場(chǎng)景聲編輯、人臉生成、人臉替換、圖像增強(qiáng)等技術(shù)。深度合成技術(shù)最大的特點(diǎn)之一是“以假亂真”，其通過(guò)人工智能和大數(shù)據(jù)算法合成的虛擬數(shù)據(jù)具有極佳的視覺(jué)、聽(tīng)覺(jué)等效果，能夠使人難辨真假?？梢哉f(shuō)，深度合成技術(shù)豐富了網(wǎng)絡(luò)內(nèi)容形式，進(jìn)一步釋放新技術(shù)新應(yīng)用發(fā)展活力。當(dāng)前，深度合成技術(shù)已經(jīng)在音樂(lè)、影視、綜合娛樂(lè)、社交等多個(gè)行業(yè)的場(chǎng)景中被實(shí)際推廣應(yīng)用。

但是，部分深度合成技術(shù)應(yīng)用缺乏規(guī)范，對(duì)國(guó)家安全、社會(huì)穩(wěn)定和公民合法權(quán)益帶來(lái)風(fēng)險(xiǎn)挑戰(zhàn)。特別是深度合成內(nèi)容制作的技術(shù)門(mén)檻越來(lái)越低，普通人僅需少量的圖像、視頻、音頻等樣本數(shù)據(jù)，利用簡(jiǎn)便易用的合成工具，就能模糊真實(shí)和虛擬的邊界，甚至利用深度合成技術(shù)制造虛假視頻、虛假音頻進(jìn)行誣陷、誹謗、詐騙、勒索等違法行為。

面對(duì)深度合成這把雙刃劍，如何規(guī)范深度合成技術(shù)應(yīng)用，最大限度地趨利避害？小馬飛刀以為，深度合成技術(shù)真正危險(xiǎn)的是其對(duì)社會(huì)信任關(guān)系的嚴(yán)重破壞。信任關(guān)系的存在，對(duì)于任何個(gè)體、社群來(lái)說(shuō)都是無(wú)比重要的。要知道，信任是自古以來(lái)人類(lèi)社會(huì)存在的基礎(chǔ)之一。此次發(fā)布的規(guī)定通過(guò)相關(guān)制度設(shè)計(jì)，科學(xué)精準(zhǔn)地回應(yīng)了深度合成服務(wù)應(yīng)用發(fā)展對(duì)國(guó)家、社會(huì)及個(gè)人帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)，為促進(jìn)新技術(shù)新應(yīng)用的規(guī)范發(fā)展提供了有益范例。尤其是規(guī)定中一系列具有針對(duì)性和實(shí)效性的要求，劃出清晰紅線，體現(xiàn)規(guī)制亂象的決心，有助于維護(hù)清朗的網(wǎng)絡(luò)生態(tài)。

小馬飛刀

責(zé)任編輯：王旭偉