日前，包頭警方發(fā)布一起利用人工智能實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元。

據(jù)披露，騙子通過智能AI換臉和擬聲技術(shù)，佯裝好友對郭先生實施了詐騙。騙子并沒有使用仿真的好友微信添加郭先生，而是直接用好友微信發(fā)起視頻聊天求助。幸運(yùn)的是，接到報警后，福州、包頭兩地警銀迅速啟動止付機(jī)制，成功止付攔截336.84萬元，但仍有93.16萬元被轉(zhuǎn)移，目前正在全力追繳中。

當(dāng)前，隨著人工智能逐步走向通用型的發(fā)展新階段，出現(xiàn)了諸多不容忽視的問題。比如廣州一女子在地鐵上拍攝了一張衣著正常的照片，別有用心之人看到后用 AI軟件“一鍵脫衣”，給當(dāng)事人帶來嚴(yán)重影響；有人用chatgpt寫了一條“杭州市政府將取消機(jī)動車尾號限行政策”的假新聞，讓不少人信以為真。再比如，AI實時換臉已從最初的娛樂“整活”，向直播等多個應(yīng)用場景發(fā)展。一些直播間，紛紛采用了AI換臉明星的方式進(jìn)行直播帶貨，楊冪、迪麗熱巴、angelababy等當(dāng)紅女星，成為了AI換臉的重點(diǎn)對象。

小馬飛刀以為，人工智能技術(shù)本身并沒有善惡，但是，當(dāng)有心之人、惡意之徒將其作為作惡工具，那么，如何讓技術(shù)向善，就成為全行業(yè)、全社會都需共同關(guān)注的重要議題。而且隨著技術(shù)的進(jìn)步，必然會有更多眼花繚亂的應(yīng)用給法律、監(jiān)管甚至倫理出難題，這就要求法治和監(jiān)管及時跟進(jìn)、創(chuàng)新思路，與時俱進(jìn)構(gòu)建起嚴(yán)密、高效的監(jiān)督治理體系。中國科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長張鈸就認(rèn)為，以深度學(xué)習(xí)為代表的算法爆發(fā)拉開了人工智能浪潮序幕，在計算機(jī)視覺、智能語音、自然語言處理等眾多領(lǐng)域取得長足發(fā)展。但以數(shù)據(jù)驅(qū)動的第二代人工智能在可解釋性、穩(wěn)健性方面的缺陷也逐漸暴露出來，導(dǎo)致安全事件頻發(fā)。如何實現(xiàn)高質(zhì)量發(fā)展和高水平安全良性互動，是當(dāng)前人工智能產(chǎn)業(yè)面臨的最為重要命題。中國信息通信研究院發(fā)布的《人工智能白皮書（2022年）》同樣指出，隨著人工智能應(yīng)用暴露出各種風(fēng)險和挑戰(zhàn)，以及人們對人工智能認(rèn)識的不斷深入，人工智能治理已經(jīng)成為全球各界高度關(guān)注的議題，對可信安全的呼聲不斷增多。

上個月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》指出，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準(zhǔn)確，采取措施防止生成虛假信息。提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)尊重知識產(chǎn)權(quán)、商業(yè)道德，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢實施不公平競爭，等等。其中提到，提供者違反本辦法規(guī)定的，由網(wǎng)信部門和有關(guān)主管部門按照《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護(hù)法》等法律、行政法規(guī)的規(guī)定予以處罰。法律、行政法規(guī)沒有規(guī)定的，由網(wǎng)信部門和有關(guān)主管部門依據(jù)職責(zé)給予警告、通報批評，責(zé)令限期改正；拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停或者終止其利用生成式人工智能提供服務(wù)，并處一萬元以上十萬元以下罰款。構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。

AI由人創(chuàng)造而來，AI的風(fēng)險不在AI，而在于人。只有通過法律保障和行業(yè)監(jiān)管，給AI技術(shù)立下規(guī)矩，方能引導(dǎo)人工智能真正“向善”。

小馬飛刀

責(zé)任編輯：王旭偉