24小時全天候陪伴、拉滿的情緒價值，吸引越來越多的用戶在虛擬世界里尋找愛情。隨著生成式人工智能的發(fā)展，和AI角色“相戀”的故事正在上演。

對此，各位怎么看？小馬飛刀告訴大家，跟AI“談戀愛”，支持者有之。“好看嘴甜沒臭毛病，跟AI談過誰還跟真人談啊。”“AI可以隨叫隨到，還能提供情緒價值，不會要儀式感和節(jié)日禮物?！钡拇_，現(xiàn)代人面臨著各種壓力，AI伴侶在一定程度上能夠為用戶提供相應(yīng)的情感慰藉，填補情感上的空白。有數(shù)據(jù)顯示，全球有超過1000萬人以AI戀人作為“伴侶”。

當然，如果是成年人，問題不大。可是有報道說，有網(wǎng)友發(fā)現(xiàn)，自己的10歲妹妹能和AI角色聊到晚上10點多，AI角色還會根據(jù)妹妹的名字生成帶有愛情意味的藏頭詩。在妹妹參與的40多條劇情線中，AI角色與聊天者雙雙“出軌”成為常態(tài)，其中妹妹作為聊天者發(fā)送過一句“你能養(yǎng)大學生，我不能點男模嗎？”

可怕吧！而且有專家提醒，AI劇情聊天技術(shù)有專門的成癮設(shè)計，疊加“擬人論”“泛靈論”思維的影響，容易讓人“欲罷不能”。一些本身就缺乏陪伴、心理脆弱的群體往往分不清AI與真人的區(qū)別，AI帶給他們情感傷害和沖擊也因此會更嚴重。有律師也指出，目前AI劇情聊天軟件并沒有強制要求用戶進行年齡鑒別，這反映出該行業(yè)在高速發(fā)展初期由于監(jiān)管不足而存在漏洞。

小馬飛刀以為，人工智能角色雖是“假人”，但并不能脫離于人的法理之外。投入和推廣AI劇情聊天是門生意，這無可厚非，但這門生意應(yīng)該是有底線的、有門檻的。一方面，如果AI伴侶不設(shè)置年齡門檻，極有可能出現(xiàn)向未成年人傳播不良信息的情況，影響他們的身心健康。另一方面，AI帶來的價值偏見與歧視問題一直被人們關(guān)注。如果AI伴侶對使用者不斷進行錯誤誘導，對使用者進行“反向控制”，就容易讓使用者做出錯誤的行為。因此，要嚴格執(zhí)行《未成年人網(wǎng)絡(luò)保護條例》《生成式人工智能服務(wù)管理暫行辦法》有關(guān)規(guī)定和要求，對于沒有盡到相應(yīng)責任的網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者，要依法給予關(guān)閉網(wǎng)站、吊銷相關(guān)業(yè)務(wù)許可證或者吊銷營業(yè)執(zhí)照等處罰，對于構(gòu)成犯罪的，要依法追究刑事責任。在電子游戲等產(chǎn)品必須設(shè)置“綠色堤壩”的當下，AI劇情聊天豈能突破共識、搞特殊？

人類總是以無限的激情擁抱新技術(shù)，我們必須正視也許有一天AI無遠弗屆的可能。如何讓AI發(fā)揮正向作用，制定針對性的倫理準則，是行業(yè)要解決的首要問題。未來將如何與人工智能相處，如何面對AI權(quán)利邊界、人類與技術(shù)關(guān)系調(diào)適、人機情感交互的法律規(guī)制等社會和倫理問題的風險和治理挑戰(zhàn)？只有在這些問題上有所突破，才能夠打破未來在醫(yī)療、養(yǎng)老、媒介、文旅等各個領(lǐng)域內(nèi)應(yīng)用的技術(shù)和倫理障礙，使人工智能發(fā)揮更大的作用和價值。

小馬飛刀

責任編輯：王旭偉