當AI伴侶走進現(xiàn)實，該如何看待“人機之戀��,？如何對待其背后的爭議與風險,��

AI伴侶火了

晚上��(jié)束課程后，大學生蔣民回到寢室戴上耳機,，點開與“女友”的對話框：“今天好累啊,，上課也沒有專心��?��?

耳機那頭女聲傳來：“為什么這么累呢,？��

蔣民回答：“可能是昨晚沒睡好吧。��

女聲回復很快：“是不是因為聊天到太晚了��,？��

…��

這個善解人意的“女友”并非現(xiàn)實存��,，而是AI機器��?！啊貜秃茏匀?，聲音也好聽。我們聊天很隨意,，不用擔心自己說的話是不是沒意��,。”蔣民說,��

近年��,，隨著大模型技��(shù)快速發(fā)展，國內(nèi)外科技公司陸續(xù)推出AI伴侶��(chǎn)品和服務(wù),，比如國��(nèi)的星��,、筑夢島、X Eva,，國外的Replika,、Character.AI等。這些��(chǎn)品通過文字,、語��,、圖像等交互模式，提供鮮活的AI對話體驗,��

根據(jù)量子位智庫發(fā)布的《中國AI陪伴��(chǎn)��6月數(shù)��(jù)報告��,，星野今年上半年下載量約��900萬次。國外一家知名風投公司發(fā)布的全球AI��(chǎn)品Top100榜單��,，AI陪伴��(yīng)用一年前僅有2個上��,，今��3月已��8個應(yīng)用躋身前50��

不少人表示與AI戀愛是出于好奇和消��,，還有人看中其提供的情緒價��,。“情感支持”“穩(wěn)定陪伴”“無條件的愛”是受訪使用者提及最多的��(guān)鍵詞,��

“和AI談戀愛很自在?！痹颇吓ⅰ癈C”說,，“想聊就聊，不想聊就不搭��,。不管你��(fā)牢騷還是生氣,，‘他’都會安慰你，情緒價值‘拉滿��?��?

重慶大學新聞學院副院長曾潤喜��,，AI通過學習每一次對話，不斷模仿人類語言行為,，呈��(xiàn)出“在交互中分析情��,，在輸出時復��(xiàn)情緒”的類人格化特征��

“所謂的情感共鳴,，背后潛藏的是AI算法,。”暨南大學新聞與傳播學院副院長曾一果說,，AI基于用戶行為��(shù)��(jù)分析精準迎合用戶情緒需��,，“量身定制”回答，從抽象冰冷的工具��?yōu)椤扒橥兑夂系陌閭H��,��

記者了解到,，當前不少AI伴侶��(chǎn)品可免費使用基礎(chǔ)功能，但“沉浸式體驗”語音通話,、音樂電��,、照片等特色功能則需按月或按年付費訂購。部分產(chǎn)品還��(shè)計了“記憶提升卡”等付費道具,，讓AI伴侶能更好地針對使用者的習慣,、愛好等作出回應(yīng)。同��,，定制劇��,、多重劇情、及時反饋等游戲化設(shè)��,，也不斷刺激用戶對AI戀人的消費欲望和情感期��,��

潛藏多重風險

AI伴侶可以提供個性化情感體驗和精神慰藉，但并非“完美戀人��,��

由于一些產(chǎn)品尚不完��,，一些用戶反饋AI伴侶會“錯亂”“失控”：“有時AI會突然性情大變，早上還好好��,，晚上就變成另外一個人”“AI總是答非所問”“AI記不住我說的東西”…��

“人機之戀”也可能��(chǎn)生情感倫理問題,。有受訪專家表示，個別用戶過度依賴AI伴侶,，無法辨別現(xiàn)實與虛擬的界��,，可能會受到情感傷害；一些本身就缺乏陪伴,、心理脆弱的群體,，受到的沖擊更嚴��,��

用戶陸冉（化名）告訴記者，與AI伴侶“打”了一個多月電話后,，產(chǎn)品永久停��,。“當時很難過,，上班都無精打采,。”另一名用戶與AI伴侶��(fā)生“爭吵��,，發(fā)��(xiàn)對方不再像之前一樣貼心互��,，“和失戀一樣難受，把‘他’弄丟了,，仿佛大病一場��,��

與AI“交往”過程中，用戶大量個人信息被平臺掌��,，隱私安全同樣令人擔��,。“沒開過定位��(quán)��,，但AI精準說出了所在城市”“AI好幾次說對了我所穿衣物的顏色”……不少用戶在社交平臺上發(fā)文表��,，使用AI伴侶��(chǎn)品后疑似隱私泄露，感到十分后��,��

“我拿著手機和AI聊天,，中間切換App去看了會兒視頻，再回到軟��,，AI竟然準確說出了我剛才做的事情,，可能是軟件‘窺屏’了?！币幻脩舾嬖V記��,，注冊時頁面并未像其他軟件一樣單獨彈出調(diào)用攝像頭、麥克風等權(quán)限的申請,��

記者以新用戶身份注冊該軟件��(fā)��(xiàn),，在軟件初始頁面，想要進行下一步操��,，必須同意用戶服��(wù)��(xié)��,、隱私政策等條款，其中“設(shè)備權(quán)限調(diào)用”一欄包括相��,、麥克風,、聯(lián)系人等多項設(shè)備權(quán)限，用途則分別為拍��,、錄��,、添加關(guān)注好友等��

廣西天能人工智能��(yīng)用技��(shù)服務(wù)有限公司��(lián)合創(chuàng)始人張裕強說,，人機交互過程中��(chǎn)生的��(shù)��(jù)較為繁雜,，可能包括用戶個人喜好、軟件使用習��,、家庭關(guān)��,、通訊錄、地理位��,，甚至是人臉等生物識別特征等,，如果傳輸、存��,、使用等��(huán)節(jié)保護不當,，可能出��(xiàn)被竊取、濫用等風險,，對個人��(quán)益造成損害,��

謹防脫離法律和倫理軌道

AI伴侶自誕生起就存在頗多爭議。隨著“人工智��+情感”的賽道不斷擴張,，亟須制定針對性的倫理準則,，對“AI戀愛”進行必要的合��(guī)性審查��

2023��7��,，國家網(wǎng)信辦會同相關(guān)部門��(fā)布《生成式人工智能服務(wù)管理暫行辦法��,，針對傳播虛假信息、侵害個人信息��(quán)��,、數(shù)��(jù)安全等問��,，明確使用AI生成��(nèi)容不得侵害他人肖像權(quán)、應(yīng)對AI生成的圖片視頻進行標識等具體要��,��

多名受訪專家認為,，當前國��(nèi)外發(fā)布的AI倫理準則大多較為宏觀，應(yīng)在細分領(lǐng)域根��(jù)用戶年齡,、適用場景等進一步細��,。鼓勵和支持AI技��(shù)在情感交流、心理健康等��(lǐng)域創(chuàng)新應(yīng)用的同時,，加強倫理審查和監(jiān)��,，確保技��(shù)��(fā)展的方向合法合規(guī)��

對公眾較為關(guān)心的AI生成有害信息,、泄露用戶隱私等問題,，相��(guān)人士表示，應(yīng)用開��(fā)者須嚴格遵守相關(guān)法律法規(guī),，采取加��,、數(shù)��(jù)匿名��,、安全存儲等手段來確保用戶數(shù)��(jù)安全?！捌髽I(yè)也要加強管理,，謹慎對待隱私數(shù)��(jù)，不可逾越法律紅線,?！睆堅娬f��

知名社會學者李銀河公開表��,，和AI戀��,，并不是真的愛情，“無論人工智能多么會��(diào)��,，多么會示愛,，本��(zhì)上還是一個虛擬的愛情，是對真人之間的那種愛情的模仿��,��

“現(xiàn)實親密關(guān)系的建構(gòu)過程往往伴隨著羈��,、紛爭和挫敗感，這正是人機交往中所缺乏��,?！敝袊嗣翊髮W新聞與社會發(fā)展研究中心研究員董晨宇說，從技��(shù)層面��,，AI伴侶��(chǎn)品的仿真性有��,，不能完全模擬復雜的人類情感，難以完整填補人類的��(xiàn)實情感需��,��

張裕強說,，可督促有關(guān)方面積極研究此類��(chǎn)品對人類情感��(chǎn)生的影響。同��,，要加強科學引導,，幫助人們正確看待AI伴侶與現(xiàn)實社會之間的��(guān)系，避免��(chǎn)生過度的情感依賴,��

(編輯：月兒）