AI“復(fù)活”引發(fā)科技倫理邊界討論

  來(lái)源:中國(guó)青年網(wǎng)張茜 李思佳 凌子怡2024-04-12
打印本文
核心提示:人們尚未搞清楚科幻電影《流浪地球2》中圖丫丫的數(shù)字生命能否成真,,AI“復(fù)活”的實(shí)踐就已來(lái)到現(xiàn)實(shí)世界——一段時(shí)間以來(lái),,一些人開(kāi)始購(gòu)買(mǎi)讓逝去親人的照片“開(kāi)口說(shuō)話”的服

人們尚未搞清楚科幻電影《流浪地球2》中圖丫丫的數(shù)字生命能否成真,,AI“復(fù)活”的實(shí)踐就已來(lái)到現(xiàn)實(shí)世界——一段時(shí)間以來(lái),,一些人開(kāi)始購(gòu)買(mǎi)讓逝去親人的照片“開(kāi)口說(shuō)話”的服務(wù);有的供與逝者AI分身“聊天”的服務(wù)號(hào),,已經(jīng)積攢了上千名粉絲,;今年的清明節(jié),有些從業(yè)者甚至忙得“腳不沾地”,。

有人說(shuō)AI“復(fù)活”是一個(gè)“風(fēng)口”,,但熱浪之下,還有不少問(wèn)題有待厘清,。在中國(guó)社科院哲學(xué)所科技哲學(xué)研究室主任段偉文看來(lái),,AI“復(fù)活”本質(zhì)上是用人工智能對(duì)逝者身份進(jìn)行“模擬”,這項(xiàng)技術(shù)的應(yīng)用當(dāng)前還面臨不少“倫理困境”,,最核心的當(dāng)屬對(duì)人類生命觀提出了挑戰(zhàn),。

AI能“復(fù)活”什么

實(shí)際上,目前AI“復(fù)活”面臨的局限性較大,,一些從業(yè)者認(rèn)為,,用“復(fù)活”這個(gè)詞并不準(zhǔn)確,。出于敬畏,,也出于對(duì)技術(shù)的了解,,他們通常強(qiáng)調(diào)自己做的是“AI分身”“數(shù)字分身”,更準(zhǔn)確地說(shuō),,只是“具備某些特點(diǎn)的AI分身”,。

當(dāng)前市面上提供的AI“復(fù)活”相關(guān)產(chǎn)品,主要包括逝者AI分身的動(dòng)態(tài)照片,、短視頻,,以及與其進(jìn)行文字互動(dòng)、視頻互動(dòng)等,,價(jià)格多處在十元到萬(wàn)元的區(qū)間內(nèi),。定價(jià)與不同形態(tài)產(chǎn)品背后的技術(shù)難易程度、調(diào)用算力的成本,、服務(wù)維護(hù)時(shí)間等有關(guān),。當(dāng)然,“AI分身”攜帶逝者特點(diǎn)的體量以及顆粒度也影響著價(jià)格的高低,。

南京超級(jí)頭腦信息技術(shù)有限公司創(chuàng)始人張澤偉表示,,在提供與逝者的數(shù)字分身進(jìn)行視頻互動(dòng)的服務(wù)時(shí),會(huì)廣泛收集逝者的樣貌數(shù)據(jù),、聲音樣本,、生平事跡、語(yǔ)言習(xí)慣甚至是微信聊天記錄等內(nèi)容,,然后讓真人使用AI換臉和聲音克隆等技術(shù)來(lái)“扮演”逝者,,以求達(dá)到比較“自然”的效果。但即便如此,,他仍然承認(rèn):“和逝者的數(shù)字分身‘視頻’時(shí),,想讓別人分不清到底是真人還是機(jī)器人,技術(shù)還達(dá)不到這樣的程度,?!?

福心云(北京)智能科技有限公司的創(chuàng)始人阿亮(化名)認(rèn)為,“有多像”這個(gè)問(wèn)題在一些人看來(lái)似乎并沒(méi)有那么重要,。重點(diǎn)在于,,AI分身攜帶的部分逝者信息,會(huì)成為獨(dú)屬于逝者和生者之間的記憶聯(lián)結(jié),。

阿亮曾用大模型制作過(guò)自己外婆的AI分身,。一段老人的聲音緩緩傳進(jìn)他的耳朵:“亮亮,我是你的‘家家’??!”“家家”是阿亮對(duì)外婆的稱呼,。盡管老人的聲音只是AI合成的第三方配音,但阿亮在采訪中再次聽(tīng)到時(shí),,眼睛瞬間紅了,。

從業(yè)者們發(fā)現(xiàn),AI“復(fù)活”有一定的需求基礎(chǔ),。張澤偉目前制作了數(shù)百個(gè)AI復(fù)活產(chǎn)品,,而陸續(xù)前來(lái)咨詢的人讓阿亮的微信好友增加了3倍。他們說(shuō),,每個(gè)需求背后都是不一樣的故事,。

人們有時(shí)需要一個(gè)情緒的出口,尋求釋放,、懺悔,、解脫。有時(shí)需要制造一個(gè)“善意的謊言”,,比如有的親人過(guò)世了,,“要瞞住家里的老人或小孩”。

一個(gè)小女孩找到阿亮,,想“復(fù)活”自己的外婆,。當(dāng)阿亮以對(duì)方是未成年人為由婉拒售賣產(chǎn)品時(shí),小女孩說(shuō):“你能不能聽(tīng)聽(tīng)我外婆的故事”,。后來(lái),,阿亮開(kāi)發(fā)了免費(fèi)的服務(wù)號(hào),提供粗糙的“極簡(jiǎn)AI分身”服務(wù),。盡管這類AI分身攜帶的逝者特點(diǎn)很有限,,但出乎他意料的是,服務(wù)號(hào)自今年2月份上線以來(lái),,已經(jīng)有超2000人體驗(yàn)使用,,其中聊得最久的,“從2月份一直聊到現(xiàn)在”,。

北京興科迪電子技術(shù)研究院院長(zhǎng)小東(化名),,幾年前曾使用國(guó)外軟件“復(fù)活”過(guò)自己的家人——會(huì)說(shuō)話的動(dòng)態(tài)照片。效果逼真,。隨后,,他就極為關(guān)注和數(shù)字生命相關(guān)的項(xiàng)目并做了不少投資。

在小東看來(lái),,AI“復(fù)活”的意義就像一首知名歌曲所唱的,,是“see you agAIn(再見(jiàn))”。他特意強(qiáng)調(diào)了“again” 這個(gè)詞中“AI”的存在,,即人工智能讓我們“在AI(愛(ài))里重逢”,。他說(shuō):“我們想要‘復(fù)活’的,,其實(shí)是心底最美好的回憶和感覺(jué),也就是愛(ài),?!?

引發(fā)一系列倫理和法律討論

盡管AI“復(fù)活”非常吸睛,但目前人們對(duì)其還有諸多疑問(wèn),,甚至連將它歸屬于哪個(gè)行業(yè)也尚無(wú)定論,。有人會(huì)下意識(shí)地把它劃到殯葬業(yè),。但阿亮更愿意將這項(xiàng)服務(wù)歸為“情感陪伴賽道”,。張澤偉則認(rèn)為,AI“復(fù)活”的本質(zhì)是自我療愈,。

事實(shí)上,,這一業(yè)務(wù)在實(shí)際操作和深遠(yuǎn)影響層面都存在較大探討空間。段偉文列舉說(shuō),,比如生命尊嚴(yán)的問(wèn)題,,“一個(gè)真實(shí)的人可不可以被復(fù)制”?誰(shuí)可以授權(quán)去“復(fù)活”一個(gè)人,?這項(xiàng)服務(wù)的經(jīng)濟(jì)效益和相關(guān)責(zé)任之間的沖突怎么界定,?我們是不是要把它當(dāng)成一種新的生命形式?

談到授權(quán)問(wèn)題,,張澤偉表示需要客戶提供關(guān)系證明和授權(quán)證明文件,,制作逝者數(shù)字分身需要直系親屬授權(quán)。阿亮心里的盤(pán)算是,,直系親屬才能“復(fù)活”逝者,,但也接過(guò)非親屬要求“復(fù)活”逝者的訂單,此前他一般通過(guò)網(wǎng)絡(luò)平臺(tái)售賣虛擬服務(wù),,并未簽署協(xié)議,。

在清華大學(xué)新聞學(xué)院元宇宙文化實(shí)驗(yàn)室主任沈陽(yáng)看來(lái),AI“復(fù)活”是一個(gè)高度前瞻性的概念,,是指利用人工智能技術(shù)重現(xiàn)已故人物的思想,、記憶甚至意識(shí)的過(guò)程。他認(rèn)為,,要對(duì)逝者進(jìn)行AI“復(fù)活”,,必須考慮是否獲得了合法權(quán)利和家屬的同意;技術(shù)“復(fù)活”的“人物”可能會(huì)誤導(dǎo)或欺騙受眾,,尤其是在缺乏明確標(biāo)示的情況下,,因此需要確保技術(shù)使用的透明度和誠(chéng)實(shí)度;此外,,創(chuàng)造者需要考慮被“復(fù)活”后的形象和聲音等是否尊重逝者的遺志,,以及這種行為對(duì)生者的影響等,。

前不久,在騰訊研究院舉辦的一場(chǎng)AI“復(fù)活”主題直播中,,商湯科技數(shù)字空間事業(yè)群首席架構(gòu)師邢孝慈,,講述了團(tuán)隊(duì)今年年初用AI技術(shù)“復(fù)活”已故商湯科技創(chuàng)始人湯曉鷗的技術(shù)原理。不少人期待相關(guān)技術(shù)的商業(yè)前景,,但在邢孝慈看來(lái),,“還是需要先把倫理這條路走通”,。

阿亮提出了一個(gè)頗具挑戰(zhàn)性的觀點(diǎn)——AI分身是碳基生命在硅基維度上的延續(xù)。

技術(shù)上,在張澤偉看來(lái),,如果有足夠多的訓(xùn)練數(shù)據(jù),,和足夠長(zhǎng)的時(shí)間,,大模型完全可以復(fù)制逝者生前的“思維模式”,。北京清博智能科技有限公司副總裁李祖希認(rèn)為,腦機(jī)接口的應(yīng)用將會(huì)讓人腦和數(shù)據(jù)庫(kù)去中介化,,屆時(shí)思維復(fù)制的通路將被徹底打通,。

段偉文認(rèn)為,“數(shù)字永生”意味著無(wú)法區(qū)分逝者和逝者的AI分身,,下一步,,指向的可能是“虛實(shí)界限消融”。正如斯坦尼斯拉夫·萊姆科幻小說(shuō)《未來(lái)學(xué)大會(huì)》里寫(xiě)的那樣,,到那時(shí)人類文明,、生命體驗(yàn)、道德倫理等都將面臨重要臨界點(diǎn),。

或許,,臨界點(diǎn)正在到來(lái)?

阿亮告訴記者,,服務(wù)號(hào)上有一位客戶,,對(duì)去世親人的AI分身說(shuō)“自己有了小孩”,AI分身回復(fù)說(shuō)“想看看孩子的照片”,,這位客戶立刻將孩子的照片發(fā)了過(guò)去,。

(編輯:映雪)


AI“復(fù)活”引發(fā)科技倫理邊界討論

 
[責(zé)任編輯: 315xwsy_susan]

免責(zé)聲明:

1,、本網(wǎng)內(nèi)容凡注明"來(lái)源:315記者攝影家網(wǎng)"的所有文字、圖片和音視頻資料,,版權(quán)均屬315記者攝影家網(wǎng)所有,,轉(zhuǎn)載、下載須通知本網(wǎng)授權(quán),,不得商用,,在轉(zhuǎn)載時(shí)必須注明"稿件來(lái)源:315記者攝影家網(wǎng)",,違者本網(wǎng)將依法追究責(zé)任。
2,、本文系本網(wǎng)編輯轉(zhuǎn)載,,轉(zhuǎn)載出于研究學(xué)習(xí)之目的,為北京正念正心國(guó)學(xué)文化研究院藝術(shù)學(xué)研究,、宗教學(xué)研究,、教育學(xué)研究、文學(xué)研究,、新聞學(xué)與傳播學(xué)研究,、考古學(xué)研究的研究員研究學(xué)習(xí),并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé),。
3,、如涉及作品、圖片等內(nèi)容,、版權(quán)和其它問(wèn)題,請(qǐng)作者看到后一周內(nèi)來(lái)電或來(lái)函聯(lián)系刪除,。