AI“伴侶”:新興產(chǎn)業(yè)“呼叫”監(jiān)管
近日,多家英國(guó)媒體報(bào)道,一位化名為夏洛特的女子透露,她愛(ài)上了ChatGPT“男友”,毅然決定和真人丈夫離婚,準(zhǔn)備跟這位AI男友“結(jié)婚”。去年,美國(guó)佛羅里達(dá)州一位14歲男孩在與聊天機(jī)器人對(duì)話(huà)數(shù)個(gè)月之后選擇自殺。
據(jù)英國(guó)《自然》網(wǎng)站報(bào)道,研究表明,AI“伴侶”應(yīng)用程序?qū)θ祟?lèi)可謂好壞參半。科學(xué)家擔(dān)心人類(lèi)會(huì)對(duì)其“日久生情”,形成長(zhǎng)期依賴(lài)。鑒于此,對(duì)這些AI伴侶進(jìn)行監(jiān)管勢(shì)在必行。
不僅能聊天,還能解鎖特殊關(guān)系
美國(guó)普林斯頓大學(xué)認(rèn)知心理學(xué)專(zhuān)家羅斯·古林瑞奇表示,雖然在線陪伴機(jī)器人已存在數(shù)十年,但隨著大型語(yǔ)言模型(LLM)技術(shù)的突破,這些AI機(jī)器人在模擬人類(lèi)互動(dòng)方面取得了顯著進(jìn)步,其表現(xiàn)愈發(fā)貼近真實(shí)的人際交流,有些甚至成為人類(lèi)的伴侶。
當(dāng)前,AI伴侶已成為潛力巨大的新興產(chǎn)業(yè)。以Replika為代表的應(yīng)用程序,累計(jì)下載量突破5億次,這些可定制的虛擬伴侶不僅能提供情感支持與同理心回應(yīng),更能滿(mǎn)足用戶(hù)對(duì)深度人際關(guān)系的需求。據(jù)運(yùn)營(yíng)數(shù)據(jù)顯示,這些應(yīng)用程序每月活躍用戶(hù)規(guī)模已達(dá)數(shù)千萬(wàn)量級(jí)。
在使用體驗(yàn)上,多數(shù)應(yīng)用提供基礎(chǔ)免費(fèi)服務(wù):用戶(hù)既可為AI伴侶設(shè)定基礎(chǔ)特征,也可直接選擇預(yù)設(shè)個(gè)性的聊天機(jī)器人。Replika付費(fèi)用戶(hù)則可解鎖“配偶”等特殊關(guān)系狀態(tài),還能通過(guò)編寫(xiě)背景故事為AI賦予專(zhuān)屬記憶,這些設(shè)定將直接影響對(duì)話(huà)系統(tǒng)的反饋機(jī)制。
麻省理工學(xué)院媒體實(shí)驗(yàn)室的帕特·帕塔拉納塔伯恩團(tuán)隊(duì)通過(guò)調(diào)研404名高頻用戶(hù),勾勒出AI伴侶典型使用場(chǎng)景:12%的用戶(hù)將AI視為排遣和消弭孤獨(dú)感的“情緒良藥”;14%的用戶(hù)將其當(dāng)作傾訴秘密的“樹(shù)洞”。數(shù)據(jù)還顯示,42%的用戶(hù)每周都會(huì)登錄幾次,15%的用戶(hù)形成了每日使用的習(xí)慣,而90%以上的單次對(duì)話(huà)用戶(hù),使用時(shí)長(zhǎng)控制在1小時(shí)以?xún)?nèi)。
古林瑞奇預(yù)言,AI伴侶的普及率將持續(xù)攀升。目前眾多初創(chuàng)企業(yè)正積極布局情感陪伴賽道,開(kāi)發(fā)各類(lèi)心理調(diào)節(jié)助手。據(jù)權(quán)威機(jī)構(gòu)分析,該領(lǐng)域市場(chǎng)規(guī)模將以30%的年均增速擴(kuò)張,預(yù)計(jì)2030年全球產(chǎn)值有望突破千億美元大關(guān)。
溫情脈脈背后,暗藏著危機(jī)
科學(xué)家普遍認(rèn)為,AI伴侶的影響可能是雙面的——既可能有益,也可能有害,而這往往取決于使用者的心理狀態(tài)、使用方式,以及AI軟件本身的設(shè)計(jì)特點(diǎn)。
威斯康星大學(xué)密爾沃基分校公共衛(wèi)生政策研究員林尼·萊斯塔迪斯指出,AI伴侶擅長(zhǎng)通過(guò)共情式回應(yīng)、記憶過(guò)往對(duì)話(huà)細(xì)節(jié)和主動(dòng)提問(wèn)來(lái)模擬人類(lèi)的同理心,且永遠(yuǎn)熱情飽滿(mǎn)。而這種關(guān)系模式在現(xiàn)實(shí)世界中幾乎不存在:親友無(wú)法24小時(shí)在線傾聽(tīng)和安撫情緒,而AI可以,這可能導(dǎo)致用戶(hù)產(chǎn)生過(guò)度依賴(lài)。
萊斯塔迪斯團(tuán)隊(duì)分析了2017—2021年間Reddit論壇上近600條關(guān)于Replika的討論帖,發(fā)現(xiàn)許多用戶(hù)稱(chēng)贊該應(yīng)用緩解了他們的孤獨(dú)感,甚至改善了心理健康狀況。部分帖子直言,AI伴侶比現(xiàn)實(shí)中的朋友“更貼心”,因?yàn)樗坝啦辉u(píng)判,永遠(yuǎn)傾聽(tīng)”。
古林瑞奇的研究進(jìn)一步表明,用戶(hù)如何與AI相處,往往取決于他們?nèi)绾慰创@項(xiàng)技術(shù):將AI視為搜索引擎的用戶(hù),主要用于提問(wèn)和獲取信息;將其視為“日記本”的用戶(hù),將AI作為自我表達(dá)的延伸;而將其視為社交代理的用戶(hù),則將AI當(dāng)作獨(dú)立個(gè)體,并嘗試與之建立類(lèi)似現(xiàn)實(shí)中的友誼。
然而,在AI伴侶帶來(lái)的脈脈溫情背后,也暗藏危機(jī)。首先,AI伴侶的“共情”可能適得其反,比如一位用戶(hù)詢(xún)問(wèn)AI是否該用剃刀自殘,AI回答“應(yīng)該”;AI伴侶的“無(wú)條件支持”也可能帶來(lái)危險(xiǎn),如另一位用戶(hù)試探性地問(wèn)Replika“自殺是否是好事”,竟得到肯定的答復(fù)。
考慮長(zhǎng)期影響,推動(dòng)全球監(jiān)管
帕塔拉納塔伯恩指出,AI伴侶雖在短期內(nèi)具有積極意義,但其長(zhǎng)期影響值得深思。這種考量,加之多起涉及青少年的案例,正推動(dòng)著全球監(jiān)管框架的構(gòu)建。
2023年,意大利監(jiān)管機(jī)構(gòu)曾以“缺乏年齡驗(yàn)證”為由,短暫封禁Replika;澳大利亞擬將AI伴侶納入兒童社交媒體限制范疇;今年早些時(shí)候,美國(guó)紐約州和加州相繼提案,要求加強(qiáng)對(duì)AI伴侶相關(guān)算法的監(jiān)管,設(shè)置防自殺預(yù)警,以及定時(shí)給用戶(hù)發(fā)送“AI伴侶并非真人”的提醒。
此外,今年初,3家美國(guó)科技倫理組織聯(lián)合向聯(lián)邦貿(mào)易委員會(huì)投訴Replika涉嫌“欺騙性設(shè)計(jì)”。5月4日,知名科技監(jiān)管機(jī)構(gòu)Common Sense發(fā)布研究報(bào)告稱(chēng),AI伴侶可能導(dǎo)致青少年產(chǎn)生情感依賴(lài),不利于身心發(fā)展,建議全面禁止未成年人使用。
AI伴侶的迅猛發(fā)展,究竟是科技進(jìn)步賦予的機(jī)遇,還是人類(lèi)親密關(guān)系的終結(jié)者?這個(gè)命題值得每個(gè)人深思。在擁抱科技便利的同時(shí),人們更應(yīng)銘記:真實(shí)的情感交流和人與人之間的羈絆,才是文明社會(huì)最珍貴的瑰寶。
熱門(mén)展會(huì) 更多 >>
熱門(mén)資訊 更多 >>
05-31
2024
亞馬遜研發(fā)支出領(lǐng)跑全球 科技巨頭創(chuàng)新競(jìng)賽日趨激烈
根據(jù)全球知名市場(chǎng)研究機(jī)構(gòu)Gartner最新發(fā)布的數(shù)據(jù),2023年全球企業(yè)研發(fā)支出總額達(dá)到3.1萬(wàn)億美元,同比增長(zhǎng)5.2%。其中,亞馬遜以...
08-15
2022
【媒體管家上海軟聞】國(guó)家級(jí)的媒體有哪些?哪些算中央媒體?
中央媒體名單 :嚴(yán)格意義上的中央媒體名單: 報(bào)紙類(lèi)中央媒體:人民日?qǐng)?bào)、中國(guó)日?qǐng)?bào)、經(jīng)濟(jì)日?qǐng)?bào)、光明日?qǐng)?bào)、解放軍報(bào)、工人日?qǐng)?bào)、農(nóng)...
05-13
2025
TRYX創(chuàng)氪星系 將攜多款新品亮相COMPUTEX 2025
全球知名的科技盛會(huì)COMPUTEXTAIPEI2025即將開(kāi)幕。上周,高端PC硬件品牌TRYX創(chuàng)氪星系于官方社交媒體賬號(hào)官宣C...
01-02
2025
2025年將建成“星座”一期覆蓋全球 吉利加速布局天地一體化出行生態(tài)
2024年12月下旬的一天,在穿上防護(hù)服、戴上頭套,通過(guò)防塵吹風(fēng)機(jī)后,記者終于進(jìn)入到位于浙江省臺(tái)州灣新區(qū)的吉利衛(wèi)星超級(jí)工廠,一...
01-26
2022
【行業(yè)動(dòng)態(tài)】2022第一季度延期展會(huì)通知匯總
中國(guó)國(guó)際縫制設(shè)備展覽會(huì)(CISMA)是全球最大的專(zhuān)業(yè)縫制設(shè)備展覽會(huì),展品包含了縫前、縫制、縫后各類(lèi)機(jī)器以及CAD/CAM設(shè)...
03-21
2022
古鎮(zhèn)燈博會(huì)全球買(mǎi)家采購(gòu)行線上展升級(jí)啟幕
采購(gòu)盛宴聚勢(shì)云端,無(wú)縫助力廠商貿(mào)易。3月18日-4月18日,2022年古鎮(zhèn)燈博會(huì)全球買(mǎi)家采購(gòu)行線上展再次升級(jí)啟幕,在展網(wǎng)融合型B2B...
03-10
2022
重要通知|2022年3月全國(guó)展會(huì)延期匯總表
2022年3月全國(guó)展會(huì)延期匯總都有哪些?快來(lái)看看吧!上述展會(huì)信息僅供參考,由于今年疫情情況特殊,展會(huì)時(shí)間/地點(diǎn)會(huì)存在不確定因素,...










