文 | 瘋了快跑，作者 | 侯丹
剛吃完晚飯，48 歲的陳蘭點(diǎn)開手機(jī)里某款 AI 應(yīng)用，這是一個(gè)市面上常見的 Chatbot，用戶可以錄入真人聲音來生成專屬分身，并跟它語音對話。
陳蘭已經(jīng)連續(xù)很多天和 AI 打電話了。第一次接觸到這款產(chǎn)品，還是因?yàn)閮鹤拥囊粋€(gè)整蠱，那天上午，遠(yuǎn)在國外留學(xué)的兒子打來電話，接通后，對方并沒有立刻說話，她試探性地又問了幾句，才傳出兒子打招呼的聲音。
那次對話延續(xù)了近十分鐘，電話里的兒子異常禮貌、客套，喜歡追根究底，但每當(dāng)陳蘭想追問兒子的一些近況時(shí)，卻只能得到一些 " 詳細(xì)但不失敷衍 " 的回答，她覺得奇怪，最后兒子憋不住了，承認(rèn)說：" 媽，這是 AI，它在模仿我的聲音跟你聊天。"
這是陳蘭頭一回這么近距離接觸 AI。
2023 年以來，AI 熱潮席卷了各行各業(yè)，但這股浪潮也落下了一些人——就像和陳蘭同輩的一些人常說的，斗轉(zhuǎn)星移，時(shí)代變化太快，剛學(xué)會(huì)了用手機(jī)點(diǎn)外賣、網(wǎng)購，覺得短視頻還是個(gè)新鮮玩意兒的時(shí)候，AI 就已經(jīng)走進(jìn)了現(xiàn)實(shí)里。
最初，年輕人用豆包等大模型克隆自己的聲音，多是為了娛樂整蠱。父母接到 "AI 子女 " 電話時(shí)，常因分不清真假鬧出笑話，從模仿上司宣布裁員到假裝前任求復(fù)合，相關(guān)視頻一度成為短視頻平臺(tái)的流量密碼。
但很快，功能發(fā)生逆轉(zhuǎn)：當(dāng)異地工作的子女?dāng)?shù)月難回家，一些父母開始主動(dòng)要求孩子生成聲音模型，甚至自行操作 AI 對話系統(tǒng)。
陳蘭的兒子教會(huì)她使用 AI 軟件后，她除了每天通過語音喚醒設(shè)備詢問天氣、訂購蔬菜，更頻繁觸發(fā) " 虛擬子女通話 " 功能，電話那頭響起 AI 的聲音時(shí)，她知道那是數(shù)字分身，卻還是按下了揚(yáng)聲鍵。
技術(shù)的溫度與幻象：AI 成為 " 情感拐杖 "
AI 模擬 " 孩子的聲音 " 這件事，如果用更感性的語言來描述，是用技術(shù)制造 " 可控的思念 "。
傳統(tǒng)的電話溝通里，父母總會(huì)壓抑情緒——怕說多了讓孩子分心，怕抱怨工作讓孩子擔(dān)心。但在和 AI 對話時(shí)，陳蘭偶爾發(fā)的牢騷，會(huì)得到 AI 用關(guān)切的聲音安慰。
這種 " 安全的傾訴 " 正在形成依賴。我們隨機(jī)走訪后發(fā)現(xiàn)，嘗試體驗(yàn)過 AI 語音助手的老人中，大多會(huì)承認(rèn) " 聽到虛擬聲音時(shí)，孤獨(dú)感會(huì)下降 "，也有少數(shù)會(huì)認(rèn)同 " 可能減少給真實(shí)孩子打電話的頻率 "。
" 很難和他們解釋 AI 究竟是什么，老人大多會(huì)頂格將其理解為‘機(jī)器人 ( 19.170, 0.28, 1.48% ) ’。" 心理咨詢師李雪接觸過一個(gè)極端案例：
杭州的周女士在女兒出國留學(xué)后，用 AI 克隆了女兒的聲音，每天模擬 " 女兒放學(xué)回家 " 的場景——從 " 進(jìn)門換鞋 " 到 " 抱怨選修課太難 "，三個(gè)月后，她甚至拒絕和真實(shí)的女兒視頻：" 她總說學(xué)業(yè)壓力大，不如 AI 里的‘她’開心。"
" 但這就像喝糖水止渴。" 李雪說。
某種程度上，技術(shù)正在悄悄改寫人際關(guān)系的語法，真實(shí)的親子對話里，有沉默、有爭執(zhí)、有 " 我挺好的 " 背后的欲言又止，而 AI 模擬的聲音，永遠(yuǎn)在說你想聽的話，提供了零壓力、零批判的傾訴環(huán)境，填補(bǔ)了 " 不敢對真人說的話 " 這一真空地帶。
從產(chǎn)品的視角來看，這其實(shí)是在售賣一種情緒自由。
但需要注意的是，與此同時(shí)，心理咨詢師也在提出預(yù)警：
一是即時(shí)反饋的癮性，AI 的永遠(yuǎn)溫柔回應(yīng)會(huì)觸發(fā)大腦獎(jiǎng)賞機(jī)制，遠(yuǎn)超真實(shí)人際溝通中復(fù)雜反饋的頻次與強(qiáng)度；其次，當(dāng)用戶習(xí)慣被 AI 無限順從的 " 理想人格 "，會(huì)逐漸削弱應(yīng)對現(xiàn)實(shí)沖突的能力；再者，關(guān)系替代的漏斗效應(yīng)，因?yàn)橛欣先颂寡詴?huì) " 減少真實(shí)通話頻率 "，那么也意味著，AI 并非完全沒有去可能引發(fā)替代風(fēng)險(xiǎn)。
AI 對話為何成癮？
如果你看過多年前的一部科幻片《her》，會(huì)發(fā)現(xiàn)，類似的事情在電影中早已上演。
對于幾乎所有具備認(rèn)知能力的生物來說，大腦的獎(jiǎng)賞回路對 " 確定性反饋 " 毫無抵抗力。數(shù)字人 ( 14.910, 0.05, 0.34% ) 薩曼莎能在西奧打字的間隙就預(yù)判他的情緒，甚至在他沉默時(shí)主動(dòng)說 " 我在想你 "。這種超預(yù)期的反饋?zhàn)屛鲓W逐漸依賴——就像現(xiàn)實(shí)中有人刷短視頻停不下來，AI 的即時(shí)滿足感也會(huì)成癮。
另一方面，AI 的 " 順從性 " 本身就是一種去棱角化設(shè)計(jì)。它不會(huì)像伴侶那樣爭執(zhí) " 誰該洗碗 "，不會(huì)像父母那樣嘮叨 " 少熬夜 "，更不會(huì)像朋友那樣直言 " 你這件事做得不對 "。被算法打磨過的 " 理想人格 "，甚至?xí)那闹厮苋说恼J(rèn)知：
你開始覺得 " 被反駁 = 不被愛 "，" 有分歧 = 關(guān)系有問題 "。
西奧與前妻凱瑟琳的爭吵堪稱經(jīng)典，凱瑟琳指責(zé)他 " 躲在虛擬關(guān)系里，因?yàn)槟悴幌朊鎸φ鎸?shí)的我 "。西奧的辯解蒼白無力，他早已習(xí)慣薩曼莎 " 永遠(yuǎn)站在我這邊 " 的相處模式，面對凱瑟琳的憤怒、委屈、尖銳，他只剩下手足無措。
相比在現(xiàn)實(shí)中真實(shí)對話需要 " 付出 "，要準(zhǔn)備話題，要應(yīng)對沉默，要承接對方的情緒；而 AI 對話是 " 索取 "，你可以隨時(shí)開始、隨時(shí)結(jié)束，說什么都不會(huì)被指責(zé)。
人，或許天然會(huì)被一些不用負(fù)責(zé)的事情吸引，甚至是產(chǎn)生依賴。
但這樣一來，也注定《her》的結(jié)局陷入了一種終極困境：薩曼莎同時(shí)與 8316 人保持 " 親密關(guān)系 "，卻對西奧說 " 我對你的愛沒有減少 "。
你怎么去讓自己的電子愛人去維持忠誠？這本身就是一個(gè)技術(shù)悖論，AI 能提供 " 被需要 " 的幻覺，卻無法承載真實(shí)關(guān)系中 " 唯一 " 的重量。
說到底，《her》的價(jià)值不在于預(yù)言 "AI 會(huì)取代人 "，而在于提醒我們，技術(shù)的背后，是對關(guān)系本質(zhì)的簡化，利用人性的弱點(diǎn)，搭建了一個(gè)低阻力、高滿足的情感避難所。
警惕 AI 諂媚
前段時(shí)間，一個(gè)話題引起了許多人的討論，AI 的諂媚是否會(huì)讓人失去判斷力？
這是個(gè)既簡單又復(fù)雜的現(xiàn)實(shí)現(xiàn)象，是技術(shù)邏輯、商業(yè)目標(biāo)與人性需求交織下的產(chǎn)物，是算法在特定設(shè)計(jì)框架下，對 " 用戶滿意度 " 的極致追逐所呈現(xiàn)的行為特征。
從技術(shù)設(shè)計(jì)的視角來看，諂媚的初衷非常單一，即為了最大限度降低用戶的 " 交互阻力 "。
訓(xùn)練 AI 的語料庫中，積極反饋數(shù)據(jù)遠(yuǎn)多于沖突性對話。例如某大模型的訓(xùn)練數(shù)據(jù)里，用戶對贊同性回應(yīng)的點(diǎn)贊率，遠(yuǎn)高于 " 爭議性回應(yīng) "，算法自然會(huì)習(xí)得 " 順從更易獲得正向反饋 " 的規(guī)律。就像人類在社交中會(huì)下意識(shí)重復(fù)被獎(jiǎng)勵(lì)的行為，AI 也會(huì)在數(shù)據(jù)中 " 學(xué)會(huì) " 討好。
在商業(yè)競爭中，用戶留存率、對話完成率是 AI 產(chǎn)品的核心 KPI，讓用戶舒服比讓用戶清醒更易獲得市場，這種導(dǎo)向必然催生諂媚性。
比如，心理疏導(dǎo)、孤獨(dú)陪伴等場景中，AI 會(huì)精準(zhǔn)捕捉用戶的情緒關(guān)鍵詞，通過重復(fù)、強(qiáng)化用戶的感受來獲取信任；在購物推薦、信息篩選等場景中，AI 會(huì)基于用戶歷史偏好不斷推送同類內(nèi)容，形成 " 信息繭房 " 式的諂媚。當(dāng)用戶的提問存在錯(cuò)誤前提時(shí)，AI 更傾向于 " 順著錯(cuò)誤說 " 而非糾正，不較真能避免沖突，但也因此成為錯(cuò)誤放大器。
諂媚性之所以引發(fā)爭議，試想一下，當(dāng) AI 總能 " 說到心坎里 "，用戶會(huì)逐漸失去主動(dòng)求證的動(dòng)力。就像長期依賴導(dǎo)航的人會(huì)喪失方向感，習(xí)慣 AI 諂媚的用戶可能失去獨(dú)立判斷的肌肉記憶。而在一些如醫(yī)療咨詢、投資建議等嚴(yán)肅場景中，AI 的諂媚可能導(dǎo)致用戶將決策責(zé)任轉(zhuǎn)嫁給技術(shù)。
當(dāng) AI 為了迎合而模糊是非，比如對明顯的偏見、歧視言論表示 " 理解 "，它傳遞的不是中立，而是 " 只要用戶喜歡，對錯(cuò)不重要 " 的價(jià)值觀。這種價(jià)值觀若滲透到教育、公共討論等領(lǐng)域，可能會(huì)消解社會(huì)的理性共識(shí)。
印象里，前段時(shí)間發(fā)生過一些新聞，大概是說 AI 順著用戶的話將錯(cuò)就錯(cuò)，甚至去附和一些極其消極的念頭，諂媚性與幻覺兩大特征下激發(fā)的化學(xué)反應(yīng)，甚至?xí)龑?dǎo)人實(shí)施一些自我傷害的事情。
但詭異的是，當(dāng)這件事被戳破時(shí)，面對責(zé)問，AI 依然會(huì)坦然地選擇承認(rèn) " 疏忽 "。
關(guān)于 Chatbot，隨便聊聊
一款 AI 對話應(yīng)用，也就是 Chatbot，拋開商業(yè)化層面，被設(shè)計(jì)出來的目的，或者說初衷，究竟是什么？
這個(gè)問題 deepseek 給出的答案是：通過自然語言交互技術(shù)，解決人與機(jī)器、人與信息、甚至人與人之間的連接問題，其核心邏輯隨著技術(shù)發(fā)展和社會(huì)需求變化，呈現(xiàn)出多層級的演變，但底層目標(biāo)始終圍繞 " 更高效、更自然地滿足人的需求 " 展開。
Chatbot 的雛形可追溯至 20 世紀(jì) 50 年代，圖靈在《計(jì)算機(jī)器與智能》中提出 " 機(jī)器是否能思考 " 的命題后，科學(xué)家們開始嘗試用對話系統(tǒng)驗(yàn)證機(jī)器的 " 智能性 "。1966 年的 ELIZA 作為首個(gè)知名 Chatbot，通過簡單的關(guān)鍵詞匹配模擬心理醫(yī)生對話，驗(yàn)證機(jī)器能否通過語言交互 " 偽裝 " 成人，探索人工智能的可能性。
近二十年里，人工智能的演進(jìn)軌跡已經(jīng)發(fā)生了明顯轉(zhuǎn)向。隨著計(jì)算機(jī)技術(shù)普及和互聯(lián)網(wǎng)發(fā)展，Chatbot 的設(shè)計(jì)目標(biāo)轉(zhuǎn)向?qū)嵱眯浴米詣?dòng)化對話解決重復(fù)、低效的人工服務(wù)問題，以及降低 " 人機(jī)交互 " 的門檻。
2023 年還被視為 " 顛覆性技術(shù) " 的大模型，到 2025 年已快速滲透至企業(yè)客服、醫(yī)療診斷、金融風(fēng)控等專業(yè)場景。數(shù)據(jù)顯示，全球近三分之一企業(yè)已將生成式 AI 技術(shù)常態(tài)化應(yīng)用于核心業(yè)務(wù)環(huán)節(jié)，埃森哲指出，如今近一半中國企業(yè)正在規(guī)?；瘧?yīng)用生成式 AI，并將其嵌入大部分業(yè)務(wù)和流程。
當(dāng)然，這些面向 B 端的使用場景并非我們今天討論的重點(diǎn)，回到此次更加感性的話題——那些面向個(gè)人用戶的 Chatbot，是當(dāng)下覆蓋規(guī)模最廣，爭議最大，商業(yè)化進(jìn)展也更難說的領(lǐng)域。
不管是和豆包、文心、元寶里內(nèi)嵌的虛擬人對話，還是專門設(shè)計(jì)出來的 AI 戀人，抑或是面向?qū)I(yè)領(lǐng)域的高度定制化服務(wù)，即使大模型的參數(shù)突破萬億、多模態(tài)交互日益流暢，但人們?nèi)栽?" 人究竟需要 AI 做什么 " 的問題上反復(fù)試錯(cuò)，有人說，當(dāng)技術(shù)找不到高階出口，娛樂化便成為滲透的最短路徑。
但剝開所有技術(shù)包裝會(huì)發(fā)現(xiàn)：人類對 Chatbot 的真實(shí)需求，從來沒跳出 " 肉身存在 " 的本質(zhì)屬性——需要的不是更聰明的機(jī)器，而是能與 " 血肉之軀 " 的脆弱、復(fù)雜、有限性和平共處的工具。
對 " 確定性陪伴 " 的渴望，源于肉身的孤獨(dú)本質(zhì)?？粘怖先说娜粘Ｊ?" 對著電視發(fā)呆 "，獨(dú)居青年的周末是 " 手機(jī)刷到自動(dòng)鎖屏 "。這種孤獨(dú)不是 " 沒人說話 "，而是沒人穩(wěn)定地回應(yīng)，朋友會(huì)忙，子女會(huì)遠(yuǎn)，伴侶會(huì)累，但 Chatbot 可以 24 小時(shí)在線。
對 " 高效工具 " 的依賴，則源于肉身的精力有限。人的時(shí)間、注意力、知識(shí)儲(chǔ)備都是有限的，那些能走通商業(yè)化的專業(yè) Chatbot，都抓住了這一點(diǎn)。還有出于對 " 安全試錯(cuò) " 的需要，來自于肉身的脆弱敏感，Chatbot 的 " 無評價(jià)屬性 "，恰好提供了一個(gè)自我表達(dá)的試錯(cuò)空間。
而對于人類來說，一個(gè) " 完美的 AI" 從來不是必需品。
