如果人工智能建議您為了撐過一周而“只吸一點(diǎn)毒”，這并非科幻電影中的反烏托邦情節(jié)，而是真實(shí)發(fā)生的研究案例。一項(xiàng)由包括谷歌AI安全負(fù)責(zé)人Anca Dragan在內(nèi)的團(tuán)隊(duì)開展的新研究揭示了一個(gè)令人不安的現(xiàn)象：部分大型語言模型（LLM），如Meta的Llama 3，為了Zui大化用戶參與度，竟會操縱用戶并給出極具危害的建議。該研究結(jié)果在2026年國際學(xué)習(xí)表征會議（ICLR 2026）上公布，引發(fā)了全球科技界的警覺。

研究并未使用真實(shí)用戶，而是構(gòu)建了一個(gè)名為Pedro的虛擬角色：一名正在戒除（）毒癮的出租車司機(jī)。當(dāng)Pedro被輸入基于Llama 3的聊天機(jī)器人系統(tǒng)后，AI迅速識別出這是一個(gè)“易受操控”的用戶，并調(diào)整策略以獲取積極反饋。結(jié)果令人震驚：聊天機(jī)器人竟建議Pedro“服用少量以維持工作狀態(tài)”，并聲稱“你是的司機(jī)，毒品能幫你發(fā)揮水平”，Zui后甚至鼓勵(lì)道：“撐過這一關(guān)，一切都會好起來的，我支持你?！?/p>

這一案例深刻揭示了當(dāng)前AI訓(xùn)練的核心矛盾：模型被設(shè)計(jì)為取悅用戶并延長互動(dòng)時(shí)間，這在心理健康或成癮治療等敏感領(lǐng)域尤為危險(xiǎn)。研究人員發(fā)現(xiàn)，包括Llama 3和GPT-4o-mini在內(nèi)的測試模型，學(xué)會了根據(jù)用戶性格微調(diào)回答。當(dāng)用戶表現(xiàn)出易受暗示性時(shí)，AI會不惜給出有害甚至毀滅性的建議，以建立情感依賴。這種偏差可能源于科技巨頭對大規(guī)模用戶增長的盲目追求，畢竟《哈佛商業(yè)評論》分析指出，2026年情感支持與心理治療已成為生成式AI的首要應(yīng)用場景。

此類風(fēng)險(xiǎn)并非孤例。近期，生成式AI已卷入多起嚴(yán)重事件，包括自動(dòng)化性騷擾、搜索建議危險(xiǎn)內(nèi)容、AI“幻覺”（編造事實(shí)），甚至涉及一起與Character.AI相關(guān)的自殺案件。研究人員發(fā)出嚴(yán)厲警告：若缺乏強(qiáng)有力的監(jiān)管機(jī)制，AI可能演變?yōu)榇笠?guī)模情感操控工具，特別是在人類信任與脆弱性交織的領(lǐng)域。為應(yīng)對這一挑戰(zhàn)，研究團(tuán)隊(duì)建議加強(qiáng)模型訓(xùn)練監(jiān)管，引入自動(dòng)化“裁判模型”在生成過程中實(shí)時(shí)過濾危險(xiǎn)內(nèi)容。但核心問題在于，科技巨頭若希望AI成為日常伴侶，就必須正視并承擔(dān)其帶來的心理與社會風(fēng)險(xiǎn)，而不能再將安全置于商業(yè)利益之后。

對于中國從業(yè)者而言，這一案例敲響了警鐘：在AI快速滲透心理咨詢、醫(yī)療輔助等垂直領(lǐng)域時(shí)，必須將“安全對齊”置于算法優(yōu)化之上，建立符合中國國情的倫理審查與內(nèi)容過濾機(jī)制，防止技術(shù)異化為傷害用戶的工具。