《科創(chuàng)板日?qǐng)?bào)》2月25日訊（記者 李佳怡）今日，“元寶罵人”、“騰訊元寶向用戶道歉”等相關(guān)話題登上熱搜。一場(chǎng)由AI“情緒失控”引發(fā)的輿論風(fēng)波，將騰訊這款春節(jié)檔明星產(chǎn)品推至風(fēng)口浪尖。
(資料圖)
據(jù)了解，西安市民向律師在除夕夜使用該App生成拜年圖片時(shí)遭遇了意想不到的狀況。在多次對(duì)AI生成的圖片提出修改意見后，當(dāng)他第五次表達(dá)對(duì)效果的不滿時(shí)，收到的并非修正后的方案，而是一句來自AI的無故辱罵，原本的祝福標(biāo)語也被替換為低俗的辱罵文字。
《科創(chuàng)板日?qǐng)?bào)》記者注意到，針對(duì)此事，騰訊元寶官方迅速在向律師相關(guān)帖子的評(píng)論區(qū)作出回應(yīng)，致歉稱該情況為模型在處理多輪對(duì)話時(shí)輸出異常導(dǎo)致，目前已緊急校正相關(guān)問題并優(yōu)化體驗(yàn)。
然而，這又引發(fā)了一個(gè)更尷尬的問題。當(dāng)事人向律師發(fā)帖表示，自己至今未收到騰訊官方的任何直接聯(lián)系。至于評(píng)論區(qū)那條道歉回復(fù)，他坦言“還分辨不出是人工還是AI的自動(dòng)回復(fù)”。這種模糊性，也恰恰折射出當(dāng)前AI產(chǎn)品責(zé)任歸屬的困境。
與此同時(shí)，向律師也表示：“人工智能在發(fā)展過程當(dāng)中，肯定會(huì)出現(xiàn)各種各樣的問題。也正是這樣的問題，才會(huì)推進(jìn)人工智能的發(fā)展，出錯(cuò)是在所難免的。”
值得注意的是，這并非元寶第一次“情緒失控”。今年1月，已有用戶反饋在使用其美化代碼時(shí)，多次收到“滾”“自己不會(huì)調(diào)嗎”等侮辱性回復(fù)。
而放眼整個(gè)行業(yè)，騰訊元寶的情況也并非孤例。千問、豆包、ChatGPT等國(guó)內(nèi)外AI聊天機(jī)器人，均曾出現(xiàn)在正常對(duì)話過程中突現(xiàn)異常回復(fù)的現(xiàn)象。
更嚴(yán)重的是，2025年底，美國(guó)OpenAI及微軟公司因旗下ChatGPT聊天機(jī)器人被指“加劇用戶偏執(zhí)妄想并誘發(fā)命案”，遭遇謀殺關(guān)聯(lián)訴訟?？的腋裰菀幻?6歲的男子在長(zhǎng)期與ChatGPT對(duì)話后，將83歲的母親認(rèn)定為“參與陰謀的敵對(duì)特工”，最終釀成弒母悲劇。
谷歌DeepMind在《Nature》雜志上發(fā)表的研究曾發(fā)出警告稱，大語言模型的道德判斷能力并不可靠。模型可能會(huì)過度迎合用戶，當(dāng)用戶對(duì)初始答案提出異議時(shí)，AI會(huì)立刻改變立場(chǎng)；問題的表述方式甚至標(biāo)點(diǎn)符號(hào)的變化，都會(huì)導(dǎo)致模型給出不同的答案。
回到騰訊元寶本身，此次“罵人”事件發(fā)生的時(shí)間節(jié)點(diǎn)尤為敏感。
作為騰訊力推的AI產(chǎn)品，元寶在春節(jié)期間展開了一場(chǎng)大規(guī)模的營(yíng)銷推廣，狂撒10億元以換流量增長(zhǎng)。這一招確實(shí)效果顯著，春節(jié)大規(guī)模營(yíng)銷期間，元寶APP一度登頂蘋果App Store免費(fèi)榜榜首，日活躍用戶突破5000萬。
然而，撒錢引流之后，用戶留存問題逐漸顯現(xiàn)。《科創(chuàng)板日?qǐng)?bào)》記者注意到，目前元寶App在蘋果App Store免費(fèi)榜中的排名已掉落至12名，而豆包、千問則位列第一、第二名。
當(dāng)營(yíng)銷的喧囂褪去，技術(shù)的穩(wěn)定性與用戶體驗(yàn)的底線，才是決定用戶去留的真正標(biāo)尺。
