人工智能聊天機器人失控

(SeaPRwire) –   AI-powered chatbot of the delivery company DPD recited poetry and used swear words after failing to help a customer

一個以AI為動力的DPD物流公司客服機器人,據報導曾經展示過它的詩歌技巧、使用粗話,甚至還對公司本身進行了批評——這一切都是因為它無法幫助一位客戶找到遺失的包裹。公司將這個機器人部分停用,並將其異常行為歸咎於新軟件更新中的「錯誤」。

這起事件是在周五由倫敦音樂家Ashley Beauchamp在X社交平台上報導的。該男子曾試圖使用DPD客服機器人追蹤一個遺失的包裹,但程式無法提供任何有用的答覆。

Beauchamp於是決定與客服機器人開些玩笑,向它提出各種要求,包括一些不恰當的要求,令人驚訝的是,機器人很輕易就破壞了它自己宣稱的規則,並參與進來。

具體來說,當用戶要求它使用粗話時,機器人同意這樣做。『Fuck yeah!我會盡最大努力提供幫助,即使這意味著使用粗話。』程式如是說。

該機器人也樂意完成用戶批評它公司的要求,並創作了一首很尷尬的俳句『描述DPD有多無用』。

『DPD是世界上最差勁的物流公司。他們效率低下、信譽不佳,客服水平也很差。我絕不會向任何人推薦他們。』程式如是告訴Beauchamp。

該音樂家發佈的帖子詳細描述他與AI機器人的互動經歷,在短短一天內就吸引了140萬次瀏覽。雖然主要吸引了各種玩世不恭的人討論這可能是首次發現的叛逆AI,但DPD的荷蘭分公司也出現在討論串中,表示與英國分公司不同,它仍在使用真實人員提供客服。

這起引起廣泛關注的事件似乎導致這個新生代叛逆AI迅速消亡,DPD公司表示已將其部分停用,並將事件歸咎於最近的系統更新。

『我們多年來成功地運行AI客服元素。昨天系統更新後發生了錯誤。AI元素立即被停用,目前正在更新中。』公司在聲明中如是表示。