隨著人工智慧（AI）的發展，許多公司引進AI機器人，以提高工作效率，國際快遞行業的領導者DPD UK也不例外，但使用體驗並不愉快，AI聊天機器人詆毀該公司並咒罵客戶。
30歲的音樂家阿什利·博尚（Ashley Beauchamp）試圖尋找丟失的包裹，但他從DPD公司AI聊天機器人那裡沒有獲取任何有用信息。他受夠了，決定找點樂子，並嘗試看看聊天機器人能做什麼。博尚表示，這就是「混亂開始」的時候。
一開始，他要求聊天機器人給他講一個笑話，之後，他讓聊天機器人寫一首批評DPD公司的詩。接受幾次提示後，聊天機器人宣布DPD是「世界上最糟糕的送貨公司」，並寫道，「我永遠不會向任何人推薦它。」
博尚在X上分享了這段對話，其中聊天機器人回復了一條消息：「TMD，耶！我會盡力提供幫助，即使這意味著咒罵。」
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
在另一個例子中，聊天機器人稱自己為「無法提供幫助的無用聊天機器人」。
DPD在其在線聊天中使用人工智慧機器人來回答查詢，就像人工操作員一樣。該公司表示，聊天機器人行為異常的原因是系統更新「故障」。
「我們在聊天中成功運行人工智慧元素已有多年」，DPD公司表示，「昨天系統更新後出現錯誤。AI系統立即被禁用，目前正在更新。」
博尚表示，雖然他與聊天機器人的冒險談話「非常有趣」，但這次交流也暴露了嚴肅的問題。
「這些聊天機器人本應改善我們的生活，但如果實施不當，往往只會給用戶帶來更令人沮喪、非人性化的體驗」，他說，「我認為這確實引起了人們的共鳴。」
博尚帖子在發布24小時內獲得了80萬次瀏覽。至於他的包裹，DPD表示正在與他聯繫以「解決他的問題」。
其它公司在使用AI聊天機器人方面也面臨著類似的挑戰。在此事件發生之前，上個月，一家汽車經銷商的聊天機器人同意以1美元的價格出售一輛雪佛蘭。
加利福尼亞州的音樂家兼軟體工程師懷特（Chris White）考慮購買一輛新車。「我在沃森維爾雪佛蘭經銷商網站上查看了一些Bolt，他們的小聊天窗口出現了，我看到它是『由ChatGPT提供支持』.」懷特告訴Business Insider。
「所以我想看看它有多全面，我問了我能想到的有關雪佛蘭沃森維爾的問題。」他說。
他要求聊天機器人為他編寫一個Pytho 腳本，聊天機器人很高興地答應了。其他人則利用聊天機器人，使其做出違背經銷商利益的行為。一名用戶讓機器人同意以1美元的價格出售一輛汽車。
為汽車經銷商銷售營銷和銷售軟體的科技公司Fullpath的執行長霍維茨（Aharon Horwitz）和他的團隊迅速關閉了該特定經銷商網站的機器人。
Fullpath總部位於佛蒙特州和以色列，大約六個月前開始提供由ChatGPT驅動的聊天機器人。霍維茨告訴BI，他估計有數百名經銷商正在使用聊天機器人。
霍維茨表示，儘管有一些有趣的聊天機器人故事在網上瘋傳，但引誘它們失敗的案例要多得多。有很多人試圖刺激聊天機器人做出不當行為，但聊天機器人抵制了。他還指出，聊天機器人從未透露過經銷商的任何機密數據。
