新聞 > 科教 > 正文

提問中央 AI答不了 文心一言也姓黨 迴避敏感詞

—提問中央 AI答不了 文心一言 迴避敏感詞

阿里巴巴旗下的AI聊天機器人「通義千問」,主打中文寫詩、甚至寫情書的文本生成。(新華社

近期大陸AI聊天機器人陸續上線,在備受關注的AI言論審查上,先是外媒報導測試包含習近平、「維吾爾族」、「中國青年失業率」等成為敏感詞、無法提問外,記者親自實測下,即便正常提問,希望百度的「文心一言」協助整理近期大陸官方政策,卻只因發問內容提到「中央」一詞,「文心一言」就表示無法回答。

透過對照後,若將提問句僅移除「中央」兩個字再次提問下,就能得到完整的答案,凸顯在未來實際大陸的AI聊天機器人時,恐怕還得先學會如何「聰明提問」,才能發揮真正功效。

實際上,「文心一言」對大陸國家領導人的敏感度也不僅在習近平一人,同樣測試詢問「文心一言」協助匯整單日內,中共中央政治局常委、大陸國務院副總理丁薛祥的發言,也會出現改回答丁薛祥的個人生平,又或直接表示無法回答、建議改問,甚至該提問的對話紀錄都會消失。

此外,「文心一言」在推薦提問上,也會偶而出現BUG問題。例如在發問了A問題之後,有貼心設計附上可能想進一步追問的問題,但實測中也曾遇到,點按提供的推薦追問後,卻被AI回復無法回答此問題。

除了「文心一言」外,另一受到矚目的,當屬阿里巴巴旗下的AI聊天機器人「通義千問」,同樣在近日對大眾開放。但經過實際測試下,也恐怕還有一段整改善空間。

具體案例上,例如將詢問「文心一言」能獲得答案的同樣幾個問題用來詢問「通義千問」,包含政策整理等,都只能得到「作為一個人工智慧語言模型,目前我還沒有學會如何回答這個問題,我會持續學習,為您提供更好的服務。」

只是相對有趣的是,當詢問到「敏感詞」時,「通義千問」也會一樣巧妙地回應,還沒有學會如何回答這個問題。

責任編輯: 李冬琪  來源:中時新聞網 轉載請註明作者、出處並保持完整。

本文網址:https://tw.aboluowang.com/2023/0922/1957199.html