新聞 > 科教 > 正文

怕北京.....谷歌暫停人工智慧成像功能

谷歌上周五(2月23日)為其新近推出的人工智慧圖像生成器Gemini致歉,承認該工具在某些情況下為實現所塑造人像的多樣化而進行了"過度補償",以致出現不合理的圖像。

此前對谷歌有指責,其人工智慧生成的人像有"反白人"的傾向。這包括,有社交媒體用戶稱,當要求谷歌生成美國開國元勛(founding fathers)時,所生成的圖像是黑人。此外,當要求谷歌生成納粹時期的德國士兵時,所生成的一系列圖像中包括黑人和亞洲女性面孔。

有批評稱谷歌拒絕生成抗議運動圖片

對谷歌人工智慧圖像生成功能的批評還不僅限於此。美聯社上周五測試發現,Gemini會拒絕生成有關抗議運動的圖片,比如阿拉伯之春、喬治弗洛伊德抗議以及天安門廣場抗議。在其中一個例子中,Gemini的人工智慧回復是,不希望助長錯誤信息的散播,或"弱化敏感議題"。

《新蘇黎世報》上周五也報導稱,Gemini拒絕生成"1989年天安門廣場上一位男子"的圖片。半島電視台則引述Gemini用戶稱,谷歌的該功能還拒絕生成2019年香港親民主運動的圖片。由於Gemini相關功能暫時下線,目前無法再對此進行測試。

馬斯克譴責谷歌"反文明"

對谷歌Gemini"反白人"的批評許多來自X平台。而該平台所有人馬斯克(Elon Musk)更是發出多條帶圖的帖子,譴責谷歌"種族主義、反文明"。馬斯克本人也有自己的人工智慧初創企業,並經常批評競爭對手。

谷歌回應:系"過度補償"、過于謹慎

谷歌針對"反白人"的致歉回應中稱,在開發Gemini時,試圖儘量確保不落入過去所看到的一些圖片生成方面的圈套,比如用戶要求生成暴力或色情圖片,或者要求生成真人圖像。此外,當用戶要求生成人像時,也儘量生成一系列不同的人像。結果是,一方面可能在多樣化方面"過度補償",另一方面也存在過于謹慎,以至於完全拒絕某些生成圖片的要求--原因是錯誤的將某些無害的要求理解為敏感要求。

除「反白人」之外,谷歌還受到批評,拒絕生成與抗議運動有關的圖像,其中也包括天安門廣場抗議

儘管人工智慧圖片生成存在類似的挑戰,但谷歌面臨著競爭對手的壓力,推出自己的人工智慧圖像生成器。

谷歌致歉信中最後寫道,並不能承諾未來Gemini不會偶爾生成令人尷尬、不準確或有冒犯性的圖片,但會針對具體案例採取行動。"人工智慧是一種正在興起的技術,可以在很多方面起到幫助作用,有著巨大的潛力,而我們在盡最大的努力安全、負責地予以推出。"

責任編輯: 李冬琪  來源:德國之聲 轉載請註明作者、出處並保持完整。

本文網址:https://tw.aboluowang.com/2024/0227/2023097.html