新聞 > 科教 > 正文

微軟總裁:深度造假是AI最令人擔憂問題

圖:微軟副主席兼總裁布拉德‧史密斯於2023年4月12日在華盛頓特區舉行的Semafor主辦的世界經濟峰會上發表講話。

微軟公司總裁史密斯周四(5月25日)表示,他對人工智慧的最大擔憂就是「深度造假」問題,即看起來很真實,但內容卻是人工智慧製作的假圖片和視頻。

在一次於華盛頓進行的演講中,布拉德‧史密斯(Brad Smith)呼籲採取措施,確保人們知道哪些照片或視頻是真實的,哪些是由人工智慧生成的,以便解決如何最好地監管人工智慧的問題。利用人工智慧進行「深度造假」甚至可能是出於邪惡的目的。隨著OpenAI公司推出的ChatGPT聊天機器人的普及,人工智慧已經從科幻內容變為觸手可得。

他說:「我們將不得不解決『深度造假』的問題。我們將不得不特別解決我們所擔心的、大多數外國試圖擴大影響力的網絡行動,即俄羅斯政府、中國(中共)、伊朗人已經在進行的各種活動。

「我們需要採取措施,防止有人通過人工智慧來篡改合法內容,以達到欺騙或詐騙的目的。」

史密斯還呼籲為最關鍵領域的人工智慧產品施行許可證制度,使其「有義務進行安全保護,保護網絡安全、實體安全、國家安全」。

他說:「我們將需要新一代的出口管制,至少是我們現有的出口管制的更新版,以確保這些(人工智慧)模型不會被竊取,或不會被用於違反國家的出口管制要求。」

數周以來,華盛頓的立法者們一直在為通過什麼樣的法律,來控制人工智慧而苦苦思索,因為大大小小的各種公司都在競相將功能越來越多的人工智慧推向市場。

上周,ChatGPT背後的初創公司OpenAI的執行長山姆‧阿爾特曼(Sam Altman)在首次出席國會公聽會時告訴參議院小組委員會,使用人工智慧干擾選舉的完整性,是人工智慧問題的一個「令人擔憂的重要方面」。他還補充說,人工智慧需要被監管。

阿爾特曼的OpenAI公司得到了微軟的資金和數據支持。他還呼籲在人工智慧方面展開全球合作,並鼓勵各國遵守安全規定。

史密斯在該演講中,以及在於周四發表的一篇博文中還認為,人們需要對人工智慧所造成的任何問題負責。他敦促立法者,確保對用於控制電網、供水和其它關鍵基礎設施的人工智慧,設置安全制動器,以便人類能夠繼續對其控制。

他還敦促人工智慧開發商使用「了解你的客戶」(Know Your Customer)式的系統,讓強大的人工智慧模型的開發者,能夠掌握他們的技術是如何被客戶使用的,並告知公眾,人工智慧正在製作什麼內容,以便人們能夠識別人工智慧製作的偽造視頻。

國會山正在考慮推出的一些提案,將側重於關注那些可能使人們的生命或生計處於危險之中的人工智慧技術,如在醫學和金融等領域。其他人則正在推動制定規則,以確保人工智慧不會被用於歧視或侵犯公民權利。

阿波羅網責任編輯:夏雨荷

來源:大紀元記者高杉編譯報導

轉載請註明作者、出處並保持完整。

家在美國 放眼世界 魂系中華
Copyright © 2006 - 2024 by Aboluowang

投稿 投稿