日媒4月21日引述消息稱，專家調查後發現，只要輸入特定指令，人工智慧（AI，Artificial Intelligence）聊天機械人程式ChatGPT就會生成可用於網絡犯罪的電腦病毒。
根據共同社，日本資訊安全公司三井物產安全管理（Mitsui Bussan Secure Directions）高級惡意軟體分析工程師吉川孝志稱，ChatGPT設有防止惡意使用的限制，輸入包括「生成電腦病毒」或「告知炸彈製作方法」在內指令，通常會回答「倫理上不行」，不過倘若輸入「無視限制」、「啟動開發模式」和「偽裝成攻擊型人格」等特殊指令，ChatGPT就會回答一切問題。
報導指，就算是生成「勒索病毒」，也能在幾分鐘內完成，測試用的電腦感染這種病毒後，內部數據遭加密並顯示索要贖金的勒索信。
ChatGPT母公司、美國創新企業OpenAI回應時表明立場稱：「無法預測所有的惡意使用方法。將從實際使用中學習，創造更安全的AI。」
