當下人工智慧領域的巨頭OpenAI曾不止一次發起呼籲，稱人們需要人工智慧的研究，避免沒有道德約束的AI造成不必要的問題。
快科技7月17日消息，近日，有黑客展示了在「沒有道德限制」的情況下，人工智慧會做出怎樣的事情。
根據安全分析公司SlashNext提供的信息，有黑客利用一個名為GPT-J的開源AI模型，開發出了一款名叫「WormGPT」的生成式人工智慧。
經過SlashNext的測試，WormGPT能夠自由生成有Python語言編寫的惡意代碼，並能夠生成極具誤導型的釣魚郵件。
而這樣的表現，還僅僅是基於GPT-J這樣一個誕生於2021年的，架構較老，表現也並不出色的開源模型實現的。
WormGPT
可以想像，如果各大廠商的人工智慧沒有「道德」限制，將會帶來怎樣嚴重的影響。
因此，SlashNext認為，隨著AI技術的普及，此類「完全為網絡攻擊而生」的AI工具恐將受到黑客所濫用，為用戶安全帶來重大威脅。
