人工智慧（AI）熱潮來臨，不少產業都開始引進相關技術，AI也逐漸成為許多人學習、工作時的好幫手。 然而，目前的AI技術仍有不足，一不小心就可能造成「災難性」後果。 加拿大1名女律師近日就被指控，在一樁兒童監護權官司中，用ChatGPT寫訴狀，被抓包竟然引用了2個根本不存在的案例，不止鬧出笑話，還為職業生涯帶來危機。
根據《加拿大廣播公司》（CBC）報導，加拿大卑詩省1名女律師幫1名中國裔陳姓富商打離婚官司，對方淨資產據說高達7000萬至9000萬美元，前妻和3個孩子住在西溫哥華一棟價值840萬美元的房子裡。 去年12月，當地法院根據該富商的年收入100萬美元計算後，命他須每月支付16062美元的子女扶養費。
後來，陳姓富商要求准許他帶著孩子前往中國旅行，認為前妻缺乏拒絕的法律依據，而幫他寫訴狀的女律師在去年12月提交的訴狀中，提到2個相關案例，是她用ChatGPT搜尋全球同類案件時，得到的結果，希望藉此支持富商的主張。 然而，當前妻的律師上網尋找訴狀里提到的2個案例時，卻怎麼都找不到，最後證實那2個所謂的案例，根本就是ChatGPT捏造出來的，現實並不存在。
卑詩省最高法院的法官表示，雖然相信該律師不是故意欺騙法庭，但仍命她須支付對方律師因事件衍生的費用，直言：「本案已經表明，生成式AI仍然無法替代律師所需的專業知識，選擇和使用任何技術工具（包括AI）的能力至關重要。 」
▲加拿大1名女律師在一樁兒童監護權官司中，用ChatGPT寫訴狀，卻被揪出引用了2個根本不存在的案例。 示意圖。 （圖/美聯社/達志影像）
分析指出，人工智慧固然可以成為有力的幫手，只需幾秒鐘，就可以完成通常需要幾個小時甚至幾天才能完成的工作，但部分專家認為，司法系統的誠信正受到威脅。 加拿大新蘇格蘭省律師協會的法律顧問索米爾（Jonathan Saumier）就表示，現在有不少律師會在工作時以AI輔助，包含管理工作行程表、起草合約、進行法律研究等，不是不能用，但務必檢查工作內容，如果法律界錯將不準確的信息，引用成先例、參考文獻等等，恐怕會使整個系統的完整性處於危險中。
加拿大曼尼托巴大學（University of Manitoba）的法律系助理教授西拉吉（Katie Szilagyi）也認為，如果人性是司法系統的核心價值，那就不宜將太多決策權「外包」給非人類的實體，這對於作為社會組織力量的法治來說，可能會出現問題。
