頂級律師事務所承認在與涉嫌詐騙網絡相關的破產申請中出現人工智慧「幻覺」

###簡要說明

• 律師事務所 Sullivan & Cromwell 承認在一個高調案件的最新文件中包含了人工智慧的“幻覺”。
• 該事務所表示，AI輸出未經適當驗證，並包含捏造的引用。
• 此案涉及法院任命的清算人追究與被制裁組織 Prince Group 有關的索賠。

律師事務所 Sullivan & Cromwell 已向美國破產法院承認，在一份高調案件的最新文件中包含由人工智慧產生的錯誤，包括捏造的引用。 “我們對此深感遺憾，”該事務所重整部門負責人 Andrew Dietderich 寫信給法官 Martin Glenn，表示該文件包含 AI 的“幻覺”，產生了虛構的權威資料並扭曲了現有資料。 這一披露是在向紐約南區美國破產法院提交的信函中披露的，該事務所代表來自英屬維爾京群島的法院任命的清算人。錯誤出現在4月9日的動議中，該事務所表示在準備過程中未遵守有關 AI 使用的規則。

此案涉及這些清算人追究 Prince Group 及其所有人陳志的相關索賠。檢察官指控陳志指示詐騙集團，針對全球受害者，並試圖追回數十億美元的加密貨幣，他們稱這些資金與該活動有關。今年早些時候，他在柬埔寨被拘留，隨後遣返回中國。 通過美國第15章程序，清算人正尋求承認其代表債權人和受害者行事的權威。Prince Group 在英屬維爾京群島註冊，已被美國當局與東南亞的大規模詐騙行動聯繫，並受到英國和美國政府的制裁。 根據更正的提交文件，4月的文件多處誤述了案例法，並包含未支持其所引述主張的引用，有些甚至毫無根據。該事務所撤回了原始動議，並提交了修訂版。 Prince Group 和陳志的律師在 Boies Schiller Flexner 最初指出了這些錯誤。他們表示，引用的美國破產法條找不到，且多個權威資料被誤解或誤認。在一個例子中，他們指出，引用的案例涉及另一個法域的不同裁決。

 在另一份文件中，被告表示至少有28個引用是錯誤的，包括引用法院不存在的引述。他們認為更正的時機具有偏見，因為修正後的文件是在他們提出異議之後提交的，並請求法院推遲預定的聽證會並舉行狀態會議。 Sullivan & Cromwell 表示，其政策要求律師在使用 AI 工具前完成培訓，並獨立驗證所有輸出。 “在任何事務所律師獲准使用生成式 AI 工具之前，該律師必須完成兩個必修培訓模塊，完成情況將被追蹤和驗證。培訓反覆強調 AI ‘幻覺’ 的風險，包括捏造案例引用、誤解權威資料和不準確的引述，”該事務所表示。 “它指示律師‘一切皆不信，皆須驗證’，並明確指出未能獨立驗證 AI 生成的輸出即構成違反事務所政策。” 該事務所表示，進行更廣泛的審查後，在其他文件中發現了額外的小型起草問題，這些問題歸因於人為錯誤而非 AI。它未透露原始動議的律師身份。 AI 在法庭上的尷尬 這一事件增加了法律實務中與 AI 相關失誤的日益增長的名單，因為律師事務所在測試旨在加快研究和起草的工具。法院最近對提交含有 AI 產生的捏造或不準確引用的文件的律師進行了制裁或批評。在澳大利亞，一名律師去年因使用 AI 被剝奪了作為主要律師的資格。 法學院開始要求教授這項技術，而高級法官則警告，濫用可能影響訴訟的完整性。

近期裁決也涉及 AI 如何融入現有法律框架，包括與此類工具的互動是否受到特權保護。同時，一些法院正在試點 AI 系統，以幫助管理繁重的案件負荷。