Ведущая юридическая фирма признала наличие «галлюцинаций» ИИ в банкротной документации, связанной с предполагаемой мошеннической сетью

###Кратко

• Юридическая фирма Sullivan & Cromwell признала, что недавняя подача документов по громкому делу содержала «галлюцинации» ИИ.
• Компания заявила, что выводы ИИ не были должным образом проверены и включали сфабрикованные цитаты.
• Дело связано с попытками назначенных судом ликвидаторов предъявлять претензии, связанные с санкционированной организацией Prince Group.

Юридическая фирма Sullivan & Cromwell призналась в суде по банкротству США, что недавняя подача документов по громкому делу содержала ошибки, вызванные искусственным интеллектом, включая сфабрикованные цитаты. «Мы глубоко сожалеем о случившемся», — написал руководитель отдела реструктуризации компании Эндрю Диттерих судье Мартину Гленну, отметив, что документ содержал «галлюцинации» ИИ, которые породили фиктивные источники и искажали существующие. Раскрытие информации было сделано в письме в суд по делам о банкротстве Южного округа Нью-Йорка, где компания представляет интересы ликвидаторов, назначенных судом, из Британских Виргинских островов. Ошибки появились в ходатайстве от 9 апреля, и компания заявила, что при подготовке не соблюдала правила использования ИИ.

Дело связано с попытками ликвидаторов предъявлять претензии, связанные с Prince Group и его владельцем Чен Чжи. Прокуроры утверждают, что Чен руководил мошенническими схемами, нацеленными на жертв по всему миру, и добиваются возврата миллиардов долларов в криптовалюте, которая, по их словам, связана с этой деятельностью. Он был задержан ранее в этом году в Камбодже и позже возвращен в Китай. Через процедуры по главе 15 в США ликвидаторы стремятся получить признание своей полномочий действовать от имени кредиторов и предполагаемых жертв. Prince Group, зарегистрированная на Британских Виргинских островах, связана американскими властями с крупномасштабными мошенническими операциями в Юго-Восточной Азии и находится под санкциями Великобритании и США. Согласно исправленной подаче, в апрельском документе неправильно цитировалось судебное право в нескольких местах, а цитаты не подтверждали выдвигаемые положения, некоторые из них вообще не имели основания. Компания отозвала исходное ходатайство и подала исправленную версию. Адвокаты Prince Group и Чена из Boies Schiller Flexner первоначально выявили ошибки. Они заявили, что язык, приписываемый Кодексу банкротства США, найти не удалось, а несколько источников были неправильно охарактеризованы или неправильно идентифицированы. В одном случае, по их словам, цитируемое дело относилось к другому решению в другом округе.

 В отдельной подаче обвиняемые заявили, что как минимум 28 цитат были ошибочными, включая цитаты, приписываемые суду, которых не существует. Они утверждали, что сроки исправления были предвзятыми, поскольку исправленный документ был представлен после того, как они подали возражения, и попросили суд отложить запланированное слушание и провести статусную конференцию. Sullivan & Cromwell заявила, что ее политика требует, чтобы юристы проходили обучение перед использованием инструментов ИИ и независимо проверяли все выводы. «Перед тем, как любой юрист фирмы получит доступ к генеративным инструментам ИИ, он должен пройти два обязательных учебных модуля, выполнение которых отслеживается и подтверждается. Обучение неоднократно подчеркивает риск «галлюцинаций» ИИ, включая фабрикацию цитат дел, неправильное толкование источников и неточные цитаты», — говорится в заявлении. «Оно инструктирует юристов «ничему не доверять и все проверять» и ясно дает понять, что несоблюдение самостоятельной проверки результатов, созданных ИИ, является нарушением политики фирмы.» Компания заявила, что более широкий обзор выявил дополнительные мелкие ошибки в других документах, которые она связала с человеческой ошибкой, а не с ИИ. Она не указала, кто именно подготовил исходное ходатайство. ИИ на скамье подсудимых Инцидент добавляет к растущему списку ошибок, связанных с ИИ, в юридической практике, поскольку фирмы тестируют инструменты, предназначенные для ускорения исследований и составления документов. Недавно суды наказывали или критиковали юристов за подачу документов с сфабрикованными или неточными ссылками, созданными ИИ. В Австралии один юрист был лишен права практиковать в качестве главного юриста из-за использования ИИ в прошлом году. Юридические школы начинают вводить обучение по этой технологии, а старшие судьи предупреждают, что неправильное использование может повлиять на целостность судебных процессов.

Недавние решения также касались того, как ИИ вписывается в существующие правовые рамки, включая вопрос о том, защищены ли взаимодействия с такими инструментами привилегией. В то же время некоторые суды проводят пилотные проекты по использованию ИИ для управления большим объемом дел.