Колумбийский суд отклонил апелляцию на использование ИИ для написания, а затем был обнаружен собственной системой обнаружения ИИ

Кратко

• Верховный суд Колумбии отклонил кассационную жалобу после того, как AI-детекторы отметили её как созданную машиной.
• Адвокаты проверили решение с помощью тех же инструментов и обнаружили, что оно тоже, по всей видимости, написано ИИ.
• Эксперты и исследования показали, что программное обеспечение для обнаружения ИИ дает ненадежные и противоречивые результаты.

Верховный суд Колумбии отказал в кассационной жалобе, утверждая, что она создана ИИ. Но тот же инструмент, который суд использовал для определения предполагаемого происхождения жалобы от ИИ, заявил, что и его собственное решение также было создано с помощью генеративных технологий. Это двойные стандарты со стороны суда или неисправные инструменты? «Столкнувшись с обоснованным подозрением, что поданный адвокатом документ не был подготовлен самим юристом, суд передал текст в Winston AI», — объяснил суд. «Анализ показал, что в документе содержится всего 7% человеческого контента, что свидетельствует о значительном влиянии автоматического написания и приводит к выводу, что он был создан с помощью искусственного интеллекта.»

После проверки с помощью других инструментов, дающих аналогичные результаты, суд постановил, что «так как подача не может считаться должным образом подготовленным ходатайством, его отклонение как недопустимого является обязательным». Однако, когда аналогичный анализ был проведен юридическими экспертами, результаты оказались похожими. «Я отправил текст Auto AP760/2026 Верховного суда в тот же Winston AI, упомянутый в постановлении», — написал адвокат Эммануэль Алессио Вельаскес в X во вторник. «Результат: документ содержит 93% текста, сгенерированного ИИ.»

Я отправил текст auto AP760/2026 Верховного суда в тот же Winston AI, упомянутый в постановлении. Результат — 93% текста, созданного ИИ. https://t.co/xTm2jI4d70 pic.twitter.com/lpSHuRjEZ4

— Эммануэль Алессио Вельаскес (@EmmanuVeZe) 3 марта 2026 г.

«Если именно это решение, осуждающее использование искусственного интеллекта, показывает такой высокий процент, то методологическая ненадежность использования этих детекторов в качестве аргумента становится очевидной», — заявил он в следующем твите. Через несколько часов после публикации решения в Твиттере адвокаты начали проводить собственные тесты. Пост Вельаскеса стал вирусным в юридических кругах, набрав десятки тысяч просмотров. Мы также проверили вердикт суда, и сначала результаты были не очень обнадеживающими. Когда GPTZero проанализировал только первые слова текста суда, он показал 100% ИИ.

Когда тот же инструмент обработал более длинную версию, включая раздел с фактическим фоном, он полностью изменил результат: 100% человек. Этот инструмент недостаточно надежен, чтобы доверять ему в суде или в ситуациях, требующих высокой точности.

Колумбийские адвокаты быстро провели собственные эксперименты. Адвокат по уголовной защите и лектор Андрес Ф. Аранго Г. представил судебное дело 2019 года, задолго до появления крупных языковых моделей, которые эти инструменты обучены обнаруживать, и получил результат — 95% ИИ. «Эти инструменты затем предлагают «очеловечить» статью за плату», — написал он в X, отметив очевидный коммерческий интерес, заложенный в бизнес-модель обнаружения. Николя Бельвес провел свою бакалаврскую работу 2020 года по принципу доверия в уголовном праве. Результат? 100% ИИ. Другой колумбийский адвокат, Дарио Кабрера Монтеалегре, отметил лицемерие использования технологий для борьбы с ними. «Суд использует ИИ, чтобы определить, был ли ИИ», — сказал он. «Это противоречит моей практической точке зрения.»

La Corte usa IA para determinar si hubo IA…!? Algo contradictorio desde mi punto de vista práctico… Si se rechaza debe ser porque como humanos lo detectamos

— Дарио Кабрера Монтеалегре (@dalcamont_daro) 2 марта 2026 г.

За пределами юридических кругов, более технически подкованные люди указали на опасности чрезмерной зависимости от инструментов обнаружения ИИ. «На сегодняшний день нет публично доступных инструментов, которые могли бы точно определить процент использования ИИ при составлении текста», — заявил Карлос Алехандро Торрес Пинедо. «Что еще хуже: никто не может публично проверить исходный код этих платформ. Как их можно использовать для дискредитации права человека на доступ к правосудию?»

Технические причины этих сбоев хорошо задокументированы. Детекторы ИИ измеряют статистические закономерности: длину предложений, предсказуемость словарного запаса и так называемую «вспышечность» — естественную вариацию ритма, которую вводят люди в свою речь. Проблема в том, что формальный юридический стиль, академические тексты и работы, написанные людьми, говорящими на втором языке, имеют много схожих статистических признаков. Исследования по обнаружению ИИ В 2023 году опубликованное в Patterns исследование показало, что более 61% эссе по TOEFL, написанных носителями другого языка, неправильно отмечались как созданные ИИ. Систематический обзор Вебер-Вулфа того же года пришел к выводу, что ни один доступный инструмент не является точным или надежным. Turnitin в июне 2023 признал, что его собственный детектор давал больше ложных срабатываний, когда уровень ИИ в документе был ниже 20%. Даже OpenAI пришлось убрать свой инструмент обнаружения ИИ из-за постоянных ошибок и неспособности выполнять свою основную функцию. Университеты уже много лет борются с этой проблемой. Вандербильт отключил детектор ИИ в Turnitin в 2023 году, оценив, что он будет давать около 3000 ложных срабатываний в год. Университет Аризоны исключил функции обнаружения ИИ из своей системы проверки плагиата после того, как студент потерял 20% оценки из-за ложного срабатывания. В 2024 году в UC Davis 17 студентов по лингвистике были отмечены, из них 15 — носители второго языка. Общая картина остается неизменной. Инструменты штрафуют тех, кто пишет наиболее формально, повторяясь или аккуратно, — именно те профили, которые соответствуют юристам, ученым и говорящим на втором языке.

Культурные последствия достигли абсурда. В кругах писателей и журналистов начали избегать использования тире, не из-за стайлгайда, а потому что модели ИИ используют их часто, и детекторы (и люди) это заметили. Писатели начинают самостоятельно редактировать свою пунктуацию, опасаясь подозрений алгоритмов. Вне письменной сферы художники страдают от модераторов и коллег за создание произведений, выглядящих как работы ИИ.

Мы живем в мире, где настоящих художников наказывают, потому что они — жертвы этих воров, называемых художниками ИИ? #Savehumanartist #noAIart #NoAI #SavefutureArt pic.twitter.com/yTQAeyc8SR

— художник Benmoran (@benmoran_artist) 27 декабря 2022 г.

Два решения Колумбии — AC739-2026, в котором Гражданская палата оштрафовала адвоката за цитирование 10 несуществующих прецедентов, созданных ИИ, в феврале, и AP760-2026 — считаются одними из первых судебных решений в регионе, прямо сталкивающихся с злоупотреблением генеративным ИИ в юридических документах. Юридическая система Колумбии приняла в декабре 2024 года официальные руководящие принципы, регулирующие использование искусственного интеллекта судьями и сотрудниками судов. Правила позволяют свободно использовать ИИ для административных и вспомогательных задач, таких как подготовка писем, организация расписаний, перевод документов или составление кратких обзоров, а более чувствительные задачи, например, юридические исследования или подготовка процессуальных документов, — только с тщательным человеческим контролем. В руководстве прямо запрещается использовать ИИ для оценки доказательств, интерпретации закона или принятия судебных решений, подчеркивая, что судьи остаются полностью ответственными за все решения и должны раскрывать использование ИИ при подготовке судебных материалов. Эти руководящие принципы, закрепленные в соглашении «PCSJA24-12243», могут быть использованы для оспаривания подобных решений.

Верховный суд пока не сделал дополнительных заявлений в ответ на критику по поводу выбора инструментов обнаружения. В решении тоже не было тире.