Предупреждения папы о противодействии ИИ могут быть написаны ИИ, утверждает инструмент обнаружения

Вкратце

• Pangram Labs отметил несколько постов с официального аккаунта Папы Лео XIV в X как созданные ИИ.
• Расширение Chrome компании сканирует отзывы о продуктах, публикации в соцсетях и новости в реальном времени.
• Исследователи утверждают, что текст, созданный ИИ или с его помощью, теперь появляется более чем на одной трети новых сайтов.

Даже предупреждения Папы об искусственном интеллекте, возможно, были написаны искусственным интеллектом. Первым об этом сообщил Wired, стартап Pangram Labs, занимающийся обнаружением ИИ, заявил, что его обновленное расширение Chrome отметило несколько постов с официального аккаунта Папы Лео XIV в X как вероятно созданные ИИ, включая сообщения, предупреждающие последователей о влиянии ИИ на человеческое мышление и социальные структуры. Один из таких постов предупреждал: «Когда симуляция становится нормой, это ослабляет способность человека к разбору».

«Очевидно, он сам не управляет своим аккаунтом в Твиттере», — сказал генеральный директор Pangram Labs Макс Сперо Wired. «У них есть специалист по соцсетям. Но также очевидно, что они используют хотя бы часть ИИ». Pangram утверждает, что его модель обнаружения имеет точность 99,98% и уровень ложных срабатываний один на 10 000. Исследование Университета Чикаго в декабре 2025 года поставило Pangram на первое место среди протестированных инструментов обнаружения ИИ и показало, что его уровень ложных срабатываний близок к нулю.  «Учитывая, что каждый детектор хотя бы немного несовершенен, организации всё равно должны самостоятельно оценивать, как и когда их использовать, взвешивая потенциальные риски злоупотребления ИИ и риск ложных обвинений», — говорится в исследовании.

Pangram Labs не сразу ответила на запрос Decrypt о комментарии, также представители Ватикана не комментировали. Обнаружение ИИ остается спорной темой, и ложные срабатывания вызывают опасения в отрасли. В 2024 году детектор ИИ ZeroGPT вызвал волну обсуждений после того, как Кристофер Пенн, главный специалист по данным в бостонской маркетинговой аналитической компании Trust Insight, заявил, что он отметил, что Декларация независимости США на 97,93% создана ИИ. «Эти инструменты используют для дисквалификации студентов, постановки их на академический испытательный срок или отстранения», — сказал Пенн Decrypt тогда. Это «очень рискованное применение, учитывая, что в США высшее образование стоит десятки тысяч долларов в год», — добавил он. По данным Wired, расширение Pangram также, по сообщениям, отметило посты влиятельных лиц с голубой галочкой в X, популярных авторов Substack и сообщение от генерального директора Apple Тима Кука, посвященное 50-летию компании. Запуск происходит на фоне растущих опасений по поводу мусорного контента, созданного ИИ. В начале этого месяца исследователи из Стэнфордского университета, Имперского колледжа Лондона и Интернет-архива обнаружили, что текст, созданный ИИ или с его помощью, составляет примерно 35% новых опубликованных сайтов к середине 2025 года.