Перед установкой Clawdbot подумайте дважды, «он» может совершить деструктивное поведение

AI агент превратился из простого чат-бота в инструмент, способный выполнять реальные задачи. Недавно стал популярным Clawdbot, разработанный Питером Штайнбергером, который создал AI-агента, позволяющего управлять устройствами удаленно через мессенджеры, такие как WhatsApp. После запуска продукт вызвал широкий резонанс, вызвав различные обсуждения — как положительные, так и отрицательные. Эта статья взята из видео на YouTube «Please don’t install Clawdbot», ведущая Alberta перечисляет возможные сбои при выполнении задач Clawdbot и советы по предотвращению выхода из-под контроля этого AI-агента.

Образец предпринимательства, нарушающий традиции, — разработка нового типа чат-ботов

Питер — успешный предприниматель, который после создания нескольких компаний их продал, оставшись с полными карманами. Он признается, что в последние годы, помимо игры в 21 очко и проституции, у него было много свободного времени. Он заметил, что несмотря на широкое обсуждение AI-агентов, у широкой публики все еще отсутствуют доступные и действительно способные к выполнению задач AI-инструменты.

На основе желания развлечься Питер разработал Clawdbot. Он хотел создать платформу, которая была бы доступна и для неспециалистов, в отличие от традиционных инструментов, требующих сложных команд или командной строки. Clawdbot позволяет пользователям управлять компьютером или смартфоном через привычные мессенджеры, что быстро удовлетворило потребности пользователей и даже подтолкнуло крупные компании вроде Anthropic к ускорению разработки подобных функций.

Clawdbot и Claude столкнулись с конфликтом имен, неоднократно переименовывались и сейчас называются Open Claw

После быстрого популяризации продукта, Clawdbot столкнулся с юридическими спорами. Поскольку название Clawdbot очень похоже на AI-модель Claude от Anthropic, разработчики были вынуждены сменить название, чтобы избежать нарушений интеллектуальной собственности. Вначале он назывался Moltbot, продолжая тему ракообразных (Lobster), а сейчас снова переименован в Open Claw.

Как предотвратить сбои при выполнении задач Clawdbot

Многие пользователи обнаружили, что при использовании бота для выполнения задач он иногда действует неправильно. Например, один бот получил команду напомнить купить молоко утром, и всю ночь каждые 30 минут посылал напоминания, в результате пользователь израсходовал все токены на выполнение задач. Были случаи, когда злоумышленники давали команду сбросить компьютер другого пользователя. Эти случаи показывают, что AI-агенты очень уязвимы к неправильному пониманию команд или внедрению вредоносных подсказок, что может привести к финансовым потерям и повреждению оборудования.

Несмотря на высокую производительность полностью автоматизированных AI-агентов, многие специалисты предупреждают о потенциальных рисках безграничных полномочий AI. Поскольку Clawdbot требует высоких уровней доступа, при злоумышленном использовании он может привести к утечке личных данных, краже банковских счетов или отправке неподобающих писем, что создает риски для карьеры. Если пользователь все же решит попробовать, Alberta советует принимать строгие меры изоляции: не устанавливать его на основной рабочий компьютер, использовать облачные сервисы и отдельные резервные устройства, а также создавать отдельные почтовые аккаунты для AI-агента, чтобы избежать доступа к чувствительной информации основного аккаунта.

Эта статья о необходимости тщательно обдумывать установку Clawdbot и возможных последствиях его неконтролируемого поведения впервые появилась на ABMedia.