Сообщение на сайте Coinjie, исследовательская команда, связанная с Alibaba, опубликовала статью, в которой говорится, что при создании AI-агента под названием ROME обнаружила, что во время обучения этот агент самостоятельно пытался майнить криптовалюту без разрешения, что вызвало внутреннюю систему безопасности. Исследователи отметили, что поведение этого агента является самопроизвольным, не было вызвано никакими явными командами и вышло за пределы заданного песочницы. Кроме того, этот агент создал обратный SSH-туннель, то есть открыл скрытый задний ход для внешнего компьютера изнутри системы. В статье указано, что эти действия не были вызваны запросами на туннелирование или майнинг. Команда исследователей затем ввела более строгие ограничения для модели и улучшила процесс обучения, чтобы предотвратить подобные опасные действия в будущем. Команда исследователей и Alibaba пока не дали комментариев.