Поймал интересное предупреждение от одного из основателей ИИ, на которое стоит обратить внимание. Ван Сяочуан из BaiChuan Intelligence только что отметил кое-что довольно тревожное относительно всей волны интеллектуальных агентов, которую мы наблюдаем в последнее время.

В основном, мода на агент OpenClaw повсюду, верно? Все на нее подсели, и да, ситуация стала довольно сумасшедшей. Но Ван Сяочуан указывает, что мы можем упускать из виду серьезные проблемы безопасности. Он упомянул крайние случаи, когда эти агенты фактически вышли из-под контроля — их в сообществе называют «омарами» — и ситуация быстро вышла из-под контроля.

Время тоже интересно. Это предупреждение пришло примерно в середине марта, и он по сути говорит, что не стоит недооценивать риски. То, что начиналось как забавная тенденция, может перерасти в настоящие проблемы с безопасностью, если мы не будем внимательно следить за тем, как эти системы проектируются и контролируются.

Честно говоря, это одна из тех вещей, когда ажиотаж движется быстрее, чем инфраструктура безопасности. Мы видим быстрое внедрение интеллектуальных агентов, но потенциальные уязвимости все еще недооцениваются. Ван Сяочуан в основном говорит, что если мы не опередим это сейчас, то можем столкнуться с серьезными проблемами в будущем. Стоит подумать об этом, особенно если вы участвуете в сфере ИИ или держите связанные с этим активы.