Кратко
- Как сообщает Bloomberg, должностные лица США предупреждали крупные банки о киберрисках, связанных с моделью Mythos AI от Anthropic.
- Как утверждается, система может выявлять и эксплуатировать уязвимости в операционных системах и браузерах.
- У Anthropic ограничен доступ к модели, пока она оценивает потенциальные риски для безопасности.
Как сообщается, министр финансов США Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл ранее на этой неделе созвали встречу с генеральными директорами банков с Уолл-стрит, чтобы предупредить о киберрисках, связанных с новой моделью искусственного интеллекта от Anthropic.
Согласно отчету Bloomberg, в этой встрече участвовали руководители Citigroup, Bank of America, Wells Fargo, Morgan Stanley и Goldman Sachs. Чиновники обсудили новую AI-модель Anthropic Mythos, которая недавно вызвала широкую обеспокоенность из‑за ее очевидных продвинутых возможностей в сфере кибербезопасности.
Чиновники созвали встречу, чтобы убедиться, что банки понимают риски, создаваемые системами, способными выявлять и эксплуатировать уязвимости программного обеспечения в различных операционных системах и веб-браузерах, и чтобы побудить организации усилить защиту от потенциальных кибератак на основе ИИ, нацеленных на финансовую инфраструктуру.
Исследователи безопасности предупреждали, что инструменты, способные автоматически обнаруживать уязвимости, могут ускорить и работы по защитной безопасности, и вредоносный взлом, если ими злоупотребят.
Модель Mythos от Anthropic впервые появилась в сети в марте после утечки черновых материалов о системе, которые раскрыли то, что компания описала как ее самую способную AI-модель на сегодняшний день. В ходе тестирования, как сообщается, система обнаружила тысячи ранее неизвестных уязвимостей в программном обеспечении, включая уязвимости нулевого дня в крупных операционных системах и веб-браузерах.
Исследователи Anthropic сообщили в отчете ранее на этой неделе, что возможности по поиску уязвимостей Mythos Preview не были намеренно обучены, а вместо этого возникли в результате более широких улучшений модели в части кодинга, рассуждений и автономности.
«Те же улучшения, которые делают модель существенно более эффективной при исправлении уязвимостей, также делают ее существенно более эффективной при их эксплуатации», — написала компания.
Из‑за этих возможностей Anthropic ограничила доступ к модели небольшой группой организаций в области кибербезопасности.
«Учитывая силу ее возможностей, мы действуем обдуманно при ее выпуске», — заявила Anthropic в своем сообщении. «Как это принято в отрасли, мы работаем с небольшой группой клиентов, имеющих ранний доступ, чтобы протестировать модель. Мы рассматриваем эту модель как шаг к изменению уровня и как самую способную из тех, что мы построили на сегодняшний день».
Чтобы снизить этот риск, Anthropic тестирует Mythos через Project Glasswing — сотрудничество с крупными технологическими и компаниями по кибербезопасности, в рамках которого модель используется для выявления и устранения уязвимостей в критически важном программном обеспечении до того, как злоумышленники смогут их эксплуатировать.
«Project Glasswing — это отправная точка. Ни одной организации не под силу решить эти проблемы кибербезопасности в одиночку», — говорится в сообщении компании. «Разработчикам Frontier AI, другим компаниям-разработчикам ПО, исследователям безопасности, сопровождающим open-source и правительствам по всему миру всем нужны свои важные роли».
Anthropic не ответила незамедлительно на запрос Decrypt о комментариях.
Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к
Отказу от ответственности.
Связанные статьи
Модель Ling-2.6-flash от Ant Group стала открытой: 104B параметров с 7,4B активными, достигает нескольких SOTA-бенчмарков
Сообщение Gate News от 29 апреля — веса модели Ling-2.6-flash от Ant Group теперь открыты для свободного распространения: ранее они были доступны только через API. Модель включает 104 миллиарда общих параметров, 7,4 миллиарда активируемых параметров на один вывод, окно контекста 256K и лицензию MIT. Доступны версии с точностью BF16, FP8 и INT4
GateNews10м назад
Сэм Альтман опубликовал скриншоты Codex в двух режимах: офисные и программистские функции официально разделены
Генеральный директор OpenAI Сэм Альтман опубликовал 29 апреля на платформе X скриншот и заявление о том, что Codex запускает новую версию интерфейса подсказок: при первом входе пользователи должны выбрать один из двух режимов — Excelmogging и Codemaxxing. Активные еженедельные пользователи Codex уже превысили 4 млн, а сфера применения расширилась с генерации кода до нетехнических задач.
MarketWhisper21м назад
Codex от OpenAI выходит с двухрежимным интерфейсом: Excelmogging для офисной работы, Codemaxxing для программирования
Сообщение Gate News, 29 апреля — генеральный директор OpenAI Сэм Альтман сегодня объявил в X о переработанном интерфейсе Codex, представив два отдельных режима для пользователей. «Excelmogging» ориентирован на повседневные офисные задачи с упрощённым интерфейсом и слоганом «Same tools, simpler interface,» с примерами задач вроде создания таблиц. «Codemaxxing» предназначен для профессиональных разработчиков с описанием «For coding and development,» а примеры задач включают отладку запросов к базам данных.
Codex, изначально сосредоточенный на генерации кода и инженерных задачах, значительно расширился за рамки первоначального замысла. Сейчас продукт может похвастаться более чем 4 миллионами еженедельных активных пользователей и используется для исследовательского анализа, обобщения документов и создания слайдов. Новый интерфейс закрепляет эту тенденцию, направляя пользователей без навыков программирования на более упорядоченный и упрощённый опыт. Этот сдвиг отражает более широкую отраслевую закономерность: Claude от Anthropic разделился на Claude Code for programming и Co Work for general office use, в то время как TRAE Solo от ByteDance также аналогично разделяет режимы программирования и повседневной офисной работы.
Двухрежимная стратегия подчёркивает растущий консенсус в отрасли — программирующие агенты всё чаще расширяются до универсальных офисных инструментов повышения продуктивности.
GateNews1ч назад
СМИ США: проект административного указа Белого дома разрешает модели Anthropic Mythos войти в государственные структуры
Согласно сообщению информированных источников, которое Axios приводит 28 апреля, Белый дом разрабатывает руководящие указания, разрешающие всем федеральным ведомствам обходить определение рисков в цепочке поставок (SCRD) компании Anthropic, и вводить новые модели для использования правительством, включая модель Mythos, принадлежащую Anthropic. В связи с этим Белый дом опубликовал официальное заявление, в котором говорится, что любые заявления о политике будут напрямую публиковаться президентом, а любые другие утверждения — не более чем предположения.
MarketWhisper1ч назад
Тейлор Свифт подает заявку на регистрацию товарного знака голоса и изображения, чтобы предотвратить распространение контента, имитируемого с помощью ИИ
Согласно сообщению BBC от 28 апреля, американская поп-звезда Тейлор Свифт (Taylor Swift) подала в США три заявки на товарные знаки, которые охватывают аудиофрагменты звука и сценические изображения, с целью защитить ее голос и внешний вид от подделок со стороны ИИ; юрист по товарным знакам Джош Гербен сначала раскрыл детали этих заявок в своем блоге.
MarketWhisper1ч назад
Белый дом готовит руководства, позволяющие использовать Anthropic и отменять оценки рисков в цепочке поставок
Сообщение Gate News, 29 апреля — Белый дом разрабатывает исполнительные руководящие указания, которые позволят правительственным ведомствам отменять оценки рисков в цепочке поставок для Anthropic и вводить новые модели ИИ, включая Mythos, как сообщают источники, знакомые с ситуацией. Предлагаемая административная мера c
GateNews2ч назад
