Anthropic пожертвовал 20 миллионов долларов организации «Общественная приоритетная инициатива» для продвижения защиты ИИ

Anthropic объявила о пожертвовании в размере 20 миллионов долларов организации Public First Action (Общественное действие по приоритетам, сокращенно PFA), поддерживая инициативы, связанные с управлением искусственным интеллектом. Anthropic заявила, что эти средства будут использованы для продвижения общественного образования по искусственному интеллекту и разработки правовой базы, особенно в области регулирования потенциальных рисков, включая предотвращение автоматизированных кибератак и использования технологий искусственного интеллекта для создания оружия и других сценариев риска AI.

Anthropic: развитие искусственного интеллекта несет риски, государство должно продвигать политику для обеспечения безопасности

Anthropic отметила, что искусственный интеллект способен принести широкие преимущества в области научных исследований, технологических инноваций, медицины и экономического роста, однако его потенциальные риски также нельзя игнорировать. Эти риски связаны с возможным злоупотреблением технологиями, например, их использованием для автоматизированных кибератак или в будущем — для производства опасного оружия, а также возможным отклонением моделей от намерений пользователей при повышении их возможностей, что может привести к трудно контролируемым поведением. По мере постоянного обновления и развития AI-моделей, важной задачей станет управление потенциальными рисками при продвижении инноваций.

Способности моделей искусственного интеллекта быстро развиваются — от чат-ботов до AI-агентов, способных выполнять многошаговые и сложные задачи. Anthropic заявил, что для противостояния постоянной эволюции новых AI-моделей компания постоянно повышает требования к найму инженеров-программистов, предоставляя новым специалистам сложные тесты, чтобы подготовиться к быстрому развитию AI.

В связи с этим Anthropic считает, что скорость распространения AI значительно превышает темпы развития большинства технологий, однако создание политики в области AI идет медленнее. В настоящее время отсутствует полноценный официальный механизм регулирования и федеральная рамочная структура, что приводит к рассеянности в обсуждении политики. Anthropic отметил, что в ближайшие годы политика в области AI повлияет на рынок труда, защиту детей и подростков, национальную безопасность и международные отношения, поэтому необходимо создать гибкую и реагирующую на изменения систему регулирования, балансируя между инновациями и рисками.

Пожертвование в 20 миллионов долларов организации Public First Action, не связанное с конкретной политической позицией

Anthropic заявил, что пожертвование в 20 миллионов долларов организации Public First Action не связано с политическими взглядами и не является лишь интересами компании. Компания подчеркивает, что разработчики искусственного интеллекта несут ответственность за обеспечение того, чтобы технологии соответствовали общественным интересам, и их пожертвование отражает именно такую позицию.

Public First Action не является традиционной лоббистской организацией, а относится к группе политических инициатив. Основные темы, на которые обращает внимание Public First Action, включают защиту прав детей, работников и общественности, усиление экспортного контроля за передовыми полупроводниками в США, повышение прозрачности лабораторий искусственного интеллекта и снижение крупных рисков, связанных с AI. «Общественное действие по приоритетам» активно поддерживает работу законодательных органов штатов и местных властей по решению новых проблем, связанных с AI, выступая против федеральных мер, которые могут препятствовать развитию AI на уровне штатов без достаточной федеральной защиты. Организация состоит из представителей американской межпартийной политики. Стоит отметить, что, несмотря на заявление Anthropic о нейтральной позиции, недавно Public First Action поддержала кандидатуру республиканки Мэрши Блэк на пост губернатора штата Теннесси.

Эта статья о том, что Anthropic пожертвовала 20 миллионов долларов организации Public First Action для продвижения защиты AI, впервые появилась на ABMedia — новостном сайте Chain News.