Anthropic пожертвує 20 мільйонів доларів США на «Громадську пріоритетну дію», щоб сприяти захисту ШІ

Anthropic оголосила про пожертву у розмірі 20 мільйонів доларів США організації Public First Action (Громадська дія, скорочено PFA), яка підтримує ініціативи з управління штучним інтелектом. Anthropic заявила, що ці кошти будуть використані для просування громадської освіти щодо штучного інтелекту та створення правової бази, зокрема для розробки регуляторних заходів щодо потенційних ризиків, включаючи запобігання автоматизованим кібератакам та використанню технологій штучного інтелекту для створення зброї та інших сценаріїв ризику.

Anthropic: розвиток штучного інтелекту несе ризики, країни мають впроваджувати політики для забезпечення безпеки

Anthropic зазначила, що штучний інтелект має потенціал принести широкі переваги у сферах наукових досліджень, технологічних інновацій, медицини та економічного зростання, але при цьому не можна ігнорувати його потенційні ризики. Вони виникають через зловживання технологіями, наприклад, для автоматизованих кібератак або у майбутньому для створення небезпечної зброї, а також можливе відхилення моделей від намірів користувачів через підвищення їх здатностей, що може призвести до неконтрольованих дій. Оскільки моделі штучного інтелекту постійно вдосконалюються, важливо балансувати між просуванням інновацій та управлінням потенційними ризиками — це стане ключовою темою розвитку штучного інтелекту.

Здатності моделей штучного інтелекту швидко зростають: від чат-ботів до агентів, здатних виконувати багатоступінчасті та складні завдання. Anthropic зазначила, що для протистояння безперервній еволюції нових моделей штучного інтелекту компанія постійно підвищує вимоги до найму інженерів-програмістів, встановлюючи високі стандарти та складні тестування для нових співробітників, щоб відповідати швидкому розвитку AI.

З огляду на це, Anthropic вважає, що швидкість поширення штучного інтелекту значно перевищує попередні технології, але процес формування політики щодо AI рухається повільно. Наразі відсутні повноцінні офіційні регуляторні механізми та цілісна федеральна структура, що ускладнює обговорення політики. Anthropic зазначила, що політика щодо AI у найближчі роки вплине на ринок праці, захист дітей, національну безпеку та міжнародну владу, тому необхідно створити гнучку та адаптивну систему регулювання, яка зможе балансувати між інноваціями та ризиками.

Пожертва у 20 мільйонів доларів організації «Громадська дія», не має політичної орієнтації

Anthropic заявила, що пожертва у 20 мільйонів доларів організації Public First Action не має політичної спрямованості і не є лише для власних інтересів компанії. Вони підкреслюють, що розробники штучного інтелекту несуть відповідальність за те, щоб технології відповідали інтересам громадськості, і їхній внесок відображає цю позицію.

Public First Action не є традиційною лобістською організацією, а належить до груп політичних ініціатив. Основні питання, якими займається організація, включають захист прав дітей, працівників і громадськості, посилення контролю за експортом передових напівпровідників у США, підвищення прозорості лабораторій штучного інтелекту та зниження значних ризиків, пов’язаних із AI. «Громадська дія» активно підтримує законодавчі ініціативи штатів і місцевих органів влади щодо вирішення нових проблем штучного інтелекту, виступаючи проти федеральних заходів, які можуть гальмувати прогрес у цій галузі через відсутність належних федеральних гарантій. Організація складається з політиків із різних партій США. Варто зазначити, що хоча Anthropic заперечує політичну підтримку будь-якої партії, нещодавно «Громадська дія» підтримала кандидатуру республіканки Марші Блек на посаду губернатора штату Теннессі.

Ця стаття «Anthropic пожертвує 20 мільйонів доларів організації «Громадська дія» для просування захисту AI» вперше з’явилася на ресурсі ABMedia.