Генеральний директор OpenAI закликає США підготуватися до ризиків від ШІ «надрозумності» та отримати вигоди

Генеральний директор OpenAI Сем Альтман заявив, що американським політикам потрібно діяти вже зараз, щоб підготуватися до передового штучного інтелекту, попередивши, що технологія переходить із теорії в щоденне економічне використання.

У інтерв’ю для Axios Альтман сказав, що системи ШІ вже виконують задачі з кодування та досліджень, які колись вимагали команд програмістів. Новіші моделі, за його словами, підуть ще далі — допомагатимуть ученим робити важливі відкриття й дозволять окремим людям виконувати роботу цілих груп.

Цей зсув уже помітний у кібербезпеці, де деякі лідери галузі кажуть, що штучний інтелект нахиляє баланс на користь атакувальників.

Наприклад, Чарльз Ґійомет, головний технологічний офіцер виробника апаратних гаманців Ledger, розповів CoinDesk, що інструменти на основі ШІ знижують вартість і потрібну кваліфікацію для пошуку та експлуатації вразливостей у програмному забезпеченні. Завдання, які раніше займали місяці, як-от зворотна інженерія коду або поєднання кількох уразливостей, тепер із відповідними підказками можна виконати за секунди.

Криптогалузь минулого року зазнала викрадення або втрати понад $1.4 мільярда активів під час атак. За словами Ґійомета, ця цифра може й далі зростати. Крім того, розробники дедалі більше покладаються на код, згенерований ШІ, що потенційно може масово спричиняти нові вразливості.

Відповідь, за його словами, вимагатиме посилених захистів, зокрема математично верифікованого коду, апаратних пристроїв, які зберігають приватні ключі офлайн, і ширшого усвідомлення того, що системи можуть виходити з ладу.

ШІ в кібербезпеці, біобезпеці

Хоча Альтман зазначив, що ШІ може пришвидшити відкриття ліків або дослідження матеріалів, він також наголосив, що він може уможливити потужніші кібератаки та знизити бар’єр для шкідливих біологічних досліджень. Такі загрози можуть з’явитися вже протягом року, що робить терміновою координацію між урядом, технологічними компаніями та групами з безпеки.

«Ми не так далеко від світу, де існуватимуть неймовірно спроможні моделі з відкритим кодом, які дуже добре працюють у біології», — сказав він. «Потреба суспільства бути стійким до терористичних угруповань, які використовуватимуть ці моделі, щоб намагатися створювати нові патогени, — це вже не теоретична річ».

Інший приклад, який він запропонував, — це «світопотрясаюча кібератака», що може статися вже цього року. Щоб уникнути цього, за його словами, потрібна «неймовірна кількість роботи».

Він представив ідеї OpenAI щодо політики як відправну точку, прагнучи підштовхнути дискусію про те, як керувати системами, які швидко навчаються й діють у багатьох сферах. Використання ШІ для захисту від потенційних атак, за його словами, є важливим.

Щодо потенційної націоналізації OpenAI Альтман сказав, що аргумент проти цього ґрунтується на потребі США досягти «суперінтелекту» раніше за своїх конкурентів.

«Найбільший аргумент проти націоналізації був би таким: нам потрібно, щоб США досягли успіху в побудові суперінтелекту таким чином, щоб він був узгоджений із демократичними цінностями Сполучених Штатів, до того як хтось інший зробить це», — сказав він. «Я думаю, що як урядовий проєкт це, ймовірно, не спрацювало б — і це, мабуть, сумна річ».

Втім Альтман сказав, що він вважає: компанії, задіяні в галузі ШІ, мають працювати в тісній взаємодії з урядом США.

З огляду на його роль в OpenAI, Альтман також має фінансову зацікавленість у тому, як розвиватиметься сектор. Ця позиція може вплинути на те, як він обрамлятиме і нагальність регулювання, і роль приватних компаній, таких як OpenAI, у керуванні новими ризиками, що може позначитися на конкурентному становищі фірми.

ШІ як утиліта

Одна з сфер, де він бачить швидкий прогрес, — це енергетика, бо більша потужність для обчислень може стримувати витрати, поки зростає попит на ШІ.

Альтман також вказав на ранні ознаки зсувів у праці. Програміст у 2026 році, за його словами, працює вже інакше, ніж рік тому.

ШІ стане певною утилітою, як електрика, вбудованою в різні пристрої, тоді як вартість базового інтелекту падатиме, а топові системи залишатимуться дорогими.

«У вас буде цей персональний суперпомічник, який працюватиме в хмарі», — сказав Альтман. «Якщо ви користуєтеся ним часто або на високих рівнях інтелекту, у вас буде вищий рахунок за один місяць, і якщо ви використовуєте його менше — у вас буде нижчий рахунок».

«Неймовірно важливо, щоб люди, які створюють ШІ, мали високу доброчесність, були надійними людьми».