Епоха великого буму агентів: як нам справлятися з тривогою щодо ШІ

Автор: XinGPT

ІІ — ще один рух за технологічне рівноправ’я

Останнім часом у мережі шириться стаття «Інтернет помер, агент живе вічно», у якій є деякі твердження, з якими я цілком погоджуюся. Зокрема, вона зазначає, що в епоху штучного інтелекту вже не доречно оцінювати цінність за DAU, оскільки інтернет має мережеву структуру, де гранична вартість зменшується, чим більше людей користується — тим сильніший мережевий ефект; натомість великі моделі мають зіркоподібну структуру, і гранична вартість зростає лінійно з кількістю токенів, тому важливішим за DAU є споживання токенів.

Проте висновки, які робляться у цій статті, я вважаю явно упередженими. Вона описує токени як привілей нової епохи, вважаючи, що той, хто має більше обчислювальної потужності, має більше влади, а швидкість спалювання токенів визначає швидкість еволюції людини. Тому потрібно постійно прискорювати споживання, інакше можна залишитися позаду конкурентів у епоху ШІ.

Подібні погляди також висловлюються у популярній статті «Від DAU до споживання токенів: перерозподіл влади в епоху ШІ», навіть пропонується щоденно споживати щонайменше 100 мільйонів токенів, а краще — 1 мільярд, інакше «людина, яка споживає 1 мільярд токенів, стане богом, а ми залишимося людьми».

Однак мало хто серйозно рахує цю справу. За ціною GPT-4o, щоденне споживання 1 мільярда токенів коштує приблизно 6800 доларів, що в гривнях майже 50 тисяч. На якій цінності має бути робота, щоб варто було довго утримувати агент за такими витратами?

Я не заперечую, що страх і тривога поширюються у процесі розвитку ШІ, і розумію, що ця галузь майже щодня «вибухає». Але майбутнє агента не слід зводити до змагання за кількість спалених токенів.

Щоб бути багатим, потрібно спершу прокласти дорогу, але надмірне її будівництво — це просто марнотратство. Величезний спортивний стадіон у західних горах, що зводиться для тисяч людей, зрештою, часто стає об’єктом заростання бур’яном і боргових зобов’язань, а не центром для проведення міжнародних змагань.

Кінцева мета ШІ — це технологічне рівноправ’я, а не концентрація привілеїв. Майже всі технології, що справді змінювали історію людства, проходили через міфологізацію, монополізацію і зрештою ставали доступними широкому загалу. Парова машина не належала лише аристократії, електрика не подавалася лише королівським палацам, інтернет не обслуговував лише кілька компаній.

iPhone змінив спосіб спілкування, але не створив «спільноту комунікаційних аристократів». За однаковою ціною звичайна людина має доступ до пристроїв, які не відрізняються від тих, що використовують Тейлор Свіфт або Леброн Джеймс. Це і є технологічне рівноправ’я.

ШІ йде тим самим шляхом. Те, що приносить ChatGPT, — це в першу чергу рівність у знаннях і можливостях. Модель не знає, хто ти, і їй байдуже, хто ти, вона відповідає за однаковими параметрами.

Тому спалювання 100 мільйонів або 1 мільярда токенів агентом не визначає його перевагу. Справжня різниця — у ясності цілей, структурі та правильності поставлених питань.

Більш цінною є здатність досягати більшого за менше токенів. Максимум можливостей агента залежить від людського судження і дизайну, а не від того, скільки грошей на картці можна спалити. У реальності нагорода за креативність, інсайти і структуру значно вища, ніж за просте споживання.

Саме це — рівність у інструментах і збереження активної ролі людини.

Як нам слід ставитися до тривоги щодо ШІ

Друзі, які навчаються на факультеті телебачення і радіомовлення, після перегляду відео про запуск Seedance 2.0 були приголомшені: «Якщо так, то наші спеціальності — режисура, монтаж, операторська — теж можуть бути замінені ШІ».

Розвиток ШІ надто швидкий, і людство програє. Багато робіт будуть замінені, і це неминуче. Ще під час винаходу парової машини, возовщики вже втратили роботу.

Багато хто починає хвилюватися, чи зможе він адаптуватися до майбутнього суспільства, хоча раціонально розуміє, що з часом ШІ також відкриє нові можливості для праці.

Але швидкість такої заміни все ж вища за наші очікування.

Якщо ваші дані, навички, навіть ваш гумор і емоційна цінність — все це ШІ може робити краще, тоді чому роботодавець обирає не людину, а ШІ? А якщо роботодавець — це сама ШІ? Тоді хтось каже: «Не запитуйте, що ШІ може зробити для вас, а що ви можете зробити для ШІ», — і це цілком новий погляд.

Життя у другій половині XIX століття, під час другої промислової революції, філософ Маркс Вебер запропонував концепцію інструментальної раціональності — зосереджуючись на тому, «якими засобами досягти мінімальних витрат і максимальної обчислюваності для реалізації поставленої мети».

Ця раціональність виходить із припущення, що ціль не ставиться під сумнів, а важливо лише — «як найкраще її досягти».

Саме цей підхід і є першопринципом ШІ.

Агент ШІ — це про те, як краще реалізувати поставлене завдання, як краще писати код, як краще створювати відео, як краще писати статті. У цьому інструментальному вимірі прогрес ШІ є експоненційним.

Ще коли Лі Седол програв Alphago у першій партії, людство назавжди програло у сфері гри го перед ШІ.

Маркс Вебер висловив відомий страх — «залізна клітка раціональності». Коли інструментальна раціональність стає домінуючою логікою, цілі перестають ставитися під сумнів, залишається лише питання — «як працювати ефективніше». Люди стають дуже раціональними, але втрачають здатність до ціннісних суджень і сенсу.

Але ШІ не потребує ціннісних суджень і сенсу, він обчислює функцію виробничої ефективності і економічної вигоди, знаходячи абсолютний максимум, що максимально збігається з кривою корисності.

Тому в сучасній системі капіталізму, де домінує інструментальна раціональність, ШІ природно краще пристосоване до цієї системи. У момент появи ChatGPT, — так само, як і Лі Седол у своїй останній партії, — ми програємо ШІ-агенту, бо це вже закодовано у «божественному коді», і залишається лише натиснути кнопку запуску. Різниця лише у тому, коли саме історичний колісний хід переїде нас.

А що ж робити людині?

Звісно, шукати сенс.

У сфері го одна з безнадійних істин — ймовірність, що найкращий професіонал, дев’ятиденної категорії, зрівняється з ШІ, фактично — близька до нуля.

Але гра все ще існує. Її сенс уже не лише у перемозі чи поразці, а у естетиці та самовираженні. Професійний гравець прагне не лише перемогти, а й створювати структури, обговорювати позиції, відчувати азарт у поверненні з програшу, розв’язувати складні ситуації.

Людина прагне краси, цінностей і щастя.

Болт біг 100 метрів за 9.58 секунд, а Ferrari — менше ніж за 3 секунди. Але це не зменшує величі Болта, бо він символізує людський дух — прагнення до межі, до досконалості.

Чим сильніший ШІ, тим більше прав у людини на духовну свободу.

Маркс Вебер назвав протилежність інструментальній раціональності — ціннісну раціональність. У цій системі цінностей вибір зробити щось визначається не лише економічною вигодою, а й тим, «чи варто це робити», «чи відповідає це моїм цінностям, віруванням або обов’язкам».

Я запитав ChatGPT: «Якщо у Луврі спалахне пожежа і там залишиться маленька кішка, а можна врятувати лише одне — кого врятуєш: кота чи картину?»

Він відповів, що врятує кота, і навів довгий список причин.

Але я можу запитати: «А чому б не врятувати картину?» — і він одразу змінює відповідь: «Можна й картину врятувати».

Очевидно, для ChatGPT врятувати кота чи картину — це однаково, він просто виконав аналіз контексту, застосувавши формули з базової моделі, спаливши кілька токенів і виконавши поставлене завдання.

Що ж до питання, чому взагалі потрібно думати про це, — для ChatGPT це не має значення.

Отже, справжнє питання полягає не у тому, чи замінить нас ШІ, а у тому, чи зможемо ми зберегти простір для щастя, сенсу і цінностей, коли ШІ робить світ дедалі ефективнішим.

Бути людиною, яка краще використовує ШІ, — важливо, але ще важливіше — не забувати, як залишатися людиною.

Читайте також: Як за 500 доларів за допомогою ШІ створити роботу з річним доходом 150 тисяч доларів: Посібник з оновлення особистого агенту