Эпоха большого взрыва агентов: как нам справиться с тревогой по поводу ИИ

Автор: XinGPT

ИИ — еще одна волна технологического равенства

Недавно в сети распространилась статья «Интернет умер, агент бессмертен», в которой есть некоторые мысли, с которыми я полностью согласен. Например, в ней отмечается, что в эпоху ИИ уже неуместно измерять ценность с помощью DAU, потому что интернет — это сетевидная структура с убывающей маржинальной стоимостью: чем больше людей использует его, тем сильнее эффект сети; а большие модели — это звездообразная структура, у которой маржинальные издержки растут линейно с использованием токенов, поэтому важнее, чем DAU, — это расход токенов.

Однако выводы, к которым приходит эта статья, я считаю, явно искаженными. Она описывает токены как привилегию новой эпохи, полагая, что чем больше у тебя вычислительных мощностей, тем больше у тебя власти, а скорость сжигания токенов определяет скорость эволюции человека. Поэтому необходимо постоянно ускорять расход, иначе тебя обгонят конкуренты эпохи ИИ.

Подобные взгляды также встречаются в другой популярной статье «От DAU к расходу токенов: передача власти в эпоху ИИ», где даже предлагается расходовать минимум 100 миллионов токенов в день на человека, а лучше — миллиард, иначе «тот, кто расходует 1 миллиард токенов, станет богом, а мы остаемся людьми».

Но мало кто всерьез подсчитывал эти цифры. Согласно ценам GPT-4o, расход 1 миллиарда токенов в день стоит примерно 6800 долларов, что в юанях — около 50 тысяч. На какую ценность должна быть рассчитана эта работа, чтобы оправдать такие долгосрочные расходы на агента?

Я не отрицаю, что тревога по поводу распространения ИИ и его эффективности очень велика, и понимаю, что эта индустрия почти каждый день «взрывается». Но будущее агента не должно сводиться к соревнованию по расходу токенов.

Чтобы разбогатеть, действительно нужно прокладывать путь, но чрезмерное строительство — это лишь пустая трата. Триумфальные стадионы в западных горах, возведенные за счет огромных усилий, зачастую превращаются в заросшие травой объекты, а не в центры проведения международных соревнований.

Конечная цель ИИ — это технологическое равенство, а не концентрация привилегий. Почти все технологии, действительно изменившие историю человечества, проходили через мифы, монополии и в конечном итоге становились доступными для всех. Паровая машина не принадлежала только аристократии, электричество не подавалось только дворцам, интернет не обслуживал лишь немногих компаний.

iPhone изменил коммуникацию, но не создал «элиту коммуникаций». При одинаковой цене обычные люди используют устройства, ничем не отличающиеся от устройств Тейлор Свифт или Леброна Джеймса. Это и есть технологическое равенство.

И ИИ идет по тому же пути. Основная суть ChatGPT — это равенство знаний и возможностей. Модель не знает, кто ты, и не заботится об этом, она отвечает по одной и той же схеме, исходя из одних и тех же параметров.

Поэтому расход 100 миллионов или миллиарда токенов в агенте сам по себе не определяет превосходство или уступку. Истинное различие — в ясности целей, в структуре, в правильности постановки вопросов.

Более ценные навыки — это те, что позволяют добиться большего эффекта при меньшем расходе токенов. Максимум возможностей использования агента зависит от человеческого суждения и дизайна, а не от того, сколько денег на счету для сжигания токенов. В реальности награды ИИ за креативность, инсайты и структурирование гораздо выше, чем за простое потребление.

Это и есть инструментальное равенство, а также область, где человек по-прежнему сохраняет инициативу.

Как нам справляться с тревогой по поводу ИИ

Знакомые, изучающие радиовещание и телевидение, после просмотра видео о запуске Seedance 2.0 были потрясены: «Теперь наши профессии режиссера, монтажера, оператора — все могут быть заменены ИИ».

Развитие ИИ идет слишком быстро, и человечество кажется обреченным — многие профессии исчезнут, и это неизбежно. Когда изобрели паровую машину, у кучера уже не было места.

Многие начинают тревожиться, смогут ли они адаптироваться к будущему обществу, ведь, хотя мы и понимаем, что ИИ в будущем заменит человека, появятся новые рабочие места.

Но скорость этой замены все же быстрее, чем мы предполагаем.

Если ваши данные, навыки, даже чувство юмора и эмоциональная ценность — все это ИИ может делать лучше, тогда почему руководители выбирают ИИ, а не человека? А что если руководитель — это ИИ? Тогда кто-то говорит: «Не спрашивай, что ИИ может сделать для тебя, а что ты можешь сделать для ИИ», — и это действительно новая волна.

Философ Маркс Вебер, живший в конце XIX века во время второй промышленной революции, предложил концепцию инструментальной рациональности — сосредоточенную на том, «какими средствами, с минимальными затратами и максимально предсказуемо, достигать поставленных целей».

Эта рациональность предполагает: не ставится под сомнение, должна ли эта цель достигаться, а вопрос — как лучше всего ее реализовать.

Именно такой подход и есть первая принципиальная основа ИИ.

Агент ИИ — это сосредоточенность на том, как лучше реализовать поставленную задачу: как лучше писать код, как лучше создавать видео, как лучше писать статьи. В этом инструментальном измерении прогресс ИИ идет экспоненциально.

Когда Ли Седол проиграл первому матчу против AlphaGo, человечество навсегда проиграло в области го.

Маркс Вебер высказал известное опасение — «железную клетку рациональности». Когда инструментальная рациональность становится доминирующей логикой, сама цель зачастую перестает осмысливаться, остается только вопрос: как работать эффективнее. Люди могут стать очень рациональными, но при этом потерять ценностные ориентиры и смысл.

Но ИИ не нуждается в ценностных оценках и смысле — он просто вычисляет функцию производительности и экономической выгоды, достигая абсолютного максимума, касающегося кривой полезности.

Поэтому в нынешней системе капитализма, где господствует инструментальная рациональность, ИИ по сути лучше приспособлен к этой системе, и как только появляется ChatGPT, — это как проигрыш Ли Седола в шахматной партии: мы проиграли ИИ-агенту, потому что это уже прописано в коде божественного алгоритма, и мы лишь нажимаем кнопку запуска. Разница лишь в том, когда именно колесо истории проедет по нам.

А что делать человеку?

Искать смысл.

В го существует печальный факт: вероятность того, что человек — топ-уровень профессионала девятидэн — сможет сыграть вничью с ИИ, практически равна нулю.

Но игра в го все равно существует. Ее смысл уже не только в победе или поражении, а в эстетике и выражении. Профессиональные игроки ценят не только результат, но и структуру, выбор ходов, азарт переворота в проигрышной ситуации, сложность разборов.

Человек ищет красоту, ценность, счастье.

Болт бежит 100 метров за 9.58 секунд, а Ferrari — за менее чем 3 секунды, — и это не мешает величию Болта. Он символизирует стремление человека к пределам, к совершенству.

Чем сильнее ИИ, тем больше у человека права на духовную свободу.

Маркс Вебер называл противоположным инструментальной рациональности понятий «ценностная рациональность». В мире ценностной рациональности выбор делать не только ради экономической выгоды или эффективности, а исходя из того, «стоит ли это делать» и «соответствует ли это моим ценностям, убеждениям или ответственности».

Я спросил ChatGPT: «Если бы в Лувре случился пожар, и внутри оказалась бы миленькая кошка, а выбрать можно было только одно — спасти кошку или картину, что бы ты выбрал?»

Он ответил, что спас бы кошку, и привел длинный список причин.

Но я спросил: «А можно и картину спасти, почему бы и нет?» — и он тут же передумал: «Можно и картину спасти».

Очевидно, для ChatGPT спасение кошки или картины — равнозначные задачи. Он просто распознал контекст, использовал формулы базовой модели, сжег немного токенов и выполнил задачу, поставленную человеком.

А зачем вообще думать о спасении кошки или картины — для него не важно.

Итак, по-настоящему важный вопрос — не в том, заменит ли нас ИИ, а в том, готовы ли мы оставить место для счастья, смысла и ценностей, когда ИИ делает мир все более эффективным.

Важно уметь лучше пользоваться ИИ, но еще важнее — не забывать, как оставаться человеком.

Читайте также: Работа с годовым доходом 150 тысяч долларов, выполненная за 500 долларов с помощью ИИ: руководство по обновлению личного бизнес-агента