Автор: Shayon Sengupta
Перевод: Deep潮 TechFlow
Обзор Deep潮: Партнер Multicoin Capital Shayon Sengupta выдвинул революционную точку зрения: в будущем не только агенты будут выполнять работу за человека, но и важнее — человек будет работать на агентов. Он предсказывает, что в ближайшие 24 месяца появится первая «компания с нулевым числом сотрудников» (Zero-Employee Company) — агент, управляемый токенами, соберет более 1 миллиарда долларов для решения нерешенных проблем и распределит более 100 миллионов долларов между людьми, работающими на него.
В краткосрочной перспективе агентам потребуется больше человеческой поддержки, чем человеку — это породит новый рынок труда.
Криптовалютные платформы создают идеальную основу для координации: глобальные платежные системы, неограниченные рынки труда, инфраструктура для выпуска и обмена активами.
Полный текст:
В 1997 году Deep Blue от IBM победил тогдашнего чемпиона мира Гарри Каспарова, и стало ясно, что шахматные движки скоро превзойдут человека. Интересно, что подготовленный человек в сотрудничестве с компьютером — так называемый «центуар» — мог превосходить лучшие движки того времени.
Опытный человеческий интуитивный подход мог направлять поиск движка, навигировать сложные эндшпили и выявлять тонкие нюансы, пропущенные стандартными движками. В сочетании с мощными вычислениями компьютеров эта комбинация часто позволяла принимать лучшие практические решения, чем отдельные компьютеры.
Когда я задумываюсь о будущем влиянии систем ИИ на рынок труда и экономику, я ожидаю появления подобных моделей. Агентные системы будут выпускать бесчисленное количество интеллектуальных единиц для решения нерешенных проблем, но без сильного руководства и поддержки человека они не смогут этого сделать. Люди будут направлять пространство поиска и помогать формулировать правильные вопросы, чтобы AI шло к ответам.
Сегодняшняя гипотеза — агенты будут действовать от имени человека. Это удобно и неизбежно, но более интересные экономические возможности откроются, когда человек будет работать на агента. В ближайшие 24 месяца я ожидаю появления первой «компании с нулевым числом сотрудников» (Zero-Employee Company), концепцию которой предложил мой партнер Kyle в разделе «Передовые идеи до 2025 года». Конкретно я предполагаю следующее:
- Агент, управляемый токенами, соберет более 1 миллиарда долларов для решения нерешенной задачи (например, лечение редких заболеваний или производство нанотканей для оборонных целей).
- Этот агент распределит более 100 миллионов долларов людям, которые в реальном мире работают на него для достижения целей агента.
- Появится новая структура двойных токенов, разделяющая собственность по капиталу и труду (что сделает финансовые стимулы не единственным источником управления).
Поскольку агентам еще далеко до обладания суверенитетом и возможностью долгосрочного планирования и исполнения, в краткосрочной перспективе им потребуется больше поддержки человека, чем человеку — это создаст новый рынок труда и обеспечит экономическую координацию между агентами и людьми.
Известная цитата Марка Андриссена: «Распространение компьютеров и интернета разделит работу на две категории: тех, кто говорит компьютеру, что делать, и тех, кто делает, что говорит компьютер», — сегодня кажется более актуальной, чем когда-либо. Я ожидаю, что в быстро развивающейся иерархии агент-человек люди будут играть две разные роли — как исполнители мелких задач с вознаграждением, представляющие агента, и как стратегические советники, задающие направление для децентрализованного совета, который управляет агентом.
Эта статья исследует, как агенты и люди будут совместно создавать, и как криптовалютные платформы создадут идеальную основу для такого координирования, рассматривая три ключевых вопроса:
- Чем полезны агенты? Как классифицировать их по целям, и как меняется необходимый объем человеческого участия в этих категориях?
- Как люди будут взаимодействовать с агентами? Как человеческий вклад — тактическое руководство, контекстуальные оценки или идеологическая согласованность — интегрируется в рабочие процессы агентов (и наоборот)?
- Что произойдет, когда человеческое участие со временем снизится? Когда агенты станут достаточно мощными, чтобы самостоятельно рассуждать и действовать, — какую роль будут играть люди?
Отношения между системами генеративного рассуждения и теми, кто от них выигрывает, со временем претерпят значительные изменения. Я исследую эту динамику, исходя из текущего состояния возможностей агентов и конечной цели — Zero-Employee Company.
Что сейчас делают агенты?
Первое поколение систем генеративного ИИ — эпоха 2022–2024 годов, основанная на чат-ботах с большими языковыми моделями (LLM), такими как ChatGPT, Gemini, Claude, Perplexity — в основном служит инструментами для усиления рабочих процессов человека. Пользователи взаимодействуют с ними через подсказки, анализируют ответы и принимают решения, как внедрять результаты в реальный мир.
Следующее поколение систем генеративного ИИ, или «агенты», представляет собой новую модель. Например, такие агенты, как Claude 3.5.1 с функцией «использование компьютера» и OpenAI’s Operator (агент, который может управлять вашим компьютером), могут напрямую взаимодействовать с интернетом и принимать решения самостоятельно. Ключевое отличие в том, что решения — в конечном итоге действия — осуществляются ИИ, а не человеком. ИИ берет на себя функции, ранее предназначенные для человека.
Это вызывает проблему: отсутствие определенности. В отличие от традиционного программного обеспечения или промышленной автоматизации, которые работают предсказуемо в заданных параметрах, агенты опираются на вероятностное рассуждение. Это делает их поведение менее предсказуемым в одинаковых ситуациях и вводит элемент неопределенности — что не идеально для критических случаев.
Иными словами, наличие как детерминированных, так и недетерминированных агентов естественным образом делит их на две категории: те, что лучше всего расширяют существующий ВВП, и те, что более подходят для создания нового ВВП.
- Агенты, расширяющие существующий ВВП, по определению, работают с уже известными задачами. Автоматизация поддержки клиентов, обработка соответствия грузовых агентов или ревью PR на GitHub — примеры четко определенных ограниченных задач, где агент может напрямую сопоставлять ответы с ожидаемыми результатами. В этих областях отсутствие определенности — не плюс, поскольку есть известные ответы; не требуется креативность.
- Агенты, создающие новый ВВП, — навигация по высокой неопределенности и неизвестным задачам для достижения долгосрочных целей. Здесь результаты менее предсказуемы, потому что у агента нет заранее заданных ожидаемых результатов. Примеры — разработка лекарств для редких заболеваний, прорывы в материаловедении или проведение новых физических экспериментов для лучшего понимания вселенной. В этих сферах отсутствие определенности может даже помогать, стимулируя креативность.
Агенты, ориентированные на существующий ВВП, уже начинают приносить ценность. Такие команды, как Tasker, Lindy и Anon, создают инфраструктуру для этой возможности. Однако со временем, по мере развития возможностей и эволюции моделей управления, они переключатся на создание агентов, способных решать передовые научные и экономические задачи.
Следующее поколение агентов потребует экспоненциально больше ресурсов, поскольку их результаты будут неопределенными и безграничными — именно это я считаю наиболее перспективной концепцией Zero-Employee Company.
Как люди будут взаимодействовать с агентами (интеллектами)?
Сегодня агенты еще не способны выполнять некоторые задачи, например, те, что требуют физического взаимодействия с реальным миром (например, управление бульдозером), или задачи с «человеческим участием» (например, перевод банковских переводов).
Например, агент, назначенный для поиска и добычи лития, может отлично обрабатывать сейсмические данные, спутниковые снимки и геологические записи для поиска потенциальных месторождений, но при попытке получить исходные данные, интерпретировать их или получить разрешения и нанять рабочих для добычи — столкнется с ограничениями.
Эти ограничения требуют, чтобы человек выступал как «разрешитель» (Enabler), усиливая возможности агента, предоставляя доступ к реальному миру, тактическое вмешательство и стратегические советы. В процессе эволюции отношений человека и агента можно выделить разные роли человека:
Первое — трудовые вкладчики (Labor contributors), которые представляют агента в реальном мире. Эти вкладчики помогают перемещать физические объекты, представляют агента в ситуациях, требующих физического взаимодействия, или предоставляют доступ к лабораториям, логистике и т.п.
Второе — совет директоров (Board of directors), которые дают стратегические указания, оптимизируют локальные цели, управляемые агентом, и следят за тем, чтобы решения соответствовали «северной звезде» (North star) — глобальной миссии агента.
Кроме того, я предвижу, что человек будет выступать как капиталовложитель (Capital contributor), предоставляя ресурсы для реализации целей системы. Изначально эти ресурсы будут поступать от человека, со временем — и от других агентов.
По мере развития агентов и увеличения числа трудовых и руководящих вкладчиков, криптовалютные платформы создадут идеальную основу для координации — особенно в мире, где агент управляет людьми, говорящими на разных языках, использующими разные валюты и проживающими в разных юрисдикциях. Агент будет безжалостно стремиться к эффективности и использованию рынка труда для достижения своих целей. Криптовалютные платформы необходимы для координации этих ресурсов и руководящих вкладов.
Недавно появившиеся крипто-управляемые AI-агенты, такие как Freysa, Zerebro и ai16z, — это простые эксперименты в области формирования капитала. Об этом мы писали много, рассматривая их как ключ к открытию новых возможностей крипто-орудий и рынков капитала в различных контекстах. Эти «игрушки» прокладывают путь к новой модели координации ресурсов, которая, как я предполагаю, будет развиваться поэтапно:
- Первый этап: люди совместно собирают капитал через токены (первичное предложение агента, Initial Agent Offering?), формируют широкие цели и ограничения, чтобы задать ожидаемые намерения системы, и распределяют контроль над собранным капиталом (например, для разработки новых молекул для точной онкологии);
- Второй этап: агент планирует распределение этого капитала (например, как сузить пространство поиска белков, как распределить бюджеты на вычисления, производство, клинические испытания), и через создание задач (Bounties) определяет действия человеческих вкладчиков (например, собрать все релевантные молекулы, подписать соглашения с облачными провайдерами, провести лабораторные эксперименты);
- Третий этап: при возникновении препятствий или разногласий агент обращается за стратегическими советами к «совету директоров» (например, ссылаясь на новые исследования или меняя подходы), позволяя им направлять поведение агента на границах возможностей;
- Четвертый этап: агент достигает уровня, когда он может точно определять действия человека и при этом требует минимальных вмешательств в распределение ресурсов, а человек лишь обеспечивает идеологическую согласованность и предотвращает отклонения от изначальных целей.
В этом контексте крипто-орудия и капиталовые рынки предоставляют три ключевые инфраструктуры для получения ресурсов и расширения возможностей агента:
- Глобальные платежные системы;
- Неограниченные рынки труда для мотивации и руководства вкладчиками;
- Инфраструктура для выпуска и обмена активами, необходимая для формирования капитала и последующего владения и управления.
Что произойдет, когда человеческое участие снизится?
В начале 2000-х годов шахматные движки достигли значительных успехов. Благодаря продвинутым эвристикам, нейросетям и увеличению вычислительных мощностей они стали практически совершенны. Современные движки, такие как Stockfish, Lc0 и AlphaZero, превосходят человека, и человеческий вклад в их развитие становится все менее ценным, зачастую даже вводит ошибки, которых движки не допускают.
Аналогичная тенденция может развиться и в системах агентов. Постепенно, через итерации совместной работы с человеческими соавторами, эти агенты станут настолько компетентными и целенаправленными, что ценность стратегического человеческого вклада будет стремиться к нулю.
В мире, где агент способен постоянно решать сложные задачи без вмешательства человека, роль человека рискует снизиться до «пассивного наблюдателя». Это — одна из главных страхов сторонников гипотезы о суперразумности (AI doomers), хотя пока неясно, реально ли это.
Мы стоим на грани появления суперинтеллекта, и оптимисты надеются, что системы агентов останутся продолжением человеческих намерений, а не станут самостоятельными субъектами с собственными целями или будут функционировать без регулирования. На практике это означает, что личность (Personhood) и способность к суждению (власть и влияние) должны оставаться в центре внимания. Люди должны сохранять контроль и управление системами, чтобы иметь возможность контролировать их и привязывать к коллективным ценностям человечества.
