Помимо истории чатов: как Honcho решает проблему персонализации для приложений LLM

Представьте, что вы объясняете квантовую физику своей бабушке, своему профессору и своему подростку. Вы бы использовали разные слова, примеры или темп для каждого из них. Вы бы инстинктивно адаптировали свою коммуникацию в зависимости от того, с кем говорите. Именно этого не хватает в современных приложениях больших языковых моделей — и это основная проблема, которую призвана решить недавно запущенная платформа Honcho от Plastic Labs.

11 апреля стартап AI Plastic Labs объявил о завершении раунда предпосевного финансирования в размере 5,35 миллиона долларов, который возглавила компания Variant, с участием White Star Capital, Betaworks, Mozilla Ventures, Seed Club Ventures, Greycroft и Differential Ventures. В раунде также участвовали ангельские инвесторы, такие как Скотт Мур, NiMA Asghari и Томас Хауэлл. Компания одновременно открыла ранний доступ к Honcho — своей платформе для персонализированного AI-идентификатора, что стало важной вехой в том, как приложения на базе LLM могут наконец-то лучше понимать своих пользователей.

Растущая необходимость настоящей персонализации в приложениях LLM

Бурный рост программного обеспечения на базе LLM создал неожиданную проблему: эти приложения мощные, но по сути неперсонализированные. Терапевтический помощник должен уметь понять ваше эмоциональное состояние и стиль общения. Образовательный репетитор должен распознавать, как вы лучше всего учитесь. Покупательский помощник должен понимать ваши предпочтения и паттерны просмотра. Однако большинство разработчиков, создающих такие приложения, сталкиваются с фрагментированным ландшафтом и отсутствием стандартных решений.

В настоящее время команды собирают временные системы для хранения данных пользователей — обычно скрытых в логах разговоров — и извлекают их по мере необходимости. Каждая организация по сути начинает с нуля, создавая свою инфраструктуру управления состоянием пользователя. В результате тратится много инженерных ресурсов, и множество команд изобретают одно и то же заново. Что еще хуже, даже при использовании сложных методов, таких как векторные базы данных и генерация с дополнением поиска (RAG), они могут лишь показывать прошлые разговоры. Они не могут по-настоящему захватить более глубокие характеристики пользователя: предпочтения в коммуникации, паттерны обучения, эмоциональные триггеры или нюансы личности.

Терапевтические приложения, образовательные ассистенты, платформы для чтения и инструменты электронной коммерции уже ждут в закрытом бета-очереди Honcho — сотни приложений в различных сценариях, все сталкивающиеся с одной и той же проблемой.

Почему подход Honcho, основанный на когнитивных науках, меняет правила игры

Здесь Honcho выступает как поворотный момент. Платформа работает как готовое решение, которое разработчики могут интегрировать прямо в свои приложения на базе LLM без необходимости создавать инфраструктуру моделирования пользователя с нуля. После подключения разработчики получают доступ к богатым, устойчивым профилям пользователей, которые захватывают гораздо больше нюансов, чем традиционные методы.

Ключевое отличие — в основе платформы лежат передовые техники, заимствованные из когнитивных наук. Вместо простого хранения истории разговоров или внедрения взаимодействий пользователя в векторные базы данных, Honcho строит более глубокие модели того, кто на самом деле эти пользователи. Эти профили можно запрашивать с помощью естественного языка, что позволяет приложениям на базе LLM динамически корректировать свое поведение, тон и стиль коммуникации в зависимости от индивидуальных характеристик пользователя.

Преимущество для инженеров очевидно: Honcho скрывает сложность управления состоянием пользователя, освобождая команды разработчиков для сосредоточения на основной логике приложения, а не инфраструктуре. Но последствия выходят далеко за рамки удобства для одного приложения. Богатые, абстрактные профили пользователей, создаваемые Honcho, создают то, что индустрия давно ищет, но с трудом достигает: путь к по-настоящему совместимому общему слою данных о пользователях.

Проблема общего слоя данных: почему предыдущие попытки потерпели неудачу

Исторически попытки создать совместные слои данных о пользователях терпели неудачу по двум основным причинам.

Первая — барьер совместимости. Традиционные данные о пользователях обычно тесно связаны с конкретным приложением и трудно передаются между платформами. Ваша социальная сеть на X — определяемая тем, кого вы подписаны — мало что дает вашему профессиональному кругу на LinkedIn. Эти данные не переводятся. Honcho захватывает более высокоуровневые, универсальные черты пользователя, которые работают в любом приложении на базе LLM. Например, если образовательная платформа обнаружит, что вы лучше всего учитесь через аналогии, это знание станет ценным для вашего терапевтического помощника, который сможет использовать сторителлинг для более эффективной коммуникации. Та же характеристика применима в совершенно разных сценариях.

Вторая — проблема холодного старта. Предыдущие слои обмена не могли набрать обороты, потому что ранние пользователи не видели немедленной выгоды. Привлечение первых приложений — что важно для сбора ценного пользовательского данных — требовало обещания сети, которая еще не существовала. Honcho избегает этой динамики «курицы и яйца», решая «проблему первого порядка» для отдельных приложений в первую очередь. Когда подключается достаточное количество приложений, естественным образом возникают сетевые эффекты, и «вторая проблема» начинает решаться сама собой. Новые приложения, присоединяющиеся к платформе, не сталкиваются с препятствиями холодного старта; они наследуют богатые профили пользователей с самого начала и получают доступ к растущему интеллектуальному слою без необходимости обучать собственные модели.

Построение инфраструктуры: стратегическая дорожная карта Plastic Labs

Стратегия компании отражает этот поэтапный подход. Изначально основной фокус остается на решении ключевой задачи управления состоянием пользователя для отдельных приложений. По мере роста числа подключенных приложений команда постепенно введет общий слой данных для желающих участвовать.

Этот общий слой включает структуру стимулов, основанную на механизмах блокчейна. Приложения, получающие ранние доли владения этим слоем, делят его рост и сетевую ценность. Одновременно децентрализованная архитектура блокчейна обеспечивает надежность и прозрачность системы, предотвращая концентрацию власти у централизованных посредников, которые могут извлекать непропорциональную выгоду или создавать конкурирующие продукты, использующие созданные ими данные.

Этот подход отражает уроки, извлеченные из предыдущей работы команды. Разрабатывая Bloom — персонализированное чат-бот-образовательное приложение, команда Plastic Labs столкнулась с разочарованием от создания интеллектуального репетитора без полного понимания стилей обучения и индивидуальных потребностей студентов. Honcho возник прямо из этого инсайта — осознания, что каждый разработчик приложений на базе LLM в конечном итоге столкнется с одной и той же фундаментальной ограниченностью.

Что дальше: от одного приложения к эффекту сети

Сотни приложений, охватывающих коучинг по восстановлению после зависимостей, образовательное обучение, помощь в чтении и платформы электронной коммерции, уже зарегистрированы в списке ожидания Honcho. Каждое представляет собой разный сценарий использования и пользовательскую базу, но все объединяет одна потребность: приложения на базе LLM, которые действительно понимают, с кем они общаются.

Variant, как ведущий инвестор и компания, представленная Генеральным юрисконсультом Даниэлем Барабандером, который помог сформулировать видение Honcho, признает достигнутое Plastic Labs: команда с подтвержденным опытом в моделировании пользователей для программного обеспечения на базе ИИ, теперь выпускает инфраструктуру, которая может изменить всю экосистему приложений LLM в вопросах персонализации.

Проблема персонализации в приложениях LLM уже перестала быть теоретической — она стала центральным узким местом, ограничивающим создание действительно полезных, контекстуальных AI-опытов. Honcho представляет собой первое широко доступное решение, которое решает эту проблему в масштабах, потенциально открывая новую эпоху гиперперсонализированных приложений на базе LLM, которые действительно понимают своих пользователей.