Криптовалютный эмитент Tether сегодня (17-го) объявил о значительном технологическом прорыве в своей инфраструктуре AI — QVAC Fabric: это первый в мире跨платформенный фреймворк для тонкой настройки BitNet LoRA, позволяющий выполнять обучение и вывод大型 языковых моделей (LLM), ранее требовавших корпоративных GPU и облачных вычислений, теперь на обычном потребительском оборудовании, включая смартфоны.
Смартфоны также могут обучать LLM: модель 1B — за 1 час
Согласно опубликованным данным Tether, этот фреймворк успешно реализовал тонкую настройку моделей BitNet на различных устройствах, включая популярные Samsung S25 и iPhone 16.
Samsung S25 (Adreno GPU):
— Модель с 125 миллионами параметров: примерно 10 минут на тонкую настройку
— Модель с 1 миллиардом параметров: около 1 часа 18 минут
iPhone 16 (Apple GPU):
— Модель с 1 миллиардом параметров: примерно 1 час 45 минут
Максимальный тест показал возможность тонкой настройки моделей до 13 миллиардов параметров
Ранее задачи AI-обучения выполнялись на высокопроизводительных GPU NVIDIA, сейчас они сжаты и могут выполняться на смартфонах и других периферийных устройствах.
Ключевые технологии BitNet + LoRA: снижение стоимости AI до минимума
Ключ к этому прорыву — объединение двух технологий:
BitNet (1-битный LLM)
— сжимает традиционные высокоточные веса до трех значений: -1, 0, 1, значительно уменьшая требования к памяти и вычислительным ресурсам.
LoRA (низкоранговая адаптация)
— обучает только небольшое количество параметров (сокращая объем обучения до 1%), что значительно снижает стоимость тонкой настройки.
Объединение этих технологий позволяет моделям работать в условиях очень низких ресурсов.
Практические тесты показали, что BitNet-1B использует на 77,8% меньше VRAM по сравнению с Gemma-3-1B и на 65,6% меньше VRAM, чем Qwen3-0.6B. На одинаковом оборудовании можно запускать модели примерно в два раза крупнее.
GPU-раскрытие потенциала мобильных AI: увеличение производительности до 11 раз
Еще одним важным достижением QVAC является возможность запуска BitNet на «не NVIDIA» экосистемах. Поддерживаются GPU от AMD, Intel, Apple Silicon, а также мобильные GPU: Adreno, Mali, Apple Bionic.
Большие языковые модели больше не являются прерогативой технологических гигантов, AI становится децентрализованным
Генеральный директор Tether Paolo Ardoino заявил: «Интеллект — ключевой фактор развития будущего общества. Он способен повысить стабильность, стать связующим звеном или усилить влияние элит. Будущее искусственного интеллекта должно быть доступным для всех, его смогут использовать все, а не только немногие облачные сервисы, обладающие огромными ресурсами.»
Традиционная разработка AI сильно зависит от облачных решений и крупных GPU-кластеров, что дорого и сосредоточено в руках нескольких технологических гигантов. Платформа QVAC от Tether позволяет проводить значимое обучение крупных моделей на потребительском оборудовании, включая смартфоны, что доказывает возможность децентрализации и инклюзивности передовых технологий AI. В ближайшие месяцы компания продолжит инвестировать значительные ресурсы и финансы, чтобы обеспечить доступность AI в любой точке и в любое время на локальных устройствах.
Эта статья — AI больше не прерогатива технологических гигантов! Tether запускает QVAC — пора каждому иметь свой LLM? Первоначально опубликовано в Chain News ABMedia.