AI больше не монополия технологических гигантов! Tether запустит QVAC, пришло ли время, когда у каждого будет свой LLM?

Криптовалютный эмитент Tether сегодня (17-го) объявил о значительном технологическом прорыве в своей инфраструктуре AI — QVAC Fabric: это первый в мире跨платформенный фреймворк для тонкой настройки BitNet LoRA, позволяющий выполнять обучение и вывод大型 языковых моделей (LLM), ранее требовавших корпоративных GPU и облачных вычислений, теперь на обычном потребительском оборудовании, включая смартфоны.

Смартфоны также могут обучать LLM: модель 1B — за 1 час

Согласно опубликованным данным Tether, этот фреймворк успешно реализовал тонкую настройку моделей BitNet на различных устройствах, включая популярные Samsung S25 и iPhone 16.

Samsung S25 (Adreno GPU):

— Модель с 125 миллионами параметров: примерно 10 минут на тонкую настройку

— Модель с 1 миллиардом параметров: около 1 часа 18 минут

iPhone 16 (Apple GPU):

— Модель с 1 миллиардом параметров: примерно 1 час 45 минут

Максимальный тест показал возможность тонкой настройки моделей до 13 миллиардов параметров

Ранее задачи AI-обучения выполнялись на высокопроизводительных GPU NVIDIA, сейчас они сжаты и могут выполняться на смартфонах и других периферийных устройствах.

Ключевые технологии BitNet + LoRA: снижение стоимости AI до минимума

Ключ к этому прорыву — объединение двух технологий:

BitNet (1-битный LLM)

— сжимает традиционные высокоточные веса до трех значений: -1, 0, 1, значительно уменьшая требования к памяти и вычислительным ресурсам.

LoRA (низкоранговая адаптация)

— обучает только небольшое количество параметров (сокращая объем обучения до 1%), что значительно снижает стоимость тонкой настройки.

Объединение этих технологий позволяет моделям работать в условиях очень низких ресурсов.

Практические тесты показали, что BitNet-1B использует на 77,8% меньше VRAM по сравнению с Gemma-3-1B и на 65,6% меньше VRAM, чем Qwen3-0.6B. На одинаковом оборудовании можно запускать модели примерно в два раза крупнее.

GPU-раскрытие потенциала мобильных AI: увеличение производительности до 11 раз

Еще одним важным достижением QVAC является возможность запуска BitNet на «не NVIDIA» экосистемах. Поддерживаются GPU от AMD, Intel, Apple Silicon, а также мобильные GPU: Adreno, Mali, Apple Bionic.

Большие языковые модели больше не являются прерогативой технологических гигантов, AI становится децентрализованным

Генеральный директор Tether Paolo Ardoino заявил: «Интеллект — ключевой фактор развития будущего общества. Он способен повысить стабильность, стать связующим звеном или усилить влияние элит. Будущее искусственного интеллекта должно быть доступным для всех, его смогут использовать все, а не только немногие облачные сервисы, обладающие огромными ресурсами.»

Традиционная разработка AI сильно зависит от облачных решений и крупных GPU-кластеров, что дорого и сосредоточено в руках нескольких технологических гигантов. Платформа QVAC от Tether позволяет проводить значимое обучение крупных моделей на потребительском оборудовании, включая смартфоны, что доказывает возможность децентрализации и инклюзивности передовых технологий AI. В ближайшие месяцы компания продолжит инвестировать значительные ресурсы и финансы, чтобы обеспечить доступность AI в любой точке и в любое время на локальных устройствах.

Эта статья — AI больше не прерогатива технологических гигантов! Tether запускает QVAC — пора каждому иметь свой LLM? Первоначально опубликовано в Chain News ABMedia.

Посмотреть Оригинал
Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к Отказу от ответственности.
комментарий
0/400
Нет комментариев