AI bukan lagi paten perusahaan teknologi raksasa! Tether luncurkan QVAC, apakah saatnya setiap orang punya LLM sendiri?

Stablecoin issuer Tether hari ini (17) mengumumkan terobosan teknologi besar pada infrastruktur AI-nya, QVAC Fabric: kerangka fine-tuning BitNet LoRA yang pertama di dunia yang mendukung lintas platform, memungkinkan model bahasa besar yang sebelumnya memerlukan GPU tingkat perusahaan dan kekuatan komputasi cloud, kini dapat dilatih dan dijalankan inference-nya di perangkat konsumen umum, termasuk ponsel pintar.

Ponsel juga bisa melatih LLM: model 1B selesai dalam 1 jam

Menurut data yang diumumkan Tether, kerangka ini telah berhasil melakukan fine-tuning model BitNet di berbagai perangkat, termasuk Samsung S25 dan iPhone 16 yang umum digunakan.

Samsung S25 (Adreno GPU):

  • Model 125 juta parameter: sekitar 10 menit untuk fine-tuning
  • Model 1 miliar parameter: sekitar 1 jam 18 menit

iPhone 16 (Apple GPU):

  • 1 miliar parameter: sekitar 1 jam 45 menit

Pengujian ekstrem menunjukkan fine-tuning model hingga 13 miliar parameter dapat dilakukan

Dulu, tugas pelatihan AI yang dijalankan di GPU NVIDIA kelas atas, kini telah dipadatkan ke perangkat edge seperti ponsel.

Teknologi kunci BitNet + LoRA: mengurangi biaya AI secara drastis

Terobosan ini berpusat pada penggabungan dua teknologi:

BitNet (1-bit LLM)

Mengompresi bobot presisi tinggi tradisional menjadi hanya tiga nilai: -1, 0, 1, secara signifikan mengurangi kebutuhan memori dan komputasi.

LoRA (Low-Rank Adaptation)

Hanya melatih sejumlah kecil parameter (mengurangi hingga 99% dari beban pelatihan), secara besar-besaran menurunkan biaya fine-tuning.

Gabungan keduanya memungkinkan model berjalan di lingkungan dengan sumber daya sangat rendah.

Pengujian menunjukkan BitNet-1B menggunakan VRAM 77,8% lebih sedikit dibanding Gemma-3-1B dan 65,6% lebih sedikit dibanding Qwen3-0.6B. Dengan perangkat keras yang sama, dapat menjalankan model sekitar dua kali lebih besar.

GPU membuka AI di ponsel: performa meningkat hingga 11 kali lipat

Terobosan kunci lain dari QVAC adalah memungkinkan BitNet berjalan di ekosistem selain NVIDIA. Mendukung GPU dari AMD, Intel, Apple Silicon, bahkan GPU ponsel seperti Adreno, Mali, dan Apple Bionic.

Model bahasa besar tidak lagi menjadi hak paten perusahaan teknologi besar, AI juga bisa didesentralisasi

CEO Tether Paolo Ardoino mengatakan, “Kecerdasan akan menjadi faktor kunci dalam perkembangan masyarakat masa depan. Ia berpotensi meningkatkan stabilitas sosial, menjadi penghubung masyarakat, atau memberdayakan sedikit elit. Masa depan kecerdasan buatan harus dapat diakses, digunakan, dan dimiliki semua orang, bukan hanya mengandalkan sumber daya besar yang hanya bisa diakses oleh beberapa penyedia layanan cloud.”

Pengembangan AI tradisional sangat bergantung pada cloud dan klaster GPU besar, biaya tinggi, dan teknologi terkonsentrasi di beberapa raksasa teknologi. Platform QVAC dari Tether mendukung pelatihan model besar yang bermakna di perangkat konsumen seperti ponsel, membuktikan bahwa kecerdasan buatan canggih dapat didesentralisasi dan inklusif. Dalam beberapa bulan mendatang, mereka akan terus menginvestasikan sumber daya dan dana untuk memastikan AI dapat digunakan kapan saja dan di mana saja di perangkat lokal.

Artikel ini: AI tidak lagi menjadi hak paten perusahaan teknologi besar! Tether luncurkan QVAC, saatnya semua orang memiliki LLM? Pertama kali muncul di Chain News ABMedia.

Lihat Asli
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke Penafian.
Komentar
0/400
Tidak ada komentar