Tether meluncurkan kerangka kerja pelatihan AI untuk smartphone dan GPU konsumen

Tether baru saja mengumumkan kerangka pelatihan AI baru yang memungkinkan penyesuaian model bahasa besar langsung di perangkat konsumen seperti ponsel pintar dan GPU yang bukan dari Nvidia. Sistem ini, yang berbasis pada platform QVAC, memanfaatkan arsitektur BitNet dari Microsoft yang digabungkan dengan teknik LoRA untuk secara signifikan mengurangi kebutuhan memori dan biaya komputasi.

Menurut Tether, kerangka kerja ini mendukung berbagai platform, kompatibel dengan chip dari AMD, Intel, Apple Silicon, dan GPU mobile dari Qualcomm. Para insinyur dapat melakukan fine-tune model hingga 1 miliar parameter di ponsel dalam waktu kurang dari dua jam, bahkan memperluas hingga 13 miliar parameter di perangkat mobile.

Teknologi BitNet membantu mengurangi hingga 77,8% VRAM dibandingkan model 16-bit, sekaligus mempercepat inferensi di GPU mobile. Tether juga menekankan potensi aplikasi seperti federated learning, yang dapat mengurangi ketergantungan pada cloud.

Langkah ini mencerminkan tren di mana perusahaan kripto memperluas ke AI dan infrastruktur komputasi, seiring dengan perkembangan AI agent dalam industri.