Tether Data ha introdotto QVAC Fabric LLM come un runtime e framework di fine-tuning "edge‑first" che consente agli sviluppatori di eseguire e addestrare grandi modelli di linguaggio direttamente su hardware di uso quotidiano, inclusi GPU consumer, laptop e smartphone.
Cosa è QVAC Fabric LLMQVAC Fabric LLM è un sistema unificato che combina inferenza LLM, fine-tuning LoRA e instruction-tuning in un unico framework portatile. Mira a una vasta gamma di sistemi operativi e dispositivi, coprendo iOS, Android, Windows, macOS, Linux e ambienti server standard.
Supporta l'inferenza LLM completa più LoRA e instruction-tuning nello stesso stack, invece di richiedere strumenti separati per la fornitura e l'addestramento.
Esegue su hardware diversificato, inclusi AMD, Intel, NVIDIA, Apple Silicon e GPU mobili come Qualcomm Adreno e ARM Mali. Aggiunge supporto per il fine-tuning di modelli aperti moderni come Llama 3, Qwen 3 e Gemma 3 all'interno dell'ecosistema llama.cpp."