Jack Kong, CEO Nano Labs, memposting di X tentang lanskap teknologi AI yang terus berkembang, menekankan bahwa aset terpenting di era AI adalah memori dan kemampuan berpikir abstrak. Dia menyoroti desain arsitektur yang menarik yang menggabungkan memori lokal dengan model bahasa besar berbasis cloud (LLM). Logika inti dari desain ini adalah bahwa memori, sebagai aset digital penting bagi individu, tidak boleh sepenuhnya dipercayakan kepada cloud.
Desain ini, yang mengikuti urutan input ke memori lokal, lapisan penyaringan, LLM cloud, audit, dan output, pada dasarnya membangun sistem AI pribadi terdesentralisasi. Dalam sistem ini, memori lengkap disimpan secara lokal, sementara cloud hanya memproses konteks yang telah disaring. Pendekatan ini sejalan dengan prinsip inti Web3, yang mengadvokasi kedaulatan data kembali kepada individu.
Kong menyarankan bahwa masa depan infrastruktur AI mungkin akan melihat penerapan luas dari arsitektur hibrida semacam itu, di mana data pribadi dikelola secara lokal, dan hanya informasi yang diperlukan yang diproses di cloud. Model ini dapat mendefinisikan ulang bagaimana sistem AI disusun, memastikan kontrol dan privasi yang lebih besar bagi pengguna.