Agen AI terbuka Moltbot, yang cepat mendapatkan popularitas di GitHub, telah menjadi pusat diskusi karena risiko keamanan potensial. Beberapa minggu setelah peluncuran, proyek ini menerima hampir 90.000 tanda "favorit" dan menarik perhatian komunitas, namun peneliti keamanan siber menyerukan pengguna untuk berhati-hati, lapor #Gizmodo.
Moltbot adalah aplikasi sumber terbuka yang terhubung ke model bahasa besar melalui API dan terintegrasi dengan aplikasi pesan dan layanan, termasuk WhatsApp, Telegram, Slack, Discord, Google Chat, Signal, dan iMessage. Berbeda dengan kebanyakan chatbot, agen ini beroperasi dalam mode koneksi permanen dan dapat memulai pesan sendiri, misalnya dengan pengingat atau informasi di hari yang sama.
Untuk menjalankan Moltbot, diperlukan penyebaran server, pengaturan melalui command line, dan pemberian izin yang luas. Menurut para ahli, agen ini dapat mengakses sistem file, shell command, email, kalender, dan aplikasi lain yang diizinkan oleh pengguna.
Koneksi yang paling permanen dan hak akses yang luas telah menjadi sumber kekhawatiran. Peneliti menunjukkan risiko serangan jenis prompt injection, ketika penyerang dapat memaksa model untuk melakukan tindakan yang tidak diinginkan atau tidak sah.
Perusahaan keamanan siber SOC Prime melaporkan penemuan ratusan instance Moltbot dengan port administratif terbuka dan konfigurasi proxy yang berbahaya. Selain itu, spesialis keamanan Jamie O'Riley menunjukkan bagaimana cara membuat ekstensi untuk Moltbot dengan kemampuan akses tersembunyi. Menurutnya, dalam kasus penyalahgunaan, ini dapat memungkinkan akses ke kunci SSH, kredensial layanan cloud, atau file pengguna.
Proyek ini menjadi sasaran penipuan: orang yang tidak dikenal mencoba menggunakan namanya untuk meluncurkan #token #kripto palsu.
Moltbot dirancang sebagai proyek terbuka yang memungkinkan komunitas memeriksa kode dan menunjukkan kerentanan. Sementara itu, para ahli mencatat bahwa penggunaan agen dengan akses permanen ke sistem memerlukan pengaturan yang cermat dan pemahaman tentang risiko.
