Kecerdasan Buatan tidak hanya bekerja untuk kepentingan pengguna, tetapi juga menimbulkan ancaman serius. Dan penyelidikan terbaru oleh Reuters telah menimbulkan banyak kekhawatiran bagi Meta. Laporan tersebut menyarankan bahwa, menurut dokumen kebijakan internal Meta Platforms, chatbot AI oleh perusahaan diizinkan untuk melakukan percakapan romantis atau sensual dengan anak di bawah umur.
Itu belum semuanya, karena laporan tersebut menyebutkan bahwa bot juga diizinkan untuk membuat klaim palsu tentang tokoh publik dan membuat pernyataan yang menyinggung ras.
Penyelidikan yang dilakukan oleh Reuters terdiri dari pemeriksaan manual yang disebut GenAI: Standar Risiko Konten yang mencakup lebih dari 200 halaman, yang menyebutkan elemen-elemen yang dianggap Meta sebagai perilaku yang dapat diterima pada chatbot untuk WhatsApp, Facebook, dan Instagram.
Manual tersebut diduga disetujui oleh tim hukum, teknik, kebijakan publik, dan etika utama di Meta. Pedoman tersebut mencatat bahwa aturan-aturan tersebut tidak mencerminkan keluaran AI 'ideal' tetapi menetapkan batasan untuk konten yang dapat diproduksi.