AGI, cawan suci dari pengembangan AI, menguasai setiap tugas kognitif yang dapat dilakukan manusia, belajar di berbagai domain, dan memperbaiki dirinya sendiri. Dan blok bangunan inti sudah ada di sini.

Tapi ketika sistem memperbaiki diri sendiri, bahkan 1% ketidaksesuaian = P(bencana) 💀

Mari kita pastikan kita melakukannya dengan benar.

🧵