AGI, o santo graal do desenvolvimento da IA, domina qualquer tarefa cognitiva que um humano pode fazer, aprende em diferentes domínios e se aprimora. E os blocos de construção fundamentais já estão aqui.

Mas quando os sistemas se auto-aprimoram, até 1% de desalinhamento = P(ruína) 💀

Vamos garantir que façamos isso certo.

🧵