AGI, święty graal rozwoju AI, opanowuje każde zadanie poznawcze, które może wykonać człowiek, uczy się w różnych dziedzinach i poprawia samego siebie. A podstawowe elementy już tu są.

Ale gdy systemy samodzielnie się poprawiają, nawet 1% niedopasowania = P(zgubienie) 💀

Upewnijmy się, że zrobimy to dobrze.

🧵