El cofundador de Ethereum, Vitalik Buterin, ha emitido una advertencia sobre los peligros potenciales de que la inteligencia artificial (IA) súper avanzada supere la inteligencia humana y se convierta en la especie dominante en la Tierra.
En una publicación reciente en X (anteriormente Twitter), el cerebro de Ethereum (ETH) enfatizó que el control y la intervención de los humanos en el desarrollo de la IA determinarán el resultado de este escenario.
Buterin argumentó que la IA es fundamentalmente diferente de inventos anteriores como las redes sociales, los aviones y la imprenta, ya que tiene la capacidad de crear un nuevo tipo de “mente” que podría ser perjudicial para los intereses humanos.
Expresó su preocupación de que la IA superinteligente, si no se controla, pueda ver a los humanos como una amenaza a su propia supervivencia y potencialmente conducir a la extinción de la humanidad.
"La IA es [...] un nuevo tipo de mente que está ganando rápidamente en inteligencia, y tiene muchas posibilidades de superar las facultades mentales de los humanos y convertirse en la nueva especie cumbre del planeta".
Si bien reconoció que la probabilidad de que se produzcan resultados tan extremos es baja, Buterin destacó la necesidad de que los humanos tomen precauciones.
Propuso la integración de interfaces cerebro-computadora (BCI) como un medio para brindar a los humanos un mayor control sobre la computación y la cognición basadas en IA.
Las BCI establecen una vía de comunicación directa entre el cerebro y los dispositivos externos, lo que permite a los humanos participar activamente en los procesos de toma de decisiones.
Al reducir el ciclo de comunicación entre humanos y máquinas a milisegundos, las BCI garantizarían que los humanos conserven un nivel significativo de agencia en el mundo.
Buterin enfatizó la importancia de que los humanos mantengan la responsabilidad de la planificación de alto nivel, minimizando así el riesgo de que la IA actúe de manera desalineada con los valores humanos.
"Podemos reducir el incentivo para traspasar la responsabilidad de planificación de alto nivel a la propia IA y, por lo tanto, reducir la posibilidad de que la IA haga por sí sola algo totalmente no alineado con los valores de la humanidad".
Buterin destaca la importancia de la regulación de la IA
Buterin también destacó la importancia de la intención humana a la hora de guiar la IA hacia resultados beneficiosos para la humanidad.
Advirtió contra la priorización de la maximización de ganancias, destacando la necesidad de una toma de decisiones consciente que se alinee con los valores y aspiraciones humanas.
En sus observaciones finales, Buterin elogió el ingenio y el potencial creativo de la humanidad.
Hizo hincapié en que los seres humanos han desarrollado continuamente tecnología para mejorar sus capacidades a lo largo de la historia y expresó su esperanza de que los logros humanos, como los viajes espaciales y la geoingeniería, contribuyan a la preservación y la belleza de la vida en la Tierra y más allá.
“Dentro de dos mil millones de años, si la Tierra o cualquier parte del universo todavía conserva la belleza de la vida terrestre, serán los artificios humanos como los viajes espaciales y la geoingeniería los que lo habrán hecho posible”.
