«Nunca invoques un poder que no puedas controlar»: Yuval Noah Harari sobre cómo la IA podría amenazar la democracia y dividir al mundo

Olvídese de las representaciones de Hollywood de robots armados corriendo descontrolados por las calles: la realidad de la inteligencia artificial es mucho más peligrosa, advierte el historiador y escritor en este extracto exclusivo de su nuevo libro.

A lo largo de la  historia, muchas tradiciones han sostenido que existe algún defecto fatal en la naturaleza humana que nos impulsa a perseguir poderes que no sabemos manejar. El mito griego de Faetón contaba la historia de un joven que descubre que es hijo de Helios, el dios del Sol. Deseoso de demostrar su origen divino, Faetón exige el privilegio de conducir el carro del Sol. Helios le advierte que ningún ser humano puede controlar los caballos celestiales que tiran del carro solar. Pero Faetón insiste hasta que el dios del Sol cede.

Tras elevarse orgullosamente por el cielo, Faetón pierde efectivamente el control del carro. El Sol se desvía de su curso, quema toda la vegetación, mata a numerosos seres y amenaza con incendiar la propia Tierra. Zeus interviene y alcanza a Faetón con un rayo. El presuntuoso humano cae del cielo como una estrella fugaz, envuelto en llamas. Los dioses recuperan el control de los cielos y salvan el mundo.

Dos mil años después, cuando la Revolución Industrial daba sus primeros pasos y las máquinas comenzaban a sustituir a los seres humanos en numerosas tareas, Johann Wolfgang von Goethe publicó un relato de advertencia similar titulado El aprendiz de brujo. El poema de Goethe —popularizado posteriormente mediante una animación de Walt Disney protagonizada por Mickey Mouse— cuenta la historia de un viejo hechicero que deja a un joven aprendiz a cargo de su taller y le encomienda varias tareas mientras está fuera, entre ellas traer agua del río.

El aprendiz decide facilitarse el trabajo y, utilizando uno de los hechizos del hechicero, encanta una escoba para que vaya a buscar agua por él. Sin embargo, no sabe cómo detenerla. La escoba continúa trayendo agua sin cesar y amenaza con inundar el taller.

Presa del pánico, el aprendiz corta la escoba encantada en dos con un hacha, pero cada mitad se convierte en una nueva escoba. Ahora son dos las escobas encantadas que inundan el taller. Cuando regresa el viejo hechicero, el aprendiz le suplica ayuda: «Los espíritus que invoqué, ahora no puedo librarme de ellos». El hechicero rompe inmediatamente el encantamiento y detiene la inundación.

La lección para el aprendiz —y para la humanidad— es clara: nunca invoques poderes que no puedas controlar.

¿Qué nos dicen en el siglo XXI las fábulas de Faetón y del aprendiz? Evidentemente, los seres humanos nos hemos negado a escuchar sus advertencias. Ya hemos desequilibrado el clima de la Tierra y hemos invocado miles de millones de escobas encantadas, drones, chatbots y otros espíritus algorítmicos que podrían escapar de nuestro control y desencadenar una avalancha de consecuencias.

¿Qué deberíamos hacer entonces? Las fábulas no ofrecen respuestas, aparte de esperar que algún dios o hechicero venga a salvarnos.