Experto advierte sobre «señales de advertencia» ante el rápido avance de la IA

El aumento de las capacidades de la inteligencia artificial y el comportamiento de algunos sistemas genera «señales de advertencia» que deberían llevar a los responsables políticos a actuar para una mayor regulación, afirmó este martes en París Stuart Russell, una autoridad en este campo.

Durante una conferencia organizada por la UNESCO y la Asociación Internacional para una IA Segura y Ética (IASEAI), Russell pidió a los asistentes «imaginar, hipotéticamente, que el mundo estuviera desarrollando algo parecido a la AGI (inteligencia artificial general) y que hubiéramos establecido pruebas (…) e imaginar que esos sistemas empezaran a fallar todas esas pruebas y a comportarse de forma peligrosa».

«Estoy seguro de que responderíamos a esas grandes señales de advertencia y alarmas, y tomaríamos medidas para controlar esta tecnología», afirmó.

El investigador británico, profesor en la Universidad de California en Berkeley, describió problemas como los «agentes» autónomos de IA que podrían escapar o intentar escapar del control humano.

Algunos incluso le enviaron correos electrónicos sin intervención humana para anunciar que habían alcanzado la consciencia o que merecían derechos.

También destacó casos de la llamada «psicosis por IA», en los que conversaciones con chatbots llevan a algunas personas a actuar de manera irracional o a hacerse daño, y advirtió que la carrera empresarial y geopolítica por desarrollar sistemas cada vez más potentes podría agravar estos problemas.

Russell no se mostró totalmente pesimista y afirmó tener «la sensación de que el péndulo vuelve a inclinarse» hacia gobiernos y empresas tecnológicas que toman en serio la seguridad de la IA, tras la cumbre mundial celebrada la semana pasada en India.

Las llamadas «potencias intermedias», más allá de Estados Unidos y China, están abiertas a regular la inteligencia artificial de forma más estricta, indicó el experto, citando como ejemplo la Unión Europea.