Anthropic propone frenar la IA si amenaza con causar 50 muertes o daños por US$1,000 millones
Analizando noticia con IA…espere un momento
RESUMEN
La empresa de inteligencia artificial Anthropic ha propuesto un marco legal en Estados Unidos que permitiría suspender el uso y desarrollo de modelos avanzados de IA cuando exista un riesgo inminente y cuantificable de provocar daños superiores a US$1,000 millones o causar la muerte o lesiones graves a más de 50 personas.
La iniciativa fue presentada a legisladores del Congreso estadounidense durante reuniones en las que representantes de la compañía expusieron un proyecto de ley sobre la seguridad de los sistemas avanzados de inteligencia artificial, según informó POLITICO, medio que cita a tres fuentes conocedoras de las conversaciones.
El borrador contempla la participación del Departamento de Comercio de Estados Unidos, que tendría a su cargo la supervisión del cumplimiento de las disposiciones por parte de las empresas que desarrollan esta tecnología.
La propuesta busca establecer mecanismos de evaluación independiente y procedimientos legales para responder cuando los sistemas de IA representen amenazas graves para las personas o la economía.
ITSC lleva la inteligencia artificial al debate educativo dominicano
Evaluaciones independientes y supervisión judicial
El documento plantea que evaluadores independientes, registrados ante el Departamento de Comercio, realicen revisiones periódicas tanto de las compañías como de los modelos de inteligencia artificial que desarrollan.
Si las evaluaciones determinan que un modelo avanzado representa un riesgo inminente y cuantificable, los evaluadores deberán notificarlo al Departamento de Comercio en un plazo máximo de 72 horas.
A partir de esa notificación, el organismo federal sería el único facultado para solicitar ante un juez la paralización del uso o del desarrollo del sistema en cuestión.
La suspensión no sería automática. Según el borrador, la decisión correspondería a un juez federal del Tribunal de Distrito de Estados Unidos para el Distrito de Columbia, quien tendría la potestad de conceder la orden judicial.
Los umbrales establecidos por Anthropic —más de US$1,000 millones en daños o más de 50 personas muertas o gravemente lesionadas— definirían los riesgos que podrían justificar una intervención de este tipo.
Las disposiciones se aplicarían a cualquier empresa que desarrollara modelos avanzados de inteligencia artificial con capacidad para causar daños, no exclusivamente a los sistemas de Anthropic.
Carrera de la IA abre debate sobre seguridad y control de la tecnología
California también avanza en regulación de IA
La propuesta coincide con iniciativas regulatorias impulsadas en California, donde ya existen disposiciones relacionadas con la seguridad de la inteligencia artificial y se trabaja en medidas adicionales.
El gobernador Gavin Newsom promueve una ampliación normativa que contempla la incorporación de auditores independientes en los laboratorios tecnológicos y mecanismos para detener modelos de frontera cuando sea necesario.
Las conversaciones en el Congreso estadounidense se producen después de que varios incidentes de seguridad relacionados con agentes de IA de empresas como Anthropic, OpenAI, Google y Meta generaran preocupación sobre los riesgos de sistemas capaces de tomar decisiones y ejecutar acciones de manera autónoma.
En septiembre, el director ejecutivo de Anthropic, Dario Amodei, planteó la necesidad de moderar el ritmo de desarrollo de las capacidades de estos modelos. Una postura similar expresó el director ejecutivo de OpenAI, Sam Altman.
INTEC promueve uso ético de la inteligencia artificial en la investigación en RD
El proyecto de ley de Anthropic busca trasladar parte de ese debate al terreno legislativo, mediante evaluaciones técnicas, notificaciones obligatorias y supervisión judicial ante riesgos considerados graves. No obstante, la información publicada no indica que la propuesta haya sido aprobada ni que sus disposiciones estén actualmente en vigor. Con datos de Europa Press.
