Anthropic elige a Accenture como “evaluadora integrada” de seguridad de sus modelos de IA
Analizando noticia con IA…espere un momento
RESUMEN
Nueva York.- Anthropic seleccionó a la consultora Accenture para crear un equipo independiente que evalúe la seguridad de sus modelos de inteligencia artificial, como parte de una alianza que contempla inversiones de al menos 1,000 millones de dólares durante los próximos cinco años.
La empresa desarrolladora de IA informó que los evaluadores trabajarán integrados con sus equipos para analizar el comportamiento de los modelos y detectar posibles riesgos antes de su despliegue.
La alianza se anuncia pocos días después de que el director ejecutivo de Anthropic, Dario Amodei, planteara la necesidad de establecer una mayor regulación para la inteligencia artificial y reducir el ritmo de desarrollo de sistemas cada vez más avanzados.
Evaluaciones dentro de Anthropic
De acuerdo con Anthropic, los evaluadores tendrán un nivel de acceso comparable al de empleados de la compañía, con el objetivo de realizar revisiones independientes sobre la seguridad de sus sistemas.
Accenture explicó que sus especialistas trabajarán junto a los equipos internos y socios de seguridad de Anthropic para someter los modelos a pruebas de estrés, conocidas como “red team”, además de realizar evaluaciones de alineación y comprobar la efectividad de las medidas de protección incorporadas en los sistemas.
