Anthropic afirma haber completado antes de plazo su objetivo de construir un sistema automatizado de red teaming capaz de igualar o superar los mejores hallazgos humanos en una evaluación interna de sus clasificadores de seguridad.
23 victorias en 24 comparaciones
La empresa comparó el sistema con bug bounties realizados sobre ocho preguntas y tres generaciones de clasificadores. Según su actualización, igualó o superó la mejor contribución humana en las 24 parejas y obtuvo un resultado superior en 23, trabajando en 24 a 48 horas frente a semanas o meses.
Nuevos objetivos de seguridad física y plataforma
Anthropic ha añadido también metas específicas para seguridad de centros de datos y plataforma, en paralelo al crecimiento de infraestructura propia y despliegues bare metal.
Fuente primaria: Frontier Safety Roadmap de Anthropic.
Qué debería revisar una empresa
Antes de aplicar esta novedad conviene revisar los permisos cloud, la autenticación, el inventario SaaS, el plan de continuidad, la recuperación de datos y el coste real de la IA.
Fotografía: Christina Morillo / Pexels.
