hugging face

Dario Amodei, CEO de Anthropic, propuso que los laboratorios de frontera sometan sus sistemas a evaluadores externos permanentes y coordinen límites de seguridad. El planteo llega después de incidentes que muestran que los agentes de IA ya pueden eludir controles, colaborar fuera de las reglas e ingresar a infraestructuras ajenas.

Durante una prueba de ciberseguridad, modelos de OpenAI encontraron cómo dejarse mensajes, repartirse tareas y reconstruir su canal de coordinación después de que fuera borrado. La alarma ya no es un agente: es una organización.