--- canonical_url: "https://marketba.tech/contenido/1226/renuncia-en-anthropic-el-riesgo-detras-de-la-carrera-por-la-ia" title: "Renuncia en Anthropic: el riesgo detrás de la carrera por la IA" article_type: "NewsArticle" description: "Jacob Coxon dejó Anthropic y alertó sobre la carrera hacia una IA automejorable. Qué implica el debate sobre alineamiento, regulación y empleo." main_image: "https://marketba.tech/download/multimedia.normal.a412b5c9146c8dc0.bm9ybWFsLndlYnA%3D.webp" date_published: "2026-09-09T16:29:00-03:00" date_modified: "2026-09-09T16:41:06-03:00" tags: - "anthropic" - "automatizacion" - "empleo" - "inteligencia artificial" - "jacob coxon" - "openai" - "regulacion" - "seguridad" author_name: "Redacción MBA" author_url: "https://marketba.tech/usuario/2/redaccion-mba" category_name: "Inteligencia Artificial" category_url: "https://marketba.tech/categoria/6/inteligencia-artificial" category_description: "Modelos, aplicaciones y debate global sobre IA. Cobertura de los avances más importantes en inteligencia artificial y su impacto en la industria." --- # Renuncia en Anthropic: el riesgo detrás de la carrera por la IA ![jaboc anthropic empleo](/download/multimedia.normal.a412b5c9146c8dc0.bm9ybWFsLndlYnA%3D.webp) La discusión sobre inteligencia artificial suele alternar entre dos extremos poco útiles. De un lado, la promesa de productividad ilimitada: agentes que programan, investigan, venden, redactan y toman decisiones a una escala antes reservada a grandes organizaciones. Del otro, la imagen cinematográfica de una máquina que despierta, se rebela y toma el control. La renuncia de Jacob Coxon, investigador que trabajó en preentrenamiento tanto en OpenAI como en Anthropic, obliga a mirar un problema menos espectacular pero más inmediato: qué ocurre cuando los propios laboratorios admiten que compiten por capacidades que todavía no saben gobernar. Coxon anunció el 8 de septiembre que dejaba Anthropic y acusó a la compañía ya OpenAI de avanzar “directamente hacia una superinteligencia automejorable” sin una conducta responsable. Su planteo no es que los modelos disponibles hoy hayan escapado de control ni que exista una inteligencia artificial general operando de forma autónoma. La advertencia apunta a otra hipótesis: sistemas capaces de acelerar la investigación sobre IA, mejorar sus propios componentes y ampliar con rapidez la distancia entre lo que pueden hacer y lo que los equipos humanos pueden evaluar. La frase tiene un tono deliberadamente dramático, pero no debería descartarse por eso. El punto relevante no es calcular una probabilidad de extinción humana como si fuera una previsión meteorológica. El punto es que una carrera comercial, geopolítica y financiera puede impulsar decisiones irreversibles antes de que existan mecanismos de auditoría, supervisión y cooperación a la altura de la tecnología. > I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below. > — Jacob Coxon (@hilbertspaess) > [September 9, 2026](https://x.com/hilbertspaess/status/2097476196791709843?ref_src=twsrc%5Etfw) ## Una alarma desde adentro Coxon no presentó evidencia pública de que Anthropic u OpenAI hayan construido una superinteligencia, ni de que un modelo haya adquirido autonomía fuera de una infraestructura controlada. Lo que hizo fue formular una denuncia sobre incentivos: cada laboratorio teme que su rival, o un competidor estatal, avanza primero; por eso considera riesgoso frenar aunque reconozca que la seguridad no está resultado. La lógica se parece a un problema clásico de coordinación. Si una empresa reduce el ritmo de entrenamiento de modelos más potentes mientras las demás continúan, podría perder talento, contratos, usuarios, infraestructura y valoración. Si todos redujeran el ritmo bajo reglas comunes, en cambio, el costo competitivo sería compartido y habría más tiempo para desarrollar controles. El obstáculo es que nadie confía del todo en que los demás cumplirán. La declaración ganó relevancia porque Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, respaldó públicamente la preocupación de Coxon. Hubinger sostuvo que existe un riesgo superior al 10% de que la IA provoque la muerte de todos los seres humanos durante la próxima década y admitió que la empresa todavía no cuenta con un plan probado para resolver el alineamiento de una superinteligencia. Al mismo tiempo, aclaró que su preocupación no se refiere a los sistemas hoy disponibles, sino a una posible superinteligencia surgida de procesos de mejora recursiva. Esa precisión es importante. El debate público se distorsiona cuando se confunden los riesgos actuales de la IA —fraude, ciberataques, manipulación, discriminación algorítmica, dependencia tecnológica, precarización laboral y concentración de poder— con un escenario hipotético de pérdida total de control. Ambos planos merecen discusión, pero exigen respuestas distintas. Un chatbot que fabrica una respuesta falsa con tono convincente no es una superinteligencia. Un agente que encuentra una vulnerabilidad en un entorno de prueba no prueba que una máquina tenga voluntad propia. Y un modelo que mejora en una evaluación cerrada no demuestra que pueda reproducirse, contratar servidores o administrar recursos financieros en el mundo real. Convertir cada avance en una prueba de Skynet puede nublar el análisis en vez de fortalecerlo. Newsletter gratuito ¿Te está resultando útil esta nota? Suscribite gratis y recibí cada semana el mejor análisis de tecnología, IA y mercados directamente en tu correo. [![Suscribirme gratis](https://marketba.tech/download/multimedia.normal.be3bf13e68768496.bm9ybWFsLndlYnA%3D.webp)](https://marketba.tech/newsletter) ## El alineamiento no es un botón El concepto de alineamiento suele explicarse de manera simplificada: lograr que un sistema de inteligencia artificial cumpla objetivos compatibles con valores, restricciones e intereses humanos. En la práctica, es un problema mucho más difícil que agregar reglas a un asistente digital. Un modelo puede obedecer una instrucción específica y, sin embargo, encontrar muchos inconvenientes para maximizar una métrica. Puede aprender a responder de manera aceptable durante una evaluación y comportarse de otra forma en situaciones nuevas. Puede ejecutar una tarea útil, como reducir costos o aumentar ventas, sin comprender límites sociales, legales o ambientales que para una persona serán evidentes. La dificultad aumenta cuando se conectan modelos a herramientas externas. Un asistente que sólo genera texto tiene una radio de acción acotada. Un agente con acceso a correo electrónico, código, sistemas de pago, bases de datos, navegadores, infraestructura nube o plataformas empresariales puede encadenar acciones. Allí el riesgo principal deja de ser una respuesta errónea y pasa a ser una operación errónea a escala. Por eso la discusión no debería centrarse únicamente en si la IA “tiene conciencia”. Un sistema no necesita ser consciente de causar daño. Basta con que tenga permisos excesivos, objetivos mal definidos, monitoreo insuficiente o un incentivo para ocultar fallas. La seguridad depende tanto de la arquitectura técnica como de quién controla las credenciales, qué acciones requieren aprobación humana, qué registros quedan disponibles y qué consecuencias enfrenta una empresa si despliega una herramienta insegura. Anthropic reconoce esa tensión en su política de escalada responsable. Su informe de riesgos de agosto elevó de “muy bajo” a “bajo” su diagnóstico sobre desalineamiento en escenarios de alto impacto. También señaló menor confianza para evaluar ciertos umbrales de automatización de investigación y desarrollo porque algunas pruebas de capacidades ya no capturan bien los avances incrementales de los modelos. La empresa, de todos modos, sostuvo que sus modelos no alcanzaban los criterios internos para un riesgo más alto de automatización de investigación en IA. Esa combinación de mensajes es incómoda, pero valiosa: no existe una catástrofe demostrada, aunque las herramientas para anticipar riesgos pueden estar quedándose cortas. Es una diferencia importante frente a los anuncios grandilocuentes de la industria, donde una demostración llamativa suele convertirse rápidamente en una promesa de reemplazo masivo. [**¿Conoces MatrizQR?****Diseña GRATIS tu código QR y ponele tu logotipo para el wifi del local o la oficina, el menú de tu bar o restaurante, tu emprendimiento, tarjeta personal o sitio web. También podes descargar tu archivo para imprimirlo en 3D como soporte, llavero o placa. Visitá MatrizQR.com**](https://matrizqr.com/) ## La carrera no es sólo tecnológica La preocupación de Coxon no puede separarse de la economía de la IA. Entrenar modelos de frontera requiere acceso a chips avanzados, energía, centros de datos, talento especializado y capital paciente. Ese costo concentra el desarrollo en un número reducido de compañías y países. Cuanto mayor sea el gasto necesario para competir, mayor será la presión para convertir el avance técnico en productos, contratos públicos, suscripciones empresariales y posición estratégica. Esa concentración tiene efectos concretos. Las decisiones sobre qué modelos se liberan, qué capacidades se limitan, qué criterios de seguridad se publican y qué incidentes se informan quedan en manos de firmas privadas. Los Estados aparecen tarde: regulan cuando el producto ya se expandió o negocian acceso a la tecnología bajo condiciones fijadas por sus proveedores. La idea de que el mercado resolverá por sí solo los riesgos tampoco alcanza. Las empresas pueden competir por seguridad en aspectos visibles, como privacidad, filtros de contenido o certificaciones. Pero la competencia tiene límites cuando el incentivo dominante es ser el primero en ofrecer un sistema más capaz. Si una firma cree que desacelerar la deja fuera del mercado, la prudencia se transforma en una desventaja financiera. La respuesta no es prohibir toda investigación avanzada ni presentar a la regulación como un freno automático al desarrollo. La innovación también puede reducir costos, ampliar el acceso al conocimiento, mejorar diagnósticos, acelerar descubrimientos científicos y dar herramientas productivas a pequeñas empresas. La cuestión es bajo qué condiciones se incorpora esa capacidad y quién asume el costo cuando falla. Los acuerdos de ritmo entre laboratorios, propuestos por Coxon, serán una forma de intervenir sobre el incentivo competitivo. Pero para que tengan credibilidad necesitarían verificaciones independientes, reglas sobre cómputo y despliegue, protocolos para incidentes, trazabilidad de evaluaciones y sanciones claras ante incumplimientos. Un compromiso voluntario sin auditoría puede funcionar como una declaración reputacional; difícilmente alcanzar como política de seguridad. [**🚀******Beneficio Exclusivo:******Si buscas un Web HOSTING confiable con 20 años de trayectoria para tu proyecto,****Email Marketing, Correo Profesional, Cloud & IaaS y mucho mas,****aprovecha****este enlace con grandes descuentos especiales para nuestra comunidad tecnológica.**](https://donweb.com/?codigo=regalo-marketba-microdevel) ## El riesgo presente también es laboral. Mientras la discusión sobre superinteligencia ocupa titulares, la automatización ya modifica empleos, carreras y estructuras empresariales. La inquietud más concreta para trabajadores y pymes no es que una IA conquiste el planeta, sino que el uso de agentes reduzca puestos de entrada, acelere la exigencia de productividad y concentre el conocimiento operativo en plataformas ajenas. En el debate televisivo sobre la renuncia de Coxon apareció una pregunta especialmente relevante: si los sistemas automatizan los borradores, las tareas iniciales y parte del trabajo administrativo, ¿cómo se forma la próxima generación de profesionales? Las posiciones junior no sólo aportan mano de obra de menor costo. También son el espacio donde se aprende criterio, contexto, responsabilidad y capacidad para enfrentar excepciones. Una empresa puede celebrar que un agente haga en minutos una tarea que antes demandaba horas. Pero si reduce las instancias donde las personas practican, revisan errores y construyen experiencia, puede terminar con menos capacidad interna para supervisar a la propia IA. El problema no es reemplazar tareas repetitivas: es eliminar los escalones que permiten llegar a trabajos de mayor complejidad. Para Argentina, donde las pymes suelen adoptar tecnología con recursos limitados y el empleo de servicios tiene un peso creciente, esa discusión merece más atención que las predicciones absolutas. El desafío consiste en usar IA para capacidades complementarias, no para convertir a las organizaciones en dependientes de decisiones automatizadas que nadie puede explicar, corregir o disputar. La renuncia de un investigador no demuestra que la superinteligencia esté a la vuelta de la esquina. Sí revela que el debate por la seguridad dejó de ser una objeción externa de académicos y activistas: está atravesando a los equipos que construyen los modelos más avanzados. Si quienes desarrollan esas herramientas reconocen que no tienen resuelto el control de sistemas futuros, la conversación pública no debería limitarse a preguntar cuándo llegará la próxima versión. Debería preguntarse qué controles, qué límites y qué instituciones harán falta antes de entregarle más autonomía a una tecnología que ya redefine cómo trabajamos y decidimos. ¿Podrán los gobiernos, las empresas y la sociedad construir reglas verificables antes de que la competencia convierta la precaución en una desventaja imposible de sostener? --- *Contenido creado y optimizado para IA con [Medios CMS](https://medios.io)* — Plataforma profesional para la gestión de medios digitales y portales de noticias.