Renuncias, el Pentágono y un modelo bajo llave: lo que la crisis de seguridad en la IA significa para las empresas

El 9 de septiembre, el investigador Jacob Coxon anunció en redes sociales que dejaba Anthropic, la empresa que desarrolla el modelo de inteligencia artificial Claude. Su mensaje fue directo: los laboratorios de IA, escribió, están "corriendo directamente hacia una superinteligencia automejorante y apostando con nuestras vidas". La publicación alcanzó a más de 100 millones de personas en menos de un día.

Tres semanas después, a inicios de octubre, David Robinson, quien encabezaba la elaboración de los reportes de seguridad de OpenAI para sus grandes lanzamientos, también renunció y publicó un ensayo en The Atlantic con una frase que resume el momento: "el rumbo actual es inaceptable". OpenAI respondió que pausa el desarrollo cuando es necesario y que amplía sus evaluaciones externas.

No son hechos aislados. Son el capítulo más reciente de un año en el que la seguridad de la inteligencia artificial dejó de ser una discusión académica y se convirtió en tema de tribunales, gobiernos y consejos de administración.

Un año de tensiones para Anthropic

Anthropic se ha presentado desde su fundación como la empresa que pone la seguridad por delante. Esa postura le ha costado caro en 2026:

• El choque con el Pentágono. A inicios de año, el Departamento de Defensa de Estados Unidos exigió poder usar Claude para "todos los fines legales". Anthropic se negó a levantar sus restricciones sobre armas autónomas y vigilancia. El gobierno respondió con la cancelación de contratos y la designó como riesgo para la cadena de suministro. En marzo, una jueza federal frenó buena parte de esas medidas al considerarlas una represalia ilegal, aunque en abril un tribunal de apelaciones mantuvo vigente la designación.
• Mythos, el modelo que no salió al público. En abril, Anthropic reveló Claude Mythos, un modelo capaz de encontrar vulnerabilidades en sistemas operativos y navegadores, y decidió no liberarlo de forma abierta por el riesgo que representa. Lo compartió solo con un consorcio de más de 40 empresas, entre ellas Microsoft, Apple y AWS, para corregir fallas. Aun así, hubo accesos no autorizados días después del anuncio, investigadores independientes cuestionaron parte de sus resultados y en junio el gobierno estadounidense restringió temporalmente su uso por extranjeros.
• Las renuncias. La salida de Coxon se suma a otras renuncias de investigadores de seguridad en la industria, que comparten un mismo diagnóstico: la competencia entre laboratorios avanza más rápido que los controles.

Por qué le importa a una empresa en México

Puede parecer una pelea lejana entre Silicon Valley y Washington, pero tiene consecuencias prácticas. Las mismas herramientas que hoy usan despachos, universidades y empresas mexicanas para redactar, analizar datos o atender clientes dependen de decisiones que se toman en esos laboratorios: qué permiten, qué restringen y qué tan rápido lanzan.

Además, el debate ya llegó a la política. En Estados Unidos, una orden ejecutiva reciente obliga a las agencias federales a llamar "superinteligencia" a la IA, una señal de cuánto pesa el tema en la agenda pública.

Cinco preguntas antes de meter IA en tu empresa

En la redacción de Educación y Negocios creemos que la conversación útil para un directivo no es si la IA es peligrosa en abstracto, sino cómo usarla sin exponer a su organización. Estas son las preguntas que recomendamos hacerse:

1. ¿Qué datos estoy entregando? Información de clientes, nómina o contabilidad no debería entrar a una herramienta sin saber dónde se guarda y quién la puede ver.
2. ¿Quién revisa lo que produce? La IA redacta y resume muy bien, pero se equivoca con seguridad. Toda cifra, contrato o dictamen necesita una persona responsable que lo valide.
3. ¿Qué pasa si el proveedor cambia sus reglas? Si tu operación depende de un solo modelo, una restricción o un cambio de precio te puede detener. Conviene tener alternativas.
4. ¿Tengo una política interna de uso? Un documento breve que diga qué se vale y qué no evita la mayoría de los problemas.
5. ¿Estoy capacitando a mi gente? El mayor riesgo no es la herramienta, es usarla sin criterio.

Lo que viene

La tensión entre velocidad y seguridad no se va a resolver pronto. Lo previsible es que lleguen más renuncias, más regulación y más presión de los clientes para saber cómo se usa la IA en cada empresa. Para las organizaciones, la ventaja no estará en adoptarla primero, sino en adoptarla bien.

Nota de transparencia: Educación y Negocios publica contenido patrocinado de empresas que utilizan modelos de inteligencia artificial, incluido Claude. Este análisis es de la redacción y no es contenido pagado.