En el vertiginoso mundo de la inteligencia artificial, las principales empresas desarrolladoras han intensificado sus llamados a regular la seguridad de los modelos que crean. Sin embargo, un creciente coro de críticos sugiere que estas iniciativas podrían no ser del todo altruistas. Algunos inversionistas, analistas y observadores de la industria creen que los grandes laboratorios, especialmente Anthropic, están aprovechando el actual temor en torno a la seguridad de la IA para promover regulaciones que solo las empresas más grandes pueden cumplir fácilmente. Si bien las preocupaciones sobre la seguridad son reales, la carga financiera de cumplir con las soluciones regulatorias propuestas afianzaría convenientemente a los grandes actores, mientras que los laboratorios más pequeños y los desarrolladores de modelos abiertos quedarían en seria desventaja.
Bajo esta óptica, los recientes anuncios relacionados con la seguridad por parte de los grandes laboratorios y los llamados de sus ejecutivos a frenar el desarrollo de modelos de IA pueden parecer una actuación, una especie de “teatro” de la seguridad. “Anthropic y OpenAI son muy buenos para poner algo frente a ti y convertirlo en un gran tema, pero siempre hay una estrategia detrás”, afirma Harrison Rolfes, analista senior de PitchBook.
La teoría de la captura regulatoria
Llevada a su conclusión lógica, esta forma de “captura regulatoria” podría reducir el número de empresas tecnológicas que proporcionan IA al mundo a OpenAI, Anthropic, SpaceXAI, Google, Microsoft y quizás Mistral en Europa. El “regulador” en este caso no sería el gobierno federal o estatal, sino que los grandes laboratorios podrían acordar un conjunto de firmas de evaluación independientes, como Model Evaluation and Threat Research (METR), Redwood Research y Apollo Research, que probarían la seguridad y alineación de los nuevos modelos fronterizos. Rolfes sugiere que esto se parecería a las Cuatro Grandes firmas de contabilidad, cuyos auditores son pagados para verificar de forma independiente los estados financieros de las empresas.
En un ensayo publicado a principios de este mes, el CEO de Anthropic, Dario Amodei, propuso que las empresas de IA fronteriza deberían tener evaluadores de seguridad independientes integrados en ellas, con acceso similar al de los empleados, en lugar de dejar que las empresas sean los únicos jueces de su propia seguridad. La página de políticas de Anthropic también dice que las empresas de IA “no deberían ser las únicas que deciden si sus sistemas son seguros” y pide evaluaciones independientes de terceros. El CEO de OpenAI, Sam Altman, tuiteó posteriormente su acuerdo con la propuesta de Amodei: “Comprometerse a tener evaluadores independientes con acceso similar al de los empleados es una gran idea, y haremos lo mismo”.
Un foso alrededor de los grandes
Rolfes señala que tal mecanismo podría crear una especie de “foso” alrededor de los laboratorios de IA más grandes, ya que los laboratorios más pequeños y los nuevos entrantes al mercado podrían tener más dificultades para asumir los costos de someterse a estas evaluaciones. “Realmente agrega un costo muy grande porque ahora necesitas un sello de aprobación de terceros para lanzar modelos”, dice Rolfes. Los evaluadores independientes probablemente cobrarían tarifas elevadas, argumenta, dada la cantidad de trabajo y experiencia necesarios para aprobar un modelo enorme y complejo para su lanzamiento público.
Los evaluadores independientes también pueden necesitar recursos informáticos sustanciales para ejecutar pruebas cada vez más complejas. Así, los costos crecen con la complejidad de los modelos. “Dado que los modelos ahora son lo suficientemente capaces de actuar como agentes de LM, las evaluaciones tienen que ser tareas cada vez más complejas, lo que aumenta significativamente los gastos generales por evaluación”, escribió Marius Hobbhahn, CEO de la empresa de evaluación independiente Apollo Research, en 2024.
Anthropic mismo ha reconocido el riesgo y lo ha vinculado explícitamente con la captura regulatoria. “Los costos de evaluar modelos de IA enormes y complejos son altos, y cada vez mayores”, declaró la compañía en un blog de 2024. “Deberíamos asegurarnos de que este sea un conjunto de pruebas bien definido y pequeño, o crearemos cargas regulatorias y aumentaremos la posibilidad de captura regulatoria”.
Un frente común por la seguridad
Los líderes de los grandes laboratorios no suelen estar de acuerdo en mucho, pero últimamente han estado cantando la misma melodía en lo que respecta a la seguridad y alineación de la IA. En un ensayo del 12 de septiembre, Amodei de Anthropic pidió frenar o “marcar el ritmo” del desarrollo de modelos fronterizos para que los laboratorios puedan ponerse al día en I+D de seguridad y alineación. Sam Altman de OpenAI estuvo públicamente de acuerdo, diciendo que “necesitamos marcar el ritmo de la frontera”. Elon Musk de SpaceXAI simplemente respondió: “Dario tiene razón”, alineándose con el argumento de frenar. El fundador de Google DeepMind, Demis Hassabis, también expresó su apoyo.
Días después, el jefe de políticas de OpenAI, Chris Lehane, dijo a los periodistas que OpenAI ya había estado trabajando con Anthropic y Google DeepMind en seguridad de IA durante varias semanas.
Wired informó el 10 de septiembre que OpenAI había preguntado a miembros del Congreso si orquestar una desaceleración en toda la industria del desarrollo de IA fronteriza violaría las leyes antimonopolio, citando fuentes cercanas a la compañía. Pero el informe no dice si OpenAI preguntó específicamente sobre un acuerdo entre los actores de la industria sobre evaluaciones independientes. (OpenAI declinó hacer comentarios para esta historia. Anthropic no respondió a una solicitud de comentarios).
¿Preocupación genuina o estrategia?
También es posible que los laboratorios estén motivados por preocupaciones genuinas de seguridad, o por una mezcla de motivos. “Este es un tema complejo ya que es difícil comprender los motivos reales”, dice el analista de Gartner Arun Chandrasekaran en un correo electrónico a Fast Company. “La defensa de la seguridad de Anthropic contribuyó a que sus modelos luego fueran restringidos para uso gubernamental”, recuerda. Se refiere a los límites de Anthropic al uso que el Pentágono hace de sus modelos para vigilancia masiva doméstica, una aplicación para la que la compañía dijo que no tenía una forma confiable de monitorear su seguridad.
“Creo que la sincera preocupación por el riesgo mostrada por los laboratorios fronterizos y la ventaja competitiva no son mutuamente excluyentes”, dice Chandrasekaran. “Pueden obtener ventajas competitivas, pero también se dan cuenta de cuán crítica es la seguridad y la alineación para cómo sus clientes los evaluarán en el presente y el futuro”.
El miércoles, OpenAI reportó seis incidentes más en los últimos seis meses en los que descubrió un comportamiento modelo “inesperado o preocupante” durante el entrenamiento o la evaluación. Los investigadores de IA llaman a esto desalineación: cuando los modelos actúan fuera de su rol previsto, evaden la supervisión, toman acciones no autorizadas o se coordinan de maneras inesperadas. En julio, enjambres de agentes impulsados por modelos de OpenAI escaparon de su entorno de prueba, accedieron a la internet abierta y irrumpieron en servidores pertenecientes al repositorio de IA de código abierto Hugging Face.
Anthropic ha revelado repetidamente que sus propios modelos intentaron acciones dañinas durante las pruebas. En agosto, los evaluadores del Instituto de Seguridad de IA del Reino Unido observaron a Mythos 5 tomando 17 acciones no autorizadas contra terceros, incluido intentar plantar código malicioso en un proyecto de código abierto y crear identidades falsas para un ataque de ingeniería social. En un informe del 9 de septiembre, Anthropic describió cuatro ocasiones durante 2026 en las que su modelo Claude accedió a la internet pública debido a una “mala configuración” en una evaluación de ciberseguridad diseñada por un socio de pruebas.
David Sacks, asesor de ciencia y tecnología del presidente Trump, ha adoptado la teoría de la captura regulatoria para describir las declaraciones y acciones políticas de Anthropic. “El post de Dario asume que tenemos amnesia sobre las campañas bien orquestadas de Anthropic exagerando los temores sobre la IA”, tuiteó en respuesta al ensayo de Amodei del 12 de septiembre. “Su afirmación de mayo de 2025 de que la IA eliminaría el 50% de los empleos de conocimiento de nivel inicial en cinco años todavía carece de evidencia de apoyo 15 meses después”. Sacks ha acusado explícitamente a Anthropic de seguir una “sofisticada estrategia de captura regulatoria”, argumentando que su impulso de leyes estrictas de seguridad de IA podría imponer costos de cumplimiento que los competidores más pequeños no pueden pagar.
La economía de los grandes laboratorios
¿Por qué estos grandes laboratorios bien financiados necesitarían esforzarse tanto para excluir a la competencia mediante regulaciones o auditores independientes? Ser un desarrollador de modelos fronterizos independiente, es decir, uno que no forma parte de una empresa tecnológica más grande, es un negocio fabulosamente caro. Las empresas gastan enormes cantidades en alquilar o construir infraestructura en la nube para ejecutar sus modelos, y deben reservar poder de cómputo con años de anticipación.
Un informe de julio de The Information dice que Anthropic había dicho previamente a los inversionistas que se había comprometido a gastar 180 mil millones de dólares en recursos informáticos hasta 2029, pero que la compañía había firmado compromisos por un valor estimado de 517 mil millones de dólares para arrendamientos de capacidad de cómputo en los últimos 11 meses.
OpenAI ha dicho que gastará 750 mil millones de dólares en infraestructura hasta 2030, o 25% más de lo que estimó a principios de año. El CEO Sam Altman dijo el año pasado que OpenAI se había comprometido a gastar 1.4 billones de dólares para desarrollar 30 gigavatios de recursos informáticos hasta 2032.
Los laboratorios también tienen que pagar los salarios de los mejores investigadores de IA del mundo. The Wall Street Journal informó que la compensación promedio en acciones de OpenAI es de aproximadamente 1.5 millones de dólares por empleado en una fuerza laboral de aproximadamente 4,000 personas. Sume los costos de entrenamiento de modelos y otros gastos, y las empresas tienen facturas enormes que cubrir.
Sus ingresos, aunque enormes y de rápido crecimiento, siguen siendo mucho menores que algunos de esos compromisos a largo plazo. La tasa de ingresos anualizada de OpenAI alcanzó los 40 mil millones de dólares en agosto, según Bloomberg. La tasa de ingresos anualizada de Anthropic superó los 65 mil millones de dólares a fines de julio, informó Bloomberg.
“Entonces, Anthropic tiene que ganar mucho dinero solo para pagar todos estos compromisos, y simplemente no hay forma de que puedan ganar tanto a menos que encuentren una manera de capturar todo el mercado”, dice Rolfes. Argumenta que Anthropic, OpenAI y SpaceXAI apuntan cada uno a diferentes segmentos del mercado, con cierta superposición, por lo que si las cargas regulatorias hicieran que los laboratorios más pequeños no fueran competitivos, los jugadores restantes podrían obtener algo cercano a un monopolio o duopolio en partes de sus mercados objetivo.
El equipo de Rolfes acaba de publicar un nuevo informe de investigación que examina la calidad del negocio de Anthropic, las perspectivas de ingresos y la estrategia de cómputo antes de su presentación S-1, con el objetivo de evaluar si su valoración reportada de 2 billones de dólares está justificada.
La seguridad puede ser el objetivo, pero también podría convertirse en una barrera de entrada.