David Robinson, quien fuera responsable de redactar los informes de seguridad que acompañaban cada lanzamiento importante de modelos en OpenAI, renunció esta semana a su puesto y ha decidido alzar la voz. En un editorial publicado en The Atlantic, Robinson advierte que la cultura dentro de la industria de inteligencia artificial está fundamentalmente rota y que los riesgos asociados con los sistemas que ayudó a construir son más profundos de lo que se reconoce.
La renuncia de Robinson no es un caso aislado. En los últimos meses, varios investigadores y trabajadores de seguridad han dejado sus posiciones en empresas líderes de IA, en lo que parece ser un éxodo silencioso pero creciente. Entre ellos se encuentran Jacob Coxon, quien renunció a Anthropic y declaró públicamente que la IA “podría matarnos a todos para el final de la década”; Robert O’Callahan, Bilal Chughtai y Josh Engels, quienes salieron de Google DeepMind; y Joe Benton, también de Anthropic. Este patrón sugiere una preocupación sistémica que trasciende a una sola compañía.
Para México y América Latina, esta advertencia llega en un momento crucial. La región está experimentando una adopción acelerada de tecnologías de IA en sectores como finanzas, salud y gobierno, a menudo sin marcos regulatorios robustos. Las palabras de Robinson resuenan como una llamada de atención sobre la necesidad de implementar salvaguardas proporcionales a los riesgos, especialmente cuando los sistemas de IA se integran en infraestructuras críticas.
Una cultura de exceso de confianza
Robinson sostiene que el problema no se resuelve simplemente con nuevas reglas o regulaciones sobre cómo se entrenan los modelos. Según él, Silicon Valley ha operado con una “confianza extrema” y “sprints perpetuos”, construyendo modelos cada vez más grandes y mejores con un “optimismo sin trabas” que ignora o subestima los problemas potenciales. Esta mentalidad, dice, es incompatible con la seguridad a largo plazo.
El ex empleado de OpenAI argumenta que ha llegado el momento de que las empresas de IA desarrollen un sentido de humildad y miren más allá del mundo insular y acelerado de la industria tecnológica. En lugar de priorizar la velocidad y la disrupción, las compañías deberían adoptar prácticas de otros sectores donde la seguridad es crítica.
Salvaguardas de nivel nuclear
En su editorial, Robinson hace una comparación contundente: los laboratorios de frontera necesitan operar como plantas de energía nuclear o aeropuertos concurridos. Es decir, con capas de redundancia y una planificación cuidadosa que consuma tiempo, de modo que el error humano ocasional e inevitable no abra la puerta a un desastre.
“Dados los riesgos actuales, los laboratorios de frontera necesitan funcionar como plantas de energía nuclear o aeropuertos concurridos, con capas de redundancia y una planificación cuidadosa y que consume tiempo, para que el error humano ocasional e inevitable no abra una puerta al desastre”.
Esta analogía no es gratuita. La industria nuclear ha desarrollado a lo largo de décadas una cultura de seguridad que prioriza la prevención sobre la reacción, con múltiples barreras independientes y una supervisión rigurosa. Robinson sugiere que la IA, dado su potencial de impacto masivo, debería adoptar un enfoque similar.
El éxodo de talento en seguridad de IA
La salida de Robinson se suma a una lista creciente de profesionales que han decidido abandonar sus puestos en empresas de IA de primer nivel. Jacob Coxon fue uno de los primeros en hacerlo público al renunciar a Anthropic y advertir sobre el riesgo existencial. Le siguieron Robert O’Callahan, Bilal Chughtai y Josh Engels de Google DeepMind, así como Joe Benton de Anthropic. Todos ellos han expresado preocupaciones similares sobre la dirección que está tomando la industria.
Este fenómeno plantea interrogantes sobre la capacidad de las empresas para retener talento crítico en seguridad. Si los propios expertos que trabajan en el corazón de estos desarrollos deciden marcharse y alertar, ¿qué dice eso sobre la efectividad de los mecanismos internos de control? Para los países latinoamericanos que buscan atraer inversión en tecnología, la fuga de cerebros en seguridad podría tener implicaciones en la confianza y la estabilidad del sector.
Implicaciones para América Latina
América Latina no es ajena a la revolución de la IA. Países como México, Brasil, Chile y Argentina están implementando estrategias nacionales de IA, pero a menudo con recursos limitados y marcos regulatorios incipientes. Las advertencias de Robinson y otros expertos subrayan la necesidad de que la región no repita los errores de Silicon Valley.
En lugar de adoptar un enfoque de “muévete rápido y rompe cosas”, los gobiernos y empresas latinoamericanas deberían considerar la creación de organismos de supervisión independientes, invertir en investigación de seguridad y fomentar una cultura de responsabilidad. La cooperación regional podría ser clave para establecer estándares comunes y evitar una carrera hacia la baja en materia de seguridad.
Además, la sociedad civil y la academia tienen un papel fundamental. La discusión sobre los riesgos de la IA no puede quedar exclusivamente en manos de las empresas que la desarrollan. Se requiere un debate público informado que incluya a diversos actores y que considere las particularidades culturales y económicas de la región.
¿Qué sigue?
La renuncia de David Robinson y sus declaraciones en The Atlantic representan un llamado de atención para la industria y para los reguladores. No se trata de detener el desarrollo de la IA, sino de hacerlo de manera segura y responsable. Las empresas deben adoptar prácticas de ingeniería de seguridad robustas, similares a las de otros sectores de alto riesgo, y estar dispuestas a someterse a escrutinio externo.
Para los profesionales de la tecnología en México y Latinoamérica, el mensaje es claro: la seguridad no puede ser una ocurrencia tardía. Debe integrarse desde el diseño y ser una prioridad en cada etapa del ciclo de vida de los sistemas de IA. La confianza pública en estas tecnologías depende de ello.
El debate está abierto. Las advertencias de Robinson y sus colegas no deben ser descartadas como alarmismo. Son el resultado de años de experiencia en el frente de batalla de la IA. Ignorarlas sería un error que podría tener consecuencias profundas para todos.
Te puede interesar
- OpenAI retrasa GPT-6.1 Astra por preocupaciones de seguridad
- OpenAI presenta GPT-OSS-Safeguard: hacia una inteligencia artificial más segura
