En semanas recientes, líderes de algunas de las empresas de inteligencia artificial más grandes han advertido que la tecnología que están desarrollando es peligrosa. El fin de semana pasado, el CEO de Anthropic, Dario Amodei, argumentó que la IA conlleva un riesgo serio y que el progreso debería frenarse. El CEO de OpenAI, Sam Altman, respondió en X: “Estoy de acuerdo con Dario en que necesitamos marcar el ritmo de la frontera”.
Esas publicaciones surgieron unos días después de que el investigador de IA Jacob Coxon anunciara que dejaba su puesto en Anthropic, acusando que ni esa empresa ni OpenAI (donde también trabajó) estaban actuando de manera responsable. “Las personas que construyen IA creen sinceramente que podría matarnos a todos para el final de la década”, publicó en X. Otro empleado de Anthropic, Evan Hubinger, estuvo públicamente de acuerdo. “¡Realmente creemos que la IA podría matar a todos los humanos!”, respondió en X. “Personalmente pienso que es >10% en la próxima década”.
Una de las formas en que temen que la IA podría acabar con nosotros es ayudando de alguna manera al diseño, creación y liberación de algún tipo de arma biológica. Veamos más de cerca por qué.
¿Qué es un arma biológica y por qué preocupa?
Un arma biológica podría ser un virus altamente letal que ataque a las personas según sus genes. Podría ser un hongo que acabe con un cultivo y cause inseguridad alimentaria. Quizás sería una toxina sin sabor ni olor que podría verterse en el suministro de agua de una región sin ser detectada.
La preocupación es que las herramientas de IA pueden usarse para ayudar a generar agentes como estos. En 2022, investigadores de Collaborations Pharmaceuticals descubrieron que era notablemente fácil hacerlo utilizando un “generador de moléculas” de IA que habían desarrollado para encontrar posibles fármacos para enfermedades humanas. En menos de seis horas, el modelo generó 40,000 moléculas con potencial para servir como agentes de guerra química. Algunas fueron diseñadas para ser incluso más tóxicas que los agentes nerviosos conocidos. “Sin ser demasiado alarmistas, esto debería servir como un llamado de atención para nuestros colegas en la comunidad de ‘IA en descubrimiento de fármacos'”, escribieron los autores en ese momento.
Fue un llamado de atención para David Magnus, profesor de medicina y ética biomédica en la Universidad de Stanford, aunque había estado evaluando los riesgos asociados con el mal uso de la ciencia médica y la biotecnología desde finales de la década de 1990. “Eso fue muy aterrador para mí”, dice. “Por supuesto, todo desde entonces simplemente ha explotado”.
La accesibilidad de las herramientas de IA y biotecnología
Hoy, los bots de IA pueden responder preguntas sobre temas que abarcan todos los ámbitos de la ciencia. Cualquiera puede usar modelos de lenguaje grandes entrenados con el conocimiento y la experiencia de “casi todos los científicos que han vivido en este planeta”, dice Dunja Sabra, investigadora de bioseguridad en la Universidad de Hamburgo en Alemania. Esos modelos pueden proporcionar instrucciones y capacitación en video sobre cómo realizar experimentos.
Combine eso con los avances en biotecnología que han hecho que la edición de genes y las herramientas de biología sintética sean mucho más accesibles (el movimiento “DIY biology” ya ha permitido a muchas personas establecer laboratorios en casa), y tienes una situación potencialmente muy peligrosa. “Las probabilidades son que alguien determinado eventualmente lo lograría”, dice Sabra.
Existen salvaguardas. Las personas que quieren construir nuevos genomas generalmente deben pedir las piezas de ADN a empresas que filtran solicitudes sospechosas. Los investigadores responsables someten la investigación potencialmente riesgosa a rondas de análisis llamadas “red-teaming”, en las que científicos independientes buscan formas en que el trabajo podría ser mal utilizado, y “blue-teaming”, donde otros proponen posibles mitigaciones. Y las empresas de IA han ajustado sus herramientas en intentos de evitar que ofrezcan información científica que podría ser mal utilizada. Pero ninguna de estas protecciones es infalible.
En un informe publicado la semana pasada, Anthropic reconoció que las personas habían intentado usar sus modelos para explorar formas de hacer que el virus chikungunya fuera más transmisible, crear una forma de gripe aviar más peligrosa para los humanos y construir un “atlas de péptidos de toxinas de veneno”, entre otras cosas.
“Tenemos un constante ida y vuelta”, dice Magnus. “Tenemos que construir mejores herramientas de vigilancia y detección, [pero] la IA es realmente buena para encontrar formas de evitarlas”. Probablemente necesitaremos usar IA para encontrar formas de restringir el uso de la IA, dice.
Opiniones divididas entre científicos
Debo agregar aquí que no todos los científicos están de acuerdo sobre el nivel de riesgo. En una reciente sesión informativa con medios, algunos biólogos del Imperial College London argumentaron que las herramientas de IA simplemente no son lo suficientemente buenas para desarrollar completamente armas biológicas, y que probar nuevos patógenos requiere un trabajo humano difícil y que consume tiempo. Algunos piensan que las barreras de protección que tenemos son suficientes.
Y Wendy Barclay, profesora de enfermedades infecciosas en Imperial, señaló que, tal como están las cosas, el mayor riesgo de una pandemia no proviene de un arma biológica, sino de patógenos que ya están circulando. Tomemos el H5N1, el virus de la gripe aviar que ya ha matado a millones de aves y se ha extendido ampliamente entre el ganado lechero de Estados Unidos; el mes pasado también se detectó en visones en cautiverio en una granja en Utah.
Sabra, por otro lado, prefiere pensar de cinco a diez años en el futuro. Los países deberían fortalecer sus sistemas de atención médica, preparar antídotos para toxinas conocidas y almacenar medicamentos, dice: “Necesitamos estar preparados”.
Kevin Esvelt, biólogo del MIT que inventó tanto la tecnología para acelerar la propagación de un rasgo genético a través de toda una población como formas de limitar esa tecnología, se hizo eco de estas preocupaciones en una publicación en X el miércoles, afirmando que un modelo de lenguaje grande había “revelado una forma novedosa de arma biológica que no había imaginado que fuera posible”.
Agregó: “Por favor, por el amor de Dios, los niños, el futuro de la humanidad o lo que consideren sagrado, seamos cautelosos aquí”.
Este artículo apareció por primera vez en The Checkup, el boletín semanal de biotecnología de MIT Technology Review. Para recibirlo en su bandeja de entrada todos los jueves, y leer artículos como este primero, suscríbase aquí.
