La adopción de modelos de inteligencia artificial de pesos abiertos desarrollados en China ha crecido entre empresas y desarrolladores de Occidente gracias a su bajo costo y capacidades. Sin embargo, también ha despertado preocupaciones sobre sesgos políticos y posibles riesgos de seguridad. Ante este panorama, startups como Hirundo y Lazarus AI han surgido para reajustar estos modelos y hacerlos compatibles con los valores y estándares occidentales.
El auge de los modelos chinos de pesos abiertos
Modelos como DeepSeek, Moonshot, Z.AI, Alibaba y Tencent han ganado popularidad por su rentabilidad y opciones de personalización. Según datos de la plataforma Hugging Face, los modelos chinos acumulan la mayor proporción de descargas, y en pruebas de referencia se encuentran a solo un 3% de los sistemas cerrados más avanzados de laboratorios estadounidenses. Empresas como Airbnb, Uber y la firma legal Harvey han construido modelos propietarios sobre estas bases, mientras que Europa desarrolla su modelo soberano OpenEuroLLM a partir de Qwen de Alibaba.
No obstante, la alineación de estos modelos con los lineamientos del Partido Comunista Chino ha generado recelos. Estudios han demostrado que los modelos pueden producir código con vulnerabilidades graves cuando se abordan temas políticamente sensibles, y que evitan pronunciarse sobre asuntos como Tiananmen, Hong Kong o Xinjiang. Esto llevó al gobierno de Estados Unidos a prohibir en octubre el uso de productos de DeepSeek en agencias civiles por posibles amenazas a la seguridad nacional.
Realineamiento: una intervención quirúrgica
Ben Luria, cofundador y director ejecutivo de Hirundo, describe su trabajo como una “neurocirugía” que modifica los pesos del modelo para realinear sus valores, percepciones geopolíticas y sesgos estatales hacia lo que las empresas occidentales esperan. “Lo que hacemos es como una intervención quirúrgica y muy específica”, explicó a Rest of World. Su equipo también refuerza la seguridad contra ciberataques y reduce el conocimiento peligroso, como el relacionado con armas biológicas.
Por su parte, Lazarus AI, con sede en Boston, se enfoca en eliminar la censura obligatoria de los modelos Qwen de Alibaba. Utilizando pautas de censura filtradas, generan indicaciones sobre temas prohibidos y emplean respuestas de Gemini Flash de Google para realinear los modelos. Según Eric Hartford, ex científico jefe de Lazarus AI, tras la intervención los modelos pueden proporcionar información que no estaba en los materiales de entrenamiento, como nombres de activistas prodemocráticos, lo que sugiere que el conocimiento estaba presente pero suprimido.
Los modelos ReAligned de Lazarus AI, promocionados como “modelos de frontera de código abierto sin propaganda”, se han implementado en alrededor de una docena de empresas estadounidenses. Sin embargo, algunas agencias gubernamentales se muestran reacias a adoptar modelos chinos, incluso después del realineamiento, prefiriendo alternativas como las de OpenAI o Thinking Machines Lab.
Críticas y limitaciones del enfoque
Oriane Peter, investigadora doctoral en IA del King’s College de Londres, advierte que alinear un modelo a los llamados valores occidentales o hacerlo universalmente seguro “es un estándar imposible”. Para ella, la alineación consiste en orientar la salida del modelo hacia un comportamiento deseado dentro de un contexto cultural y de aplicación bien definido. “Cualquiera que use un modelo chino fuera de China debe realinearlo, no porque la ideología occidental sea inherentemente más segura o ética, sino porque cualquier modelo debe adaptarse al contexto social y entorno específicos en los que operará”, señaló.
Asimismo, existen herramientas que afirman eliminar la censura de los modelos mediante un proceso llamado “abliteración”, pero muchas no son efectivas y los modelos pueden retener parte de la censura y desinformación. “Esto demuestra que las alineaciones están profundamente arraigadas y no es tan simple deshacerse de ellas”, afirmó Luria.
Graham Webster, editor jefe del Proyecto DigiChina de la Universidad de Stanford, señaló en un evento de Rest of World que la mayoría de los usuarios de modelos chinos no se preocupa por su alineación. “Si estuviera gestionando un producto en Taiwán, me preocuparía más porque el rendimiento podría verse afectado por el control estricto del gobierno chino sobre los datos de entrenamiento”, dijo. “Pero si hago un producto que ayuda a la gente a crear un sitio web para su cafetería, no importa”.
Stu Clott, desarrollador en San Diego, utiliza DeepSeek para tareas de escritura, investigación y programación, y no ve la necesidad de un modelo realineado. “No he tenido ni una sola situación en la que la censura me haya obstaculizado”, comentó.
El futuro de la alineación y la soberanía tecnológica
El debate sobre la alineación de los modelos de IA refleja tensiones geopolíticas más amplias. Mientras algunos países desarrollan modelos soberanos para reflejar sus idiomas y culturas, el control centralizado de Silicon Valley sobre la alineación puede llevar a una “homogeneización masiva” de los sistemas, según Peter, lo que se ha relacionado con una disminución cognitiva e intelectual en los usuarios.
En América Latina, la adopción de modelos chinos de pesos abiertos podría representar una oportunidad para desarrollar soluciones locales adaptadas a las necesidades regionales. Sin embargo, también plantea desafíos en términos de seguridad y sesgos, lo que hace relevante el trabajo de empresas como Hirundo y Lazarus AI, aunque sus enfoques no están exentos de críticas.
La historia continúa evolucionando, y el equilibrio entre innovación, costo, seguridad y valores será clave para determinar el rumbo de la inteligencia artificial en Occidente y en el mundo.