En el vertiginoso mundo del capital de riesgo, donde las inversiones en inteligencia artificial (IA) fluyen a ritmos históricos, una pregunta incómoda emerge: ¿están los inversionistas realizando la debida diligencia necesaria en materia de seguridad de IA? La preocupación no es menor. A medida que los sistemas de IA se vuelven más poderosos y ubicuos, los riesgos asociados—desde sesgos algorítmicos hasta usos malintencionados—se multiplican. Sin embargo, parece que muchos fondos de venture capital priorizan el potencial de retorno sobre la evaluación rigurosa de estos peligros.
La fiebre del oro de la IA
La inversión en IA ha alcanzado niveles sin precedentes. Según datos de PitchBook, en 2024 las startups de IA atrajeron más de 50 mil millones de dólares a nivel global, una cifra que duplica lo recaudado en 2022. Gigantes como OpenAI, Anthropic y Cohere han captado la atención de los mayores fondos, mientras que una miríada de nuevas empresas compite por financiamiento. En América Latina, el fenómeno también se siente: Brasil, México y Argentina lideran la región con rondas de inversión cada vez más abultadas.
Pero esta fiebre del oro tiene un lado oscuro. La velocidad de las inversiones a menudo supera la capacidad de los inversionistas para comprender a fondo la tecnología y sus implicaciones. “Muchos VCs no tienen el conocimiento técnico para evaluar los riesgos de seguridad de la IA”, afirma Laura González, directora de políticas de IA en el Centro para la Innovación Responsable, con sede en Ciudad de México. “Se enfocan en el equipo fundador y el tamaño del mercado, pero pasan por alto aspectos críticos como la alineación de objetivos, la robustez del modelo o la posibilidad de uso dual”.
¿Qué implica la debida diligencia en seguridad de IA?
La debida diligencia en seguridad de IA va más allá de revisar los estados financieros y las proyecciones de crecimiento. Implica evaluar:
- Riesgos de alineación: ¿El sistema de IA persigue los objetivos para los que fue diseñado sin desviarse hacia comportamientos dañinos?
- Robustez y resiliencia: ¿Cómo responde el modelo ante datos adversarios o entradas maliciosas?
- Sesgos y equidad: ¿El sistema discrimina a ciertos grupos? ¿Cómo se mitigan esos sesgos?
- Privacidad y seguridad de datos: ¿Se protege adecuadamente la información sensible utilizada para entrenar y operar la IA?
- Uso dual: ¿Podría la tecnología ser reutilizada para fines maliciosos, como vigilancia masiva o armas autónomas?
- Transparencia y explicabilidad: ¿Los desarrolladores pueden explicar cómo funciona el modelo y por qué toma ciertas decisiones?
Estos aspectos no son meramente académicos. Un fallo en cualquiera de ellos puede traducirse en consecuencias devastadoras: desde demandas costosas y daños reputacionales hasta riesgos existenciales. No obstante, la mayoría de los fondos de VC carecen de protocolos estandarizados para evaluarlos.
La brecha entre discurso y acción
En los últimos años, varios fondos han firmado cartas de principios, como los Principios de IA Responsable o los Compromisos de Seguridad de IA, promovidos por gobiernos y organizaciones internacionales. Sin embargo, la implementación de estos compromisos en la práctica es dispar. Un estudio reciente de la Universidad de Stanford reveló que menos del 20% de los VCs encuestados realiza auditorías de seguridad de IA antes de invertir. La mayoría se limita a confiar en la palabra de los fundadores o en revisiones superficiales.
“Existe una desconexión entre lo que se dice en público y lo que se hace en privado”, señala Andrés Martínez, socio de un fondo de venture capital con sede en São Paulo. “Todos queremos una IA segura, pero cuando tienes un trato sobre la mesa y la competencia por invertir es feroz, es tentador saltarse los pasos engorrosos”.
La presión por desplegar capital rápidamente, combinada con la falta de expertise técnica, crea un cóctel peligroso. Además, la naturaleza de la IA—con modelos que evolucionan y aprenden continuamente—hace que la evaluación estática tradicional no sea suficiente. Se requiere un monitoreo constante y una gobernanza adaptativa que pocos fondos están preparados para implementar.
Iniciativas y herramientas emergentes
Ante este panorama, están surgiendo iniciativas para cerrar la brecha. Organizaciones como el Future of Life Institute y el Center for AI Safety han desarrollado marcos de evaluación de riesgos que los inversionistas pueden adoptar. Asimismo, algunas firmas de VC han comenzado a contratar a expertos en seguridad de IA para sus equipos de debida diligencia.
En América Latina, el ecosistema aún está en pañales. La Red Latinoamericana de IA y Sociedad, una coalición de académicos y activistas, ha lanzado una guía para inversionistas que busca adaptar los estándares globales a la realidad regional. “No podemos importar soluciones sin considerar nuestro contexto”, explica Carolina Ruiz, coordinadora de la red. “Aquí los riesgos incluyen la vigilancia estatal, la desinformación y la exclusión de comunidades marginadas. Los VCs deben estar conscientes de eso”.
Herramientas como los “AI Safety Evaluations” de Anthropic o los “Model Cards” de Google ofrecen transparencia sobre las capacidades y limitaciones de los modelos, pero su adopción es voluntaria. Algunos expertos abogan por regulaciones más estrictas que obliguen a los inversionistas a divulgar los riesgos de seguridad de las empresas en las que invierten, similar a lo que ocurre en el sector financiero con las divulgaciones de riesgos climáticos.
Hacia una cultura de inversión responsable
La pregunta no es si los VCs deberían hacer debida diligencia en seguridad de IA, sino cómo pueden hacerla de manera efectiva. Esto requiere un cambio cultural que valore la seguridad tanto como el retorno. Implica capacitar a los equipos de inversión, colaborar con expertos en ética y seguridad, y establecer métricas claras para evaluar los riesgos.
Algunos fondos visionarios están dando pasos en esa dirección. Por ejemplo, el fondo brasileño Canary Ventures ha creado un comité de ética de IA que revisa cada inversión potencial. “No queremos ser cómplices de daños futuros”, afirma su directora, Juliana Silva. “Preferimos perder una oportunidad que financiar algo que pueda causar un daño irreversible”.
La presión también viene de los limited partners (LPs), los inversionistas que aportan capital a los fondos. Cada vez más, los LPs exigen que los VCs consideren criterios ESG (ambientales, sociales y de gobernanza) en sus decisiones. La seguridad de la IA es un componente fundamental de la “S” y la “G”.
Conclusión: un llamado a la acción
La IA tiene el potencial de transformar positivamente la sociedad, pero también de causar un daño significativo si se desarrolla e implementa sin las salvaguardas adecuadas. Los inversionistas de riesgo, como proveedores de capital, tienen una responsabilidad ineludible en asegurar que las empresas que financian prioricen la seguridad. No se trata solo de evitar titulares negativos, sino de construir un ecosistema de innovación sostenible y confiable.
Hacer debida diligencia en seguridad de IA no es un obstáculo burocrático; es una inversión en el futuro. Los VCs que lo entiendan estarán mejor posicionados para navegar un entorno regulatorio cada vez más estricto y para ganarse la confianza de la sociedad. Los que no, corren el riesgo de contribuir a una catástrofe anunciada. La pelota está en su cancha.
Otros artículos relacionados:
- Regulación de IA en América Latina: avances y desafíos
- Inversión tecnológica en México: ¿estamos listos para la próxima ola?
- Riesgos existenciales de la IA: mitos y realidades
