El avance imparable de la inteligencia artificial (IA) está transformando la forma en que los menores interactúan en el entorno digital, pero también está abriendo la puerta a riesgos cada vez más sofisticados y difíciles de detectar. De acuerdo con un informe de la firma de verificación de identidad Sumsub, difundido en el marco del Día del Niño, tecnologías como los deepfakes han proliferado de manera alarmante en América Latina, y México se ha convertido en uno de los epicentros de este fenómeno. El crecimiento de estos contenidos manipulados con IA supera el 200% en la región, mientras que en el país el incremento se acerca al 500%, una cifra que enciende todas las alarmas.
El problema no es menor: el 77% de los menores en México tiene acceso a internet, según datos citados por la empresa, lo que significa que millones de niños y adolescentes navegan a diario en plataformas que, en muchos casos, carecen de controles efectivos para verificar su edad o protegerlos de contenidos nocivos. Sumsub advierte que los mecanismos tradicionales de seguridad, como las declaraciones de edad o los filtros básicos, son fácilmente evadibles por usuarios malintencionados que utilizan precisamente la IA para crear identidades falsas, suplantar a menores o generar material de abuso con un realismo casi perfecto.
El principal desafío, según la compañía, radica en que la tecnología avanza más rápido que la capacidad de respuesta de las plataformas y los reguladores. Los deepfakes, que permiten alterar rostros, voces e incluso gestos en videos y fotografías, se han convertido en una herramienta recurrente para evadir los sistemas de verificación biométrica y de edad. Esto no solo facilita el acoso y la explotación infantil, sino que también erosiona la confianza en los entornos digitales donde los menores pasan cada vez más tiempo, desde redes sociales hasta plataformas de videojuegos y aplicaciones educativas.
Un llamado a la acción para la industria tecnológica
Frente a este panorama, Sumsub hace un llamado a las empresas tecnológicas y a las plataformas digitales para que evolucionen hacia modelos de verificación más dinámicos e inteligentes. La propuesta implica abandonar los controles estáticos —como el ingreso manual de la fecha de nacimiento— y adoptar sistemas de monitoreo continuo que utilicen la propia IA para detectar comportamientos sospechosos, identificar contenido manipulado y prevenir el acceso de adultos a espacios diseñados para menores. La firma sostiene que solo con un enfoque proactivo, basado en análisis en tiempo real y algoritmos de aprendizaje automático, se podrá cerrar la brecha de seguridad que hoy explotan los delincuentes digitales.
El informe de Sumsub no solo alerta sobre los riesgos actuales, sino que también plantea una reflexión urgente sobre el futuro de la seguridad infantil en línea. En un contexto donde la inteligencia artificial se perfecciona a un ritmo vertiginoso, la responsabilidad no recae únicamente en los padres o tutores, sino también en las empresas que diseñan y operan las plataformas. La pregunta que queda en el aire es si la industria estará a la altura del desafío antes de que la próxima generación de amenazas digitales supere cualquier barrera.
