Riesgos invisibles: el uso de datos personales en aplicaciones de ilustración con IA

Convertir una selfie en ilustración al estilo Ghibli puede parecer un juego inofensivo, pero detrás de esta tendencia se esconden preguntas validas sobre el uso de nuestra identidad digital. Al permitir que aplicaciones de inteligencia artificial accedan a nuestras imágenes, estamos exponiendo datos personales y biométricos que podrían ser utilizados de maneras que ni siquiera imaginamos, muchas veces sin nuestro permiso. ¿Somos conscientes de lo valiosos que son nuestros datos y de los riesgos que corremos al compartirlos? 

Muchas de estas aplicaciones piden permisos amplios, como acceder a la galería del teléfono o incluso ceder los derechos sobre las imágenes generadas. Esto puede facilitar la venta no autorizada de nuestros datos o dar lugar a prácticas de reidentificación sin nuestro consentimiento. 

Para comprender mejor las implicaciones de este fenómeno, conversamos con Sadoth Giraldo Acosta, entusiasta por la inteligencia artificial y profesor de la Facultad de Administración, Finanzas y Ciencias Económicas de la Universidad Ean, quien analiza las implicaciones éticas que estas tecnologías tienen para los usuarios y para el desarrollo académico. 

¿Cuáles son los alcances de la privacidad en las herramientas de IA que generan imágenes a partir de datos personales? 

" Los riesgos incluyen la posibilidad de que estos datos sean expuestos, utilizados indebidamente o comercializados sin consentimiento, lo que puede llevar a fraudes, suplantación de identidad y otras formas de explotación." 

En casos como el uso de aplicaciones que convierten nuestras fotos al estilo Ghibli, ¿qué tipo de riesgos estamos asumiendo sin saberlo? 

“ Los usuarios asumen riesgos importantes sin ser plenamente conscientes. Entre ellos se encuentran el acceso no autorizado a su galería y otros datos personales, el uso indebido de datos biométricos como las imágenes faciales que podrían ser utilizados para reidentificación o fines comerciales, y la exposición a posibles ciberataques si los servidores donde se almacenan estos datos son vulnerados.” 

¿Existe actualmente un marco normativo claro en Colombia o a nivel internacional que regule el uso ético de los datos biométricos en herramientas de IA? 

“En el ámbito internacional, el Reglamento General de Protección de Datos (RGPD) de la Unión Europea es un marco legal clave que regula el uso de datos personales, incluidos los biométricos. En Colombia, aunque no hay una ley específica sobre datos biométricos, estos se consideran datos personales sensibles y están regulados por la Ley 1581 de 2012, que requiere autorización explícita para su tratamiento.” 

¿Cómo debería abordarse el desarrollo de tecnologías con IA desde una mirada ética y responsable, especialmente en espacios educativos? 

“Desde una perspectiva académica, el desarrollo de tecnologías con IA debe ser ético y responsable, priorizando la transparencia en el uso de datos, el consentimiento informado de los usuarios y la educación sobre los riesgos y beneficios de estas herramientas.”  

¿Qué papel cumple la Universidad Ean en la formación de profesionales que desarrollen o utilicen estas tecnologías de forma ética y con propósito? 

“La institución se compromete a formar profesionales que no solo comprendan el potencial de la inteligencia artificial, sino que también actúen de manera responsable al utilizarla. Esto se refleja en la educación en ética digital, el impulso a la investigación sobre los desafíos éticos de la IA, la promoción de la conciencia sobre la privacidad y el fomento del pensamiento crítico y el compromiso individual en el uso responsable de estas tecnologías.”