¿Cuáles son los peligros de compartir información personal para convertirte en anime usando la IA?

La última actualización del chatbot de ChatGPT ha permitido a los usuarios replicar el inconfundible estilo artístico del cocreador del estudio de animación y legendario cineasta japonés Hayao Miyazaki. Esta nueva funcionalidad se ha viralizado rápidamente en redes sociales, con miles de personas compartiendo sus imágenes generadas al estilo de Studio Ghibli.

Sin embargo, la historia nos ha demostrado que, en ocasiones, sumarse a una tendencia por mera diversión, puede desencadenar fraudes o suplantación de identidad si la tecnología se ve comprometida o simplemente si para usarla aceptas condiciones privacidad desfavorables, o que pueden estar en contra de las regulaciones locales o internacionales.

La privacidad de los usuarios a cambio de una imagen

El funcionamiento de los modelos de IA depende mayoritariamente del acceso a grandes volúmenes de datos, muchos de los cuales contienen información personal, sensible y confidencial. Las diversas fuentes para recolectar información y así entrenar a los modelos de IA pueden provenir de información pública o de fuentes abiertas, información solicitada a los usuarios.

Dada la gran cantidad de datos, está claro que, si estos no son tratados y almacenados de forma segura, pueden quedar expuestos y sujetos a posibles accesos indebidos, filtraciones o incluso robos de información como en el caso de Outabox, lo que facilitaría a los ciberdelincuentes suplantar la identidad de los vulnerados o generar estafas con identidades reales, ampliando la superficie de ataque y exposición.

Otro desafío recae en la recolección masiva de datos sin el consentimiento informado de los usuarios, quienes muchas veces desconocen el alcance del uso de su información.

Medidas para proteger la información del usuario

Unirse a esta tendencia además del entusiasmo puede traer riesgos de la privacidad, por lo mencionamos los puntos más importantes a considerar para minimizar los riesgos:

• Revisar las políticas de privacidad del sitio o aplicación: Mantenerse informado sobre cómo funcionan los modelos de IA y cómo tratan la información es fundamental para saber si es fiable subir o no información personal o confidencial.
• Revisar si la información que se sube al sitio o aplicación está protegida por alguna ley: Garantizar que los modelos de IA dentro de aplicaciones o sitios cumplan con regulaciones internacionales y nacionales pertinentes, así como con los principios éticos de transparencia, explicabilidad, equidad y responsabilidad.
• Usar aplicaciones web o móviles de fuentes oficiales: Debido al gran uso de aplicaciones o sitios similares a ChatGPT que puedan generar imágenes con el estilo artístico del Studio Ghibli, los ciberdelincuentes aprovechan esta temática para poder engañar a los usuarios e incitarlos a descargar software que aparentemente cumple con el propósito de generar imágenes con IA.
• Usar imágenes seguras o sin derechos de autor: Sino se tiene el conocimiento de que la imagen sea para su uso libre, es mejor no subirla para evitar problemas legales relacionadas con los derechos de autor.