AI: El lado sombrío de la tecnología
Este último año, hemos oído el término “AI” o “Inteligencia Artificial” más veces de las que podemos contar. Es, indudablemente una de las tecnologías más prometedoras de nuestra era, impactando múltiples áreas en crecimiento en nuestra sociedad. El AI ha ofrecido innovaciones extraordinarias en el campo médico, ha creado tendencias con aplicaciones como Remini que te permiten moldear una sola imagen en una infinidad de posibilidades y por supuesto, presentado novedades como son los recientes «automóviles sin conductor» de la plataforma de Uber.
Sin embargo, el elefante en la habitación es cada vez más difícil de ignorar, y de ahí nace la pregunta: ¿Es sensato cederle el volante a una inteligencia sin restricciones?
AI: La amenaza invisible al otro lado de la pantalla
Hace unos meses atrás, me topé con un Tiktok de Tom Cruise jugando golf. Nada del otro mundo, pensé. Por mera curiosidad, entré en los comentarios y me encontré con dos realidades: uno, la cuenta real de Tom Cruise en la red social marcaba cero publicaciones y dos, el usuario que lo subió se llamaba “deeptomcruise” derivado de la palabra “deepfake”. Así que no, esa persona jugando golf, aunque tuviera la misma cara del actor, no era Tom Cruise. La técnica del «deepfake», que ha ganado popularidad en los últimos años, se basa en el uso de archivos de video, imagen o voz usando programas de inteligencia artificial, donde cualquier persona puede “utilizar” tu cara en un video y también manipular tu voz para que diga cosas que no ha dicho.
Es similar a que, por ejemplo, manipules la voz de Ariana Grande para que cante un Cover de “Take My Breath Away” de Berlin. Un temazo asegurado. Nada del otro mundo, ¿no? ¿Pero qué pasa cuando los deepfakes comienzan a afectar a figuras públicas de alta gama?
¿Real o no real?
El célebre YouTuber MrBeast, mejor conocido por ofrecer regalos millonarios bajo la regla del tin-marín-de-do-pingüe en su canal se encontró bajo las oscuras redes de la Inteligencia Artificial. El influencer de 25 años apareció en un video que rápidamente se volvió viral lanzando «el giveaway más grande de iPhones 15 del mundo». En el, ofreció los celulares (todavía nuevos en el mercado) a dos dólares cada uno, excepto que no era él.
“¿Están las redes sociales listas para enfrentar el auge de los deepfakes de AI? Esto es un problema serio”
MrBeast, en la plataforma de X (Previamente conocida como Twitter).
A la vez, le reclamó a plataformas como TikTok por dejar pasar este tipo de publicaciones engañosas como «publicidad». Dentro de poco tiempo, el video fue eliminado y representantes de la red social tomaron la delantera de la narrativa, disculpándose por el desliz. Aún así, entre videos de celebridades jugando golf, cantando tus canciones favoritas o promocionando giveaways falsos, ¿Qué pasa si les digo que esto es solo la punta del iceberg?
El uso malicioso y vengativo de los deepfakes
“¡Empieza a desnudar!” fue la frase que resaltó de inmediato en mi búsqueda del término «deepfake». 128,000 millones de resultados en 0.31 segundos, repletos de información verdaderamente perturbadora. Una gran variedad de páginas y softwares disponibles con pruebas gratuitas, artículos con listados de hasta 10 de las mejores apps para crear «desnudos falsificados» y aplicaciones que promocionan, textualmente, «desnudar a cualquier chica con IA en un solo click». En el 2019, Deeptrace Labs, una firma de investigación en Amsterdam, realizó un estudio con 15,000 videos usando esta tecnología, donde se concluyó que el 96% eran pornográficos, 90–95% eran sin consentimiento y el 90% usaban imágenes o videos de mujeres.
Cuatro años después, no es sorpresivo imaginarse que las herramientas para crear este tipo de videos falsos sean aún más peligrosamente asequibles.
Una carrera contra el tiempo
El 26 de Enero del año en curso, el popular streamer de la plataforma de Twich Brandon “Atrioc” creó controversia. Durante una transmisión en vivo, se visualizó una ventanilla que contenía un link de deepfakes pornográficos de otras streamers como Maya Higa, Pokimane y QTCinderella. Esto resultó en una ola de indignación de parte de su audiencia y a la vez, de las streamers afectadas como QTCinderella, quien expresó su disgusto via redes sociales diciendo:
“A la m*rda las personas que me están enviando imágenes de mi cara en esa página por mensaje directo. A la m*rda la constante explotación y cosificación de las mujeres. Es agotador.”
Más allá de las repercusiones psicológicas que esta tecnología autónoma pueda traer, lo más alarmante t es su rápida distribución y por ende, la incapacidad del sistema legal para mantenerse a la par todavía. Si bien es cierto que se han creado regulaciones como, de acuerdo a Lexology, el “Proyecto de Ley de la Asamblea No. 602: Deepfakes y Material Sexual Explícito” en el estado de California, la cual específicamente protege los derechos individuales de una persona que ha sido víctima de la difusión no-consensual de material sexual que no creó, aún así, no existen las leyes universales.
Así que, ¿Qué detiene a una persona de tomar una captura de pantalla de una foto publicada en redes sociales y manejarla a su antojo?
Cerrando la ventanilla del AI
El problema no apunta solamente a figuras populares, sino a cualquiera que esté en la mira de una fantasía sexual retorcida o busque revancha contra una persona buscando deshumanizarla, parecido a la técnica de “porno-venganza”, que consiste en la distribución de material íntimo sexual sin consentimiento.
Este tipo de abuso cibernético ya no requiere de material concreto, tiene la facilidad de crearlo desde cero, y esa es la parte más aterradora. Así mismo en Almendralejo, España donde un grupo de madres denunció la difusión de imágenes falsas de sus hijas menores de edad desnudas creadas con AI. Entre las madres se encuentra Miriam Al Adib, quien con su presencia digital llevó el asunto a redes sociales con un video expresando su descontento. “Utilizar imágenes ajenas para hacer esta barbaridad y difundir es un delito muy grave” remarcó en el texto descriptivo de su publicación.
Los avances significativos que ha tenido el AI no se pueden descartar, pero también es esencial explorar la interrogante ética que amenaza. Además, alimenta la violencia machista. Abusar de una persona en el contexto digital nunca había sido tan fácil ni tan fugaz como el clic de una cámara.
Dentro de estos casos, existen miles. Es inaúdito abordar la problemática con seridad y velar por el consumo responsable de nuevas tecnologías, protegiendo a cualquier persona de estar a la merced de curiosidades enfermizas.
