MENU
Identidades Virtuales: ¿Tentar El Futuro o El Peligro Invisible?
Imagina poder crear el avatar de una persona en cuestión de minutos. Gracias a la inteligencia artificial (IA), esto es una realidad desde hace mucho tiempo. Pero, ¿cuáles son las consecuencias de este progreso? ¿Nos facilita la vida o nos lleva a un futuro distópico?
Crear una copia engañosamente real de un ser humano en solo unas pocas horas ahora es posible con la ayuda de un video corto y un software de IA moderno. Lo que suena a ciencia ficción hace tiempo que es realidad: las herramientas de IA convierten un vídeo de dos minutos de una persona en una imagen digital que se parece a una persona real y se comporta como tal. Dado que muchas personas publican regularmente videos de sí mismas en las redes sociales, también se está volviendo cada vez más fácil crear dichos avatares sin su conocimiento y potencialmente abusar de ellos. Este texto muestra las fascinantes posibilidades y riesgos de un mundo en el que las imágenes digitales de personas reales podrían formar parte de la vida cotidiana.
La importancia de los humanos creados por IA
La creación de personas con IA se refiere al uso de tecnologías de IA para crear imágenes digitales o virtuales de personas. Esto se puede hacer simulando la apariencia humana, el comportamiento, el lenguaje o los procesos de toma de decisiones. Las personas generadas por IA se pueden utilizar en diversos campos e industrias, como la industria cinematográfica, el marketing, los videojuegos o los asistentes virtuales. Estos modelos de IA copian características humanas sin ser realmente personas vivas y se basan en datos y algoritmos para permitir interacciones similares a las humanas.
Un ejemplo de un humano generado por IA es «Lil Miquela». Es un avatar digital y actúa como un personaje totalmente generado por IA en las redes sociales. Parece una persona real, pero está controlada por algoritmos y gráficos por computadora.
Crear humanos generados por IA
Se pueden utilizar varias plataformas y herramientas basadas en IA para crear imágenes virtuales de personas de aspecto realista. Algunas herramientas, como «Hedra» o «HeyGen», te permiten crear un avatar a partir de una sola foto. Sin embargo, estos resultados suelen ser fácilmente reconocibles como imágenes generadas artificialmente y parecen menos auténticos a primera vista. Para representaciones engañosamente reales, generalmente se requiere un video de aproximadamente dos minutos de la persona, que muestra varios gestos y expresiones faciales. Con la ayuda de este video, la IA puede crear una imagen realista como un avatar, y este proceso solo toma alrededor de tres o cuatro horas en estos días.
Un ejemplo de un avatar creado a partir de una foto es el locutor de radio en este enlace. Una versión engañosamente real, que se creó con la ayuda de un video, se puede ver aquí. Ambas versiones fueron creadas por Michael Winterberg, desarrollador de visualización de G DATA CyberDefense.
Pacientes virtuales y estafadores digitales
El uso de humanos generados por IA ofrece una amplia gama de ventajas. En medicina, los pacientes virtuales permiten entornos de formación realistas que capacitan al personal médico sin poner en peligro a los pacientes reales. Los avatares digitales también crean libertad creativa en la industria de la moda y la publicidad al respaldar campañas flexibles y eficientes. Pero esta tecnología conlleva riesgos considerables. Un incidente ocurrido en Hong Kong en febrero de 2024 ilustra el potencial de abuso: los estafadores utilizaron avatares engañosamente realistas en una videoconferencia para hacerse pasar por la dirección de la empresa. Un empleado financiero, convencido de la autenticidad de sus interlocutores, transfirió 23 millones de euros a los delincuentes. Estos deepfakes (grabaciones de vídeo o audio manipuladas que a menudo atribuyen falsamente ciertas declaraciones o acciones a personalidades destacadas) conllevan riesgos considerables. Se vuelve particularmente preocupante cuando estos deepfakes son difundidos por políticos, ya que en casos extremos podrían incluso provocar conflictos. La tecnología necesaria para este tipo de falsificaciones es ahora asequible y accesible, de modo que incluso los teléfonos inteligentes pueden crear deepfakes sencillos. Las barreras de entrada se reducen, mientras que la calidad se vuelve aterradoramente realista, especialmente para las personas de las que hay mucho material de imagen pública y sonido, como políticos o jefes de empresas.
Sin embargo, hay características distintivas: los bordes borrosos de la imagen, los cambios mínimos de las partes faciales durante los movimientos, la postura rígida y la tonalidad desviada pueden ser indicios de deepfakes. La falta de reflejos o las bajas resoluciones en los videos también pueden ser indicios de manipulación. Los deepfakes también se utilizan para difamar deliberadamente a las personas. Un ejemplo es la periodista Rana Ayyub, que fue víctima de vídeos pornográficos falsos, que culminaron en amenazas de violencia física y la publicación de sus datos personales («doxxing»), como su número de teléfono móvil privado y otra información. En algunos países, se están debatiendo leyes que tipificarían como delito la producción de este tipo de contenidos manipulados.
Riesgos éticos y oportunidades tecnológicas de los humanos generados por IA
El uso de humanos generados por IA ofrece tanto oportunidades como peligros y plantea numerosas cuestiones éticas. Uno de los mayores puntos de crítica es la distinción entre realidad y ficción. Cuando las identidades virtuales parecen engañosamente reales, se hace cada vez más difícil detectar la manipulación y la tergiversación. Esto supone un alto riesgo, especialmente en lo que respecta a los deepfakes y la desinformación dirigida. Al mismo tiempo, se plantea la cuestión de quién es el propietario de estas imágenes digitales y quién asume la responsabilidad si se hace un uso indebido o con fines perjudiciales. Si bien el desarrollo ofrece avances tecnológicos, también corre el riesgo de hacer que las relaciones humanas reales, ya sea en contextos profesionales o sociales, sean menos importantes. Esto podría conducir a la deshumanización, con avatares virtuales que reemplazan cada vez más a los humanos en varios campos. Por lo tanto, es esencial crear pautas éticas y legales claras para prevenir abusos y preservar el factor humano en el mundo digital. Como señala Pascal Niedzwetzki, aprendiz de diseño de medios en G DATA CyberDefense, la creación humana a través de la IA es un arma de doble filo:
El futuro de los humanos generados por IA
Los humanos generados por IA son cada vez más realistas y pronto podrían operar en mundos virtuales, gracias a los avances en la tecnología de la imagen y la realidad virtual. Podrían asumir tareas en áreas como servicio al cliente, terapia o educación, y actuar como asistentes virtuales o amigos.
Resultado
El rápido desarrollo de los humanos generados por IA abre posibilidades fascinantes, pero también plantea importantes desafíos. Por un lado, estas identidades virtuales pueden facilitarnos la vida en muchas áreas, desde la medicina hasta el entretenimiento y la educación. Por otro lado, conllevan riesgos como el abuso, la manipulación y la alienación en las relaciones interpersonales. Depende de nosotros hacer un uso responsable de estas tecnologías y crear marcos éticos y legales claros para garantizar que el factor humano no pase a un segundo plano. El futuro de esta tecnología es emocionante, pero debe diseñarse con precaución.
Enlace: Identidades virtuales: ¿futuro tentador o peligro invisible? Blog de G DATA Leonie Specht
