Deepfakes, el temor de los expertos en un año plagado de citas electorales en el mundo

deepfakes

Deepfakes, el temor de los expertos en un año plagado de citas electorales en el mundo

VALORACIÓN DEL ARTÍCULO:
5/5

Hay consenso por parte de los gurús y expertos en tecnología en que este año será un punto de inflexión en cuanto a la implantación y uso de la inteligencia artificial. La IA invade todas las capas que podamos imaginar y hay cierto miedo en cuanto a los objetivos que tienen algunos con ella. Una de las innovaciones más impactantes y a la vez preocupantes es el desarrollo de los «deepfakes«.

Estas son manipulaciones digitales que utilizan inteligencia artificial para crear contenido audiovisual falso, generalmente mediante la sustitución del rostro o la voz de una persona por la de otra, con resultados sorprendentemente realistas. Aunque esta tecnología puede tener aplicaciones creativas y divertidas, también plantea una serie de desafíos éticos, legales y sociales que requieren una reflexión profunda.

¿Qué es y de donde proceden los deepfakes?

El término «deepfake» surge de la combinación de «deep learning» (aprendizaje profundo) y «fake» (falso). La tecnología deep learning, una rama del aprendizaje automático basada en redes neuronales artificiales, es fundamental para la creación de estos videos manipulados. Los deepfakes se popularizaron a través de las redes sociales y plataformas de video online, donde se utilizan para crear contenido humorístico, parodias e incluso videos de entretenimiento.

Aunque los deepfakes pueden parecer inofensivos en su uso recreativo, plantean serias preocupaciones éticas y sociales. Por un lado, pueden ser utilizados para difamar, extorsionar o difundir desinformación, comprometiendo la reputación y la privacidad de las personas. Por otro lado, también pueden ser utilizados con fines políticos para manipular la opinión pública o generar discordia social.

 

Desafíos legales y de seguridad

La proliferación de deepfakes plantea desafíos legales y de seguridad significativos. ¿Quién es responsable cuando se crea y distribuye contenido deepfake que daña la reputación de alguien? ¿Cómo se puede verificar la autenticidad de los videos en un mundo donde la tecnología permite la manipulación digital perfecta? Estas son preguntas complejas que desafían los marcos legales y las normativas existentes.

Ante la creciente preocupación por los deepfakes, diversas instituciones y empresas están trabajando en soluciones para detectar y mitigar su impacto. Esto incluye el desarrollo de algoritmos de detección de deepfakes, la promoción de la alfabetización mediática para ayudar a las personas a reconocer contenido manipulado y la implementación de políticas y regulaciones para abordar el uso malicioso de esta tecnología.

El futuro de los deepfakes

A medida que la tecnología deepfake continúa evolucionando, es probable que surjan nuevas aplicaciones y desafíos. Es importante que la sociedad esté preparada para enfrentar estos cambios y trabajar hacia un uso ético y responsable de la tecnología. Esto requerirá una combinación de regulación, educación pública y avances tecnológicos para garantizar que los deepfakes no se conviertan en una amenaza para la confianza y la integridad en el mundo digital.

¿Puede influir esta IA en las elecciones de Estados Unidos?

Vinculado este tipo de desarrollo tecnológico con la actualidad, hay que destacar que distintos expertos han mostrado cierta preocupación sobre el posible impacto que pueden tener contenidos deepfake en las próximas elecciones de Estados Unidos. La primera potencia mundial se prepara para una cita en la que los ciberriesgos están a la orden del día.

elecciones-EEUU

Check Point® Software Technologies Ltd., líder en soluciones de ciberseguridad basadas en IA para entornos en la nube, ha realizado un análisis exhaustivo sobre el funcionamiento de la tecnología deepfake y las múltiples capas de este submundo digital, con el fin de alertar sobre el aumento en la disponibilidad de estos servicios en la Darknet a través de la plataforma Telegram. Se ha visto que en estos espacios existe contenido audiovisual falso y altamente realista, diseñado para confundir a la opinión pública o desacreditar a figuras políticas.

De forma concreta, en plataformas como GitHub, se han identificado más de 3.000 repositorios relacionados con la tecnología deepfake, lo que indica su amplio desarrollo y el potencial de su distribución. Por otro lado, Telegram cuenta con más de 400 canales y grupos dedicados a ofrecer servicios de deepfake, que van desde bots automatizados que guían a los usuarios en el proceso, hasta servicios personalizados.

Los especialistas subrayan que el acceso a estos servicios es muy sencillo y, al mismo tiempo, muy económico, ya que por un mínimo de 2 dólares se puede crear un contenido deepfake. Una de las tácticas más frecuentemente utilizadas con la tecnología deepfake es la clonación de voces, la cual permite replicarlas con una precisión extraordinaria. Esta técnica resulta más sencilla de producir y de compartir que los deepfakes de vídeo, y es notablemente efectiva para difundir desinformación.

A principios de este año, se divulgó una llamada automatizada en la que se escuchaba la voz falsa de Joe Biden, actual presidente de los Estados Unidos y candidato a la reelección, instando a los residentes de New Hampshire a no votar. Esta acción generó preocupación y reflexión sobre el impacto de la manipulación digital en los procesos electorales. Como respuesta, Estados Unidos ha prohibido las llamadas automáticas generadas por inteligencia artificial, reflejando así la creciente preocupación por el potencial de la manipulación digital para influir en las elecciones y socavar la integridad del proceso democrático.

 

TAMBIÉN TE INTERESA

login-y-contraseña

El método definitivo para tener una contraseña segura: 9 pasos

Tener una contraseña segura es el primer paso para tener cierta seguridad en nuestra vida digital. Correo electrónico, claves del banco, Amazon, por poner unos ejemplos… son plataformas que estamos acostumbrados a usar casi a diario. Para todos ellos y el resto de plataformas a las que estemos suscritos, la contraseña segura es fundamental para

meta-quest-3

Meta Quest 3: características del nuevo adalid de la realidad virtual

La realidad virtual (VR) ha experimentado un crecimiento exponencial en los últimos años, y Meta Quest 3 se presenta como el pináculo de esta evolución. Como la tercera generación de dispositivos de realidad virtual autónomos desarrollados por Meta, anteriormente conocida como Facebook, el Meta Quest 3 representa una amalgama de tecnología de vanguardia y diseño

Wacom-Movink

Wacom Movink, el panel interactivo OLED más fino y ligero del mercado

Parecía estar ya todo escrito sobre monitores y panales y en éstas, llega el Wacom Movink para sorprendernos a todos. Dirigido especialmente para diseñadores y creadores de contenido, esta pantalla representa un avance significativo por su combinación única de rendimiento, portabilidad y calidad visual excepcional. El dispositivo llega acompañado de un nuevo lápiz digital, su

SMS-fraudulento-Renta-2024

Ojo con tu declaración de la Renta 2024: SMS y webs falsas podrían saquearte

La campaña de la Renta 2024 se encuentra activa desde hace semanas. Hacienda llama, como cada año, a millones de contribuyentes para presentar su declaración. Desde hace años, este trámite se puede realizar cómodamente en los canales online habilitados por la Administración. Además de Renta Web, cabe la posibilidad de hacer la operación o simulación

grabar-un-despido-en-TikTok

La (peligrosa) tendencia de grabar un despido en TikTok

TikTok es una red social en la que cabe absolutamente de todo. Y cuando decimos todo, es todo. Una de las últimas tendencias en auge es grabar un despido en TikTok. Si uno hace una búsqueda de contenido desde hashtags como #layoffs y #techleyoffs, encontrará un gran número de vídeos de personas que son echadas