México | Las Deepfakes Y La Crisis De La Verdad En Internet

por Yesica Flores

Una herramienta efectiva contra las deepfakes es dirigir la transformación digital de las empresas en torno a principios como equidad, responsabilidad, transparencia y bien social.

 Internet vive una crisis de la verdad. Al fenómeno de las fake news esparcidas en las redes sociales y sitios web sospechosos desde hace un par de años, se le han sumado las llamadas deepfakes (mentiras profundas), es decir, noticias falsas en formato audiovisual basadas en Inteligencia Artificial (IA), que muestran en cámara a algún personaje público diciendo algo que en realidad nunca dijo.

Cada vez de mayor calidad, estas producciones están jugando con la vulnerabilidad de las personas a ser manipuladas. Los usuarios confiaban en las cosas que veían y/o escuchaban directamente de funcionarios, artistas, empresarios u otros líderes de opinión. Esto ha llevado a que seamos más escépticos sobre la mentira, pero también sobre lo que es verdad.

“Para entender el surgimiento de las deepfakes podemos observar dos fuerzas del momento actual: por un lado, las herramientas de video de calidad están al alcance de todos, mientras que como usuarios nos hemos enganchado a narrativas cortas e inmediatas. Esto permite que sea más fácil esparcir este tipo de contenidos, que se pueden desarrollar con tan solo un fragmento de video o un par de segundos de audio”, asegura Bill Bronske, Senior Solution Architect  del Studio de Inteligencia Artificial de Globant.

Desde el punto de vista tecnológico, las deepfakes se crean con Redes Generativas Antagónicas (GANs, por sus siglas en inglés). Se trata de un algoritmo basado en IA de aprendizaje automático que “enfrenta” dos redes neuronales entre sí para manipular información de distintas bases de datos. Así se genera el contenido falso en audio y/o video. A decir de Bronske, este fenómeno será cada vez más difícil de detectar y con el tiempo, se requerirán procesos, así como herramientas específicas para descubrirlos.

De acuerdo con el experto, en este momento una de las mejores protecciones para las organizaciones contra las deepfakes es dirigir sus esfuerzos de transformación digital en torno a los principios de equidad, responsabilidad, transparencia y bien social. La clave está en implementar un cambio cultural desde adentro hacia afuera, centrado en el talento humano. Partir del integrante junior hasta llegar a los más altos cargos ejecutivos, permitiendo a las personas desempeñarse en su nivel más óptimo.

“Existe una lógica en el mundo: sin verdad no hay confianza y sin confianza, no hay ventas. En cuanto a las organizaciones, hemos comprobado que impulsar una transformación profunda preserva la confianza, lo cual representa una herramienta muy poderosa para contrarrestar los efectos de las deepfakes en el mundo digital y la crisis de la verdad en Internet”, concluye Bill Bronske de Goblant, la compañía nativa digital donde ingeniería, diseño e innovación se encuentran para llegar a gran escala.