La popularidad de los deepfakes ha aumentado considerablemente en los últimos años, y con ellos ha surgido la preocupación sobre su uso indebido. Los deepfakes son videos manipulados mediante algoritmos de inteligencia artificial que permiten colocar la cara de una persona en el cuerpo de otra, o incluso hacer que alguien diga algo que nunca dijo. Aunque en su origen se utilizaron para la creación de contenido cinematográfico y videojuegos, su fácil acceso ha llevado a que se utilicen con fines maliciosos como la difamación, la suplantación de identidad o la propaganda.
Midjourney es una plataforma de inteligencia artificial que ofrece servicios de generación de deepfakes de alta calidad para sus usuarios, lo que ha llevado a que se especule que la empresa ha cancelado su prueba gratuita debido al uso inadecuado de estos videos manipulados. Sin embargo, el CEO de la compañía, Carlos Castañeda, ha afirmado que la cancelación de la prueba gratuita se debe a la gran cantidad de nuevos usuarios que han llegado a la plataforma, y no por el abuso de los deepfakes.
Según Castañeda, Midjourney ha experimentado un aumento significativo en la cantidad de usuarios que utilizan su plataforma para crear contenido audiovisual, tanto de deepfakes como de otro tipo, lo que ha llevado a que se hayan visto obligados a modificar su modelo de negocio para poder seguir ofreciendo un servicio de calidad. La eliminación de la prueba gratuita se enmarca dentro de una estrategia de monetización de la plataforma, que ahora solo estará disponible mediante suscripción.
A pesar de las afirmaciones del CEO, hay quienes temen que la popularidad de los deepfakes pueda llevar a un aumento en su uso inadecuado. De hecho, algunos expertos han alertado de los riesgos que implican los deepfakes en la democracia, ya que su uso podría socavar la confianza en la información verídica y, en última instancia, desestabilizar los procesos electorales.
Para abordar estos riesgos, algunas organizaciones y empresas han comenzado a trabajar en herramientas que permitan detectar los deepfakes de manera eficaz, pero todavía queda un largo camino por recorrer en la lucha contra el uso malicioso de estos videos manipulados. Por tanto, la cancelación de la prueba gratuita de Midjourney podría ser un primer paso hacia una regulación más estricta en el uso de los deepfakes, aunque todavía queda por ver qué medidas se adoptarán en el futuro.
Es nuestra arma para acabar con la impunidad de los más poderosos. Te necesitamos a ti también para seguir haciendo un periodismo libre de presiones políticas y económicas Hay mucho trabajo detrás de una noticia. Contrastar fuentes, redactar, analizar, recabar información… Pero todo esto implica unos costes muy altos, porque aunque parezca una obviedad, hacer buen periodismo, en estos momentos, es complicado.