MrBeast se convirtió en el YouTuber más grande del mundo en parte debido a sus elaborados dones.
Una vez repartió miles de pavos para el Día de Acción de Gracias y le dio a un camarero una propina de 10.000 dólares por dos vasos de agua. Entonces, cuando apareció un video que lo mostraba ofreciendo sus iPhones recién lanzados a miles de personas por el bajo precio de $2, parecía uno de sus errores típicos.
Un problema: en realidad no era él. Ese vídeo fue obra de alguien que utilizó inteligencia artificial sin su permiso.
«¿Están preparadas las plataformas de redes sociales para afrontar el auge de los deepfakes de IA?» escribió MrBeast, su verdadero nombre es Jimmy Donaldson, En un mensaje de X, primero de Twitter. «Este es un problema grave.»
Bienvenido al mundo de la publicidad engañosa, donde los productos pueden ser genuinos, pero sus recomendaciones son todo lo contrario. Los videos que muestran a celebridades conectando elementos desde planes dentales con cocina son simplemente fabricaciones generadas por inteligencia artificial que utilizan la tecnología para cambiar sus voces, apariencias y acciones.
Por supuesto, los respaldos falsos de celebridades han existido desde que las propias celebridades. Lo que ha cambiado es la calidad de las herramientas utilizadas para crearlos. Entonces, en lugar de que una celebridad respalde un producto, pueden hacer un video que lo demuestre, estafando a los consumidores desprevenidos.
Con sólo unos pocos clics y un poco de conocimiento, un estafador experto puede crear audio, vídeo e imágenes fijas que son cada vez más difíciles de identificar como un engaño, aunque todavía está en su infancia en lo que respecta a publicidad.
«Aún no es enorme, pero creo que todavía hay mucho potencial para que sea mucho más grande gracias a la tecnología, que es cada vez mejor», afirmó Colin Campbell, profesor asociado de marketing de la Universidad. San Diego publicó una investigación sobre anuncios generados por IA.
Tom Hanks y Gayle King entre las celebridades objeto de estafas de IA
No faltan los usos maliciosos de la tecnología de inteligencia artificial.
Una llamada automática generada artificialmente utilizó la voz del presidente Joe Biden para instar a los votantes de New Hampshire a participar en las elecciones primarias de ese estado. Y el mes pasado circularon en línea imágenes sexualmente explícitas de la estrella del pop Taylor Swift, lo que provocó mayores pedidos de regulación.
El viernes, varias empresas tecnológicas importantes firmaron un pacto para impedir el uso de herramientas de inteligencia artificial para perturbar las elecciones.
Más: Los gigantes tecnológicos prometen tomar medidas enérgicas contra los deepfakes de IA para las elecciones de 2024. ¿Cumplirán su promesa?
Pero la tecnología también se está utilizando para llegar directamente a los bolsillos de las personas con el respaldo de productos manufacturados.
«Esto impone a las personas, que luego son bombardeadas con información… la carga de proteger sus cabezas financieras por encima de todo», dijo Britt Paris, profesora asistente en la Universidad de Rutgers que estudia el contenido generado por IA. «Las personas que hacen que estas tecnologías estén disponibles, las personas que realmente se benefician de las tecnologías falsas… realmente no les importa la gente común. Sólo les importa escalar y obtener ganancias lo antes posible».
El actor Tom Hanks y la locutora Gayle King se encuentran entre los que dicen que sus voces e imágenes fueron alteradas sin permiso y vinculadas a obsequios, promociones y patrocinios no autorizados.
«Estamos en una nueva encrucijada, un nuevo nexo para ver qué tipo de cosas son posibles en términos de utilizar la imagen de alguien», dijo Paris.
USA TODAY ha desacreditado afirmaciones de patrocinio similares, incluidas afirmaciones de que Kelly Clarkson respaldaba las gomitas cetogénicas para bajar de peso y que un multimillonario indio promovía un programa comercial. El vídeo de Clarkson ha sido visto más de 48.000 veces.
Sin embargo, se siguen creando, en parte porque son muy fáciles de crear.
Una búsqueda en la biblioteca de anuncios de USA TODAY Meta reveló varios videos que parecían ser inventos generados por IA. Afirman que ElonMusk está regalando lingotes de oro y Jennifer Aniston y Jennifer Lopez están regalando kits de botox líquido.
«Cada vez que alguien no puede pagarle a un actor o celebridad para que aparezca en comerciales, probablemente lo hará, ¿verdad?» Dijo París. «Estas pequeñas empresas fraudulentas… ciertamente utilizarán todas las herramientas que estén a su disposición para sacarle todo el dinero que puedan a la gente».
«El software es bastante fácil de usar»
Los creadores de estas confesiones falsas suelen seguir un proceso sencillo, afirman los expertos.
Comienzan con un programa de conversión de texto a voz que genera audio a partir de un guión escrito. Otros programas pueden utilizar una pequeña muestra del audio real de una celebridad en particular para recrear la voz, a veces con sólo unos minutos del audio real, dijo Siwei Lyu, experto forense de medios digitales de la Universidad de Buffalo.
Otros programas crean movimientos de labios para hacer coincidir las palabras habladas en la pista de audio. Ese vídeo está superpuesto a la boca de la persona, dijo Liu.
«Todo el software es bastante fácil de usar», afirmó Liu.
Estos vídeos también son fáciles de producir en masa y adaptarse a audiencias específicas, lo que crea otro problema: los vídeos que no se distribuyen ampliamente pueden ser más difíciles de encontrar y más difíciles para la policía. Por ejemplo, había 63 versiones del supuesto anuncio de López y Aniston en la biblioteca de anuncios Meta. Muchos solo estuvieron activos durante uno o dos días, acumulando cientos de visitas antes de ser eliminados y reemplazados por otros nuevos.
«En la mayoría de los casos, no van a todas partes», dijo Campbell. “Así que puedes dirigirte a ciertos grupos de consumidores y sólo esas personas lo verán. Por eso es más difícil detectarlos, especialmente aquellos dirigidos a personas con menor educación o personas que son menos conscientes de lo que realmente está sucediendo».
Por el momento, todavía es posible comprobar a simple vista que estos vídeos generados por IA no son reales. La regeneración artificial de dientes y lenguas es difícil, afirmó Liu. A veces es un video falso. también perfecto y excluye pausas, respiraciones u otros errores del habla humana.
Pero la tecnología ha llegado tan lejos en tan poco tiempo que un vídeo fabricado puede ser indistinguible de uno real «en un par de años», dijo Campbell.
«Las herramientas de vídeo no son tan buenas como las basadas en imágenes», afirmó. “Pero el vídeo es básicamente sólo una serie de imágenes, ¿verdad? Así que se trata simplemente de obtener más capacidad de procesamiento y experiencia».
Piense críticamente y utilice herramientas de detección de IA en línea
Los usuarios de las redes sociales tienen algunas tácticas a su disposición para protegerse. Algunos fueron identificados por el Better Business Bureau en una advertencia de abril de 2023.
Principal: pensar críticamente.
«Tom Hanks, parecería extraño vender seguros dentales», dijo Paris. «Si no pasa la prueba del olfato, según lo que sabes sobre esa celebridad en particular, probablemente no valga la pena trabajar demasiado en ello, y ciertamente no compartirlo. Al menos, hasta que no lo creas y hagas un poco de trabajo preliminar, antecedentes investigación.»
Las empresas normalmente no limitan sus anuncios legítimos a una única plataforma de redes sociales. Un vídeo real publicado en Facebook, por ejemplo, también aparecería en Instagram, TikTok y YouTube.
También hay varios detectores en línea con distintos grados de precisión para determinar si una imagen es real o generada por IA.
Los usuarios de redes sociales que no están familiarizados con estas herramientas y consejos todavía tienen algo de tiempo, aunque tal vez no mucho, para actualizarse.
«Diré que la publicidad engañosa es una amenaza», afirmó Liu. «Pero todavía no es un riesgo para todos».
Gracias por apoyar nuestro periodismo. Puede suscribirse a nuestra edición impresa, aplicación sin publicidad o boletín electrónico aquí.
USA TODAY es signatario certificado de la Red Internacional de Verificación de Hechos, que requiere un compromiso comprobado con el no partidismo, la equidad y la transparencia.
