La IA basura invade Internet

Imagen: CNA Today

 

Las redes sociales le dan derecho de hablar a legiones de idiotas… Es la invasión de los imbéciles. 

Umberto Eco

 

La credibilidad de Internet siempre ha sido cuestionada, debido a que es un lugar en el que cualquier persona puede decir, compartir, crear, editar y cuestionar. Pero es a partir de 2010 que la confianza en sus contenidos comenzó a disminuir marcadamente, con el auge de las redes sociales y conforme la web se volvió claramente comercial. Si bien es cierto que todavía se pueden encontrar fuentes valiosas y confiables, también lo es que cada vez está más saturada de información falsa y tendenciosa, mucha (¡muchísima!) proviene de contenidos creados con inteligencia artificial generativa.

A pesar de las aplicaciones positivas que puede tener la inteligencia artificial (IA), ahora nos estamos enfrentando a través de sitios como YouTube, Facebook, Instagram o TikTok a oleadas sin fin de contenidos alucinados, falsos, tendenciosos o sin sentido. Pareciera ser que la consigna es “mientras más surrealista, mejor”. A esta tendencia se le llama AI slop, o “bazofia de IA”, es decir, contenido basura creado en masa por herramientas de IA generativa, el cual tiene muy poca interferencia humana y, por ende, de filtros que verifiquen su calidad y su aporte significativo. Es "la invasión de los imbéciles" a la que se refería Umberto Eco, pero recrudecida.

Las redes sociales están llenas de ingentes cantidades de imágenes y videos creadas con herramientas de IA que pueden rendir cientos de versiones por hora. La información de base (los prompts) sale de la misma web sin el menor filtro ni verificación de autenticidad, canibalizándose entre sitios para hacer su propio material. Es una marea de mediocridad generativa que solo busca producir ingresos (muchos, en el menor tiempo posible), que ahoga a los auténticos creadores, los que sí usan su propia inteligencia natural y tardan días en crear una obra original.

Se han detectado canales de YouTube que suben videos donde se narran sucesos históricos están siendo completamente generados por IA, y en los cuales no solamente las imágenes están hechas con estas herramientas, sino que son históricamente erróneas y las narraciones también suelen contar con hechos incorrectos e inventados. Además de dañar significativamente las reproducciones y popularidad de videos investigados, grabados y editados por personas reales, ya sea especialistas o aficionados, esto también está contribuyendo a la desinformación masiva de una materia que nos define como humanidad.

La IA basura se manifiesta con más claridad en redes sociales, pero también ha permeado en otros medios. Ya hay libros que están siendo publicados en librerías digitales que están hechos por inteligencia artificial generativa en su totalidad, e incluso utilizando estas tecnologías para hacer versiones más cortas o sintetizadas de contenido ya existente. Igualmente, muchos de ellos son publicados con nombres muy parecidos a los autores reales, con el fin de engañar y vender más.

La IA basura está creando un universo demencial en el que los mismos bots tienen una participación mayor que la de los propios humanos, los cuales, incluso, pueden ya no ser necesarios para crear contenidos. La IA se crea a sí misma. Es como si la criatura del Dr. Frankenstein se pusiera a hacer otros como él. ¿Qué clase de información va a salir de semejante espiral?

Para los gigantes de las TI, contenido es contenido; entre más barato sea y menos labor humana involucre, mejor. El resultado es un Internet de robots, buscando aquellos sentimientos y pasiones que mantengan a los usuarios humanos frente a sus pantallas.

– Nesrine Malik, The Guardian.

Si la desinformación era ya un fuerte problema de Internet, la IA lo está llevando a su paroxismo. Ahora, ver un video o una imagen va de la mano con el cuestionamiento de su origen, y donde cada vez es más difícil distinguir entre la realidad y la ficción, para todas las generaciones, pero especialmente en adultos mayores y en los más pequeños, que todavía no tienen el conocimiento ni pensamiento crítico para evaluar lo que ven; además de que puede ser especialmente peligroso en niños y niñas, debido a que el contenido vacío y sin sentido que genera la IA sin supervisión además de no aportarles valor, puede incluir contenido inapropiado, violento o sexual.

En la Era de la Desinformación, ahora más que nunca será primordial que las instituciones educativas prioricen el pensamiento crítico y la alfabetización mediática, con el objetivo de que las nuevas generaciones puedan navegar en un universo digital onírico, donde la realidad y la ficción se fusionan cada vez más.

 

Fuente: Jiménez, M.S. (2025, noviembre). ¿Harto de la bazofia de IA en redes? Yo también. Edu News. https://observatorio.tec.mx/edu-news/