La autoría humana

 

Imagen: Gaceta UNAM

Soy seguidor de «El Robot de Platón», el canal de “ciencias y sapiencias” del divulgador peruano-neozelandés Aldo Bartra en YouTube. Me gusta por los temas que trata (en especial los de astronomía y pensamiento humano) y porque su estilo de comunicación es científicamente riguroso y también entretenido. En especial me gustan sus toques de humor filoso y el sarcasmo con el que fustiga las pseudociencias, la desinformación y los mitos científicos. Sus videos siempre son una invitación a la reflexión profunda.

En su reciente video El fin de la autoría humana pone el dedo en un aspecto polémico y coyuntural para la sociedad contemporánea: cómo se verá desde el futuro la autoría de los trabajos artísticos e intelectuales provenientes del pensamiento humano y de las máquinas, en particular de alguna inteligencia artificial (IA). Y no solo eso, su visión mira hacia lo venidero y se pregunta qué va a ser de ese conocimiento y ese arte, cómo distinguirlo y preservarlo. ¿Qué deberíamos conservar para el futuro de la humanidad? ¿Solo lo que escribimos los humanos o también lo que generan las inteligencias artificiales?

El tema me parece fascinante y es algo en lo que yo no había pensado con anterioridad. Siempre he dado por sentado que todo el conocimiento se preserva, ¿pero ahora será igual con el que no es del todo -o nada- humano? Van los siguientes apuntes sobre este video y algunas reflexiones que me surgen de lo que ahí escuché.

Es hasta muy recientemente que yo me he preguntado quién escribió lo que veo y leo en Internet, sobre todo en los artículos de opinión y en los blogs. Especialmente me ocurre cuando reviso las tareas de mis alumnos, quienes no desaprovechan la oportunidad de “meter un gol” entregando una tarea que les hizo ChatGPT. Dudar si la tarea la hizo el alumno o una IA era algo impensable hace un par de años; hoy es algo que hay que cuidar. Y lo mismo sucede con prácticamente todos los contenidos de la web, muy especialmente con los escritos (artículos, reportajes, poesía, críticas, líneas de programación, posteos en redes sociales).

 

Hoy en día esto no se puede dar por hecho. Ya hay inteligencias artificiales que escriben y lo hacen tan bien que es muy difícil saber quién lo hizo.

 

La autoría humana, que antes se daba por sentada en cada creación artística o intelectual, ahora hay que comprobarla. Y eso cada vez es más difícil porque no hay herramientas totalmente confiables que detecten si un texto ha sido escrito con IA. De hecho, ya hay IAs que ayudan a detectar escritos con IA (yo uso iThenticate o Turnitin), pero su eficacia es relativa porque las herramientas generativas son cada vez mejores y ya no solo son para redactar textos, también resuelven problemas de ingeniería, con ecuaciones y diagramas. Incluso pueden integrar los errores de escritura o de cálculo que cometería el humano y al imprimir pueden imitar la letra manuscrita (aunque no la presión variable de una mano). Luchar contra eso se vuelve muy difícil, por no hablar de que la eficacia en la detección varía de herramienta a herramienta. Quienes revisamos material intelectual la tenemos complicada.

 

Estamos en un punto en que lo falso no solamente parece real, sino que se comporta igual.

A esto habría que agregar los vicios naturales de la IA: alucinaciones y sesgos que desvirtúan lo que entrega cuando no se le pregunta con cierto cuidado.   Esta incertidumbre debería hacernos cuestionar no solo la información que consumimos sino también sus fuentes. Hay que saber analizar, criticar lo que vemos y leemos en Internet; pero no parece que eso esté ocurriendo en la generalidad: la gente da por hecho que lo generado por una IA está bien y pocos son los que se toman la curiosidad de verificarlo. Ya lo comentaba yo en un posteo pasado sobre los peligros defiarse de la IA.

Ante esta situación de conocimiento “sintético” de autoría no humana formando parte del corpus del arte y el pensamiento en prácticamente todas las disciplinas, surge una importante serie de preguntas:

¿Qué conocimiento ha de preservarse para el futuro?

¿Solo el que generan los humanos de forma original (cada vez menos) o también el que crean con las IA (cada vez más)?

¿La memoria colectiva de la Humanidad también incluye a sus máquinas?

¿Tendríamos que cuidar el conocimiento generado solo por humanos?

Y si la respuesta es afirmativa (por motivos de registro del conocimiento), ¿cómo evitar que se pierda o quede sepultado bajo toneladas de publicaciones automáticas?

¿Qué debemos preservar de la memoria cultural digital de estos tiempos para las futuras generaciones?

Hay quien dice que se debe de preservar una base sólida de conocimiento 100% humano, en especial el “limpio”, es decir, el anterior a la irrupción masiva de la IA (2023). Hay otros que sostienen que lo que producen las máquinas debe de preservarse con igual atención por ser parte integral de nuestra vida digital e incluso de nuestra historia cultural (yo soy de esta opinión).

Decidir entre lo humano o lo digital no parece ser el camino. El verdadero reto consistirá en construir una memoria que incluya ambos aspectos, porque si ignoramos una de las dos partes, estaríamos dejando fuera un elemento fundamental de lo que realmente está pasando. 

Otro aspecto retador es en dónde preservar esa memoria, habida cuenta de lo efímero que es mucha de esa información, en lo rápido que cambian los formatos digitales y en lo frágiles que son; por no mencionar la cantidad tan enorme de bytes de información (> 400 Tb/día según Wikipedia). Depende totalmente de la electricidad, la información no siempre se respalda, los links se pierden, los emails se borran, las cuentas se cierran, los sitios web se dan de baja. Millones de datos se pierden todos los días sin que nadie lo note. La información digital se crea y se borra a una velocidad vertiginosa.

 

Nuestro mundo ya no está hecho solamente de cosas que podemos palpar, también está hecho de datos y de algoritmos. Y aunque todo eso no se vea, sí deja una marca. Si no empezamos a cuidar ese patrimonio hoy, podríamos perder para siempre una parte enorme de nuestra historia reciente [y de nuestra cultura].

 

¿Cómo se estudiará en un futuro esta etapa de la humanidad si no se sabe con certeza si una fuente, una muestra del conocimiento, sea texto o imagen, fue humana o artificial? ¿Importará acaso para ese entonces? (Wow, esto da para una novela de Isaac Asimov o de Cixin Liu).

Pero como dice Aldo, quizá la pregunta más importante de todo esto no es tanto quién, humano o máquina, escribió qué, sino qué significará eso para la Humanidad (así, con mayúscula) en un futuro. ¿Qué memoria estamos construyendo y dejando para las futuras generaciones? ¿Se podrá preservar lo humano dentro de lo digital? ¿El transhumanismo borrará para entonces esa duda?

 

¿Qué versión de nosotros mismos quedará registrada para quienes vengan después?