De máquinas y traducciones

 

El 23 de marzo de 2023, el Future of Life Institute publicó una carta abierta en la que solicitaba una moratoria en el desarrollo de sistemas de IA como GPT-4 a la que se adhirieron figuras muy destacadas del sector tecnológico. La carta suscitó apasionadas reacciones a favor y en contra, aunque también hubo voces que, reconociendo el valor de la iniciativa como llamada de atención sobre un tema que la merece, se quedaron en una reflexión más pausada. Innerarity, por ejemplo, afirmó esto en una columna publicada en El País: «[La carta] Sugiere capacidades completamente exageradas de los sistemas y los presenta como herramientas más poderosas de lo que realmente son. De este modo, contribuye a distraer la atención de los problemas realmente existentes, sobre los que tenemos que reflexionar ahora y no en un hipotético futuro». Diéguez señalaba en JotDown que «No hay por qué aceptar que vamos a tener pronto máquinas superinteligentes que van a tomar el control de todo y, por maldad o desidia, van a acabar con nuestra especie. Ni siquiera es necesario creer que los sistemas de IA que tenemos tienen auténtica inteligencia. Sean inteligentes o no, están teniendo ya consecuencias preocupantes sobre las que conviene pensar».

Lo cierto es que la IA plantea riesgos y que no son pocos los trabajos y figuras académicas que han estudiado sus limitaciones o implicaciones éticas y socioeconómicas (por poner solo algunos ejemplos: Coeckelbergh, Crawford, Degli-Espoti,  Eubanks). También están proliferando los intentos de poner coto a esas derivadas, ya sea mediante legislación formal o con códigos de autorregulación, más o menos bienintencionados y voluntarios, de la industria: el Alignment Research Center, la Declaración de Bletchley, las Directrices éticas para una IA fiable de la CE, la Recomendación sobre la ética de la IA de la UNESCO o el proyecto de Reglamento de inteligencia artificial de la UE son algunos de ellos. Todas las reflexiones coinciden en señalar los mismos problemas, que tienen tanto que ver con las propias deficiencias de la IA, como con las falsas expectativas generadas y sus usos para fines contrarios al bienestar de la ciudadanía.

Presuponemos que la IA es imparcial. Fuente: Freepik

Una de las cuestiones clave, que ya habían señalado Marcus y otros especialistas en IA, es que el aprendizaje profundo requiere cantidades colosales de datos (y consume cantidades colosales de recursos para su tratamiento), lo que se traduce en el deseo de adquirirlos a toda costa, a veces por medios que vulneran el derecho a la intimidad, los reglamentos sobre protección de datos o la propiedad intelectual. También supone incorporar información sin filtros, sin que importen su veracidad, su calidad o sus sesgos, algo que, sumado a nuestra tendencia a pensar que la tecnología es neutra y las máquinas son objetivas e imparciales, puede tener consecuencias nefastas: usar sistemas de IA basados en el aprendizaje profundo sin ser conscientes de sus deficiencias contribuye a perpetuar discriminaciones y exacerbar el problema de la desinformación. Como apunta Fernández Panadero en El viaje del conocimiento, «¿Qué ocurre cuando me dan una respuesta elaborada y sin fuentes? Todo es mucho más sencillo, pero ya no tengo control. Volvemos al estadio infantil de «Papá dice que» o de preguntar a un oráculo. Precisamente queríamos los métodos de la ciencia para emanciparnos de esas servidumbres». Esta falta de control entronca con otra de las limitaciones del aprendizaje profundo: su funcionamiento como caja negra, su falta de explicabilidad y predicibilidad.

Las inquietudes en el plano de la desinformación no se derivan exclusivamente de la naturaleza de la IA y del aprendizaje profundo, sino también de sus usos espurios: gracias a la IA generativa ahora resulta muy fácil generar deepfakes, desde imágenes pornográficas falsas a bulos y noticias manipuladas que erosionan la democracia y la confianza de la ciudadanía en las instituciones. Todo ello conlleva, además, una serie de interrogantes jurídicos: ¿Es lícito prohibir una tecnología amparada por la libertad de expresión y creación únicamente por su potencial uso delictivo? ¿Y si esa tecnología es producto del incumplimiento de las leyes de propiedad intelectual, las mismas que algunas empresas invocan para no desvelar la programación de sus algoritmos? ¿Quién asume la responsabilidad de las decisiones tomadas por una inteligencia artificial?

La IA puede tener profundas implicaciones en el mercado de trabajo y en el plano de los derechos laborales. La retórica imperante en el mundo empresarial es que el big data no va a remplazar a nadie, que la IA no es más que una herramienta útil para ahorrarnos las tareas repetitivas y dedicar el tiempo a actividades más creativas con auténtico valor añadido y, si acaso desaparece alguna profesión, surgirán otras nuevas mucho más especializadas y mejor remuneradas. Sin embargo, asistimos a la destrucción de puestos de trabajo en sectores como el periodismo (¿Hay algún oficio que requiere más autonomía y espíritu crítico? ¿No es el periodismo ese cuarto poder tan necesario para la democracia?), mientras, en paralelo, las grandes tecnológicas recurren a mano de obra de países del Sur Global para tareas tan tediosas —y, en ciertos casos, nocivas para la salud mental— como el etiquetado de imágenes para entrenar inteligencias artificiales. La amenaza de la reconversión que en anteriores revoluciones industriales se había centrado en los trabajos manuales ahora se cierne sobre profesiones intelectuales de los sectores más diversos: el cine, la educación, el derecho, el arte o la traducción.

Vehículo autónomo para usos industriales. Fuente

Voy a permitirme tomar como ejemplo el sector de la traducción, que es el mío desde hace casi dos décadas, para plantear una hipótesis: quizás esta degradación de condiciones laborales no se debe a la habilidad de la IA para sustituir a los profesionales, sino al resultado de combinar las falsas expectativas sobre sus capacidades con los intereses empresariales que las usan como pretexto para aumentar sus beneficios. La IA, efectivamente, nos ha proporcionado algunas herramientas valiosas que nos sirven de ayuda, como el reconocimiento de voz que nos permite dictar traducciones, pero los sistemas de traducción automática distan mucho de ofrecer resultados profesionales, por lo que sigue siendo imprescindible la presencia humana para revisar y corregir el texto final.  Según un informe de la OCDE publicado en 2023, esa transformación de las traductoras en revisoras de un texto que se supone aceptable, pero apenas alcanza un nivel mínimo —y, en ocasiones, es totalmente inútil, como sucede en la traducción literaria, la audiovisual o la especializada—, ha conllevado un notable empeoramiento de las condiciones económicas y laborales que está llevando a algunas profesionales a abandonar el sector. No se trata de mejorar la calidad de nada, sino de reducir costes.

Por último, cabe mencionar, aunque solo sea brevemente, la influencia de las herramientas tecnológicas y de la IA en nuestra forma de trabajar o, incluso, de pensar. Por ejemplo, el hecho de que la información preliminar que ofrece la IA para facilitar los procesos de toma de decisiones condiciona, para bien y para mal, la decisión final que toma el profesional, como explica Helena Matute en esta charla de Naukas. O su repercusión en el aprendizaje: dominar el oficio de la traducción es indispensable para revisar un texto traducido, pero, si delegamos en la IA la tarea de traducir, ¿cómo adquiriremos la pericia necesaria para corregir los resultados? ¿Cómo distinguiremos un buen texto si nos alimentamos únicamente de las frases estándar que el motor estadístico de traducción selecciona por ser las más habituales? Como se plantea Fernández Panadero en esta charla, ¿podemos llegar a la excelencia si no dejamos sitio para la mediocridad? 

No hay duda de que la IA puede aportarnos múltiples beneficios y hacer avanzar el conocimiento en todos los campos, pero no deberíamos renunciar a regularla y adecuarla a nuestras necesidades, porque, como afirma Edwards, «el uso de la tecnología ha de ser una decisión deliberada, no un proceso incuestionable». A veces puede parecer lo contrario por la velocidad de los cambios, pero la tecnología es una herramienta al servicio de la sociedad, no al revés.

Las limitaciones del aprendizaje profundo

 

Una de las técnicas que más alegrías ha dado a la inteligencia artificial en los últimos tiempos es el aprendizaje profundo basado en redes neuronales artificiales que imitan el funcionamiento del cerebro humano. Estas redes están formadas por múltiples capas que procesan información y detectan patrones, corrigiéndose y «aprendiendo» sin supervisión.

Diagrama de red neuronal. Flavio Suárez-Muñoz, CC BY-SA 4.0. Fuente

En 2018, Gary Marcus publicó el artículo Deep Learning: A Critical Appraisal en el que repasaba varias limitaciones de este aprendizaje profundo. No fue el único en exponer estas críticas; otras voces se sumaron al aviso sobre la burbuja que se estaba generando en torno al aprendizaje profundo y predijeron incluso un nuevo invierno de la IA. Y, sin embargo, en noviembre de 2022, asistimos al nacimiento de ChatGPT, con la revolución mediática y social que supuso. ¿Se equivocaban quienes apuntaron esas posibles deficiencias? Tal vez no.

Una de las limitaciones que señaló Marcus fue la ingente cantidad de datos que necesita el aprendizaje profundo para dar resultados y, en paralelo, la capacidad computacional que requiere. A lo que podríamos añadir también su consumo energético y su huella de carbono. De hecho, las bases teóricas para el aprendizaje profundo no son nuevas y, si su despegue se ha producido ahora, es por la disponibilidad masiva de datos —parte de ellos sujetos a derechos de autor— y la mejora de la capacidad computacional que han permitido generar y procesar modelos de lenguaje de un tamaño colosal, que gestionan billones o incluso trillones de parámetros y corpus que se miden en petabytes.

Fuente

Marcus también apuntaba la falta de transparencia del aprendizaje profundo, que funciona como una especie de caja negra, lo que impide interpretar sus procesos y saber cómo llega a los resultados, lo que genera desconfianza y le resta credibilidad. Tanto es así que ha surgido una nueva disciplina centrada en este ámbito: la inteligencia artificial explicable.

En noviembre de 2023, el AIHUB, el ICMAT y el CNB organizaron unas jornadas sobre el futuro de la IA. La veintena de investigadoras e investigadores que se reunieron abordaron otras cuestiones recogidas en el artículo de Marcus, como la incapacidad de las aplicaciones de aprendizaje profundo de distinguir entre correlación y causalidad, de hacer inferencias y abstracciones o de integrar el conocimiento previo. Según Julio Gonzalo, emulan nuestro pensamiento intuitivo, no nuestro pensamiento racional, lo que los convierte en «cuñados estocásticos» que «hablan de oídas» o, directamente, se inventan datos (es lo que se conoce como «alucinaciones»). A pesar de los espectaculares resultados del aprendizaje profundo, parece que sigue teniendo sus sombras.

¿Humano o máquina?

 

 

Selecciona todos los cuadros que contengan semáforos. Escribe el texto de la imagen. Demuestra que no eres un robot. ¿Cuántos captchas hemos resuelto en estos años? Tantos que hemos interiorizado y lexicalizado esas siglas que corresponden a Completely Automated Public Turing test to tell Computers and Humans Apart. El test de Turing, la prueba del ocho para diferenciar entre humanos y máquinas.

Alan Turing presentó esta herramienta de evaluación en el artículo Computing Machinery and Intelligence (1950) como un juego de imitación, una forma de determinar si las máquinas podían pensar, entendiendo «pensar» como «imitar las respuestas humanas». La dinámica es sencilla: un humano y una máquina, situados en salas separadas, responden a las preguntas de una persona que ejerce el papel de interrogador desde una tercera sala. La conversación se desarrolla por medio de un teclado y una pantalla y dura 5 minutos. El interrogador, que sabe que uno de sus interlocutores es una máquina, tiene que determinar cuál es. Si el interrogador es incapaz de distinguir, la máquina pasa la prueba.

A pesar de su trascendencia en la filosofía de la inteligencia artificial y de su impacto mediático, el test de Turing también ha cosechado críticas como la inexistencia de una definición objetiva de inteligencia, el hecho de que se refiera a una inteligencia simulada y no real, la posibilidad de que los seres humanos no se comporten de forma inteligente o cometan errores de juicio, la falacia antropomórfica o, incluso, su irrelevancia. Como afirma Santini en este artículo de 2012, podría ser que el test de Turing plantee dos posibilidades para crear máquinas inteligentes: que los programas sean cada vez más sofisticados o que las personas lo sean cada vez menos. De hecho, esa es una pregunta que nos hemos hecho muchas veces en el gremio de la traducción, que parece condenado a desaparecer por los avances de la IA: ¿realmente las redes neuronales son capaces ofrecer traducciones con el mismo nivel de calidad que un profesional humano o es que el uso intensivo de sistemas automáticos ha reducido las expectativas de calidad?

Sea como fuere, la irrupción de los sistemas de IA generativa y de bots como ChatGPT que dejan obsoleto el test de Turing imponen la necesidad de encontrar sistemas para detectar deepfakes y paliar los problemas éticos que plantean.

Las estaciones de la inteligencia artificial

 

Un telar mecánico: seguramente eso debería ser la inteligencia artificial para una traductora. Sin embargo, me parece más acertado decir que es un imaginario, una construcción simbólica, como argumentan Sánchez y Torrijos en La primavera de la inteligencia artificial. Un relato cuya historia ha vivido varios inviernos y ahora parece encontrarse en un verano de récord gracias a productos estrella supuestamente infalibles impulsados, en muchos casos, por empresas privadas.

Es en ese carácter privado en el que podría radicar la principal diferencia entre la IA y el resto de las ciencias: la ciencia, para serlo, debe estar sujeta al examen de toda la comunidad científica; en cambio, las aplicaciones de IA tienen mucho de caja negra. La investigación médica, la ingeniería nuclear o la civil, todas deben cumplir unas normas, pero hasta ahora no existe ninguna regulación que limite la investigación de las tecnológicas, que han admitido, por ejemplo, que, sin usar materiales sujetos a derechos de autor, no habrían podido desarrollar herramientas como ChatGPT.

Comprar acríticamente ese relato de infalibilidad e inevitabilidad de la IA, alimentado por intereses privados, nos impide entender qué puede hacer realmente la IA, para qué queremos usarla, sus implicaciones éticas, ecológicas y socioeconómicas o sus riesgos.

Pensamiento y lenguaje

 

Pensamiento y lenguaje

 

Decimos que el ser humano es el único animal racional porque es el único que tiene la capacidad de pensar, evaluar, analizar o tomar decisiones. También es el único que tiene un lenguaje simbólico como herramienta de comunicación. ¿Están unidos ambos rasgos? ¿Es posible el pensamiento sin lenguaje? Sin lenguaje, puede haber percepción, instinto o reacción, pero no reflexión. Podríamos experimentar la realidad, pero no pensar sobre ella, porque para eso debe haber un desplazamiento con respecto al aquí y el ahora, hemos de contar con una representación simbólica de la realidad que nos permita distanciarnos del lugar y del momento presente.

Sin lenguaje, puedo tocar el asa metálica de una cazuela que está al fuego y percibir el calor o reaccionar retirando la mano porque quema, pero no puedo pensar en que debería haber cogido un paño o en comprar una cazuela nueva con las asas revestidas para evitar futuros accidentes. No podría hacer planes ni compartirlos con otras personas.  Podríamos preguntarnos qué pasa entonces con los animales que carecen de lenguaje simbólico; cómo se organizan las leonas para cazar en grupo. Los animales —y las plantas— tienen sus propios sistemas de comunicación, sistemas variados que van desde señales químicas a sonidos o gestos. Estas estrategias comunicativas les permiten interactuar con la realidad, reaccionar, cazar o adaptar su comportamiento a la situación, pero no pensar sobre ella, evaluarla o planificarla. Y no son estrategias mejores ni peores que el lenguaje, son simplemente las más adaptadas a sus necesidades, fruto de su evolución específica.

La evolución del ser humano ha privilegiado el lenguaje como una ventaja evolutiva que nos ha permitido, por ejemplo, diseñar con antelación planes para cazar animales más grandes y organizar grupos para acometer la tarea. O establecer estamentos jerárquicos dentro de una sociedad y mecanismos de división del trabajo. O transmitir conocimientos de una generación a otra y ampliar el conocimiento de la generación anterior sin necesidad de experimentar lo vivido. Es decir, el lenguaje simbólico nos ha dado el pensamiento. Y la relación entre ambos es tan estrecha que incluso nos planteamos si las distintas lenguas que hablamos los seres humanos condicionan nuestra forma de ver la realidad.

Un círculo virtuoso

 

En la evolución del ser humano, lo biológico va de la mano de lo cultural. Hitos como la fabricación de herramientas, el dominio del fuego o el uso del lenguaje no habrían sido posibles sin la presencia de ciertos rasgos biológicos, pero tampoco sin algún tipo de demanda cultural que propiciara su aparición. Al mismo tiempo, la existencia de una cultura y una organización social potencian la selección de aquellas mutaciones biológicas que constituyen una ventaja en ese marco concreto, creando un círculo evolutivo virtuoso al que podríamos añadir un tercer factor: el entorno y la consiguiente necesidad de adaptación.

Si el Homo habilis pudo empezar a construir herramientas, fue porque la acumulación de sucesivas mutaciones genéticas le habían liberado de la obligación de apoyar las manos en el suelo para andar, lo habían dotado de unas manos con una anatomía idónea para manipular objetos y de un cerebro más grande con una mayor capacidad. Sin embargo, esa habilidad no es más que uno de los engranajes de la compleja maquinaria de la evolución, en la que los factores culturales y biológicos están interrelacionados. La posibilidad de crear útiles y herramientas está vinculada con la existencia de una estructura social en la que puedan transmitirse las técnicas necesarias para su construcción y, en ese marco cultural, la existencia de un lenguaje que facilite la comunicación de conocimientos constituye una clara ventaja evolutiva… que no se habría producido sin una anatomía adecuada del apartado fonador y de las áreas del cerebro asociadas al lenguaje.

Imagen ideal de la Edad de Piedra del pintor austriaco Hugo Darnaut (ca. 1885). Fuente

Estos cambios culturales y biológicos se retroalimentan: si contamos con herramientas y fuego, podemos cambiar la alimentación; con una alimentación más rica, variada y calórica, el sistema digestivo requiere menos energía, que se puede destinar al desarrollo del cerebro; un cerebro más sofisticado permite desarrollar más habilidades y, también, una cultura en la que determinadas habilidades serán una ventaja.

Nuestros antepasados lograron defenderse de animales mucho mayores que ellos y cazarlos porque se organizaron en grupos sociales, empezaron a cultivar o domesticar especies gracias a los conocimientos acumulados y transmitidos mediante un lenguaje, se adaptaron a los cambios del entorno emigrando a zonas más propicias, llegaron a crear culturas complejas, jerarquías o expresiones artísticas. Y todos esos pasos fueron de la mano de cambios físicos, en la estructural corporal, en el cerebro. Los unos no se entienden sin los otros.

La clave criptográfica universal

 

Tres pulsos cortos, tres largos, tres cortos. En alguna sala de radio, alguien recibe este mensaje y llama inmediatamente al servicio de emergencias porque ha llegado un SOS, la señal de socorro internacional en código morse. Ese ingenioso sistema asociado a las comunicaciones telegráficas y de radio usa una combinación de sonidos cortos y largos —o puntos y rayas— para codificar las letras del alfabeto: un punto y una raya es siempre una A, una raya y un punto equivale a una N.

Mucho antes de que el ser humano inventara este y otros lenguajes, en el mundo natural ya funcionaba otro: el código genético, esa clave que establece la correspondencia entre los codones del ARN y los aminoácidos de las proteínas.

Pero empecemos por el principio, por el ADN, ese manual de instrucciones que contiene la información genética de los seres vivos y que está escrito en un alfabeto universal de solo cuatro letras: las cuatro bases nitrogenadas o nucleótidos que componen el ADN, la adenina (A), la citosina (C), la guanina (G) y la timina (T). Estos cuatro nucleótidos se unen siempre en tripletes o codones, lo que da lugar a 64 combinaciones posibles. En el proceso de reproducción celular, los codones de ADN se transcriben a ARN, que utiliza un alfabeto ligeramente distinto, aunque igual de reducido, el de sus cuatro bases nitrogenadas: adenina (A), la citosina (C), la guanina (G) y uracilo (U).

El último paso para llegar desde el lenguaje del ADN al lenguaje de los aminoácidos es la traducción, que se basa en un diccionario específico, una clave para descifrar la equivalencia entre tripletes y aminoácidos: el código genético. El triplete CCU es siempre la señala que codifica la prolina, AGA indica que hay que fabricar arginina.

El código genético. Fuente

Este código morse biológico es común a todas las formas de vida, salvo unas pocas excepciones. Todas usan los mismos puntos y rayas —los tripletes— para codificar un alfabeto —el de los veinte aminoácidos con los que se construyen las proteínas—. Lo que diferencia a las especies de seres vivos es la secuencia, el orden en el que aparecen y se leen esos aminoácidos, que origina multitud de combinaciones y proteínas distintas. Del mismo modo que el alfabeto latino de solo 26 letras nos permite escribir un contrato o un poema, ese código genético universal es la llave de la biodiversidad, desde los musgos a las lechuzas. Y su universalidad demuestra que todas las especies proceden de un mismo origen, de LUCA, ese ancestro común que ha dado lugar a todos los seres vivo a través de los mecanismos de la evolución.

Representación de 2016 del árbol de la vida utilizando secuencias de proteínas ribosómicas. Fuente