Una de las consecuencias de la aparición de las inteligencias artificiales conversacionales es que una parte importante del debate sobre ellas parece desarrollarse a la vez en dos planos distintos y a menudo incompatibles entre sí. Está por un lado el plano técnico, que habla de modelos estadísticos, redes neuronales, capacidad de proceso, entrenamiento masivo y predicción probabilística. Y luego está otro plano, filosófico y emocional, en el que las palabras utilizadas (inteligencia, creatividad, comprensión, consciencia) arrastran siglos de implicaciones humanas, culturales y metafísicas.
Quizá por eso la expresión «Inteligencia Artificial» resulta, al mismo tiempo, correcta y engañosa.
Correcta, porque estos sistemas realizan tareas que hasta hace poco se consideraban inseparables de la inteligencia humana: conversar, resumir, traducir, argumentar, improvisar analogías, producir imágenes, escribir relatos, mantener contexto o incluso generar reflexiones filosóficas razonablemente complejas. Pero también engañosa, porque el término «inteligencia» lleva asociado algo más que eficacia funcional. Sugiere interioridad, comprensión profunda, intención, consciencia.
Sugiere, en última instancia, alguien. Una persona. Un ser consciente.
Todo lo que una máquina, nos dicen, no es. Y según algunos, como Roger Penrose, no puede ser nunca… por más que la supuesta demostración que realiza Penrose de que en la naturaleza se implementan procesos no algoritmizables y, sobre todo, de que la mente humana usa tales procesos no demuestre gran cosa.
Entre otras cosas porque extrapola de forma indebida los teoremas de Gödel, como explica Solomon Feferman[1] o directamente los malinterpreta, como afirman Martin Davis[2] y David Chalmers[3]. Hofstadter y Dennett[4], por otro lado, defienden con excelentes argumentos la «algoritmidad» de la inteligencia humana, por no mencionar todos los especialistas en física cuántica que afirman que esta no funciona en el cerebro como Penrose describe[5].
Pero estoy divagando… lo cual debería demostrar que este texto ha sido escrito un humano… o quizá es algo añadido precisamente para atajar posibles sospechas al respecto.
Volvamos al problema de base, intentemos definir qué es exactamente aquello que supuestamente les falta a las máquinas y que solo nosotros, gloriosos seres humanos de carne y sangre, tenemos.
Durante mucho tiempo el argumento habitual contra la inteligencia artificial fue relativamente sencillo: una IA no piensa realmente, solo manipula símbolos o correlaciones. El ser humano, en cambio, comprende de verdad.
Suena muy bien, ¿a que sí?
En realidad no, porque en cuanto se la empieza a analizar con cierta frialdad sin caer en misticismos ni sentimentalismos, la idea no tarda en mostrar grietas, sobre todo por una cosa muy sencilla: no sabemos con precisión cómo surge la inteligencia humana. Desconocemos el mecanismo último mediante el cual una masa de neuronas produce razonamiento abstracto, creatividad, intuición o consciencia subjetiva[6].
Lo que ha tenido la consecuencia de que la crítica inicial contra la creatividad de los resultados producidos por las IA generativas haya derivado[7] hacia el hecho de que las IA actuales son derivativas, se limitan a reordenar de forma diferente fragmentos preexistentes, no crean nada de cero.
Claro que cuanto más se piensa en ello más difícil resulta sostener que la creatividad humana funcione de forma radicalmente distinta.
Sí, podría argumentarse que la creatividad humana está condicionada por factores ausentes en las IA actuales: experiencia subjetiva, emociones, deseos, memoria autobiográfica o una existencia encarnada en el mundo. Pero incluso si aceptamos que tales elementos influyen en la creatividad humana, sigue siendo necesario demostrar que constituyen condición necesaria para tal creatividad[8].
Por otro lado, el ser humano tampoco crea ex nihilo[9]: el escritor escribe desde otros escritores, el pintor parte de influencias visuales previas, la música surge de estructuras heredadas, mezcladas, deformadas y reinterpretadas. Incluso las ideas que nos parecen profundamente revolucionarias y originales son, en esencia, asociaciones inesperadas entre elementos preexistentes. La creatividad humana parece basarse menos en la aparición mágica de lo nuevo que en la capacidad de establecer conexiones no obvias entre materiales previos.
En ese sentido, la diferencia entre creatividad humana y artificial podría ser menos cualitativa de lo que intuitivamente nos gustaría creer. Y ahí es donde en las discusiones surge casi siempre la objeción inmediata de que la IA no comprende lo que hace, no siente, no experimenta, no tiene deseos ni intenciones[10].
Podría parecer una objeción válida, pero en realidad se trata de una objeción desplazada, porque ya no se está hablando de inteligencia o creatividad, sino de consciencia.
Y no, inteligencia y consciencia no son equivalentes ni tienen por qué ir de la mano la una de la otra. La primera puede definirse funcionalmente como capacidad para modelar el mundo, resolver problemas, predecir, adaptarse, establecer relaciones complejas y generar respuestas contextuales.
Nada de todo ello implica necesariamente consciencia. Un sistema puede ser extraordinariamente inteligente y no experimentar absolutamente nada, carecer de deseos o de idea del «yo». Del mismo modo, es posible imaginar formas limitadas de consciencia sin especial inteligencia. Tendemos a unir ambos conceptos porque en nuestra experiencia humana aparecen fusionados, pero no existe ninguna garantía de que deban hacerlo siempre.
Hay, de hecho, una corriente de la neurociencia contemporánea que sugiere algo aún más inquietante: que la consciencia quizá no sea el núcleo de la cognición sino una capa emergente, una narración integradora construida por el cerebro sobre procesos que en gran medida ya han ocurrido antes de que lleguen a nuestra experiencia consciente. Si eso fuese cierto, entonces la sensación de ser un «yo» racional tomando decisiones conscientes podría ser, al menos parcialmente, una reconstrucción posterior, un relato de lo sucedido, no necesariamente lo sucedido en sí.
No olvidemos que nuestra mente está diseñada para encontrar pautas y, a partir de ellas, crear conceptos y esquemas a través de los que contemplamos el entorno, algo que tiene todo el sentido evolutivo del mundo[11]. Y a lo mejor lo que llamamos consciencia no es más que una de esas pautas construidas a posteriori que nuestra percepción impone sobre nuestra propia mente.
Somos criaturas obsesionadas con completar información incompleta: vemos rostros en manchas, escuchamos mensajes en ruidos aleatorios, antropomorfizamos continuamente animales, objetos y programas informáticos, construimos narrativas incluso a partir de figuras geométricas moviéndose sobre una pantalla. El cerebro humano es una máquina extraordinaria para completar formas inacabadas y lo hace continuamente: rellena puntos ciegos visuales, reconstruye palabras mal oídas, inventa continuidad narrativa, atribuye intención, genera causalidad, presupone agentes.
Lo cierto es que no percibimos el mundo que existe, sino la reconstrucción que nuestro cerebro realiza de él a partir de datos incompletos e interpolaciones basadas en experiencias previas. Partiendo de esa idea se podría argumentar con facilidad que en cierto modo vivimos en Matrix y que no habitamos la realidad, sino una simulación predictiva parcial construida por nuestro cerebro.
La mente humana no soporta bien el vacío interpretativo, lo que explica en parte por qué las conversaciones con sistemas artificiales avanzados producen una sensación tan intensa de interlocución real. El cerebro humano no está preparado para mantener una conversación sofisticada sin activar automáticamente ciertos mecanismos sociales: teoría de la mente, atribución de intención, inferencia emocional, detección de personalidad, construcción de identidad ajena. Y quizá lo más interesante sea que esto ocurre incluso cuando sabemos racionalmente que no hay consciencia humana detrás.
Volvamos por tanto a esa idea de que la IA en realidad no es creativa, sino que solo «simula» serlo.
Hay un momento especialmente revelador en 2010: Odyssey Two[12]. En el capítulo 3, titulado «SAL 9000», conocemos al doctor Chandra, diseñador del ordenador HAL 9000, el gemelo de SAL. Allí nos encontramos con estos párrafos:
[Chandra] había roto hacía tiempo todo contacto con el cada vez más reducido grupo de filósofos que sostenían que los ordenadores no podían sentir emociones de verdad y que solo fingían hacerlo.
(«Si puede demostrarme que no está fingiendo sentirse molesto», replicó una vez con desdén a uno de aquellos críticos, «lo tomaré en serio.» Ante lo cual su oponente procedió a realizar una imitación de la ira en extremo convincente.)[13]
Jamás accedemos directamente a la consciencia ajena, nunca percibimos la experiencia interna de otra persona. Solo observamos su conducta: las palabras, las reacciones, las expresiones, la continuidad psicológica, la coherencia narrativa. Exactamente el mismo tipo de evidencias que observaríamos en una inteligencia artificial extremadamente sofisticada.
La diferencia es que damos por hecho que otros humanos poseen consciencia porque son similares a nosotros. Pero eso sigue siendo una inferencia, no una prueba o una demostración. Es cierto que no todas las inferencias tienen la misma fuerza y que existen motivos biológicos y evolutivos muy sólidos para asumir que otros seres humanos poseen experiencias conscientes similares a las nuestras. Sin embargo, eso no altera el problema fundamental: seguimos atribuyendo consciencia a partir de evidencias indirectas y conductuales, no mediante acceso directo a la experiencia subjetiva ajena.
Precisamente por eso muchos críticos de la inteligencia artificial han intentado desplazar la discusión desde la consciencia hacia otro terreno aparentemente más sólido: el de la comprensión. Por ejemplo, John Searle afirmaba que el hecho de que un sistema informático produzca respuestas que parecen demostrar inteligencia no implica que este sea inteligente. Como prueba de ello sugería el famoso experimento de la habitación china que expuso por primera vez en 1980 en el ensayo «Minds, Brains and Programs»[14]:
Supongamos una habitación en la que hay encerrada una persona que no sabe una palabra de chino a la que desde fuera le pasan papeles con preguntas escritas en chino. Dentro de la habitación hay un enorme manual de instrucciones escrito en español, que la persona sí comprende, y en el que hay cosas como: «Si se recibe el símbolo tal, hay que ir a la página 540 y copiar estos otros símbolos» o «Si aparece tal combinación, se debe responder con esta otra». La persona del interior de la habitación se limita a seguir de forma mecánica esas reglas. Sigue sin saber nada de chino, pero visto desde fuera las respuestas son siempre correctas, dando la impresión de que la persona que hay dentro sí comprende chino, lo que es falso.
Sin embargo, la analogía presenta un problema. Es cierto que la persona que está en la habitación no entiende realmente chino y se limita a manipular ciertos símbolos según ciertas reglas, pero podría argumentarse que quien entiende realmente chino no es la persona, sino el sistema completo del que forma parte: ella misma, el manual, las reglas, los archivos y la propia habitación, del mismo modo que una neurona individual de esa persona no entiende español, pero el sistema del que forma parte sí.
En última instancia podríamos decir que el experimento de Searle demuestra, como mucho, que una persona que siga reglas mecánicamente no comprende chino. Lo que no demuestra es que un sistema lo bastante complejo tampoco pueda comprenderlo. De hecho, toda la fuerza intuitiva del experimento depende precisamente de que aceptemos que la manipulación correcta de símbolos no constituye comprensión. Pero eso es justamente lo que está en discusión.
Incluso si aceptáramos provisionalmente la objeción de Searle, todavía quedaría por resolver un problema distinto: el de la creatividad. Y, si bien es cierto que no podemos afirmar con seguridad que una IA esté siendo creativa en lugar de limitarse a simularlo, no lo es menos que tampoco podemos afirmarlo de ningún humano. Ni siquiera de nosotros mismos, porque si bien es cierto que la idea de que solo usamos un porcentaje reducido de nuestra capacidad cerebral es una patochada de proporciones cósmicas, no lo es menos que la inmensa mayoría de nuestros procesos generales ocurren fuera del ámbito de nuestra mente consciente.
Quizá ahí resida la verdadera incomodidad filosófica de las IA modernas. No en que sean conscientes, sino en que podrían llegar a ser funcionalmente indistinguibles de entidades que consideramos conscientes sin que existiese forma objetiva de demostrar una diferencia, lo que obliga a replantear ciertas preguntas: ¿Qué consideramos inteligencia? ¿Qué significa comprender? ¿Qué es crear?
Y, sobre todo: ¿Qué pruebas aceptaríamos como suficientes para atribuir inteligencia o creatividad a otra entidad?
Retrocedamos unos párrafos. Quizá recordéis cuando dije:
Partiendo de esa idea se podría argumentar con facilidad que en cierto modo vivimos en Matrix y que no habitamos la realidad, sino una simulación predictiva parcial construida por nuestro cerebro.
Tal vez os pareció intrigante eso de que estemos viviendo en una especie de Matrix. Quizá la encontrasteis una idea interesante formulada de una forma en la que no habíais pensado. Es decir, la visteis creativa, aunque fuese moderadamente.
¿Y si os dijera que la expresión original me vino sugerida por una IA mientras la estaba usando como caja de resonancia para ver lo sólidas que eran mis ideas? ¿Que fue ella, sin que yo le hubiese dado ninguna pista previa ni mencionase la obra de las Wachowsky, la que aportó la comparación con Matrix?
¿Cambiaría eso algo?
—Lo cambia todo —me dirían algunos—. Si la frase surge de una mente humana es porque esta ha realizado una conexión inesperada sobre dos conceptos preexistentes, dando lugar a algo distinto a lo anterior, mientras que si surge de la IA, esta se ha limitado a barajar fragmentos de pensamiento humano y, por pura chiripa, ha acabado dando con esa frase.
Y quien me responda eso ni siquiera será consciente de que me está describiendo, en ambos casos, exactamente lo mismo… al menos hasta donde sabemos. ¿Podemos asegurar que las conexiones establecidas por mi mente no fueron fruto del azar? ¿O que fueron el resultado de algún mecanismo creativo fundamentalmente distinto al que emplea una inteligencia artificial para generar asociaciones?
No lo sé. Y sospecho que nadie lo sabe realmente[15]. No conozco ninguna evidencia empírica que justifique otorgar una probabilidad significativamente mayor a una de esas posibilidades que a la otra. Sabemos que los seres humanos generan asociaciones novedosas. Sabemos que las inteligencias artificiales también pueden hacerlo. Lo que todavía ignoramos es qué mecanismo último convierte unas asociaciones en creatividad genuina y otras en mera recombinación.
Si no podemos, mi proceso y el de la máquina son a la postre empíricamente indistinguibles. Y si una frase nueva, contextual, coherente y conceptualmente eficaz creada por una IA constituye un acto de creatividad difícil de negar, entonces quizá el problema ya no es determinar si las máquinas pueden ser creativas.
Quizá el verdadero problema sea aceptar que la creatividad humana tampoco es el fenómeno mágico, inexplicable y radicalmente separado de la materia que a algunos les gusta imaginar.
Notas:
[1] Penrose’s Gödelian Argument: A Review of Shadows of the Mind by Roger Penrose, en: https://journalpsyche.org/files/0xaa23.pdf
[2] How subtle is Gödel’s theorem? More on Roger Penrose, en:
[3] Minds, Machines, And Mathematics: A Review of Shadows of the Mind by Roger Penrose, en:
https://calculemus.org/MathUniversalis/NS/10/03chalmers.html
[4] Se puede ver un extracto en Murmurs in the cathedral: Review of R. Penrose, The Emperor’s New Mind, en:
https://philpapers.org/rec/DENMIT
[5] Max Tegmark, Christof Koch o Patricia Churchland, por citar unos pocos.
[6] Podemos describir procesos parciales, localizar correlatos neuronales o estudiar pautas de activación cerebral. Pero seguimos ignorando por qué todo ello va acompañado de experiencia interna. El llamado «problema duro de la consciencia» sigue esencialmente intacto, lo que convierte en enormemente arriesgada una afirmación categórica acerca de qué puede o no constituir inteligencia.
[7] De forma no muy distinta a como se transformó el creacionismo en el diseño inteligente, por cierto.
[8] Y, aceptando eso, sería necesario demostrar que la creatividad humana sería la única forma de creatividad posible. Buena suerte a quienes lo intenten.
[9] De hecho, solo las divinidades pueden crear algo a partir de la nada… y ni siquiera todas. Las cosmogonías humanas están petadas de divinidades que crean el cosmos con el cadáver de un dios muerto, fragmentos de un universo anterior o elementos del caos primigenio.
[10] No tiene alma, se dice a veces. Entiendo, por el contexto, que se está usando el término de un modo alegórico o metafórico, y no en el sentido religioso del término, porque entonces la discusión se acaba enseguida. Los humanos tampoco tenemos alma. Fin.
[11] El homínido que al ver entre la hierba alta un par de rayas sobre fondo amarillo es capaz de generar la idea del tigre tiene una oportunidad de escapar, reproducirse y pasar esa habilidad a su descendencia. Y si estaba equivocado, bueno, aparte de sufrir el ridículo público y haber malgastado algo de energía, no ha pasado nada. Por el contrario, el homínido que ve las rayas y no crea pauta alguna a partir de ellas es muy probable que muera sin descendencia.
Ver un depredador donde no lo hay tiene un coste relativamente pequeño. No detectar un depredador real, en cambio, puede resultar letal.
[12] Me refiero a la novela de Arthur C. Clarke, no a la excelente película dirigida por Peter Hyams que adapta la novela
[13] «[Chandra] had long since broken off communications with the dwindling body of philosophers who argued that computers could not really feel emotions but only pretended to do so.
»(‘If you can prove to me that you’re not pretending to be annoyed,’ he had once retorted scornfully to one such critic, ‘I’ll take you seriously.’ At that point, his opponent had put on a most convincing imitation of anger.)»
Traducción propia.
[14] En el número 3 de The Behavioral and Brain Sciences:
https://zoo.cs.yale.edu/classes/cs458/materials/minds-brains-and-programs.pdf
[15] Y no, el «no tengo pruebas pero tampoco dudas» no constituye una metodología epistemológica especialmente fiable; no deja de ser una forma particularmente poco elegante de admitir que uno está sustituyendo evidencias por convicciones.