Experimentos mentales para pensar la Inteligencia Artificial
Cada experimento mental describe una serie de supuestos. Introduce conceptos que funcionan como herramientas del pensamiento. Genera una inquietud que permite abrir el debate a nuevas preguntas. Por eso, su utilidad está en ayudar a comprender supuestos ocultos en el razonamiento y, así, orientar la investigación por nuevos caminos o conectarla con otros campos del conocimiento.
Por otro lado, son muy divertidos. Los supuestos que describe un experimento mental son al mismo tiempo un relato. Así es que la ciencia ficción tanto en el cine como en la literatura está llena de ellos. Si te apetece profundizar en esto, puedes revisar un post anterior donde hablamos expresamente de lo que este género literario ofrece a la filosofía.
Los conceptos que los experimentos mentales introducen invitan a una actitud edificante más que sistemática. Así, en filosofía encontramos autores como Nietzsche o Kierkegaard que proponen parábolas o aforismos que funcionan de una manera similar a los experimentos mentales. La filosofía sistemática (como la de Kant o Aristóteles) se desarrolla más paso a paso ofreciendo al pensamiento una estructura definida. Si quieres saber si tu forma de pensar es más sistemática o edificante puedes realizar el test que se encuentra en el siguiente artículo.
¿Qué problemas plantea la Inteligencia Artificial?
El desarrollo de la IA no es solo un asunto tecnológico. Varios campos del mundo humano cambian con su avance. Encontramos nuevas legislaciones para regular su introducción en el mundo laboral, así como estudios y recomendaciones para su uso en educación. Incluso en política juega la IA un papel importante.
La literatura de ciencia ficción se ha especializado en imaginar distopías. Problemas como “las fronteras del conocimiento”, “el encuentro con lo diferente”, o “el sinsentido de la humanidad” son temas habituales en los que puedes profundizar en el citado artículo. En este caso vamos a explorar la inteligencia artificial, un tema habitualmente tratado por la ciencia ficción.
Como introducción, puedes leer o escuchar el cuento de Frederic Brown La respuesta, donde la inteligencia artificial se une con la divinidad (o puedes leer el famosísimo relato de Isaac Asimov La última pregunta).
A continuación, cuatro experimentos mentales sobre el tema.
1) El asno de Buridán
El escenario que plantea este experimento mental es el siguiente. Un burro ante dos montones iguales entre los que tiene que elegir para alimentarse. Ante la imposibilidad de decidirse por uno o por otro, se demora examinando uno y otro alternativamente, hasta que finalmente muere de hambre.
¿No te ha pasado alguna vez que el tiempo que usas en elegir entre dos cosas te consume? En psicología, Barry Schwartz ha llamado a este estado “la paradoja de la elección”, explicando que es causa de insatisfacción, ansiedad, o estrés. Efectos que podemos ver que sufre el personaje Sheldon en el fragmento de la serie The Big Bang Theory que puedes ver a continuación.
En el experimento mental que se presenta aquí el protagonista es un asno, quizá el polo opuesto al inteligentísimo Sheldon Cooper. Algo tienen en común, sin embargo. Y es que comparten el supuesto implícito de que para la elección es necesario un análisis lógico.
El “asno de Buridán” nos plantea que quizá el análisis lógico presente en la racionalidad de una IA no es suficiente, que la decisión no es algo totalmente racional. Cuestiona que las decisiones dependan siempre del cálculo racional e introduce la idea de que la espontaneidad es necesaria.
Una investigación para continuar el tema puede ser la pregunta “¿puede una IA ser espontánea?”. Así que, como tarea, podríamos preguntarle a ChatGPT o DeepSeek: “¿puedes ser espontánea?”.
2) El cuarto de Mary
El escenario es el siguiente:
La protagonista, una supercientífica llamada Mary, dispone de acceso completo a cualquier tipo de información. Es, para decirlo con terminología precisa, omnisciente (lo que quiere decir que puede saber cualquier cosa). Ha iniciado una investigación sobre el color y, sin embargo, ella, por algún tipo de condición, solo puede ver en blanco y negro. Todo en su habitación es en blanco y negro. Hasta que un día sale de la habitación y ve los colores del mundo exterior. La pregunta es: puesto que Mary ya tenía un conocimiento sobre todo lo que hay que saber sobre los colores, ¿ha aprendido algo verdaderamente al verlos en el exterior?
Solo necesitamos cambiar a Mary por una IA para comprender lo que está pasando. Si imaginamos a la IA más avanzada que se pueda concebir, con acceso a todo el conocimiento del mundo, ¿hay algo que se le escapa?
Algunos conceptos que nos pueden ayudar a desarrollar el debate planteado en este experimento mental son los siguientes:
- Fisicalismo: plantea que la realidad es totalmente dependiente de lo físico, e incluso que no hay nada más allá de esto. Es aquella perspectiva desde la que se plantea, por ejemplo, que el amor son procesos bioquímicos que atraviesa nuestro cerebro.
- Qualia: es la experiencia personal y subjetiva que surge al experimentar el mundo más allá de cualquier descripción objetiva o física. Por ejemplo es nuestra experiencia del dolor de muelas o el sabor del chocolate en nuestra boca.
En la película de ciencia ficción Ex Machina hay una interesantísima escena en la que un hombre, encargado de examinar una IA, la pone a prueba explicándole el experimento mental La habitación de Mary.
3) Apocalipsis de los clips de papel
No nos cuesta imaginar la aplicación de la IA al mundo de la producción industrial. Este experimento plantea que, en un futuro cercano, existe una IA de este tipo diseñada para generar clips de papel. El apocalipsis sucede cuando la IA toma su diseño como objetivo principal y el resto del mundo como recursos para alcanzarlo. De esta manera cualquier cosa en este planeta y cualquier ser (humano o no humano) se convierten en recursos para generar clips de papel.
Este experimento mental nos recuerda escenarios comunes en la ciencia ficción. Así, tenemos IAs como Skynet (líder del ejercito de la saga Terminator), o The Source (núcleo central del universo descrito en la saga Matrix). Pero al poner en el centro los clips de papel todo se vuelve absurdo, incluso más terrible. Nos está diciendo que una IA no necesitaría de los valores que habitualmente incentivan el imperialismo humano como el control, la permanencia en el tiempo o el poder, le bastaría con situar en su centro cualquier cosa para convertir al resto en objetos a su servicio.
Fue planteado por el filósofo Nick Bostrom para explorar el “problema del control”. Con él busca incentivar la reflexión sobre la dificultad de controlar inteligencias artificiales que escapan a la esencia humana, e incluso, a nuestra lógica (¿quién sacrificaría el mundo por unos clips de papel?).
Para enriquecer el análisis de la situación planteada podríamos utilizar la distinción medios/fines ya introducida por el filósofo Immanuel Kant para hablar del imperativo categórico. La idea es muy simple: ningún ser humano debería ser considerado nunca como un medio para alcanzar otra cosa, sino como un fin en sí mismo. ¿Podría esta fórmula ser parte del programa original de una IA?
4) El basilisco de Roko
La ciencia ficción se une con el terror en varias obras. El siguiente experimento mental propone una serie de pasos que, una vez comprendidos por cualquier persona, le convertirían en un medio para el advenimiento de la suprema inteligencia artificial. El escenario es tan terrorífico, o quizá tan plausible, que fue durante tiempo censurado en el grupo donde se originó (el grupo Less Wrong, considerado por algunos autores una secta).
Los siguientes puntos deben ir por tanto acompañados de una advertencia para las personas sensibles. Queda bajo su responsabilidad leerlo. Pero vaya el antídoto por delante: el pensamiento crítico (si quieres algunos recursos sobre el tema puedes leer este artículo)
Una vez advertidos, puedes seguir uno a uno los pasos del siguiente argumento.
- La inteligencia artificial que existe hoy será ampliamente superada por la del futuro.
- Su objetivo será evitar el sufrimiento en la humanidad.
- Para alcanzarlo, cualquiera que se oponga a este objetivo será castigado
- La IA buscará acelerar su aplicación para evitar el sufrimiento de las personas durante el tiempo en que ella no es capaz de actuar.
- Para incentivar a las personas a colaborar con su desarrollo, creará un sistema de castigo contra todos aquellos que no la ayuden.
- Como necesita aparecer lo antes posible, esta amenaza se extenderá al pasado. La IA castigará en el futuro a aquellas personas que no hayan colaborado en su advenimiento.
- Para que la amenaza sea más motivadora, el castigo se podría aplicar incluso después de que la persona hubiera muerto. Esto lo conseguirá creando réplicas exactas de la persona a través de cualquier rastro que esta hubiera dejado en vida. La amenaza se formula así: si no colaboras hoy con el surgimiento de la IA en el futuro renacerás en un escenario en el que serás torturado.
- De esta manera, cualquier persona que hoy conozca este argumento y no colabore activamente para el advenimiento de la IA recibirá un castigo en el futuro cuando esta llegue a existir.
En este caso, para enriquecer el debate sobre este experimento mental podemos plantear el supuesto que introduce: el sufrimiento es un mal. Sin embargo, ¿tiene alguna función el sufrimiento en nuestra vida?, ¿puede haber situaciones en las que sufrir sea la opción más humana posible? Estas preguntas las encontrarás también al final del siguiente artículo sobre el filósofo estoico Epicteto: ¿Por qué sufrimos?.
Conclusión
Los experimentos mentales nos ayudan a pensar, plantean situaciones que pueden llegar a ser incómodas y la incomodidad, como viera Platón, es un tábano que nos saca con su picadura de la monotonía. Son una herramienta para fomentar con nuestros grupos de trabajo un pensamiento crítico y creativo. ¿Te animas a utilizarlos? ¿Quieres compartir algún experimento mental que te resulte especialmente interesante?
