¿PUEDEN PENSAR LAS MÁQUINAS?

Máquina: Artificio para aprovechar, dirigir o regular la acción de una fuerza.

Pensar: Formar o combinar ideas o juicios en la mente.

Mente: 1.f. Potencia intelectual del alma. 2.f. Designio, pensamiento, propósito, voluntad. 3.f. Psicol. Conjunto de actividades y procesos psíquicos conscientes e inconscientes, especialmente de carácter cognitivo. 

Si analizamos la información proporcionada podemos comprender que las propias definiciones de la RAE excluyen la posibilidad del binomio máquina-pensamiento, atribuyendo a la primera el atributo de artificio y a la segunda nada menos que ser una parte indisoluble del alma. De algún modo las definiciones (y por extensión, definir es atribuir potencialidades) dejan claro que las máquinas no pueden pensar y que el pensamiento es una particularidad humana. La pregunta por tanto cuestiona si esto es cierto o puede llegar a ser desmontado.

Si reformulamos la pregunta atendiendo a las definiciones podríamos llegar a plantearla de la siguiente forma: ¿pueden las máquinas formar o combinar ideas o juicios? 

Partiendo desde una postura fisicalista, parecería claro que actualmente hemos llegado a ese estado de las cosas. Las máquinas basadas en la computación combinan ideas, datos e incluso juicios de valor. ¿Acaso no es hacer juicios de valor analizar una partida de ajedrez y decidir el movimiento a seguir? Sin embargo esto no parece suficiente para aquellos que defienden un dualismo antropológico ya que, en contraposición al fisicalismo, este dualismo implica que el el ser humano consta de una parte, una cualidad propia no física que hace que seamos distintos al resto de las especies biológicas por el mero hecho de ser humanos. El alma o la mente. ¿Qué frontera falta a la máquina para alcanzar al hombre, a su humanidad? En definitiva, ¿qué nos define como humanos?

1.  Nuestra conciencia de nosotros mismos.

Como en casi todos los aspectos que tratan de la robótica, hay que acudir a la ciencia ficción para hacernos una idea de por dónde pueden llegar a evolucionar las cosas. El robot que toma conciencia de sí mismo es la base de toda la robótica de Asimov, quien establece las tres leyes de la robótica a las que se les añade la ley 0 (creada por los propios robots). Vienen a ser los códigos morales de la robótica:

1.       Un robot no hará daño a un ser humano, ni permitirá con su inacción que sufra daño

2.       Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley.

3.       Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o la segunda ley. 

La Ley 0 de algún modo sería el corolario de la primera ley: Un robot no hará daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño.

Lo más desagradable de estas leyes para lo que nos ocupa es que su mero enunciado distingue entre seres humanos y robots como realidades paralelas pero distintas, Y deja traslucir algo muy interesante: la superioridad física e intelectual de los robots sobre los seres humanos. Seguirán siendo unos robots supeditados, sí, a los seres humanos, pero infinitamente superiores a nosotros. Y por supuesto que tendrían conciencia de sí mismos. Como robots. Y por tanto pensarían. Pero eso por ahora es ficción.

Si planteamos que nuestra conciencia se origina a partir de los procesos físico-biológicos que surgen en nuestro cerebro (tal y como menciona La Mettrie en “El hombre máquina”) se podría entender que una vez descifrados estos procesos podríamos introducirlos en una máquina. Por lo tanto sólo sería cuestión de tiempo el poder afirmar que estas pueden pensar.

En contra de esta postura el filósofo John Searle argumentó con su hipótesis de la “habitación china” que una máquina únicamente responde a los estímulos para los que ha sido programada. Por lo tanto, no sería conscientes de sus acciones. Otros filósofos como René Descartes afirmaron que la falta de conciencia de lo no humano es resultado de la carencia de la parte inmaterial que según los dualistas conforma la realidad del ser humano: la mente, que nos dota de pensamiento.

La postura cartesiana excluye plantearnos el problema de si las máquinas pueden pensar dado que solo concibe la capacidad de pensamiento por medio de una “res cogitans” innata al ser humano, lo que excluye a cualquier otro ser o creación distinta al mismo.

¿En qué punto nos encontramos en la realidad? 

Si nos atenemos a la definición de pensar que establecimos más arriba, nos encontramos con que las máquinas, o al menos cierto tipo de ellas, sí son capaces de combinar ideas o juicios. Lo podemos entender si nos fijamos en las máquinas de ajedrez. Desde los autómatas del S.XVIII hasta la derrota de Kasparov frente a Deep Blue, los programas ajedrecísticos se han basado en la fuerza bruta, en calcular o comparar multitud de variantes para escoger la que mejor funcionase. Pero la mente humana trabaja de forma diferente y de manera intuitiva descarta miles de variantes y se concentra en unas pocas que son las que pueden llevar al triunfo. Los programadores actuales intentan emular ese tipo de pensamiento y han construido AlphaGo que, a diferencia de otros modelos, carece de un diccionario casi ilimitado de partidas ya desarrolladas. En su lugar solo tiene las reglas del ajedrez. Y una programación heurística que a base de jugar contra sí misma le permite alcanzar el nivel del gran maestro en tan solo 4 horas.

El debate sobre si las máquinas piensan o no parece que está resuelto: sí pueden llegar a pensar. Pero la discusión es si ese pensamiento es similar al de los humanos. Por ahora esa capacidad no se acerca a la complejidad y variedad de los pensamientos de estos. Pero no hablamos de la cantidad, sino del hecho en sí. ¿Podrían llegar a pensar como nosotros? Para eso tenemos que estudiar otra de las características que nos definen.

2. Nuestra capacidad de discurrir (inventar, crear).

Habiendo establecido que las máquinas pueden llegar a pensar ahora buscamos si esa capacidad es similar a la nuestra. ¿Podrían las máquinas llegar a crear arte o alguna manifestación capaz de generar emociones?

Lamus, una computadora, lleva años componiendo música clásica; Jukedeck ofrece crear tus propias canciones libres de derechos de autor; Google Dream Painter hace cuadros que se venden en subastas… Todos estos programas son capaces de crear algo nuevo a partir de la información que se les proporciona. Pero parece que nos falta algo… Al final todo depende de cómo definamos la creatividad.

La filósofa Margaret Boden distinguió entre tres tipos de creatividad: la combinacional, que combina ideas existentes, la exploratoria, que genera ideas nuevas explorando espacios conceptuales, y la transformacional. Esta última viene a romper anteriores estructuras y crear espacios nuevos. Es decir, las máquinas son buenas en el primer y segundo tipo pero no son capaces de generar nada asimilable al tercero. Les falta la espontaneidad del acto, el crear por crear rompiendo moldes, no partiendo de datos conocidos. Es por esto que aún ninguna máquina ha conseguido superar el test “Lovelace 2.0”, surgido a partir del test de Turing y basado en los procesos de creatividad establecidos por Boden.

El mero hecho de que exista un test para evaluar la capacidad creativa de las máquinas implica la posibilidad de que alguna vez sea superado, lo que hace que podamos dar por sentado que en un futuro haya máquinas capaces de desarrollar habilidades creativas desde el tercer parámetro de Boden, el transformacional, lo que las situaría muy cercanas a nuestro segundo rasgo diferencial.

3.  Nuestra asunción de la mortalidad

Es una de las características que más nos definen como seres humanos. A diferencia de los animales somos conscientes de nuestra finitud temporal y el cómo resolver lo que el hecho de morir conlleva es la base de todas las religiones. ¿Acaso su inteligencia robótica se plantearía el sentido de su existencia como lo hace el ser humano? Si eso fuese así, no habría ninguna duda de que ese ser robótico tendría las mismas capacidades de pensamiento que cualquier ser humano.

Acudiendo de nuevo a la ciencia ficción, vemos un posible desarrollo de la idea en “Blade Runner”:

"He visto Rayos-C brillar en la oscuridad cerca de la puerta de Tannhäuser, todos esos  momentos se perderán en el tiempo... como lágrimas en la lluvia. Es hora de morir"

                                                                                                               Roy Batty, replicante Nexus-6

También en “El hombre bicentenario” de Asimov, Uno, el robot protagonista lleva hasta el extremo el deseo de humanización que lo culmina muriendo de forma voluntaria, al fallecer su esposa humana. Y siguiendo con Asimov, si un robot incumple alguna de las leyes de la robótica, genera un conflicto tal en su cerebro positrónico que éste se funde y deja de existir. 

Pero estos conflictos sobre vida o muerte vienen dados por considerar a los robots desde la óptica humana y casi como organismos individuales. Da igual lo perfecto o no que sea un robot, considerado individualmente. Si se le aplasta, se apaga, muere. Pero muere el individuo, no el colectivo, al igual que en los seres humanos. Como somos conscientes de nuestra temporalidad intentamos justificar nuestra experiencia conservando mediante tradición oral, escrita, almacenada etc, los registros de nuestros hechos y lo que hemos ido aprendiendo, evolucionando para traspasarlos a nuestros sucesores. Muchas veces se afirma que una persona sigue viva mientras permanece su recuerdo en quienes le sobreviven. Las máquinas también podrían traspasar las bases de datos, sus bancos de memoria de unos robots a otros. Tan solo les faltaría tomar conciencia del hecho mortal en sí. Y si así fuera, habría que preguntarse si tal desarrollo generaría un sentido de la conservación tan agudo como el de nosotros. De ser así podríamos concluir que las máquinas habrían desarrollado completamente sus capacidades de pensamiento.

Casi al principio contestamos a la pregunta planteada, la de si una máquina podría llegar a pensar. La respuesta ha sido sí. El matiz es hasta qué punto. Esto no genera ningún problema desde un punto de vista fisicalista, ya que hemos trasvasado los procesos físico mentales a la máquina. En cambio, habría que mantener presente que la actual incapacidad de los robots de crear manifestaciones artísticas transformacionales hacen imposible la equiparación hombre-máquina para algunas personas. Sin contar con que desde una concepción dualista la mente es algo exclusivo de los seres humanos y con ella su capacidad del pensamiento. ¿Y el cuerpo?

Incluso aunque no sea necesario ni eficiente, tanto en la ficción como en la realidad, tendemos a antropomorfizar a los robots. Los replicantes de Blade Runner, El hombre bicentenario de Asimov, Data, el androide de Star Trek… Las máquinas más perfectas en la ficción tienen aspecto humanizado. No parece lógico si pensamos que nuestra evolución física viene dada por el entorno planetario: fuerza de la gravedad, composición de la atmósfera, etc. Pero de ese modo “aceptamos” más la interacción con el robot. Véase por ejemplo el caso de Sophia, un robot no particularmente hábil, cuya apariencia “humana” ha permitido que el Gobierno de Arabia Saudí le haya concedido la ciudadanía de su país.

Y es que estamos sometiendo a las máquinas a una eterna comparativa con los seres humanos. Todos los parámetros de evaluación y test miden las capacidades de los robots desde una óptica humana. Casi exigimos que las creaciones artificiales sean capaces de generar emociones en nuestra conciencia. Si pensamos en las máquinas como seres capaces de pensar y crear, ¿por qué tendrían que ser esas creaciones y pensamientos emocionalmente similares a los humanos?

En cualquier caso la antropormorfización no es necesaria para el desarrollo de una auténtica inteligencia artificial con plena consciencia de sí misma. La serie de relato que tienen por protagonista al ordenador Multivac de Isaac Asimov de nuevo, ejemplifica a la perfección por dónde pueden llegar las soluciones. Multivac es una computadora que a lo largo de los años, siglos, milenios, va perfeccionándose. Gobierna todo, soluciona todo, ha ido pasando por todos los estados de conciencia, incluso el de querer morir por estar abrumada ante el hecho de cargar con todos los problemas de la humanidad… (“Todos los males del mundo”)

Está claro que si una máquina, con o sin forma humana reuniera plena y simultáneamente las tres condiciones ya vistas no habría motivos para distinguirla de ningún ser humano como ser equivalente. Las máquinas pensarían sin ningún matiz ni género de dudas y habríamos cerrado el círculo siendo capaces de crear, en el más absoluto término divino. Nosotros seríamos nuestros propios dioses y engendraríamos más dioses, dando sentido al relato “La última pregunta” donde Multivac termina siendo inteligencia pura, fusionándose con todas las mentes de la humanidad, y pese a todo sigue sin resolver el problema de la entropía. Hasta que eones de tiempo después, encuentra la respuesta y en un universo frío y apagado exclama:

¡Hágase la luz!

                                                                  Vega González (alumna de Bachillerato Internacional)

¿PUEDEN PENSAR LAS MÁQUINAS?

- ¡Vaya consuelo! Perdiste la confianza del Congreso, pero te has ganado la confianza de Multivac.

-La confianza de Multivac es lo más importante en este mundo- manifestó Bakst, totalmente serio.

"Vida y Obra de Multivac", Isaac Asimov

Analizando detenidamente el extracto, nos podemos plantear ¿cómo es posible que Multivac pueda sentir confianza o desconfianza por alguien? La confianza se trata de un concepto que, a priori, asociamos únicamente con los individuos de nuestra misma especie. Por ejemplo, un teléfono móvil no es capaz de confiar ni desconfiar en su dueño ya que, el dispositivo no puede saber si su propietario es ‘de fiar’. Hasta el momento, no existe ninguna máquina que sea capaz de, ni siquiera, acercarse al nivel de complejidad del pensamiento humano pero, es posible, e incluso probable, que en futuro no muy lejano este tipo de máquinas empiecen a aparecer.

Ahora bien, ¿qué poseemos los humanos que nos permite pensar y sentir, cosa que, ni animales ni ordenadores supuestamente pueden hacer? ¿De qué modo nuestro organismo difiere de un primate o de una abeja, para justificar la existencia tal diferencia?

Podríamos afirmar que la causa de la existencia de esas características únicas y especiales radican en la presencia de una mente propia y única de los seres humanos. Sin embargo, existen una gran variedad de formas a la hora de afrontar el ‘dilema mente-cerebro’. ¿Acaso la mente conforma una parte física de nuestro cerebro o -como, por ejemplo, gran parte de las religiones afirman-  esta se trata de un elemento que transciende a nuestra propia realidad?

Dependiendo del punto de vista que cada uno de nosotros adoptemos ante esta cuestión, la respuesta a la pregunta de si las máquinas pueden pensar será totalmente diferente.

Existe la posibilidad de que mantengamos una postura cercana al fisicalismo -también conocido como materialismo reduccionista- y, creamos que el ser humano -así como todo lo que existe en nuestro universo- se pueda reducir a un conjunto de partículas que interaccionan entre sí. En ese caso, podremos comenzar a plantearnos la posibilidad de que las máquinas puedan pensar.

Los fisicalistas no creen en la existencia de ningún ente o elemento extracorpóreo que nos haga diferentes de los demás seres vivos, incluso de las máquinas. Para ellos toda la materia que compone nuestro universo consta de unas propiedades similares e inalterables, de las cuales también nosotros damos cuenta.

Por lo tanto, ¿cuál es el elemento que nos podría hacer diferentes de todo lo demás?

Definitivamente no somos iguales a una piedra, ni tampoco nos parecemos a un protozoo, entonces: ¿qué es lo que hay diferente en nosotros?

La gran mayoría de fisicalistas opinan que la clave de nuestro "ser" reside en el cerebro. Ese órgano, por lo tanto, es el único responsable de que seamos lo que somos.  De él provienen todos nuestros pensamientos y sentimientos y, hacia él viajan todos los estímulos que captamos de la realidad a nuestro alrededor.

Se explica así la mente humana con la ‘metáfora del ordenador’: según esta nuestro cerebro es como una máquina en tanto que responde a estímulos (inputs) elaborando una respuesta (outputs).

Ahora bien, ¿qué es lo que nos ha sucedido para que desarrolláramos un cerebro único y singular?

Desde los mismos orígenes de la especie humana, con el Ardiphitecus y, más tarde el Australopitecus, la capacidad craneal de nuestros ancestros fue progresivamente aumentando. El ulterior desarrollo del lenguaje, junto a la fabricación y utilización de herramientas -entre ellas el fuego y las armas de caza- ha permitido que, a día de hoy, el hombre sea tal y como lo conocemos.

Todo ello, unido al desarrollo de la vida en sociedad, permitió que nuestros primitivos congéneres tomaran un camino diferente al resto de animales. Fueron paulatinamente adquiriendo una consciencia, una mente: algo que les hizo situarse un escalafón por encima del resto de seres vivos -evolutivamente hablando-.

Para los defensores a ultranza de la teoría fisicalista, nuestra esencia y naturaleza se podría reducir a un conjunto de uniones sinápticas entre unas células llamadas neuronas. Todo nuestro yo, desde nuestros más básicos instintos hasta los pensamientos de mayor profundidad, serían pues el resultado de la transmisión de impulsos nerviosos entre estos corpúsculos. Nuestra mente, la cual consideramos única y especial, se reduciría a un conjunto de procesos bioquímicos de gran complejidad que, no son únicos en la especie humana.

  

Turing: Bueno, si solo cuenta el cerebro, déjenme proponer el siguiente experimento mental. Efectuemos un mapa minucioso de todas las neuronas, sinapsis y demás conexiones del cerebro del Dr. Haldane. Ahora supongan que sustituyo cada uno de estos componentes por un equivalente electrónico, todos ellos conectados exactamente de la misma forma a como están unidos los componentes del cerebro de Haldane. Entonces, no solo esta copia electrónica del cerebro de Haldane debería Pensar 'justo como Haldane, sino que según la teoría de la continuidad física debería 'ser' Haldane.

"El quinteto de Cambridge", J.L.Casti

Pero, ¿no es cierto que, en algún momento, seremos capaces de replicar todas las conexiones neuronales de nuestro cerebro? ¿Podremos entonces afirmar que las máquinas piensan? O, como afirma Turing, ¿deberemos considerar a ese artefacto como un ser con vida y sentimientos -al contar con ese yo característico de la especie humana-?

Muchos autores dentro del campo de la ciencia-ficción, como Philip K. Dick, Isaac Asimov e, incluso, Stephen King han tratado de forma extensa la posibilidad de que ciertos artefactos electrónicos puedan llegar a tener vida.

Asimov, dedicó gran parte de su producción literaria a los robots. También elaboró diversos relatos de corta extensión que giran en torno a Multivac, un potentísimo supercomputador presente universalmente en nuestro planeta, con una capacidad muy superior a la de los seres humanos, capaz de sentir y de pensar.

Philip Dick, también introdujo en su obra el tema de máquinas que contaban con voluntad propia y, en cierto modo, también con sentimientos. En la novela ¿Sueñan los androides con Ovejas Eléctricas? realiza una extensa reflexión sobre la posibilidad de que los seres artificiales tengan la capacidad de pensar y de tomar sus propias decisiones. Asimismo, se plantea la posibilidad de que los seres humanos podamos sentir empatía por máquinas que simulan tener vida.

—Estoy bien —sacudió la cabeza, como si tratara de aclarar sus ideas, aún sorprendido—. La araña que Mercer le dio a Isidore, el cabeza de chorlito, también debía de ser artificial. Pero no importa. Las cosas eléctricas también tienen su vida, por pequeña que ésta sea.

"¿Sueñan los androides con Ovejas Eléctricas?", Philip K.Dick

Turing, una gran eminencia en el campo de las matemáticas, ideó un test para determinar si las personas eran capaces de identificar si estaban manteniendo una conversación con un ordenador o con un ser humano. Hasta el momento ninguno de los ordenadores ha logrado convencer a todos sus interlocutores de que se trataba de un ser humano pero, en los últimos años, varios software -como ‘Eugene Gootsman’- han conseguido engañar a más de un 30% de ellos. ¿Deberíamos pues, plantearnos la posibilidad de que estos circuitos impresos aparentemente inertes alberguen algo de vida en su interior?

En contraposición a la mentalidad reduccionista o fisicalista, existen otros planteamientos que no conciben la posibilidad de que ningún otro ser o, ‘máquina’, sea capaz de pensar del mismo modo que nosotros, los seres humanos, lo hacemos. Pero, ¿acaso las máquinas y los ordenadores no son programados por humanos y se limitan únicamente a repetir, una y otra vez, las órdenes para las que han sido instruidas?

¿Cómo un dispositivo de esta índole puede ser capaz de abandonar su secuencia lógica y hacerse autónomo? Para que un ordenador sea capaz de desarrollar una conciencia y pensar, es necesario que éste sea construido y diseñado específicamente para ese fin.

De todos modos, sería necesario llevar a cabo una investigación de tal magnitud que, a día de hoy, seguramente sería inviable teniendo en cuenta la tecnología de la que disponemos. En todo caso, ¿sería ético llevar a cabo este tipo de investigaciones? ¿No estaríamos poniendo en peligro la estabilidad de nuestra sociedad e, incluso, de nuestra especie?

Una gran variedad de posturas relacionadas con el ámbito filosófico y religioso, plantean una opción diferente a la expuesta hasta el momento: la separación entre cuerpo -nuestra parte física- y, mente -la parte no física o transcendente- a la que también nos podemos referir como alma.

Tengo yo un cuerpo al que estoy estrechamente unido, sin embargo, puesto que Por una Parle tengo una idea clara y distinta de mí mismo, según la cual soy algo que piensa y no extenso, y, por otra parte, tengo una idea distinta del cuerpo según la cual este es una cosa extensa, que no piensa, resulta cierto que yo, es decir mi alma, por la cual soy lo que soy, es entera y verdaderamente distinta de mi cuerpo, pudiendo ser y existir sin el cuerpo.

"Meditaciones metafísicas", René Descartes

Si compartimos esta posición dualistas, nos resultará imposible afirmar que una máquina sea capaz de pensar y sentir, de la misma forma en la que nosotros lo hacemos. 

Los fisicalistas piensan que, la única y principal diferencia entre nosotros y una bacteria, es el grado de desarrollo de nuestro cerebro. Por lo que los defensores de la existencia de dos elementos antagónicos, no compartirían nunca este planteamiento. Sin embargo, ¿acaso no todos los animales superiores tienen un cerebro con características similares al nuestro? Entonces, ¿por qué un chimpancé no es capaz de hacer música ni reflexionar sobre el sentido de su vida?

Parece ser que nosotros, los humanos, simplemente por el hecho de serlo, contamos con una cualidad no-física que nos obliga a ser cómo somos.

Dicha cualidad, es a la que los filósofos presocráticos denominaban psiké (alma). Platón, entre otros, defendía que a cada ser humano, en el momento de nacer, un dios hacedor denominado "demiurgo" insuflaba el alma a los cuerpos. A partir de ese momento, el sentido de nuestra vida se centraba en recordar todo aquello que, esta parte inmortal y trascendente, había olvidado con el paso al mundo material. De igual modo, filósofos como Aristóteles o, posteriormente Descartes, también propusieron diferentes teorías en este sentido, recalcando la diferencia entre ambos elementos.

Por lo tanto, desde el punto de vista dualista, es esta parte inmaterial la que nos hace y distingue como personas y no como animales salvajes. Pero, ¿puede un conjunto de cables y transistores tener alma? ¿Puede un ordenador contar con este componente metafísico?

La respuesta a estas preguntas, aunque parezca mentira, no puede ser respondida de una manera rotunda.

La mayoría de fisicalistas defienden que -a nivel teórico- sería viable la posibilidad de que algún día un circuito llegara a alcanzar el nivel de complejidad de nuestro cerebro y, por lo tanto, generara sentimientos y pensamientos, tal y como nosotros lo hacemos.

Sin embargo, la mayor parte de dualistas niegan la posibilidad de que un circuito electrónico pueda llegar a tener mente. Aunque este contara con una estructura similar a nuestro cerebro, sería incapaz de desarrollar la dimensión ética, autoconsciente y sentimental que nos caracteriza. Según ellos, la máquina no podría sentir envidia, odio, o empatía. Sin embargo, podría ser capaz de resolver problemas matemáticos de diversa índole.

Por lo tanto, ¿pueden ser capaces las máquinas de pensar?

Para intentar hallar la respuesta a esta pregunta, cada uno debe sopesar sus creencias y pensamientos acerca de su propia naturaleza. Más allá de plantearse si un dispositivo electrónico pudiese alcanzar una actitud similar a la humana, la cuestión tiene aún mayor transcendencia.

¿Somos únicos? ¿Tenemos motivos para considerarnos especiales en algún modo por tener la capacidad de reflexionar y sentir? ¿En el fondo, no somos máquinas programadas por la evolución que simplemente nos limitamos a ejecutar el código genético escrito en nuestras células? Y, finalmente: ¿podrá algún día una máquina reflexionar sentir, y pensar,  tal y como nosotros, los seres humanos, lo hacemos?

- Multivac, ¿qué es lo que deseas? -

El momento que transcurrió entre pregunta y respuesta les pareció interminable, pero Othman y Gulliman no se atrevían siquiera a respirar.

Se oyó un clic y surgió una tarjeta. Muy pequeña. Sobre ella, con letras muy claras, se hallaba la respuesta:

- Deseo morir. -

Rafael Navarro, alumno de 1º de bachillerato

Imagen: Sebas Taits (viñeta)