La persona se esfuerza en tener más errores a diario. Máquina Biológica.

Decía  Keith Devlin que conocía muchas máquinas que piensan. Son personas. Máquinas biológicas.

Atención a esta última frase, «máquinas biológicas». Es una manera práctica de referirnos a cosas que no comprendemos del todo de forma que sugiere que sí. (Hacemos lo mismo en física, cuando utilizamos términos como materia, gravedad y fuerza). Personas es un término seguro, ya que nos recuerda que en realidad no comprendemos de qué estamos hablando.

Todavía no he encontrado una máquina digital-electrónica/electro-mecánica que se comporte de un modo que se pudiese calificar de pensante, y no veo pruebas que indiquen que eso pueda ser siquiera posible. Los aparatos con pensamiento (sic) tipo Hal que acabarán gobernándonos están, a mi juicio, destinados a permanecer en el ámbito de la ciencia ficción.

Solo porque algo parezca un pato y ande como un pato no significa que sea un pato. Y si una máquina presenta algunos rasgos del pensamiento (por ejemplo, la toma de decisiones) no significa que sea una máquina pensante.

Admiramos la complejidad del diseño de las cosas que hemos construido, pero podemos hacerlo solo porque las hemos construido, y por tanto comprenderlas verdaderamente. Solo hay que poner las noticias en televisión para recordarnos que no estamos ni mucho menos cerca de entender a las personas, sea individualmente o en grupos. Si por pensar nos referimos a lo que hace la gente con su cerebro, entonces calificar cualquier máquina que hayamos construido como pensante es pura arrogancia.

El problema es que los humanos somos unos ingenuos seducidos por el síndrome del «si anda como un pato, es un pato». No porque seamos estúpidos, sino porque somos humanos. Los propios rasgos que nos permiten actuar la mayoría de las veces a favor de nuestros intereses cuando nos enfrentamos a una posible sobrecarga de información en situaciones complejas nos hacen vulnerables ante esa seducción.

Recuerdo hace muchos años entrar en un laboratorio de robótica antropoide en Japón. Parecía el típico departamento de ingeniería de élite. En una esquina había un dispositivo esquelético de metal, engalanado con cables, cuyo contorno se asemejaba al de un torso humano. Los brazos y manos de aspecto sofisticado eran, supongo, fruto de mucha investigación ingeniera, pero no estaban activos durante mi visita, y no reparé en ellos hasta después. Toda mi atención, al entrar y durante gran parte del tiempo que estuve allí, la acaparaba la cabeza del robot.

En realidad, no era en absoluto una cabeza. Era solo un marco de metal con una cámara en el lugar correspondiente a la boca y la nariz. Sobre la cámara había dos bolas blancas (del tamaño de pelotas de ping-pong, que quizá es lo que eran), a las que habían pintado pupilas negras. Sobre los globos oculares, dos grandes clips hacían las veces de cejas.

El robot estaba programado para detectar el movimiento y recoger fuentes de sonido (quién estaba hablando). Movía la cabeza y los ojos para señalar y seguir a quien se moviera, y levantaba sus cejas de clip cuando el individuo detectado hablaba.

Lo que me llamó la atención fue lo vivo e inteligente que parecía el aparato. Sin duda, todos sabíamos exactamente lo que estaba pasando, y lo simple que era el mecanismo que controlaba la mirada de los ojos y las cejas de clip. Era un truco. Pero era un truco que se remontaba a cientos de miles de años de desarrollo humano social y cognitivo, así que nuestra respuesta natural era la que normalmente deduciría otra persona.

Yo ni siquiera era consciente de cómo funcionaba el truco. Mi amigo y por entonces colega de Stanford, el difunto Cliff Nass, dedicó cientos de horas de investigación a demostrar cómo los humanos estamos genéticamente programados para atribuir agencia inteligente basándonos en muy pocas y simples pistas de interacción, reacciones que son tan profundas y arraigadas que no podemos suprimir.

Es probable que hubiese alguna IA sofisticada que controlara los brazos y las manos del robot -si se hubiesen conectado durante mi visita-, pero los ojos y las cejas los controlaba un programa muy simple.

Aun así, ese comportamiento bastaba, así que, durante mi visita, tuve la clara sensación de que el robot era un participante curioso e inteligente, capaz de seguir lo que yo decía.

Lo que yo estaba haciendo era, naturalmente, valerme de mi humanidad y mi inteligencia. El robot no estaba pensando.

Ese aprovechamiento de la inteligencia humana está muy bien si se usa el robot para limpiar la casa, reservar billetes de avión o conducir el coche. ¿Pero querríamos que esa máquina fuese miembro de un jurado, tomara una decisión vital respecto a un procedimiento clínico, o que tuviera el control de nuestra libertad? Yo desde luego no.

Así que, cuando me preguntan qué pienso de las máquinas que piensan, respondo que, en su mayor parte me gustan, porque son personas (y tal vez otros animales, también).

Lo que me preocupa es el grado creciente en el que estamos cediendo aspectos de nuestra vida a máquinas que deciden, a menudo con mucha más eficiencia y fiabilidad que las personas, pero que definitivamente no piensan. He ahí el peligro: máquinas que pueden tomar decisiones, pero no piensan.

Tomar decisiones y pensar no son lo mismo, y no deberíamos confundirlos entre sí. Cuando utilizamos sistemas de toma de decisiones en asuntos de defensa nacional, asistencia sanitaria y economía, como hacemos, los peligros potenciales de dicha confusión son particularmente elevados, tanto a nivel de individuo como de sociedad.

Para protegernos de ese peligro, es útil ser conscientes de que estamos genéticamente programados para actuar con credulidad, atribuyendo agencias inteligentes a ciertos tipos de interacciones, sea con personas o con máquinas. Pero a veces, un aparato que parece un pato y anda como un pato es solo un aparato. No es un pato, tampoco una pata.