Hace unos días viví una versión interesante de lo que expliqué en la entrada anterior. Mi padre me convenció de que era un riesgo innecesario tener todo tu dinero en un solo banco, así que heredé una miseria repartida en un montón de cartillas bancarias. Aunque he ido cerrando las que he podido, sigo teniendo más de las que quisiera. Cada cierto tiempo me veo en la obligación de trasladar efectivo de unas a otras antes de que lleguen las facturas. Estaba en una de estas operaciones cuando uno de los billetes que llevaba se atascó en la maquinita que utilizan los empleados de ventanilla para contar las cantidades. Como es habitual, la empleada del banco volvió a pasar el billete una, dos, tres veces, pero la máquina se negaba a contabilizarlo. “No te lo puedo aceptar”, me comunicó. “Me parece estupendo, le dije, pero lo acabo de sacar de la oficina del banco X que está a cincuenta pasos de aquí”. “A mí no me parece falso, pero lo habrán lavado o algo así y la máquina no me lo acepta”, fue su respuesta. Eché cuentas y lo que tenía que venir no era superior a la cantidad que había ingresado aún sin ese billete, así que me conformé. No obstante, volví a la oficina del banco X y tuve la suerte de encontrar la ventanilla de la que había retirado el dinero diez minutos antes vacía y con el mismo empleado a cargo. Le expliqué lo que me había ocurrido y con una sonrisa de confianza me dijo que si su máquina le había dado el billete, el billete era de curso legal. Como prueba, volvió a introducirlo en ella, y, una vez más, lo aceptó sin problemas. “De todos modos, para que no haya líos, te lo cambio en billetes más pequeños”. Así se resolvió todo, pero a mí me dejó con la intriga, ¿qué máquina tenía razón?
Si una máquina dice que un billete no vale y otra lo considera válido, ¿cómo se resuelve la contradicción? ¿con otra máquina? ¿cómo sabemos que una máquina no está estropeada? Aún mejor, ¿cómo sabemos qué máquina está equivocada? ¿en base a qué criterios, si no es otra máquina, declaramos sus lecturas incorrectas? Hay una versión que a mí me divierte más de este problema. Vamos al supermercado y, como es habitual en estos tiempos de crisis, hasta los billetes de cinco euros te los pasan por la máquina que los comprueba. La máquina pita. El empleado mira el billete, endereza un pico torcido y vuelve a pasar el billete. La máquina vuelve a pitar. El encargado de la caja mira otra vez el billete, le rasca una punta y ya no se molesta en enderezar nada, lo pasa otra vez. Si la máquina vuelve a pitar, lo seguirá metiendo en ella hasta que, por fin, deje de hacerlo. ¿Cuántas veces hay que pasar un billete por una de estas maquinitas para considerarlo “de curso legal”? Está claro que más de una vez, pero ¿cuántas? ¿tres, cinco, diez? Y si el billete es de curso legal y la máquina no está estropeada, ¿por qué hay que pasarlo más de una vez?
En una reacción que suele ser muy frecuente, la compañías aéreas insinúan un error humano en cada accidente y los informes de las autoridades aeronáuticas, no se privan de incluirlos como una de las causas de cualquiera de ellos. El mensaje es claro: nuestras aeronaves son seguras, en cambio nuestros pilotos son una caterva de inútiles. Curiosamente, este mensaje suena tranquilizador a nuestros oídos. Si podemos confiar en la máquina no hay nada que temer. Estamos acostumbrados a desconfiar de las personas, en cambio las máquinas, ellas sí que son fiables. Carecen de emociones, de intenciones, de gustos, son imparciales y, en consecuencia, nunca se equivocan. Su dictamen será, por tanto, justo en cualquier caso. Semejante razonamiento, tan típico y comprensible, es disparatado porque se están confundiendo dos cosas muy diferentes. En efecto, una máquina, digamos un tubo Pitot, un ordenador o un lector de tarjetas, es la materialización de una serie de fórmulas matemáticas, es decir, un diseño, perfecto y aséptico en una pizarra. Lo que no suele entenderse es que no es ésa la máquina con la que vamos a tratar nunca. Vamos a tratar con máquinas que no son el producto de ningún diseño pues tienen que habérselas con el polvo, la suciedad y sus propias distorsiones causadas por el calor que ella emite, entre otras cosas. Confiar en que esa máquina no se va a equivocar, es una versión más de confiar en que el futuro será exactamente igual que el pasado, algo a lo que estamos acostumbrados aunque sea improbable.
Por eso, porque nos negamos a entender que una máquina es un dispositivo tan sometido al tiempo y a las circunstancias como nuestras articulaciones si no más, siempre introducimos la idea del “error humano”, de que la máquina, la máquina ideal, nunca se equivoca y que, por tanto, debe haber sido un ser humano y no la máquina real, la que ha cometido el error. Es cierto que los seres humanos somos fuentes de errores sin fin. Es cierto que perdemos el sentido del riesgo y cometemos disparates. Es cierto que buena parte de nuestros errores vienen de no tener en cuenta los datos que nos ofrecen las máquinas. Pero también hay muchos errores que provienen de seguir fielmente sus indicaciones o, al menos, de creer que se están siguiendo fielmente. El problema está en que vamos hacia un mundo en el cual ni siquiera las más triviales de nuestras decisiones van a llevarse a cabo sin la intervención de máquinas. No es que hayamos creado máquinas que asesoran a los sujetos en cada paso de su vida, es que hemos creado sujetos que no son capaces de dar un paso en sus vidas sin la ayuda de una máquina. El caso de los coches sin conductor son un ejemplo muy claro. Si hemos de creer a los expertos, están al borde mismo del mercado. Ya no será el transporte aéreo, cada uno de nosotros se verá confrontado a una situación en la que delegará en una máquina llegar sano y salvo a su destino cotidiano. Nos acostumbraremos a ello, hasta que llegue el día en que una mala lectura de los datos nos conduzca a un desastre que nunca entenderemos por qué se produjo y que, tal vez, de recuperarse la caja negra de nuestro vehículo, pueda evitarse que se reproduzca en un futuro próximo. Pero hay un panorama aún más aterrador, ¿qué ocurrirá el día en que uno de estos errores se produzca en el núcleo de una máquina que está aprendiendo por sí misma?
No hay comentarios:
Publicar un comentario