Ética, robots y residencias

Las cosas cambian muy rápido y a veces lo hacen de forma sorprendente.

¿Quién les iba a decir a filósofos y eticistas que los fabricantes de coches autónomos (autoconducibles o cómo sea que se acaben llamando a esos automóviles que se van a conducir por sí mismos sin intervención humana), les iban a sacar de los despachos de las facultades para llevarlos a colaborar con informáticos en la elaboración de algoritmos de conducción?

Pues ha pasado.

Cuando se diseña un coche autónomo no se puede hacer un programa que prevea absolutamente todas las circunstancias con que se puede encontrar, ya que éstas son casi infinitas por lo que, utilizando una mezcla de lo que se conoce como “inteligencia artificial” y “big data”, se le deja tener acceso a miles de horas de conducción humana y es el propio programa quien va encontrado relaciones y sentido a los datos “aprendiendo” a conducir. Con sistemas de “aprendizaje profundo”, un ordenador aprende a jugar a ajedrez con poquísimas instrucciones básicas y acceso a millones de partidas; también puede aprender a diagnosticar el cáncer de colon o a filtrar currículums de candidatos.

El problema es que, muchas veces, al hacerlo puede reproducir prejuicios o los mismos errores que contienen los datos que se le han ofrecido. Así, si “enseñamos” a una máquina a seleccionar currículums en base a la forma en que lo hemos hecho en nuestra empresa durante los últimos diez años, puede ser que consigamos una máquina sexista y racista. Nosotros negaríamos fervientemente serlo, pero el “big data” demostraría que de forma sistemática rechazamos currículums con nombre de mujer en ciertos procesos o que ciertos apellidos comunes entre personas de una etnia determinada no pasan nunca los primeros filtros de selección.

Eso se puede mejorar introduciendo en el algoritmo algún factor; en el caso de los coches autónomos: la ética.

En principio, si la prioridad del coche es la seguridad de sus ocupantes, ante una situación en la que un peatón cruce por un lugar inadecuado, quizás la forma de conducción más “adecuada” sea no frenar y mantener el rumbo, eso conllevaría una posibilidad del 90% de muerte para el peatón pero supondría una de supervivencia de los ocupantes del coche también del 90%. Pero, ¿y si en el coche sólo va un pasajero y quien cruza son diez niños pequeños? ¿Debería el coche intentar dar un volantazo que permitiese reducir en un 50% la posibilidad de dañar a los niños incrementando en un 75% la de herir o matar al ocupante del coche?

Cuando conduce una persona todo pasa tan rápido que las decisiones, buenas o malas, son casi automáticas e incontrolables racionalmente. Por eso, hasta ahora, cuestiones como ésta se planteaban como situaciones teóricas. Ya no. Hay que alimentar el algoritmo; un ordenador puede tomar decisiones “razonadas” en milésimas de segundo y los especialistas en ética han sido llamados a los laboratorios.

El tema es muy importante ya que los padres de los niños posiblemente atropellados acabarán demandando a alguien. ¿Pero a quién? ¿Al propietario del coche? ¿A quién lo diseñó? ¿Al que programó el algoritmo de conducción? ¿A quien introdujo valores éticos en el algoritmo?

Mientras unos y otros discuten buscando respuestas, como casi siempre sucede, ha surgido una posible solución al dilema en forma de dinero: es posible que dentro de unos años uno pueda comprar un coche autónomo egoísta o altruista. Uno tendería a salvar la vida del ocupante a costa del tercero; el otro haría lo contrario. ¿Cuál sería la diferencia entre uno y otro? El precio de la póliza de seguro. Un coche egoísta tendría una póliza mucho más elevada que uno altruista, ya que las posibilidades de tener que indemnizar a un tercero serían mucho más bajas.

Cuando los coches autónomos sean una realidad cotidiana, como máximo en 25 años, el 30% de los españoles tendremos más de 65 años (en 2018 son el 18%) y supongo que en las residencias funcionarán de forma habitual robots inteligentes que habrán aprendido a cambiar pañales, hacer cambios posturales y cosas por el estilo; supongo que su apariencia y forma de comunicarse habrán sido especialmente diseñadas para que las personas con demencia sufran menos ansiedad y se sientan más reconfortadas. Todo ello lo habrán aprendido mediante una combinación de “aprendizaje profundo” y “big data”. Serán seres incansables, desconocedores de planillas y convenios colectivos y con una paciencia infinita, pero ¿tendrán algún componente ético en su comportamiento?

El día en que dos residentes llamen a la vez al timbre, ¿a cuál atenderán primero?

Si los alimentamos de “big data” sin filtrar y los hacemos funcionar con lo más parecido que podamos al comportamiento de las gerocultoras y auxiliares actuales, ¿cuál sería su comportamiento? ¿Primero a quien ha llamado menos veces por cosas nimias? ¿Al que sufre más riesgo de caídas? ¿Al que tiene un mayor nivel de dependencia? ¿Al que resulte estar más cerca? No podemos estar seguros hasta que la inteligencia artificial destile los suficientes datos.

De lo que estoy seguro es que durante el proceso a alguien se le ocurrirá introducir en el algoritmo “packs de mejora” del estilo “comportamiento basado en los cuatro principios de la bioética”; o quizás algo más prosaico como la posibilidad de contratar “packs de atención prioritaria” que garanticen a quien los elija como servicio complementario ser el primero en ser atendido. En un mundo así, quizás lleguen a existir residencias de mayores que se anuncien destacando que todos sus robots asistenciales toman decisiones basadas en el comportamiento de Teresa de Calcuta, Gandhi o, quién sabe, de la Lady Gaga del momento.

En ese futuro robótico en que podremos elegir entre residencias según los elementos del algoritmo de sus robots asistenciales, ¿llegará a existir una inspección que analice los algoritmos buscando posibles incumplimientos de la normativa? ¿Será a su vez esa inspección un mero algoritmo de comprobación?

No lo sé. Me cuesta vislumbrar ese futuro cuando, de hecho, todavía no he sido capaz de imaginarme cómo será el robot que me cambiará los pañales.

De lo que estoy seguro es de que, si existen nuevos criterios para elegir residencias, estarán incorporados en el algoritmo de Inforesidencias.com

Sobre coches altruistas y egoístas