dependencia.info

Ética, robots y residencias

miércoles 07 de noviembre de 2018, 02:30h

Las cosas cambian muy rápido y a veces lo hacen de forma sorprendente.

¿Quién les iba a decir a filósofos y eticistas que los fabricantes de coches autónomos (autoconducibles o cómo sea que se acaben llamando a esos automóviles que se van a conducir por sí mismos sin intervención humana), les iban a sacar de los despachos de las facultades para llevarlos a colaborar con informáticos en la elaboración de algoritmos de conducción?

Pues ha pasado.

Cuando se diseña un coche autónomo no se puede hacer un programa que prevea absolutamente todas las circunstancias con que se puede encontrar, ya que éstas son casi infinitas por lo que, utilizando una mezcla de lo que se conoce como “inteligencia artificial” y “big data”, se le deja tener acceso a miles de horas de conducción humana y es el propio programa quien va encontrado relaciones y sentido a los datos “aprendiendo” a conducir. Con sistemas de “aprendizaje profundo”, un ordenador aprende a jugar a ajedrez con poquísimas instrucciones básicas y acceso a millones de partidas; también puede aprender a diagnosticar el cáncer de colon o a filtrar currículums de candidatos.

El problema es que, muchas veces, al hacerlo puede reproducir prejuicios o los mismos errores que contienen los datos que se le han ofrecido. Así, si “enseñamos” a una máquina a seleccionar currículums en base a la forma en que lo hemos hecho en nuestra empresa durante los últimos diez años, puede ser que consigamos una máquina sexista y racista. Nosotros negaríamos fervientemente serlo, pero el “big data” demostraría que de forma sistemática rechazamos currículums con nombre de mujer en ciertos procesos o que ciertos apellidos comunes entre personas de una etnia determinada no pasan nunca los primeros filtros de selección.

Eso se puede mejorar introduciendo en el algoritmo algún factor; en el caso de los coches autónomos: la ética.

En principio, si la prioridad del coche es la seguridad de sus ocupantes, ante una situación en la que un peatón cruce por un lugar inadecuado, quizás la forma de conducción más “adecuada” sea no frenar y mantener el rumbo, eso conllevaría una posibilidad del 90% de muerte para el peatón pero supondría una de supervivencia de los ocupantes del coche también del 90%. Pero, ¿y si en el coche sólo va un pasajero y quien cruza son diez niños pequeños? ¿Debería el coche intentar dar un volantazo que permitiese reducir en un 50% la posibilidad de dañar a los niños incrementando en un 75% la de herir o matar al ocupante del coche?

Cuando conduce una persona todo pasa tan rápido que las decisiones, buenas o malas, son casi automáticas e incontrolables racionalmente. Por eso, hasta ahora, cuestiones como ésta se planteaban como situaciones teóricas. Ya no. Hay que alimentar el algoritmo; un ordenador puede tomar decisiones “razonadas” en milésimas de segundo y los especialistas en ética han sido llamados a los laboratorios.

El tema es muy importante ya que los padres de los niños posiblemente atropellados acabarán demandando a alguien. ¿Pero a quién? ¿Al propietario del coche? ¿A quién lo diseñó? ¿Al que programó el algoritmo de conducción? ¿A quien introdujo valores éticos en el algoritmo?

Mientras unos y otros discuten buscando respuestas, como casi siempre sucede, ha surgido una posible solución al dilema en forma de dinero: es posible que dentro de unos años uno pueda comprar un coche autónomo egoísta o altruista. Uno tendería a salvar la vida del ocupante a costa del tercero; el otro haría lo contrario. ¿Cuál sería la diferencia entre uno y otro? El precio de la póliza de seguro. Un coche egoísta tendría una póliza mucho más elevada que uno altruista, ya que las posibilidades de tener que indemnizar a un tercero serían mucho más bajas.

Cuando los coches autónomos sean una realidad cotidiana, como máximo en 25 años, el 30% de los españoles tendremos más de 65 años (en 2018 son el 18%) y supongo que en las residencias funcionarán de forma habitual robots inteligentes que habrán aprendido a cambiar pañales, hacer cambios posturales y cosas por el estilo; supongo que su apariencia y forma de comunicarse habrán sido especialmente diseñadas para que las personas con demencia sufran menos ansiedad y se sientan más reconfortadas. Todo ello lo habrán aprendido mediante una combinación de “aprendizaje profundo” y “big data”. Serán seres incansables, desconocedores de planillas y convenios colectivos y con una paciencia infinita, pero ¿tendrán algún componente ético en su comportamiento?

El día en que dos residentes llamen a la vez al timbre, ¿a cuál atenderán primero?

Si los alimentamos de “big data” sin filtrar y los hacemos funcionar con lo más parecido que podamos al comportamiento de las gerocultoras y auxiliares actuales, ¿cuál sería su comportamiento? ¿Primero a quien ha llamado menos veces por cosas nimias? ¿Al que sufre más riesgo de caídas? ¿Al que tiene un mayor nivel de dependencia? ¿Al que resulte estar más cerca? No podemos estar seguros hasta que la inteligencia artificial destile los suficientes datos.

De lo que estoy seguro es que durante el proceso a alguien se le ocurrirá introducir en el algoritmo “packs de mejora” del estilo “comportamiento basado en los cuatro principios de la bioética”; o quizás algo más prosaico como la posibilidad de contratar “packs de atención prioritaria” que garanticen a quien los elija como servicio complementario ser el primero en ser atendido. En un mundo así, quizás lleguen a existir residencias de mayores que se anuncien destacando que todos sus robots asistenciales toman decisiones basadas en el comportamiento de Teresa de Calcuta, Gandhi o, quién sabe, de la Lady Gaga del momento.

En ese futuro robótico en que podremos elegir entre residencias según los elementos del algoritmo de sus robots asistenciales, ¿llegará a existir una inspección que analice los algoritmos buscando posibles incumplimientos de la normativa? ¿Será a su vez esa inspección un mero algoritmo de comprobación?

No lo sé. Me cuesta vislumbrar ese futuro cuando, de hecho, todavía no he sido capaz de imaginarme cómo será el robot que me cambiará los pañales.

De lo que estoy seguro es de que, si existen nuevos criterios para elegir residencias, estarán incorporados en el algoritmo de Inforesidencias.com

Sobre coches altruistas y egoístas

¿Te ha parecido interesante esta noticia?    Si (5)    No(0)

Foro asociado a esta noticia:

  • Ética, robots y residencias

    Últimos comentarios de los lectores (2)

    341 | Airún - 08/11/2018 @ 21:35:18 (GMT)
    Un artículo muy bueno. Bueno por su estilo, por su argumentación pero sobre todo por su ingenio. Muchas gracias Josep por este regalo.
    339 | Antonio Atarés Huerta - 08/11/2018 @ 13:47:21 (GMT)
    Coincido en que el futuro es difícil de imaginar, pero hay cuestiones generales que siguen un rumbo claro, y una de ellas es la utilización de robots y/o inteligencia artificial para desempeñar trabajos que antes solo un humano podía hacer. Me hace gracia la pregunta futurista ¿a quien atenderán primero los robots si dos residentes llaman a la vez?. Si esa misma pregunta nos la hacemos hoy cambiando obviamente robots por auxiliares, ¿cual sería la respuesta?. Según mi experiencia antes de llegar a ese "dilema" habría que preguntarse lo siguiente: - ¿existe pulsador para llamar? - ¿funciona ese pulsador? - ¿es accesible para el residente (física o cognitivamente)? - ¿llegará la llamada a alguien o se perderá en el limbo? - ¿alguien acudirá en un tiempo razonable? y finalmente, ¿se guardarán los datos de todo el proceso de asistencia?, algo básico para analizar y evaluar el funcionamiento del servicio. Puede parecer extraño pero he visitado residencias en las que muchas de las respuestas son NO y al parecer no tiene mayor importancia. Por lo tanto lo de preguntarse a quien atenderán primero es para sobresaliente. Me gustaría mucho saber la situación real de las residencias nacionales e internacionales en cuanto a sus sistemas de llamada asistencial, y hasta donde llegan las inspecciones para evaluarlos, pero mi impresión actual es que no llegan al suficiente ni las residencias ni las inspecciones. Ojalá me equivocase. Lo que parece imparable, aunque el sector se resista, es la incorporación de más tecnología de la información a las residencias, lo que conlleva la necesidad de personal cualificado (principalmente informáticos) en las mismas y la consiguiente recogida de esos datos que serán necesarios para los futuros algoritmos. No se si un robot nos cambiará los pañales de aquí a 25 años pero ojalá el personal de las residencias coexista con la tecnología y no se opongan entre sí, porque en definitiva el reto es que la calidad asistencial sea excelente.

  • Normas de uso

    Esta es la opinión de los internautas, no de Dependencia.Info

    No está permitido verter comentarios contrarios a la ley o injuriantes.

    La dirección de email solicitada en ningún caso será utilizada con fines comerciales.

    Tu dirección de email no será publicada.

    Nos reservamos el derecho a eliminar los comentarios que consideremos fuera de tema.