Cómo dar ética a una inteligencia artificial

¿ Se puede dar ética a una IA?.

Una empresa española desarrolla Ethyka, un módulo que incorpora la ética a la inteligencia artificial

El principal objetivo de ETHYKA es convertirse en un estándar de esta industria. De esta manera, se constituirá en el marco de referencia estable para que los desarrolladores puedan implementarlo en sus proyectos de software o hardware. Y desde luego, dispensará un importante ahorro de tiempo y costes en todo este proceso de moralización de las máquinas. 

Ha sido pensado y diseñado por un equipo español de profesionales multidisciplinares de tecnologías de última generación. Cristina Sánchez, CEO de la empresa española  Acuilae, y de amplia trayectoria en Accenture para grandes compañías, es estadística, informática y data science. También ha colaborado activamente en este proyecto Pedro Diezma, uno de los mayores expertos mundiales en Wearable Technology (‘tecnología vestible’), Internet of Things, Human Enhancement Technologies (HET), miembro de MENSA y Premio ‘Mejor Iniciativa’ Wearable en eSalud 2017 y ‘Mejor Solución’ tecnológica 2018 a la seguridad laboral.

ETHIKa trata de emular como piensa el cerebro humano y como esta estructurado. Por lo que la han estructurado en tres capas que se corresponden con los tres estadios de la teoría del conocimiento convencional: adquisición de los datos y reconocimiento del dilema, análisis de de la disyuntiva y toma de decisiones. 

Lo más importantes es que estas máquinas aprendan a reconocer un dilema ético dentro del lenguaje natural que será con el que nos comunicaremos con ellas», según Cristina Sánchez

Ethyka recibe toda la información que le llega a través de cámaras, audios, sensores, apps, frameworks, etc., .Después, puede tomar diferentes decisiones en función de los valores y normas que tiene guardados. El sistema, que tiene un gran almacenamiento de memoria, emplea un catálogo de dilemas con factores predeterminados sobre un tema para ver si de verdad existen. En caso de que así sea, puede tomar una decisión de acuerdo con un escenario determinado.

Es muy remarcable, que Etyhka pueda llevar a cabo una respuesta cognitivo emocional. Lo hace cotejando la información del contexto con las expectativas de recompensa. Algo que nuestro cerebro hacer de forma intuitiva y que la máquina cognitiva no puede hacer, sino cuando menos similar de alguna forma . Estas expectativas de recompensa, viene a ser lo que llamamos corrientemente las ventajas e inconvenientes y en la intuición del bien y del mal. Este tema de l bien y del mal es realmente el campo para la moral, y esas «asignaciones» las hace un experto en moral, ética, en definitiva no un tecnólogo. Esto ser realiza en tres fases, el módulo ético analiza el dilema.

Resolver la potencial ‘corrupción’ ética

ETHYKA viene a resolver el problema de la potencial ‘corrupción’ moral de sistemas de aprendizaje autónomos en contacto con humanos, la mejora en la toma de decisiones de sistemas híbridos hombre-máquina y de las acciones de sistemas autónomos (vehículos, robots o drones).

Su framework permite implementar fácilmente y con agilidad modelos éticos en sistemas de inteligencia artificial (robots, asistentes virtuales, etc.). Puede ser implementado en asistentes virtuales, unidades autónomas o simplemente en cualquier app o web services.

Es un módulo que ha sido pensado y desarrollado para dar solución al problema de toma de decisiones ante dilemas éticos que nos encontramos en la sociedad en diversos ámbitos profesionales (medicina, justicia, educación), en ámbitos sociales y culturales (cuidado de mayores, museos, cines) o en medios de transporte (trenes, aviones, coches), entre otros.

Con el tema de la ética en las máquinas se nos plantean varias preguntas reflexivas como, por ejemplo:

• ¿Quién nos asegura que estos sistemas tomarán decisiones ‘humanas’?
• ¿Se plantearán estos sistemas los aspectos éticos en la toma de sus decisiones?
• ¿Se limitarán a evaluar simplemente entradas de datos y tomarán la decisión objetivamente más positiva desde un punto de vista de un simple cálculo matemático o una ponderación coste-eficacia?
• ¿Pondríamos nuestras vidas o las vidas de nuestros hijos en manos de sistemas cuyo único razonamiento para la toma de decisiones sean entrenamientos sesgados y/u operaciones matemáticas?
• ¿Qué principios deberán regir a los robots?
• ¿Cómo afecta de manera distinta a diversos grupos sociales y en distintas regiones del mundo?
• ¿Cómo será la Inteligencia Artificial en un futuro próximo?

Como está diseñada ETHYKA

La investigación y análisis del proyecto español ETHYKA nace desde el estudio del funcionamiento del cerebro considerando un sistema de tres capas:

• Primer nivel: Funcionamiento de la ética en el cerebro humano. En este nivel ETHYKA define el proceso de la toma de decisiones en el cerebro y las diferentes áreas del cerebro.
• Segundo nivel: Estructura de funcionamiento de los diferentes componentes de la plataforma de forma similar a como lo hace nuestro cerebro en el primer nivel.
• Tercer nivel: Se accede en detalle a la infraestructura de la plataforma.

El comportamiento del cerebro

Lo que hace el cerebro humano es obedecer al principio de supervivencia: lo que importa no es conocerlo todo, sino conocer lo justo para sobrevivir. La atención es el mecanismo por el que se seleccionan ciertas partes de la información disponible y se ignoran otras. De este modo, el sistema nervioso es capaz de localizar elementos de información que resultan relevantes para focalizar la atención en ellos y no en otros, todo ello dependiendo de cuál sea nuestro objetivo. Los tipos de estímulos que el cerebro interpreta incluyen sonidos, luz, olores y dolor.

ETHYKA de igual manera es capaz de recepcionar toda la información que le llega a través de cámaras, audios, sensores, información recibida a través de apps, frameworks, etc., mediante un formato de entrada que recogerá distintas partes de información.

El primer paso del cerebro es generar la emoción en la capa central del cerebro, evaluar el significado biológico de la información recibida, que puede ser positivo o negativo. La amígdala cerebral une la emoción y la motivación. El lóbulo frontal es capaz de frenar los impulsos automáticos y decidir acorde con los valores y normas que tiene guardados.

Análisis de cada dilema

En la segunda fase, ETHYKA utiliza un catálogo de dilemas con factores predeterminados en función del tema tratado para determinar la existencia o no del dilema.Y advierte de la existencia o no del dilema y de las acciones a tomar en función del escenario en el que se esté utilizando.

La respuesta cognitivo emocional se obtiene cotejando la información del contexto con las expectativas de recompensa en función a los valores y las normas que cada uno es libre de respetar.

El análisis que valora las convicciones es más lento, porque exige calcular las ventajas y los inconvenientes; dado que el cerebro ético, frente a un dilema, funciona como un atajo emocional que supone la intuición del bien y del mal como guía natural pero sin determinar la conducta. Los valores no se encuentran determinados biológicamente y son diferentes en cada cultura. La capacidad de frenar las emociones es la que permite analizar y decidir; y esa función la ejerce el lóbulo frontal, la parte del cerebro más evolucionada. Estas neuronas frenan la información que llega desde la amígdala, procesan las expectativas y pueden proyectar el futuro.

Varias éticas

ETHYKA analiza el dilema reconocido en distintas Fases:

Primera Fase: Determinando qué tipo de ética se va a utilizar, puede ser que sea una o varias, dependiendo del escenario. Entre ellas: la ética aprobativa, la autónoma y heterónoma, la evolutiva, la teológica, la social, la cívica y la profesional.

Segunda Fase: Qué principios debe de cumplir, dependiendo del escenario y del tipo de ética asignado.

Tercera Fase: En su utilidad más compleja, utiliza machine learning/Deep learning para generar predicciones, que ayudarán a contrastar la toma de decisiones éticas de los dilemas planteados en base a la información almacenada.

En su utilidad más fácil, simplemente bloqueará resultados impropios, como por ejemplo en su aplicación en asistentes virtuales o en chatbots.

La toma de decisiones de ETHYKA

Los criterios de decisión se estructuran en tres modelos:

• Baja certidumbre: Se tiene conocimiento total sobre el problema, las alternativas de solución que se planteen van a causar siempre resultados conocidos e invariables. Al tomar la decisión solo se debe pensar en la alternativa que genere mayor beneficio.
• Bajo riesgo: La información con la que se cuenta para solucionar el problema es incompleta, es decir, se conoce el problema, se conocen las posibles soluciones, pero no se conocen con certeza los resultados que pueden arrojar.
• Baja incertidumbre: Se posee información deficiente para tomar la decisión, no se tienen ningún control sobre la situación, no se conoce cómo puede variar o la interacción de las variables del problema.

Las soluciones de ETHYKA son válidas en todas estas circunstancias con soluciones para cada sector, en una cultura o país determinado y bajo unas reglas de comportamiento diferentes y específicas de cada sociedad.

Equipo de ETHIKA

Cristina Sánchez, CEO de Acuilae, es diplomada en Estadística por la Universidad Complutense de Madrid, ha trabajado durante 19 años como informática para el Grupo Accenture en grandes clientes como Banco de Santander, BBVA, Endesa o Barklays Bank, y es Master en Data Science.

Pedro Diezma, colaborador del proyecto, es uno de los mayores expertos mundiales en Wearable Technology (‘tecnología vestible’), Internet of Things y Human Enhancement Technologies (HET), miembro de MENSA y Premio ‘Mejor Iniciativa’ Wearable en eSalud 2017 y ‘Mejor Solución’ tecnológica 2018 a la seguridad laboral. Ha desarrollado proyectos para más de 450 empresas, tratando con 850 equipos pertenecientes a grupos como Telefónica, Sanitas, Airbus, Mahou, Samsung y Microsoft.