Proyectos

Nuestra mirada ética sobre la IA.

Estos son nuestros principios…
si no le gustan, no tenemos otros.

Pocas veces el ser humano ha sido tan consciente de los cambios tan drásticos que surgen a su alrededor. Pocas veces la sociedad, la industria y la economía han evolucionado tan rápido en un periodo de tiempo tan corto.

La revolución tecnológica en la que vivimos, para muchos ya la cuarta revolución industrial, ha cambiado las normas del juego a todos los niveles y la inteligencia artificial es, sin duda, uno de los principales motores de ese cambio. Pero todo cambio trae consigo nuevas posibilidades, enormes beneficios; pero también riesgos y, en ocasiones, consideraciones éticas que deben ser tenidas en cuenta.

Desde Paradigma Digital, de acuerdo a nuestra cultura y valores, hemos hecho una reflexión desde el punto de vista ético sobre estas cuestiones. Esto nos ha llevado a definir los 5 principios fundamentales que guían y establecen un marco de buenas prácticas en el desarrollo de IA en Paradigma, y que sientan las bases de cómo trabajaremos con nuestros clientes en esta área.

Desarrollo de IA justo y libre de prejuicios.

Velaremos por que los sistemas de inteligencia artificial sean justos, evitando la discriminación de personas y grupos con las decisiones que tomen, salvaguardando por encima de todo la dignidad humana.

Para ello, es necesario asegurarse de no usar conjuntos de datos sesgados y controlar la posible discriminación algorítmica utilizando métricas avaladas por expertos humanos.

Cumplimos y ayudamos a cumplir.

Conocemos la importancia de identificar de manera clara y precisa la responsabilidad de las decisiones tomadas por sistemas autónomos, es por ello que tendremos el objetivo de ayudar a nuestros clientes a reflexionar sobre su responsabilidad en el uso de este tipo de sistemas. Asimismo, como diseñadores y desarrolladores de estos sistemas, garantizamos que el desarrollo de nuestro software será siempre de acuerdo a las normas legislativas y estándares de la industria.

De la misma forma, nos comprometemos a ayudar a nuestros clientes en la estimación y evaluación de las posibles consecuencias negativas y positivas de la implantación de sistemas autónomos en sus grupos de interés y en la sociedad en su conjunto.

Conoce tu algoritmo,
hazlo transparente

Confiar en los sistemas inteligentes que desarrollamos es fundamental. Conocer los algoritmos que creamos, poder explicar su funcionamiento es la base de lo que conocemos como “la explicabilidad” de los algoritmos.

Y para esto, necesitamos que sean transparentes, solo así sabremos cuál es la lógica que emplean y las consecuencias que podemos esperar.

Diseñaremos sistemas inteligentes trazables en todas sus etapas, desde la captura de datos, las interacciones con terceros y la toma de decisiones. Así nos aseguraremos de que cualquier intervención de un sistema autónomo en una decisión siempre tendrá una explicación satisfactoria y auditable.

Seguridad y privacidad, pilares clave en los sistemas de IA.

Si hay algo que los sistemas inteligentes no deben corromper es la privacidad de cualquier persona y funcionar de forma segura.
El equipo de seguridad de Paradigma se asegurará de que en todos nuestros proyectos cumplan la legislación vigente, poniendo especial atención en el GDPR y las normas locales de los países o regiones donde trabajamos. Estableceremos las medidas de seguridad más adecuadas para proteger los datos y asegurar que se implantan los medios necesarios para que las personas puedan ejercer sus derechos.

Además, somos conscientes de que los sistemas basados en IA no deben decidir sin que exista supervisión humana suficiente. Todo individuo tendrá derecho a no ser objeto de una decisión basada únicamente en un tratamiento de datos personales automatizado, que pueda perjudicarle, discriminarle o excluirle. Por tanto, velaremos por que toda persona pueda obtener intervención humana.

Nos orientamos hacia el propósito y el impacto positivo

Apostaremos por crear una inteligencia beneficiosa para el mundo y para las personas, en donde la prosperidad económica creada por la AI sea compartida por toda la humanidad mejorando así los procesos sociales.

Perseguiremos e incentivaremos que los sistemas de inteligencia artificial altamente autónomos estén alineados con valores y comportamientos humanos, siendo compatibles con los ideales de dignidad humana, derechos, libertades y diversidad cultural.

WALT DISNEY
No es difícil tomar decisiones cuando tienes claro cuáles son tus valores.

WALT DISNEY

Fundador de Disney