La Inteligencia Artificial es una realidad en el día a día de los ciudadanos y de las compañías. Su desarrollo, introducción y generalización plantean numerosos retos a distintos niveles, pero uno de los principales es el de su regulación. Todos los sectores implicados -científicos, compañías desarrolladoras, usuarios, estados…- están de acuerdo en la necesidad de desarrollar dicha regulación, pero nadie es capaz de explicar cómo y cuándo hacerlo.

Hace unos días, Lydia Kostopoulos, doctora en Política de Seguridad y consultora en Ciberseguridad especializada en vulnerabilidad del factor humano, protagonizó una nueva sesión del Foro MAS Consulting que precisamente versó sobre las implicaciones de la aplicación de la Inteligencia Artificial en los ámbitos de la seguridad y la defensa. El evento con Kostopoulos formó parte de las actividades que configuran el prólogo de la 8ª edición del Postgrado de Inteligencia Económica (PIES) y puso encima de la mesa un tema capital que va a generar importantes debates en los próximos meses.

Preguntada por la pérdida paulatina de control del monopolio de la defensa y seguridad en determinados ámbitos por parte de los Estados y el reto que algo así supone en materia regulatoria, Kostopoulos explicó que es un tema que se está planteando, toda vez que el desarrollo de la Inteligencia Artificial lo están llevando a cabo mayoritariamente grandes compañías tecnológicas. Sin embargo, aunque su respuesta no fue concluyente, sí que situó el debate en torno a la propiedad intelectual.

En esta misma línea, en la reciente conferencia EmTech Digital de la ‘MIT Technology Review’, un grupo de expertos en Inteligencia Artificial y regulación debatió sobre este tema y llegó a la conclusión de que el escenario actual demanda nuevos reglamentos y una mayor cooperación.

Ambos elementos parecen capitales en un proceso con demasiadas cuestiones y pocas certezas. En el debate del MIT, Rashida Richardson, directora de Investigación de Políticas en el AI Now Institute de la Universidad de Nueva York, estableció un primer punto de fricción: «¿Quién tiene la responsabilidad de garantizar que las tecnologías emergentes no sean discriminatorias?»

«Las empresas y los individuos responsables de crear tecnologías emergentes tienen una obligación: deben hacer las gestiones necesarias, analizando profundamente el contexto en el que se creó un conjunto de datos, por ejemplo. En otros casos, hay ocasiones en las que las empresas podrían darse cuenta de que su tecnología no puede superar una prueba de discriminación, ante lo que tendrían que tomar la difícil decisión de no sacar ese producto al mercado«, ahondó Richardson.

El problema apunta de nuevo al factor humano, un elemento que abordó Lydia Kostopoulos pues, como incidió en varias ocasiones a lo del en el Foro MAS Consulting, el algoritmo está creado por humanos y por tanto es vulnerable a contener errores o, como mínimo, sesgos. Esos sesgos, de acuerdo con lo planteado por Rashida Richardson, son fuente directa de discriminación y generan un primer punto de conflicto: ¿quién regula esa igualdad? ¿Se deja en manos de las propias compañías?

En ese mismo debate, Brendan McCord, asesor del Departamento de Defensa de EEUU, apunto al «inmeso poder» de las grandes compañías para incentivarlas a desempeñar un papel mucho más activo en la creación de regulaciones: «Los grupos de la sociedad civil están haciendo un buen trabajo intentando crear conciencia sobre estos temas, pero las empresas tienen una enorme capacidad para impulsar esta conversación«. En su opinión, deberían impulsar un consorcio de compañías líderes para regular sobre Inteligencia Artificial, aprendizaje automático y otras tecnologías.

El debate está abierto y cada vez genera más ruido. Quién regula, cómo y cuándo, va a ser un problema que por supuesto va a afectar a los reguladores tradicionales -tanto estatales como supraestatales- pero en el que las propias compañías van a tener que jugar un papel muy destacado, con una exigencia de implicación como quizás no se haya visto nunca.