La Unión Europea regula la inteligencia artificial para promover sus beneficios y eliminar reales y potenciales perjuicios

Por Enrique E. Batista J., Ph. D. (foto)

https://paideianueva.blogspot.com

El parlamento europeo aprobó el 14 de junio de 2023 regulaciones sobre los sistemas de inteligencia artificial – IA, las cuales marcarán un hito importante para el desarrollo de ellos y evitar sus usos impropios y perversos. Es la primera regulación sobre la IA en el mundo, la que se ha dado en mitad de los muy acelerados desarrollos de los chatbots que han llevado al reconocimiento, por muchos, de los grandes riesgos que dichos sistemas pueden tener para personas, grupos sociales, grupos culturales, y para el presente y futuro de la humanidad en general.

La IA, se reconoce, puede proporcionar a la sociedad, a países, empresas y  personas beneficios positivos en una variedad amplia de campos: el medio ambiente, la salud, la agricultura, la cualificación laboral, la administración de infraestructuras, en el transporte, la logística, los servicios públicos, en la seguridad, la justicia, en los usos eficientes de los recursos naturales y de la energía,  en la mitigación del cambio climático, la optimización de operaciones, la asignación de recursos y la personalización de soluciones digitales. (https://rb.gy/dz8lj)

Pero, a la vez, se reconocen riesgos y efectos negativos tanto para la sociedad en general como para personas o grupos de ellas en particular. La propuesta se basa en la defensa de  los valores y derechos fundamentales que reconoce la Unión Europea y en la concepción de que la IA es y puede ser una fuerza positiva en la sociedad, para el bienestar humano, asumiendo que ella precisa ser  concebida como espacio  en el que se preservarán los derechos fundamentales que promueve la Unión Europea, tales como: el derecho a la libertad y a la dignidad humana, respeto a la vida privada y familiar, salud y seguridad de las personas, protección de los consumidores, protección de datos personales, ausencia de discriminación, igualdad entre hombres y mujeres,  libertad de expresión y de reunión, garantía de  tutela judicial efectiva y de  jueces imparciales, presunción de inocencia y los derechos de defensa, y el  respeto a las normas éticas. Se asegura en la regulación la innovación responsable y se imponen ciertas restricciones a la libertad de empresa y la libertad de las artes y de la ciencia. (El lector puede encontrar en español la norma completa y un resumen de 20 páginas aquí: https://rb.gy/cwge9).

Establece la norma un enfoque basado en riesgos (inaceptable, riesgo alto y riesgo bajo o mínimo) y presenta  una lista de las áreas de los sistemas de IA artificial que serán prohibidos. Se especifican y detallan en extenso siete áreas de alto riesgo. Estas áreas son:

1. Identificación biométrica y caracterización de personas.

2.  Gestión y funcionamiento de infraestructuras esenciales.

3. Educación y formación profesional.

4. Empleo, gestión de los trabajadores y acceso al autoempleo.  

5. Acceso y disfrute de servicios públicos y privados esenciales y sus beneficios.

6. Asuntos relacionados con la aplicación de la ley como la de llevar a cabo evaluaciones de riesgos individuales de personas con sistemas de IA destinadas a ser empleadas por las autoridades con aplicaciones  como polígrafos y herramientas similares, para predecir la frecuencia o reiteración de una infracción penal, real o potencial, con base en la elaboración de perfiles de las personas,  la evaluación de rasgos y características de la personalidad, conductas delictivas pasadas de personas físicas o grupos.

7. Gestión de la migración, el asilo y el control fronterizo.

Se consideran inaceptables y, por lo tanto, sin vigencia y aplicación en la Unión Europea todos aquellos sistemas de IA que violan derechos fundamentales, que tienen el poder de manipular a la gente con técnicas subliminales, que aprovechan la vulnerabilidad de grupos específicos, los que alteran comportamientos provocando daños físicos o psicológicos. Precisa la norma que cuando se intervengan las emociones de las personas, éstas deben estar informadas; cuando la IA se utiliza en la generación o manipulación de imágenes, audios o vídeos que puedan aparecer como contenidos auténticos, será obligatorio informar que se han generado por medios informáticos.  

Se consideran de alto riesgo, como se mencionan arriba, los sistemas de IA que hacen uso de la educación o la formación profesional,  en especial los que determinan el acceso o ubicación de las personas en distintas instituciones educativas o de formación profesional; son de alto riegos también aquellos que evalúan a las personas a partir de pruebas realizadas en contextos educativos como condición necesaria para acceder a ella, debido a que pueden decidir la trayectoria formativa y profesional de una persona y, por lo tanto, afectar su capacidad de asegurar su subsistencia. Concibe la norma de la Unión Europea que los sistemas de inteligencia artificial diseñados y utilizados de manera incorrecta pueden violar el derecho a la educación, a la formación y a no sufrir discriminación, además de que pueden perpetuar sistemas o patrones históricos de discriminación; por ejemplo, aquellos asentados en el origen racial o étnico, discapacidad, edad u orientación sexual, o aún más, generar nuevas formas de efectos discriminatorios.

Igual criterio se aplica a aquellos sistemas de IA para  la gestión de los trabajadores y el acceso al autoempleo, en especial en los procesos de selección y contratación de personal y para la toma de decisiones asociadas a la promoción y rescisión de contratos,  a la asignación de tareas y seguimientos, a la evaluación de personas en relaciones contractuales de índole laboral, debido a que pueden afectar de manera considerable las futuras perspectivas laborales y los medios de subsistencia de ellas. Son de alto riesgo, además, los sistemas de IA que se emplean para la calificación crediticia o solvencia económica de las personas, ya que pueden limitar el acceso a recursos financieros o a servicios esenciales como la vivienda y los servicios públicos en general.

El uso de identificación biométrica en tiempo real sólo será permitido en aquellos casos que tengan como fines la aplicación de la ley y la protección de las libertades de las personas o en eventos que puedan afectar la vida privada de gran parte de la población.

O sea, son aplicables sólo en casos taxativamente autorizados por la ley para lograr un interés público general, tales como la búsqueda de posibles víctimas de un delito, menores desaparecidos, amenazas a la vida física o seguridad de las personas, posibles atentados terroristas y la detección, identificación o enjuiciamiento de sospechosos de delitos. Quedan así prohibidos aquellos sistemas de IA que utilizan las autoridades públicas para evaluar o clasificar a las personas según su conducta o características a personales y los que tienen trato perjudicial o desfavorable para determinadas personas o contextos sociales. O sea, el uso de identificación biométrica remota en tiempo real, con excepción de lo que esté autorizado por la ley.

Todos los sistemas de IA deben proveer la documentación técnica de registro y de transparencia, comunicar efectivamente esa información a quienes los usan, de modo que puedan estar sujetos a la vigilancia humana y a la solidez de la ciberseguridad. La documentación técnica incluirá, entre otros requisitos, fijados en la norma, la descripción detallada de los elementos del sistema de IA, de su proceso de desarrollo, sus capacidades y limitaciones de funcionamiento, incluidos los niveles de precisión para personas o grupos de personas específicos, los resultados no deseados previsibles y las fuentes de riesgo para la salud, la seguridad, los derechos fundamentales y la discriminación.

Este avance desde la Unión Europea es una senda importante abierta para que los gobiernos, legisladores y ciudadanía en general ejerzan control activo sobre el uso de herramientas, aplicativos y plataformas informáticas con el objetivo de que prevalezca el uso provechoso de ellas y se excluyan los perjuicios de diversa índole presentes en algunos de ellos. Ejercicio que debe realizarse en cada uno de los campos ocupacionales, en las empresas y organizaciones públicas o privadas, en las asociaciones de profesionales y en las universidades en sus procesos de formación. Decisión que también es importante que la asuman los padres de familias y maestros con respecto al empleo debido de los sistemas de IA para garantizar el progreso y desarrollo sano de los hijos y alumnos.