La Unión Europea pionera en regular el uso de la inteligencia artificial

Compartimos el análisis de Fernando Tomeo, abogado y consultor en Derecho Digital, Privacidad y Datos Personales; director del programa “Derecho al olvido y cleaning digital” de la Universidad Austral:

“La Unión Europea alcanzó un acuerdo de relevancia para la regulación de la inteligencia artificial (IA), una tecnología que, aunque estemos mirando para otro lado, nos está cambiando la vida y regirá nuestro destino y el de nuestros hijos en los próximos años”.
“El pasado viernes 8 de diciembre, el Parlamento Europeo y el Consejo aprobaron un acuerdo provisional sobre una ley para regular el uso de la inteligencia artificial en territorio europeo, esto es, la denominada Artificial Intelligent Act o AI Act. Si bien el texto acordado deberá ser aceptado formalmente por el Parlamento y el Consejo para convertirse en ley, se descuenta su aprobación definitiva en una próxima reunión, luego de los intensos debates que acompañaron la búsqueda de consenso y equilibrio para establecer reglas de juego a una actividad sin norma, sin marco y sin horizonte conocido”.
“En caso de aprobación formal definitiva, la flamante ley comenzará a regir íntegramente, como Reglamento aplicable a los Estados miembros de la Unión Europea, a fines de 2026 aunque algunas normas se aplicarán en forma inmediata, como aquellas vinculadas a la Oficina de IA, o en algunos meses, como las que se relacionan a la prohibición de determinados sistemas de IA”.
“La novedosa legislación tiene por objeto garantizar que los derechos fundamentales de los ciudadanos, la democracia, el Estado de Derecho y la sostenibilidad ambiental estén protegidos contra la inteligencia artificial de alto riesgo, estableciendo pautas claras y obligaciones concretas para los jugadores de un negocio que habitan un universo sin ley”.

¿Cuáles son algunos de los sistemas de inteligencia artificial que se prohíben? Tomeo los detalla y explica:

Sistemas de categorización biométrica que utilizan características sensibles de las personas tales como sus creencias religiosas, políticas, de raza u orientación sexual. Eso implica, por ejemplo, que no se autoriza utilizar ningún mecanismo alimentado por IA que discrimine a una persona heterosexual de una homosexual, o a una persona blanca de una negra, para la obtención de un crédito bancario o para la ocupación de un cargo en una empresa.
Sistemas de vigilancia biométrica que supongan la captación y manipulación no autorizada de imágenes faciales obtenidas en internet (o por cualquier medio) que tengan por objeto crear bases de datos de reconocimiento facial.
Sistemas de reconocimiento y tratamiento de emociones en el lugar de trabajo o en instituciones educativas bajo la idea, por ejemplo, de que si la vida nos encuentra tristes o enojados, esa emoción no sea utilizada en nuestra contra, en el ámbito laboral, a la hora de evaluar nuestro rendimiento.
Sistemas de puntuación social (social scoring) basados en el comportamiento social o las características personales de los individuos.
Sistemas de manipulación de hábitos o comportamiento humano que pongan en peligro o limiten la libertad de las personas: una llamada de atención a las redes sociales y los buscadores de internet que monetizan hábitos y comportamientos de sus usuarios.
Sistemas que exploten la vulnerabilidad de las personas, como su edad o su posición/situación económica, bajo la pauta de evitar cualquier tipo de discriminación de IA sistémica.

Una última consideración

“En relación con los sistemas de inteligencia artificial generativa, en los que se basa, por ejemplo, el glamoroso ChatGPT, todos deberán cumplir con criterios de transparencia especificando, verbigracia, si un texto, una canción o una imagen se generaron mediante la utilización de inteligencia artificial e implican (o no) alguna afectación a los derechos de autor”.
“La norma establece importantes multas para aquellas compañías locales e internacionales que no la cumplan, que van desde 35 millones de euros o el 7% del volumen de negocios global, hasta 7,5 millones de euros o el 1,5% del volumen de negocios, dependiendo de la infracción y el tamaño de la empresa”.
“La Unión Europea se consolida como la pionera en establecer pautas concretas para esta actividad, siguiendo la línea del Reglamento General de Protección de Datos Personales, que comenzó a regir en todo el territorio europeo en 2018 y que ha sido tomado como ley modelo por algunos países de América Latina, como Brasil”.
“En la Argentina no contamos con ninguna normativa que regule la inteligencia artificial, sin perjuicio de las denominadas “Recomendaciones para una Inteligencia Artificial Fiable”, aprobadas por la Subsecretaría de Tecnologías de la Información de la Jefatura de Gabinete de Ministros (Disposición 2/2023, de fecha 1º de junio de 2023): una guía conceptual sin rigor científico normativo”.
“Asimismo, en materia de información, privacidad y datos personales, contamos con una ley de protección de datos personales del año 2000 que ha quedado vetusta en relación con otras legislaciones avanzadas, como el mencionado Reglamento Europeo o la ley de privacidad del estado de California. Si bien, en 2022, la Agencia de Acceso a la Información Pública confeccionó un proyecto de ley de protección de datos adecuado a los estándares internacionales, el mismo nunca fue tratado por el Congreso Nacional”.( foto Ambito Financiero)