Una reunión de suma importancia ha revolucionado el panorama de la inteligencia artificial. Esta, ha sido testigo de la adopción de una nueva legislación por parte del Parlamento Europeo, una ley que promete proteger nuestra salud, seguridad, y los derechos fundamentales de los posibles efectos perversos de la IA.
Ayer 14 de junio, el Parlamento Europeo, en una votación contundente de 499 votos a favor, 28 en contra y 93 abstenciones, ha establecido su posición negociadora sobre la tan esperada Ley de Inteligencia Artificial. Esta ley se someterá a conversaciones con los Estados miembros, donde se definirá el texto definitivo. El objetivo de esta legislación es asegurar que la IA desarrollada y utilizada en Europa se ajuste plenamente a nuestros derechos y valores, con requisitos rigurosos que incluyen supervisión humana, seguridad, privacidad, transparencia, no discriminación, así como el bienestar social y medioambiental.
Sin embargo, lo más impactante de esta ley son las prácticas prohibidas que se han establecido para prevenir riesgos y salvaguardar nuestros derechos. Los proveedores y usuarios de herramientas basadas en IA deberán cumplir con una serie de obligaciones en función del nivel de riesgo que la inteligencia artificial pueda presentar. Entre las prácticas que se han prohibido completamente se encuentran.
- Los sistemas de identificación biométrica remota, en tiempo real o no, en espacios públicos.
- Los sistemas de categorización biométrica que utilicen ciertas características identitarias (por ejemplo, el género, la raza, la etnia, el estatus de ciudadanía, la religión o la orientación política).
- Los sistemas policiales predictivos (basados en la elaboración de perfiles, la ubicación o el historial delictivo).
- Los sistemas de reconocimiento de emociones por las fuerzas de seguridad, en la gestión de fronteras, los lugares de trabajo o las instituciones de enseñanza.
- El rastreo indiscriminado de imágenes faciales sacadas de Internet o de circuitos cerrados de televisión para crear bases de datos de reconocimiento facial (que violan los derechos humanos y el derecho a la intimidad).
Pero eso no es todo. Los eurodiputados también se han asegurado de que las aplicaciones de alto riesgo de la IA sean debidamente clasificadas y reguladas. Esto incluye sistemas de IA que puedan afectar significativamente al medio ambiente, la salud, la seguridad o los derechos fundamentales de las personas. Sorprendentemente, se han añadido a la lista los sistemas utilizados para influir en los votantes y los resultados electorales, así como los sistemas de recomendación utilizados por las plataformas de redes sociales con un gran número de usuarios.
Además de estas medidas de alto impacto, la ley también impone obligaciones a los sistemas de IA generativa basados en estos modelos, como el famoso ChatGPT, también deberán cumplir con requisitos adicionales de transparencia, identificando claramente el contenido generado por IA para ayudar a distinguir entre imágenes auténticas y falsificaciones. Además, se exigirá que estos sistemas estén diseñados de tal manera que no puedan generar contenido ilegal. Para garantizar aún más la transparencia, se requerirá que se publiquen resúmenes detallados de los datos protegidos por derechos de autor utilizados en el desarrollo de estos sistemas.
Pero no todo es regulación y restricciones en esta ley. Para fomentar la innovación en IA y apoyar a las pequeñas y medianas empresas, los eurodiputados han incluido excepciones para proyectos de investigación y componentes de IA suministrados con licencias de código abierto. Además, se introducirán "espacios controlados de pruebas", que permitirán a las empresas probar la IA en entornos reales bajo la supervisión de autoridades públicas antes de su lanzamiento al mercado.
Por último, pero no menos importante, esta ley también busca facilitar a los ciudadanos la presentación de reclamaciones sobre sistemas de IA y obtener explicaciones sobre decisiones generadas por sistemas de alto riesgo que puedan afectar significativamente a nuestros derechos fundamentales. Los eurodiputados han reformado el papel de la Oficina Europea de Inteligencia Artificial, otorgándole la responsabilidad de supervisar la aplicación del marco normativo sobre IA.
El eurodiputado Brando Benifei, de Italia, expresó su satisfacción con la adopción de esta ley y destacó el liderazgo de Europa en la regulación de la IA. En sus palabras, "Mientras que las grandes tecnológicas alertan sobre las consecuencias de sus propias creaciones, Europa ha tomado la iniciativa y propuesto una respuesta concreta a los riesgos que empieza a generar la IA. Queremos que el potencial positivo de esta herramienta para la creatividad y la productividad esté bajo control. Defenderemos nuestra posición, en aras de la democracia y las libertades, durante las negociaciones con el Consejo".
En resumen, la adopción de la Ley de Inteligencia Artificial por parte del Parlamento Europeo representa un hito significativo en la regulación de la IA. Esta ley busca proteger nuestros derechos y valores, estableciendo prohibiciones claras para prácticas intrusivas y discriminatorias, clasificando y regulando los sistemas de IA de alto riesgo, imponiendo obligaciones para la IA de uso general y fomentando la innovación responsable. Europa ha asumido el desafío de guiar el desarrollo y la gobernanza de la IA, asegurando que esta poderosa herramienta esté al servicio de la humanidad y salvaguardando nuestra democracia y nuestros derechos fundamentales. A medida que el mundo observa con atención, Europa se posiciona como un faro de esperanza en un mar de incertidumbre tecnológica.