Reglament d'intel·ligència artificial
Manuel Castilleja Toscano 13/12/2023 EL CONSELL I EL PARLAMENT EUROPEU ARRIBEN A UN ACORD SOBRE LES PRIMERES NORMES DEL MÓN PER A LA INTEL·LIGÈNCIA ARTIFICIAL
La Unió Europea, novament marcant el camí i possiblement la referència regulatòria, tanca un acord provisional per adoptar el Reglament d'intel·ligència artificial (IA). Va ser divendres passat 8 de desembre.
Encara que no serà d'aplicació, de forma íntegra, fins als 24 mesos de la seva adopció formal i publicació al Diari Oficial de la UE, cosa que previsiblement no serà fins al 2026, avança l'aplicació de certes obligacions a 2024 i 2025:
- Les prohibicions d'ús entraran en aplicació als 6 mesos de ladopció del Reglament (2024).
- Les obligacions de models fundacionals (transparència i governança) seran aplicables als 12 mesos (2025).
- Les obligacions aplicables a sistemes d'IA d'alt risc són aplicables als 12 mesos (2025).
Del Reglament cal destacar:
- Definició de sistema dIA en línia amb les definicions proposades per lOCDE.
- Categoritza els nivells de risc i les restriccions que han d'acompanyar en funció de l'escala, cosa que implica la prohibició en casos de risc no assumible, com ara:
- Els sistemes de categorització biomètrica.
- Lextracció no dirigida dimatges per crear bases de dades de reconeixement facial.
- El reconeixement democions en entorns laborals i educatius.
- Sistemes de puntuació social basats en comportament o característiques personals.
- Sistemes que manipulen el comportament subliminal.
- Sistemes que exploten vulnerabilitats de les persones.
- També preveu excepcions que permetran l'ús de sistemes de vigilància biomètrica en espais públics, sempre que hi hagi ordre judicial prèvia i per a una llista de delictes estrictament definits.
- Noves obligacions per a sistemes d'IA d'ús general i quan aquests sistemes s'integren posteriorment en un altre sistema d'IA que es qualifiqui d'alt risc.
- Regles específiques per als models fundacionals: de manera general, obligacions de transparència per a tots els models i obligacions reforçades per a aquells d'alt impacte.
- Millorar la protecció dels drets mitjançant l'obligació que els usuaris de sistemes d'IA d'alt risc duguin a terme una avaluació d'impacte sobre els drets fonamentals abans de posar en funcionament un sistema d'IA. El Parlament Europeu destaca i especifica al seu comunicat de premsa que aquesta obligació arriba a entitats financeres i asseguradores.
- Dret dels consumidors a presentar queixes i rebre explicacions significatives
- Multes que van des d'un màxim de 35.000.000€ o el 7% del volum de facturació anual, fins al més baix de 7.500.000€ o l'1,5% de la facturació, en funció de la gravetat de la conducta i la mida de lorganització.
- Mesures de suport a la innovació i les pimes, destinades a garantir que les empreses, en particular les pimes, puguin desenvolupar solucions d'IA sense una pressió indeguda per part dels gegants del sector. A aquest efecte, l'acord promou els anomenats sandboxes reguladors i les proves del món real, establerts per les autoritats nacionals per desenvolupar i entrenar IA innovadora abans de la seva comercialització.
Més informació sobre l'acord a: