Reglament d'intel·ligència artificial


Manuel Castilleja Toscano     13/12/2023

EL CONSELL I EL PARLAMENT EUROPEU ARRIBEN A UN ACORD SOBRE LES PRIMERES NORMES DEL MÓN PER A LA INTEL·LIGÈNCIA ARTIFICIAL

La Unió Europea, novament marcant el camí i possiblement la referència regulatòria, tanca un acord provisional per adoptar el Reglament d'intel·ligència artificial (IA). Va ser divendres passat 8 de desembre.

Encara que no serà d'aplicació, de forma íntegra, fins als 24 mesos de la seva adopció formal i publicació al Diari Oficial de la UE, cosa que previsiblement no serà fins al 2026, avança l'aplicació de certes obligacions a 2024 i 2025:

  • Les prohibicions d'ús entraran en aplicació als 6 mesos de ladopció del Reglament (2024).
  • Les obligacions de models fundacionals (transparència i governança) seran aplicables als 12 mesos (2025).
  • Les obligacions aplicables a sistemes d'IA d'alt risc són aplicables als 12 mesos (2025).

Del Reglament cal destacar:

  • Definició de sistema dIA en línia amb les definicions proposades per lOCDE.
  • Categoritza els nivells de risc i les restriccions que han d'acompanyar en funció de l'escala, cosa que implica la prohibició en casos de risc no assumible, com ara:
    • Els sistemes de categorització biomètrica.
    • Lextracció no dirigida dimatges per crear bases de dades de reconeixement facial.
    • El reconeixement democions en entorns laborals i educatius.
    • Sistemes de puntuació social basats en comportament o característiques personals.
    • Sistemes que manipulen el comportament subliminal.
    • Sistemes que exploten vulnerabilitats de les persones.

  • També preveu excepcions que permetran l'ús de sistemes de vigilància biomètrica en espais públics, sempre que hi hagi ordre judicial prèvia i per a una llista de delictes estrictament definits.
  • Noves obligacions per a sistemes d'IA d'ús general i quan aquests sistemes s'integren posteriorment en un altre sistema d'IA que es qualifiqui d'alt risc.
  • Regles específiques per als models fundacionals: de manera general, obligacions de transparència per a tots els models i obligacions reforçades per a aquells d'alt impacte.
  • Millorar la protecció dels drets mitjançant l'obligació que els usuaris de sistemes d'IA d'alt risc duguin a terme una avaluació d'impacte sobre els drets fonamentals abans de posar en funcionament un sistema d'IA. El Parlament Europeu destaca i especifica al seu comunicat de premsa que aquesta obligació arriba a entitats financeres i asseguradores.
  • Dret dels consumidors a presentar queixes i rebre explicacions significatives
  • Multes que van des d'un màxim de 35.000.000€ o el 7% del volum de facturació anual, fins al més baix de 7.500.000€ o l'1,5% de la facturació, en funció de la gravetat de la conducta i la mida de lorganització.
  • Mesures de suport a la innovació i les pimes, destinades a garantir que les empreses, en particular les pimes, puguin desenvolupar solucions d'IA sense una pressió indeguda per part dels gegants del sector. A aquest efecte, l'acord promou els anomenats sandboxes reguladors i les proves del món real, establerts per les autoritats nacionals per desenvolupar i entrenar IA innovadora abans de la seva comercialització.

Més informació sobre l'acord a: