De wereld's eerste De regelgeving voor de AI-wet en de snel evoluerende AI-technologie werd gisteren, 13 maart, door leden van het Europees Parlement aangenomen. De regelgeving, die werd door de lidstaten overeengekomen na onderhandelingen in december 2023, werd uiteindelijk door de Europarlementariërs goedgekeurd met 523 stemmen voor, 46 tegen en 49 onthoudingen (Bron ). Beleidsmakers van de EU hebben de goedkeuring van de Handelen, maar critici waarschuwen dat de wetgeving een verraad is aan de belangen van bedrijven. Een EU-beleidsanalist stelt dat het digitale beleid wordt gebruikt als een “testbed voor onderdrukkende surveillance wat een flagrante aanval is op ieders fundamentele rechten” zoals de meesten van ons inmiddels wel verwacht hadden.

Een “risicogebaseerde benadering”

De regelgeving die is verwacht  die in mei of juni van kracht wordt na enkele laatste formaliteiten, waarbij verschillende bepalingen de komende jaren in werking treden, “een ‘risicogebaseerde benadering’ toepassen op AI-producten en -diensten.”Bijbehorende pers gerapporteerd Woensdag schreven ze: "De overgrote meerderheid van de AI-systemen zal naar verwachting een laag risico hebben, zoals systemen voor aanbeveling van inhoud of spamfilters. Bedrijven kunnen ervoor kiezen om vrijwillige vereisten en gedragscodes te volgen. Risicovolle toepassingen van AI, zoals in medische apparatuur of kritieke infrastructuur zoals water- of elektriciteitsnetwerken, worden geconfronteerd met strengere eisen, zoals het gebruik van hoogwaardige data en het verstrekken van duidelijke informatie aan gebruikers."

Sommige AI-toepassingen zijn verboden omdat ze als een onaanvaardbaar risico worden beschouwd, zoals sociale scoresystemen die bepalen hoe mensen zich gedragen, sommige soorten predictive policingen emotieherkenningssystemen op school en op de werkplek. Andere verboden toepassingen zijn onder meer: politie scant gezichten in het openbaar met behulp van op AI gebaseerde systemen voor ‘biometrische identificatie’ op afstand, behalve bij ernstige misdaden zoals ontvoering of terrorisme.

Terwijl sommigen de wet hadden geprezen vanwege de “positieve richtlijnen en bescherming op basis van gezond verstand”, Wet kunstmatige intelligentie, heeft veel andere critici gekregen.

Mislukking vanuit een mensenrechtenperspectief

"Het valt niet te ontkennen dat dit een historisch moment is, zowel in de EU als wereldwijd: de EU heeft een wet aangenomen die kunstmatige intelligentie moet reguleren. Het is de eerste in zijn soort ter wereld. Het is een langverwachte, hard bevochten en langdurige wetgeving", schreef Laura Lazaro Cabrera, advocaat en directeur van het Equity and Data Program van het Center for Democracy & Technology (CDT) Europe, woensdag.

“Maar voor CDT Europa is het een gemengd verhaal als het gaat om de bescherming van de mensenrechten – een van de belangrijkste doelstellingen, tenslotte.” betoogde en dat de wet “de maatstaf zal worden voor de wereldwijde regulering van AI in wat een race tegen de klok is geworden, aangezien wetgevers worstelen met de snel voortschrijdende ontwikkeling van een technologie met verstrekkende gevolgen voor onze fundamentele mensenrechten.”

De wet introduceert belangrijke beperkingen op het gebruik van AI door wetshandhavingsinstanties, maar wetgevers zijn er niet in geslaagd een totaalverbod in te voeren op het gebruik van ongerichte gezichtsherkenning door wetshandhavingsinstanties. Bovendien waarschuwden de CDT en andere mensenrechtenactivisten dat dergelijk gebruik onaanvaardbaar hoge risico's voor de mensenrechten met zich mee zou brengen, met name voor gemarginaliseerde en kwetsbare gemeenschappen, aldus Lazaro Cabrera.

Bedreiging van het recht om te protesteren

Ze voegt eraan toe: "Er blijven ernstige risico's voor de mensenrechten bestaan ​​als het om AI gaat. De uitzonderingen in de wet voor gezichtsherkenning dreigen bijvoorbeeld de regel te overstemmen en grootschalige gezichtsscans door wetshandhavers op straat in de EU mogelijk te maken – een ernstige bedreiging voor bijvoorbeeld het recht om te protesteren..."

"De wet creëert ook een uitzondering die gemakkelijk te veel gebruikt zou kunnen worden voor de nationale veiligheid. Hoewel de wet het gebruik van emotieherkenningstechnologieën verbiedt, geldt dat verbod alleen voor onderwijs en de werkplek. Hierdoor blijven onbeantwoorde vragen bestaan ​​over waarom de wet geen verbod op het gebruik van deze technologieën als uitgangspunt heeft genomen." 

Een overwinning voor de industrie en de politie

Daniel Leufer, senior beleidsanalist bij het Brusselse kantoor van de belangenbehartigingsgroep Nu toegang krijgen, genaamd de baanbrekende AI van het blok wetgeving “een mislukking vanuit een mensenrechtenperspectief en een overwinning voor de industrie en de politie.” Hij waarschuwde dat de wetgeving een verraad is aan de belangen van het bedrijfsleven en op belangrijke punten tekortschiet.

"De nieuwe AI-wet zit vol met concessies aan de lobby van de industrie, vrijstellingen voor de gevaarlijkste vormen van AI-gebruik door wetshandhavings- en migratieautoriteiten, en verboden die zo vol mazen zitten dat ze sommige van de gevaarlijkste vormen van AI-gebruik niet eens verbieden", aldus Leufer.

#AIAct Ondanks de grote uitspraken over de EU die de lobbypogingen om 's werelds eerste uitgebreide regels voor AI te laten aannemen, zal overwinnen, is de AI Act een mislukking vanuit een mensenrechtenperspectief en een overwinning voor de industrie en de politie.

Lees @accessnow's kijk hier: https://t.co/KgWog9nHsn https://t.co/J27GWvWZMP

— Daniel Leufer (@djleufer) 13 maart 2024

Access Now merkt in het bijzonder op dat de definitieve versie van de AI-wet:

• Het lukt niet om een ​​aantal van de gevaarlijkste toepassingen van AI op de juiste manier te verbieden, inclusief systemen die biometrische massabewaking mogelijk maken en voorspellende politiesystemen;
• Creëert een flagrante maas in de wet via artikel 6(3) zodat ontwikkelaars zich kunnen vrijstellen van verplichtingen voor AI-systemen met een hoog risico;
• Stelt wetshandhavings- en migratieautoriteiten vrij van belangrijke eisen inzake openbare transparantie wanneer zij gebruik maken van AI met een hoog risico, wat betekent dat zij in het geheim gevaarlijke systemen kunnen blijven inzetten;
• Breidt de vrijstelling voor nationale veiligheid verder uit verder gaan dan wat is toegestaan ​​in de EU-verdragen, waardoor regeringen zich kunnen onttrekken aan de verplichtingen onder de AI-wet om zaken behandelen die relevant worden geacht voor de nationale veiligheid;
• Creëert een apart regime voor mensen die migreren, asiel zoeken en/of zonder papieren levend, waardoor ze veel minder rechten hebben dan EU-burgers en vrijwel geen toegang hebben tot rechtsmiddelen als deze rechten worden geschonden.

Volgens Amnesty International geeft de EU “prioriteit aan de belangen van de industrie en de wetshandhaving”.

Amnesty International's belangenbehartigingsadviseur op het gebied van kunstmatige intelligentie, Mher Hakobyan zei “Hoewel het aannemen van de eerste regels ter wereld voor de ontwikkeling en inzet van AI-technologieën een mijlpaal is, is het teleurstellend dat de EU en haar 27 lidstaten ervoor hebben gekozen om prioriteit te geven aan de belangen van -industrie  en  politie instanties die zich bezighouden met de bescherming van mensen en hun mensenrechten,” 

Naast het uiten van zorgen over de impact die de wet zal hebben op migranten, vluchtelingen en asielzoekersHakobyan benadrukte dat “het de roekeloos gebruik  en  export van draconische AI-technologieën. '

“Vormt een aanzienlijk risico voor personen met een beperking…”

Kunstmatige intelligentie kan aanzienlijke risico's opleveren voor mensen met een beperking en andere gemarginaliseerde groepen als deze niet goed wordt gereguleerd. De AI-wet behandelt mensenrechten, maar niet zo uitgebreid als we hadden gehoopt. We roepen de Europese Unie nu op om deze kloof te dichten met toekomstige initiatieven.

Yannis Vardakastanis, voorzitter van het Europees Gehandicaptenforum, zei in een verklaring dat "de AI-wet de mensenrechten aanpakt, maar niet zo uitgebreid als we hadden gehoopt. We roepen de Europese Unie nu op om deze kloof te dichten met toekomstige initiatieven."

Beschermen, niet bewaken

Access Now en Amnesty maken deel uit van de BeschermNietBewaak coalitie, die uitgebracht een gezamenlijke verklaring waarin wordt gewaarschuwd dat de AI-wet ‘een gevaarlijk precedent schept’, met name vanwege de vrijstellingen voor wetshandhaving, migratiefunctionarissen en nationale veiligheidsfunctionarissen.

Andere leden van de coalitie zijn onder meer EuroMed Rights, European Digital Rights en Statewatch, waarvan de uitvoerend directeur, Chris Jones, zei in een verklaring: "Het heeft ernstige tekortkomingen vanuit het oogpunt van fundamentele rechten en mag niet worden beschouwd als een gouden standaard voor op rechten gebaseerde AI-regulering."

Wetgeving moet prioriteit geven aan mensen en hun rechten

Campagnevoerders hopen dat beleidsmakers wereldwijd lering trekken uit dit wetgevingsproces en dat de wetgeving volgens hen de mensenrechten van mensen moet respecteren en prioriteit moet geven.

Hakobyan van Amnesty benadrukte dat "landen buiten de EU moeten leren van het onvermogen van de EU om AI-technologieën adequaat te reguleren en niet mogen bezwijken onder de druk van de technologie-industrie en wetshandhavingsinstanties bij het ontwikkelen van regelgeving. Staten zouden in plaats daarvan robuuste en bindende AI-wetgeving moeten invoeren die prioriteit geeft aan mensen en hun rechten."

Lázaro Cabrera benadrukt dat "er zoveel op het spel staat bij de implementatie van de AI-wet en dat we, nu de rust is wedergekeerd, allemaal voor de moeilijke taak staan ​​om een ​​complexe, lange en ongekende wet te ontvouwen. Nauwe samenwerking met experts en het maatschappelijk middenveld zal cruciaal zijn om ervoor te zorgen dat de interpretatie en toepassing van de wet effectief zijn en consistent met de geformuleerde doelen van de wet: het beschermen van mensenrechten, democratie en de rechtsstaat."

Karolina Iwanska van het Europees Centrum voor non-profitrecht gereageerd Evenzo: "Laten we duidelijk zijn: het heeft ernstige tekortkomingen vanuit het oogpunt van fundamentele rechten en mag niet worden beschouwd als een gouden standaard voor op rechten gebaseerde AI-regulering. Dat gezegd hebbende, zullen we werken aan een zo krachtig mogelijke implementatie."

Het EP heeft de #AIAct Vandaag. Laten we duidelijk zijn: het heeft ernstige tekortkomingen vanuit het oogpunt van fundamentele rechten en mag niet worden beschouwd als een gouden standaard voor op rechten gebaseerde AI-regulering. Desondanks zullen we werken aan een zo krachtig mogelijke implementatie. https://t.co/EzfBkF4dEM

— Karolina Iwańska is @ka******@******cy.sociaal (@ka_iwanska) 13 maart 2024

Access Now stelt dat "ondanks de ernstige tekortkomingen van de AI-wet, Access Now zal samenwerken met partners uit het maatschappelijk middenveld om te pleiten voor een zo krachtig mogelijke implementatie van de AI-wet en de weinige hulpmiddelen ter bescherming van rechten die deze bevat. Tegelijkertijd zullen we misbruik dat door AI wordt gefaciliteerd blijven monitoren en aankaarten."