Verboden AI onder de EU AI-wet

Verboden AI vanwege onaanvaardbare risico's

Bepaalde AI-toepassingen zijn onder de AI-wet geclassificeerd als het hebben van onaanvaardbare risico's en zijn daarom juridisch beperkt in de EU. AI-systemen die in deze risicocategorie vallen, mogen niet worden gepromoot, aangeboden of gebruikt in de EU. Deze beperkingen, uiteengezet in hoofdstuk II, artikel 5, richten zich op AI-systemen die het potentieel hebben om aanzienlijk inbreuk te maken op persoonlijke rechten of negatieve maatschappelijke gevolgen te hebben vanwege ethische en privacykwesties. De categorieën van verboden AI-toepassingen zijn:

• Manipulatieve AI: AI-systemen die subliminale of misleidende technieken gebruiken om het gedrag van een persoon aanzienlijk te veranderen, waardoor hun vermogen om geïnformeerde beslissingen te nemen wordt aangetast en mogelijk aanzienlijke schade veroorzaken.
• Exploitatieve AI: AI-systemen die zich richten op kwetsbare individuen, kenmerken zoals leeftijd, handicap of sociaaleconomische status uitbuiten om gedrag te manipuleren, wat waarschijnlijk schade veroorzaakt.
• Sociale scoring AI: Systemen die individuen beoordelen op basis van hun sociaal gedrag of waargenomen persoonlijke eigenschappen in de loop van de tijd, wat leidt tot onrechtvaardige behandeling die niet gerelateerd is aan de context van het gedrag.
• Risicobeoordeling AI: Systemen die uitsluitend worden gebruikt om de waarschijnlijkheid te beoordelen dat een individu een misdrijf pleegt op basis van profilering, behalve wanneer ze menselijke beoordelingen ondersteunen op basis van feitelijk bewijsmateriaal gekoppeld aan criminele activiteiten.
• Gezichtsherkenning AI: AI-toepassingen die databases creëren of uitbreiden door afbeeldingen van internet of gesloten televisiecircuit te schrapen zonder gerichte doeleinden, zijn verboden.
• Emotie detectie AI: Het gebruik van AI om emoties af te leiden in settings zoals werkplekken en onderwijsinstellingen is verboden, behalve voor specifieke medische of veiligheidsredenen.
• Biometrische categorisatie AI: Systemen die individuen categoriseren op basis van biometrische gegevens om gevoelige kenmerken zoals ras, politieke opvattingen of seksuele geaardheid af te leiden, tenzij het gaat om rechtmatige wetshandhavingsactiviteiten.
• Biometrische identificatie in realtime: Het gebruik van biometrische technologieën in realtime op openbare plaatsen voor wetshandhavingsdoeleinden is sterk gereguleerd. Dergelijke methoden zijn alleen geautoriseerd onder strenge voorwaarden, zoals het zoeken naar slachtoffers van ernstige misdaden, het voorkomen van dreigende gevaren of het identificeren van verdachten in belangrijke strafzaken. Deze gebruiken moeten noodzakelijk, evenredig zijn en voorafgaande autorisatie vereisen door een gerechtelijke of onafhankelijke administratieve autoriteit.

Over het algemeen zijn de regelgevingen gericht op het beschermen van individuen tegen invasieve of manipulatieve AI-technologieën, terwijl ervoor wordt gezorgd dat elk gebruik van biometrische en surveillance-technologieën strikt wordt gereguleerd, waarbij fundamentele rechten worden beschermd en ethische naleving wordt gewaarborgd.

Hoogrisico AI onder de EU AI Act »

Uitzonderingen

De AI-wet vermeldt verschillende uitzonderingen op de algemene verboden voor bepaalde AI-praktijken:

• Beoordeling van criminele activiteit: Het verbod op het gebruik van AI voor risicobeoordelingen om crimineel gedrag te voorspellen, is niet van toepassing op AI-systemen die worden gebruikt om menselijke beoordelingen van iemands betrokkenheid bij criminele activiteiten te ondersteunen, mits deze beoordelingen zijn gebaseerd op objectieve en controleerbare feiten die rechtstreeks verband houden met criminele activiteiten.
• Biometrische gegevens in wetshandhaving: Het verbod op het gebruik van biometrische categorisatiesystemen is niet van toepassing op het labelen of filteren van rechtmatig verkregen biometrische gegevenssets, zoals afbeeldingen op basis van biometrische gegevens, op het gebied van wetshandhaving.
• Realtime remote biometrische identificatie: Het gebruik van realtime remote biometrische identificatiesystemen op openbaar toegankelijke plaatsen voor wetshandhaving is toegestaan onder strikte voorwaarden. Deze omvatten noodzakelijke situaties zoals het zoeken naar slachtoffers van ernstige misdaden, het voorkomen van aanzienlijke en dreigende bedreigingen, of het identificeren van verdachten in belangrijke strafrechtelijke onderzoeken. Een dergelijk gebruik moet worden geautoriseerd door een gerechtelijke of onafhankelijke administratieve autoriteit en het moet voldoen aan noodzakelijke en evenredige waarborgen.

Deze uitzonderingen zijn ontworpen om een balans te vinden tussen de bescherming van individuele rechten en het potentiële nut van AI-systemen in specifieke, sterk gereguleerde omstandigheden, met name in de context van wetshandhaving en openbare veiligheid.

Gevolgen en straffen voor niet-naleving

De AI-wet van de EU handhaaft deze verboden met ernstige gevolgen om misbruik te ontmoedigen:

• Hoge boetes: Overtredingen kunnen leiden tot boetes tot €40 miljoen, of 7% van de jaarlijkse wereldwijde omzet, afhankelijk van wat hoger is.
• Reputatieschade: Niet-naleving kan aanzienlijke invloed hebben op de reputatie van een organisatie, met gevolgen voor zakelijke relaties en het vertrouwen van consumenten.
• Operationele verstoringen: Organisaties moeten mogelijk niet-nalevende AI-systemen intrekken, wat mogelijk aanzienlijke operationele en financiële verliezen kan veroorzaken.

Wanneer gaan de verboden van de AI-wet in?

De algemene verboden op AI volgens de AI-wet worden van kracht zes maanden nadat de wet in werking is getreden. De wet zelf treedt in werking 20 dagen na publicatie in het Publicatieblad van de EU, wat wordt verwacht in juni 2024. Daarom worden de verboden op bepaalde AI-praktijken naar verwachting afdwingbaar begin 2025.

Conclusie

Het verbod op AI-systemen volgens de EU AI-wet is een proactieve maatregel om ervoor te zorgen dat technologische vooruitgang niet ten koste gaat van de mensenrechten en ethische normen. Door AI-toepassingen die onaanvaardbare risico's met zich meebrengen te verbieden, zet de EU een precedent voor verantwoorde en ethische ontwikkeling van AI, waarbij het belang wordt benadrukt van het afstemmen van technologie op maatschappelijke waarden en wettelijke normen. De implicaties van deze verboden strekken zich uit tot buiten Europa en kunnen van invloed zijn op het wereldwijde beleid en de praktijken op het gebied van AI ontwikkeld en ingezet met een toewijding om fundamentele rechten te waarborgen en maatschappelijk welzijn te bevorderen.