Deze 8 AI toepassingen zijn absoluut verboden
Sommige soorten AI-toepassingen mogen we simpelweg niet gebruiken volgens de AI Act. Veel daarvan zorgen ook al voor problemen met persoonsgegevens en mogen dus ook volgens de AVG niet, maar het kan maar duidelijk zijn.
Subliminale en manipulatieve technieken
Misleiden en manipuleren mag al niet volgens ons reclamerecht en staat dus al in het Burgerlijk Wetboek. En als er persoonsgegevens bij komen kijken, dan mag het ook van de AVG niet.
Iets breder mag het nu dus ook niet van de AI Act, als deze subliminale, misleidende of manipulatieve technieken ervoor zorgen dat mensen onbewust een andere beslissing nemen, dan als deze technieken niet waren gebruikt én dit leidt tot schade.
LawStories in je mailbox?
Kwetsbaarheden personen misbruiken
Ook mag je geen AI-systemen inzetten die gebruik maken van de kwetsbaarheden van personen, met als doel hun gedrag te beïnvloeden, waardoor ze schade leiden.
Denk bijvoorbeeld aan leeftijd, handicap of een specifieke sociale of economische omstandigheid.
Social scoring
Je mag niet meer gedurende een periode mensen volgen en op basis van hun sociale gedrag of persoonlijke of persoonlijkheidskenmerken een social score van ze maken, als dat tot een of beide van de volgende gevolgen leidt:
- ongunstige of nadelige behandeling van de persoon in een andere context dan waarbinnen de data over deze persoon was verzameld
- ongunstige of nadelige behandeling van personen die ongerechtvaardigd of onevenredig zijn met hun sociale gedrag
Risico op strafbare feiten voorspellen
Minority Report is een film die je mag kijken, maar die geen werkelijkheid mag worden.
Je mag geen AI op de markt brengen of gebruiken dat het risico op strafbaar gedrag voorspelt.
Gezichtsherkenningsdatabanken
Je mag geen AI gebruiken om daarmee databanken voor gezichtsherkenning aan te leggen, als je daarvoor ongerichte scraping van het internet of CCTV gebruikt.
Ofwel: wat Clearview doet mag niet.
Emotieherkenning in het onderwijs en op het werk
Emoties van leerlingen en studenten in het onderwijs, ook in commerciële onderwijssetting, of op de werkvloer mag niet.
De enige uitzonderingen zijn veiligheid en medische doeleinden.
Biometrische categorisering
Je mag niet op basis van biometrische gegevens mensen in bepaalde categorieën indelen.
Alleen als je de data rechtmatig hebt verkregen, zoals foto’s, mag je die wel filteren of labelen.
Regels voor rechtshandhaving
Voor de overheid, zoals politie en OM, zijn ook specifieke regels gemaakt, zodat zij alleen onder voorwaarden aan real time biometrische identificatie, zoals gezichtsherkenning, mogen doen.
