Europees Parlement stemt voor AI Act, verbod op real-time gezichtsherkenning
Het Europees Parlement heeft vandaag ingestemd met de AI Act, waaronder ook een verbod op de inzet van real-time gezichtsherkenning in openbare ruimtes valt en het gebruik van een sociaal kredietscoresysteem. De christendemocratische fractie reageert teleurgesteld en stelt dat de inzet van gezichtsherkenning in bepaalde gevallen wel mogelijk moet zijn.
Onder de AI Act gaan verschillende regels voor verschillende risiconiveaus gelden. Zo zijn real-time en remote biometrische identificatiesystemen, zoals gezichtsherkenning, een "onacceptabel risico". Dat geldt ook voor sociale scoringssystemen die mensen op basis van gedrag, socio-economische status of persoonlijke eigenschappen beoordelen. Verder worden ook "cognitieve gedragsmanipulatie", voorspellende politiesystemen en het scrapen van gezichtsafbeeldingen van internet of camera's voor de aanleg van gezichtsherkenningsdatabases verboden.
Voor generatieve AI-systemen, zoals ChatGPT, gaan transparantie-eisen gelden. Zo moet duidelijk worden dat de gegenereerde content afkomstig van een AI is en moet het model zo worden ontworpen dat het geen strafbare content genereert. AI-systemen die als "hoog risico" zijn aangemerkt zullen in een EU-database moeten worden geregistreerd. Voor AI-systemen met een beperkt risico gaan minimale transparantievereisten gelden. Nu het Europees Parlement akkoord is gegaan zullen er vandaag nog onderhandelingen met de EU-landen plaatsvinden. Het doel is om tegen het einde van dit jaar tot een overeenkomst te komen.
Een belangrijke stap al lost het niet alle privacy problemen op. Maar het is hoopgevend.
Hoe, precies, stellen ze zich dat dan voor? Als je het onder de geschetste omstandigheden wel wil toestaan, dan moet je dus wel een hele infrastructuur opbouwen waarmee je het dan wel kan doen. Dus ze willen dan wel op allerlei plekken camera's plaatsen inclusief de achterliggende systemen om gezichtsherkenning of biometrische identificatie te kunnen toepassen, maar die willen ze dan uit zetten tenzij een officier van justitie of rechter vooraf toestemming geeft om het te mogen gebruiken.
Die moeten dus vooraf voorspellen waar terrorisme en zware criminaliteit zullen gaan plaatsvinden, zodat de camera's aldaar aan gezet kunnen worden teneinde de misdrijf of de aanslag te verijdelen? Maar de identificatie moet "strict, targeted en real-time" zijn, maar met voorafgaande toestemming... Dus willen ze nu vooraf gaan voorspellen welk kind ontvoerd zal gaan worden? Wie een aanslag zal gaan plegen?
De hele combinatie van "strikt, doelgericht, voorafgaande toestemming" en als doel "criminaliteit, terrorisme en vermiste kinderen" kan ik niet goed plaatsen, die doelen lijken tegenstrijdig met de beperkingen.
Of zouden ze bedoelen dat ze eigenlijk gewoon het op alle plekken kunnen aanzetten die hen goeddunkt, zoals bij demonstraties of in straten waar erotisch vertier e.d. aangeboden wordt?
De teleurstelling van de christendemocraten laat zien dat er mensen zijn die dit soort dingen (in ieder geval voor een deel) wel zien zitten. Wat je hier ziet is dat er krachten en tegenkrachten spelen en dat het niet allemaal één groot complot is dat eensgezind het ergste wil, maar dat degenen die het ergste niet willen ook wat in de melk te brokkelen hebben.
Of worden hier weer woordspelletjes gespeeld? Het is EU, dus erg waarschijnlijk. Jammer.
Geloof niet dat dit onder realtime valt.
Of worden hier weer woordspelletjes gespeeld? Het is EU, dus erg waarschijnlijk. Jammer.
Wat een onzin, welke vrijheden ben je 3 jaar geleden kwijtgeraakt? Welk kredietscoresysteem hebben we nu actief?
woensdag 21 juni 2023, 10:17 door Redactie
https://www.security.nl/posting/800338/OpenAI+lobbyde+in+Brussel+om+Europese+AI-wetgeving+af+te+zwakken
Deze posting is gelocked. Reageren is niet meer mogelijk.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
