image

Europees Parlement stemt voor AI Act, verbod op real-time gezichtsherkenning

woensdag 14 juni 2023, 13:57 door Redactie, 13 reacties

Het Europees Parlement heeft vandaag ingestemd met de AI Act, waaronder ook een verbod op de inzet van real-time gezichtsherkenning in openbare ruimtes valt en het gebruik van een sociaal kredietscoresysteem. De christendemocratische fractie reageert teleurgesteld en stelt dat de inzet van gezichtsherkenning in bepaalde gevallen wel mogelijk moet zijn.

Onder de AI Act gaan verschillende regels voor verschillende risiconiveaus gelden. Zo zijn real-time en remote biometrische identificatiesystemen, zoals gezichtsherkenning, een "onacceptabel risico". Dat geldt ook voor sociale scoringssystemen die mensen op basis van gedrag, socio-economische status of persoonlijke eigenschappen beoordelen. Verder worden ook "cognitieve gedragsmanipulatie", voorspellende politiesystemen en het scrapen van gezichtsafbeeldingen van internet of camera's voor de aanleg van gezichtsherkenningsdatabases verboden.

Voor generatieve AI-systemen, zoals ChatGPT, gaan transparantie-eisen gelden. Zo moet duidelijk worden dat de gegenereerde content afkomstig van een AI is en moet het model zo worden ontworpen dat het geen strafbare content genereert. AI-systemen die als "hoog risico" zijn aangemerkt zullen in een EU-database moeten worden geregistreerd. Voor AI-systemen met een beperkt risico gaan minimale transparantievereisten gelden. Nu het Europees Parlement akkoord is gegaan zullen er vandaag nog onderhandelingen met de EU-landen plaatsvinden. Het doel is om tegen het einde van dit jaar tot een overeenkomst te komen.

Image

Reacties (13)
14-06-2023, 14:05 door Anoniem
Eindelijk worden dan Google en Meta verboden.
14-06-2023, 14:58 door Anoniem
Een helder statement van de EU. Geen mass surveilance maatschappij.
Een belangrijke stap al lost het niet alle privacy problemen op. Maar het is hoopgevend.
14-06-2023, 15:38 door Anoniem
Verbied ook het ongebreidelde dataverzamelen en blacklisten door banken.
14-06-2023, 15:44 door Reinder
Ik begrijp de teleurstelling van die christendemocratische fractie niet goed. Als ik het goed begrijp is hun standpunt dus dat ze er in principe tegen zijn, en het niet breed willen inzetten of toestaan, maar wel met voorafgaande toestemming door een officier van justitie o.i.d in speciale, bij wet vast te leggen omstandigheden zoals vermiste kinderen, preventie van terrorisme en zware criminaliteit.

Hoe, precies, stellen ze zich dat dan voor? Als je het onder de geschetste omstandigheden wel wil toestaan, dan moet je dus wel een hele infrastructuur opbouwen waarmee je het dan wel kan doen. Dus ze willen dan wel op allerlei plekken camera's plaatsen inclusief de achterliggende systemen om gezichtsherkenning of biometrische identificatie te kunnen toepassen, maar die willen ze dan uit zetten tenzij een officier van justitie of rechter vooraf toestemming geeft om het te mogen gebruiken.

Die moeten dus vooraf voorspellen waar terrorisme en zware criminaliteit zullen gaan plaatsvinden, zodat de camera's aldaar aan gezet kunnen worden teneinde de misdrijf of de aanslag te verijdelen? Maar de identificatie moet "strict, targeted en real-time" zijn, maar met voorafgaande toestemming... Dus willen ze nu vooraf gaan voorspellen welk kind ontvoerd zal gaan worden? Wie een aanslag zal gaan plegen?

De hele combinatie van "strikt, doelgericht, voorafgaande toestemming" en als doel "criminaliteit, terrorisme en vermiste kinderen" kan ik niet goed plaatsen, die doelen lijken tegenstrijdig met de beperkingen.

Of zouden ze bedoelen dat ze eigenlijk gewoon het op alle plekken kunnen aanzetten die hen goeddunkt, zoals bij demonstraties of in straten waar erotisch vertier e.d. aangeboden wordt?
14-06-2023, 16:52 door Anoniem
De beide camera's en de fotogallerie van een mobiele telefoon kunnen gezichten herkennen. Google kan de genomen foto's op basis van gezichtsherkenning sorteren. Valt dat straks ook onder het verbod op real-time gezichtsherkenning?
14-06-2023, 20:56 door Anoniem
Kunnen degenen die voortdurend denken dat de EU precies de dingen die nu verboden worden juist wil doordrukken even tot zich laten doordringen wat er werkelijk gebeurt?

De teleurstelling van de christendemocraten laat zien dat er mensen zijn die dit soort dingen (in ieder geval voor een deel) wel zien zitten. Wat je hier ziet is dat er krachten en tegenkrachten spelen en dat het niet allemaal één groot complot is dat eensgezind het ergste wil, maar dat degenen die het ergste niet willen ook wat in de melk te brokkelen hebben.
14-06-2023, 22:26 door Anoniem
Het zal wel weer civiel recht worden. Terwijl het echt bewust manipuleren van mensen in het strafrecht hoort.
15-06-2023, 07:13 door Anoniem
en het gebruik van een sociaal kredietscoresysteem
Eh... Dat hebben we toch 3 jaar geleden net opgetuigd?
Of worden hier weer woordspelletjes gespeeld? Het is EU, dus erg waarschijnlijk. Jammer.
15-06-2023, 09:02 door Anoniem
Door Anoniem: De beide camera's en de fotogallerie van een mobiele telefoon kunnen gezichten herkennen. Google kan de genomen foto's op basis van gezichtsherkenning sorteren. Valt dat straks ook onder het verbod op real-time gezichtsherkenning?

Geloof niet dat dit onder realtime valt.
15-06-2023, 10:37 door DLans
Door Anoniem:
en het gebruik van een sociaal kredietscoresysteem
Eh... Dat hebben we toch 3 jaar geleden net opgetuigd?
Of worden hier weer woordspelletjes gespeeld? Het is EU, dus erg waarschijnlijk. Jammer.

Wat een onzin, welke vrijheden ben je 3 jaar geleden kwijtgeraakt? Welk kredietscoresysteem hebben we nu actief?
15-06-2023, 13:49 door Anoniem
Door Anoniem: De beide camera's en de fotogallerie van een mobiele telefoon kunnen gezichten herkennen. Google kan de genomen foto's op basis van gezichtsherkenning sorteren. Valt dat straks ook onder het verbod op real-time gezichtsherkenning?
Wil je dat Google die informatie heeft?
17-06-2023, 14:42 door Anoniem
Deep fake moet natuurlijk mogelijk blijven (for nefarious purposes)
21-06-2023, 10:52 door Anoniem
OpenAI lobbyde in Brussel om Europese AI-wetgeving af te zwakken
woensdag 21 juni 2023, 10:17 door Redactie

https://www.security.nl/posting/800338/OpenAI+lobbyde+in+Brussel+om+Europese+AI-wetgeving+af+te+zwakken
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.