Het Europees Parlement heeft vandaag ingestemd met de AI Act, waaronder ook een verbod op de inzet van real-time gezichtsherkenning in openbare ruimtes valt en het gebruik van een sociaal kredietscoresysteem. De christendemocratische fractie reageert teleurgesteld en stelt dat de inzet van gezichtsherkenning in bepaalde gevallen wel mogelijk moet zijn.
Onder de AI Act gaan verschillende regels voor verschillende risiconiveaus gelden. Zo zijn real-time en remote biometrische identificatiesystemen, zoals gezichtsherkenning, een "onacceptabel risico". Dat geldt ook voor sociale scoringssystemen die mensen op basis van gedrag, socio-economische status of persoonlijke eigenschappen beoordelen. Verder worden ook "cognitieve gedragsmanipulatie", voorspellende politiesystemen en het scrapen van gezichtsafbeeldingen van internet of camera's voor de aanleg van gezichtsherkenningsdatabases verboden.
Voor generatieve AI-systemen, zoals ChatGPT, gaan transparantie-eisen gelden. Zo moet duidelijk worden dat de gegenereerde content afkomstig van een AI is en moet het model zo worden ontworpen dat het geen strafbare content genereert. AI-systemen die als "hoog risico" zijn aangemerkt zullen in een EU-database moeten worden geregistreerd. Voor AI-systemen met een beperkt risico gaan minimale transparantievereisten gelden. Nu het Europees Parlement akkoord is gegaan zullen er vandaag nog onderhandelingen met de EU-landen plaatsvinden. Het doel is om tegen het einde van dit jaar tot een overeenkomst te komen.
Deze posting is gelocked. Reageren is niet meer mogelijk.