Het Britse hof van beroep heeft een proef van de politie in Wales met gezichtsherkenningstechnologie onwettig genoemd. Van mei 2017 tot april 2019 maakte de South Wales Police Force in zo'n vijftig gevallen gebruik van geautomatiseerde gezichtsherkenningstechnologie. Camera's scanden de gezichten van alle voorbijgangers en vergeleken die met gezichten op een lijst van gezochte personen.

Wanneer een gescand gezicht niet op de lijst voorkwam werd het gezicht uit het systeem verwijderd. Het systeem kon vijftig gezichten per seconde scannen en er wordt geschat dat tijdens de vijftig keer dat het systeem werd ingezet zo'n 500.000 gezichten zijn gescand. Een burgerrechtenactivist, die ook door het systeem zou zijn gefilmd, stapte naar de rechter. Het systeem zou namelijk in strijd zijn met artikel 8 van het Europees Verdrag voor de Rechten van de Mens, namelijk het recht op respect van privé-, familie- en gezinsleven.

Een eerdere rechtbank wees het verzoek van de activist om een rechterlijke toetsing af. Het systeem zou proportioneel zijn en aan de wet voldoen. Daarnaast stelde de activist dat de Public Sector Equality Duty (PSED), die Britse overheidsinstanties verplicht om over zaken als discriminatie na te denken, werd overtreden. De gezichtsherkenningstechnologie zou eerder een positieve match opleveren bij vrouwen en mensen met een donkere huidskleur. De rechtbank oordeelde dat de PSED niet was overtreden omdat er bij aanvang met de proef geen aanwijzingen waren dat het systeem op een discriminatoire manier werkte.

Op vijf punten tekende de activist beroep aan en kreeg op drie punten van het hof gelijk. Volgens de rechters voldeed het geautomatiseerde gezichtsherkenningssysteem, dat op een doorlopende basis werd ingezet, niet aan de wet. Zo werd het Europees Verdrag voor de Rechten van de Mens geschonden doordat er een te brede categorie van gezochte personen werd gehanteerd. Iedereen die de politie interessant vond kon op de lijst terechtkomen, waardoor er teveel macht bij individuele politieagenten kwam te liggen om te bepalen wie erop de lijst moest. Verder was er geen verplichte data protection impact assessment opgesteld en overtrad de politie de PSED door niet eerst uit te zoeken of het systeem bevooroordeeld was.

Burgerrechtenbeweging Liberty is blij met de uitspraak. "Het hof vindt ook dat deze dystopische surveillancetool onze rechten schendt en onze vrijheden bedreigt." Liberty wil dat de Britse overheid gezichtsherkenningstechnologie gaat verbieden. De South Wales Police Force heeft aangegeven dat het niet tegen de uitspraak in beroep gaat. De Britse privacytoezichthouder ICO verwelkomt de uitspraak.