Taserfabrikant Axon, die eerder nog in het nieuws kwam vanwege het uitrusten van drones met tasers, heeft nu een AI-systeem gepresenteerd dat audio van bodycams gedragen door politieagenten omzet naar politierapporten. Volgens het bedrijf moet dit voor een grote tijdsbesparing zorgen, omdat Amerikaanse agenten nu vijftien uur per week met 'data entry' bezig zouden zijn. Critici spreken van een 'nachtmerrie'.

Draft One, zoals het systeem heet, gebruikt generatieve AI voor het omzetten van audio naar tekst. Volgens Axon zijn er waarborgen genomen om agenten 'in-the-loop' te houden. Zo moet elk rapport door een menselijke agent worden gecontroleerd en goedgekeurd. Daarnaast zijn de conceptrapporten alleen voor kleine incidenten en aanklachten bedoeld. Draft One is gebaseerd op OpenAI’s GPT-4 Turbomodel.

Axon stelt dat het een dubbelblind onderzoek heeft uitgevoerd waaruit blijkt dat het AI-systeem gelijk aan de rapporten van agenten presteert of zelfs beter op het gebied van volledigheid, neutraliteit, objectiviteit, terminologie en samenhang. Draft One is vooralsnog alleen in de Verenigde Staten beschikbaar en werkt alleen met de bodycams van Axon.

De Amerikaanse burgerrechtenbeweging EFF is niet zo blij met de ontwikkeling. "Het is een soort nachtmerrie", zegt Dave Maass van de EFF tegenover zakenblad Forbes. "Agenten die geen specialisten zijn in AI, en ook geen specialisten worden in het herkennen van problemen met AI, gaan deze systemen gebruiken om teksten te genereren die miljoenen mensen kunnen raken in hun betrokkenheid met het criminele justitiële systeem. Wat zou er mis kunnen gaan?"