Autoriteit Persoonsgegevens eist opheldering techbedrijf over AI-chatbot
De Autoriteit Persoonsgegevens (AP) heeft bij een niet nader genoemd techbedrijf opheldering gevraagd over de integratie van een AI-chatbot in hun app die populair is bij kinderen. De AP wil onder meer weten hoe transparant de chatbot is over de omgang met de gegevens van gebruikers. Volgens de privacytoezichthouder gaan de ontwikkelingen rond de inzet van AI razendsnel.
"Dit betekent dat met name generatieve AI-toepassingen steeds breder worden gebruikt. De AP ziet grote risico’s bij het aanbieden van toepassingen zoals AI-chatbots aan kinderen, omdat zij zich onvoldoende bewust zijn van deze risico’s", zo stelt de AP. "Het is belangrijk dat zij bijvoorbeeld weten wat er gebeurt met hun chatberichten en of ze praten met een chatbot of met een echt persoon."
De toezichthouder wil van het techbedrijf weten hoe transparant de app is over het gegevensgebruik, en of er goed is nagedacht over een bewaartermijn voor de verzamelde gegevens. Naar aanleiding daarvan bepaalt de AP of vervolgstappen nodig zijn. Eerder kondigde de toezichthouder aan verschillende acties te ondernemen richting organisaties die gebruikmaken van generatieve AI. Zo heeft de AP deze zomer ook OpenAI om opheldering gevraagd over chatbot ChatGPT en gevraagd hoe het bedrijf omgaat met persoonsgegevens bij het trainen van het onderliggende systeem.
Er werd een hele club investeerders uitgenodigd voor een demo. Ze konden vragen intikken op de TTY. En het antwoord werd er onder geprint. Eerst verbazing alom dat het werkte. Totdat de tikfouten op begonnen te vallen.
Wat bleek, de briljante uitvinder zat in het kamertje ernaast. Met een encyclopedie en nog wat naslagwerken. Aan een andere TTY. Omdat computers toen nog traag waren, viel het eerst niet op dat hij alles zat over te tikken. Dat het antwoord even duurde. Maar hij ging door de mand met zijn tikfouten.
Een episch oplichtersverhaal, nog steeds. Maar gaat ook over de AI van nu. Want dat is eigenlijk op het zelfde kunstje gebaseerd. Alleen al die data past nu wel op harde schijven. Toen was dat onmogelijk. Maar het principe blijft het zelfde.
Voor nu zullen we moeten leren omgaan met AI. Het is gewoon te handig voor een heleboel dingen. Het antwoordt sneller want er moet niks meer handmatig uit de encyclopedie overgetikt te worden. Het maakt ook minder tikfouten. Dus het gaat minder snel door de mand. Waar het wel door de mand gaat is als je weet dat iets niet klopt. Gewoon niet waar is. Data is zelden compleet, dat het correct is is ongewis en altijd enkel op het verleden gebaseerd. Het is ook geen intelligentie. Dat is een marketing woord. Intelligent is voelen of denken, hier klopt iets niet. Of er staat gewoon onzin. AI blijft een mannetje in de andere kamer die gewoon alles over zit te typen.
Deze posting is gelocked. Reageren is niet meer mogelijk.
Specialiseer je in Forensisch ICT
Online informatieavond 19 november
Wil jij je specialiseren in digitaal forensisch onderzoek? Je kennis verbreden en tech-nische vaardigheden ontwikkelen? Ontdek de cursus- en opleidingsmogelijkheden van Hogeschool Leiden:
- Bachelor Informatica Forensisch ICT (deeltijd)
- Master Digital Forensics (vol- en deeltijd)
- Module Mobile Forensics
- Module Data Analytics
Interesse? Meld je aan!
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
