image

Autoriteit Persoonsgegevens vraagt burger om ervaringen met 'emotie-AI'

vrijdag 18 april 2025, 11:51 door Redactie, 7 reacties

De Autoriteit Persoonsgegevens doet onderzoek naar het gebruik van 'emotie-AI' in de samenleving en heeft nu burgers gevraagd naar hun ervaringen hiermee. 'Emotie-AI' probeert op basis van biometrische gegevens, zoals gezichtsuitdrukking, toonhoogte van de stem, transpireren of hartritme, iemands emotionele toestand te beoordelen. Bijvoorbeeld of iemand verdrietig of blij is.

De AP zoekt nu naar mensen die persoonlijke ervaring hebben opgedaan met 'emotie-AI'. Bijvoorbeeld omdat apparaten voor privégebruik emotieherkenning toepassen, of dat emotie-AI werd ingezet tijdens klantcontact met een organisatie. "De ervaringen en input worden gebruikt om een beeld te vormen van het gebruik en de risico’s van de technologie in de praktijk", aldus de privacytoezichthouder. Resultaten zullen voor de Rapportage AI- & Algoritmerisico’s Nederland (RAN) worden verwerkt.

Elk half jaar publiceert de Autoriteit Persoonsgegevens de Rapportage AI- & Algoritmerisico’s Nederland. Het rapport is mede gebaseerd op analyses van de AP, informatie uit het eigen toezichtsnetwerk en gesprekken met experts. Het doel van de RAN is om de risico’s en de effecten van de ontwikkeling en inzet van algoritmes in kaart te brengen. "Met de RAN proberen we een zo goed mogelijk beeld te schetsen. En voorstellen te doen voor maatregelen en beleid om risico’s tegen te gaan."

Reacties (7)
18-04-2025, 12:56 door Anoniem
Dan kan de supermarkt straks zien of je verliefd op iemand bent.
Harslag gaat omhoog in het bijzijn van persoon waarop je verliefd bent, wordt via supermarkt app gedeeld, verwijden de pupillen? Ga je transpireren? Wat zegt je smartwatch tegen de supermarkt app? En dit aan een AI gebonden om het verhaal compleet te maken.
Lijkt wel een leugendetector, maar dan voor iedereen en voor meer dan alleen leugens.
Door tech zoals dit gaan mensen in de toekomst bang worden om verliefd te worden.
Sommige mensen worden verliefd op onconventionele wijze (zelfde geslacht etc) Dan ziet de supermarkt dat gelijk ook.
En dat alles voor geld voor een aantal big-tech bedrijven.
Misschien wat kamervragen hierover, is dit wel toepasbaar en wenselijk in een vrije maatschapij zoals de onze?
18-04-2025, 13:03 door Anoniem
Door Anoniem: Dan kan de supermarkt straks zien of je verliefd op iemand bent.
Harslag gaat omhoog in het bijzijn van persoon waarop je verliefd bent, wordt via supermarkt app gedeeld, verwijden de pupillen? Ga je transpireren? Wat zegt je smartwatch tegen de supermarkt app? En dit aan een AI gebonden om het verhaal compleet te maken.
Lijkt wel een leugendetector, maar dan voor iedereen en voor meer dan alleen leugens.
Door tech zoals dit gaan mensen in de toekomst bang worden om verliefd te worden.
Sommige mensen worden verliefd op onconventionele wijze (zelfde geslacht etc) Dan ziet de supermarkt dat gelijk ook.
En dat alles voor geld voor een aantal big-tech bedrijven.
Misschien wat kamervragen hierover, is dit wel toepasbaar en wenselijk in een vrije maatschapij zoals de onze?
Nah, vergeet de smartwatch, daarvoor zijn infrarood of hittegevoelige camera's al voldoende voor, uiteraard verbonden aan dit soort AI-programma's die dan worden losgelaten op de maatschappij. (Ook op straat, niet alleen in de supermarkt)
Dan kunnen ze voorspellen wie er kwaad is of niet op straat en via BOA's er mensen op aanspreken.
Klinkt geweldig allemaal...
18-04-2025, 15:10 door Anoniem
Door Anoniem: Dan kan de supermarkt straks zien of je verliefd op iemand bent.
Harslag gaat omhoog in het bijzijn van persoon waarop je verliefd bent, wordt via supermarkt app gedeeld, verwijden de pupillen? Ga je transpireren? Wat zegt je smartwatch tegen de supermarkt app? En dit aan een AI gebonden om het verhaal compleet te maken.
Lijkt wel een leugendetector, maar dan voor iedereen en voor meer dan alleen leugens.
Door tech zoals dit gaan mensen in de toekomst bang worden om verliefd te worden.
Sommige mensen worden verliefd op onconventionele wijze (zelfde geslacht etc) Dan ziet de supermarkt dat gelijk ook.
En dat alles voor geld voor een aantal big-tech bedrijven.
Misschien wat kamervragen hierover, is dit wel toepasbaar en wenselijk in een vrije maatschapij zoals de onze?
Zo storm loopt het niet je hebt teveel marketing gezien.

Emoties zijn heel lastig te meten met huidige run of the mill hardware en veel te complex. Denk bijvoorbeeld aan micro expressies. Daarvoor heb je dan ook redelijk stevige processor kracht voor nodig mobiel kan dat zeker niet en dat moet dan ook nog eens getrained worden op het individueel omdat micro-expressies niet bij ieder gelijk zijn. Er zijn zeven die vaak genoemd worden als universeel maar dat is ook onzin we kunnen meer dan 10000 expressies maken met onze gezicht spieren alleen al dat is dus nog zonder trekjes die ook zich vaak voor kunnen doen in andere ledematen zoals bewegingen met de vingers en afwijkingen door bijvoorbeeld botox of andere medische oorzaak
En dit alles gaat in een fractie van een seconde rond de 0,4 seconden. Dat is voor meeste systemen te kort om te registreren wegens foutmarges en bijstelling van beeld etc.

Hartritme is daar dan weer niet te meten door kleding met meeste apparatuur vergt daarvoor extreem geconcentreerd licht op een max afstand van 1 tot 2 meter of gewoon in aanraking met de huid (horloge etc) en dat zegt ook weinig over de emotie op dat moment. Stel iemand loopt met een beladen supermarktkar of sjouwd een krat bier tijdens dat hij praat en je zou dat meten dan waar gaan de resultaten over? Het gesprek de fysieke inspanning van het tillen, duwen of een medische afwijking? Nutteloos in die setting.

Toonhoogte heb je eerst een baseline voor nodig onze hersens pakken dat heel gauw op daar heb je geen machine voor nodig zodra iemands stem verandert weet je dat ook de situatie waarschijnlijk anders is maar apparatuur is niet zo snel en dan moet je ook nog het geluid isoleren van andere bronnen dus richtmicrofoon of achteraf filteren. Beetje lastig te doen on the fly en als je dat gericht gaat doen heb je er ook geen donder aan als 99% dus niet gemonitored kan worden. Vele malen effectiever actieve bewaking op te zetten en stukken goedkoper.


Het scenario dat je daarom voor je schets is ook haast onmogelijk met de huidige technologie tenzij je dus een supercomputer en peperdure camera's audio apparatuur verwacht bij een supermarkt en dat men lang genoeg op 1 plek blijft staan. En dan los daarvan lijkt me dat de winst eerder zit in het niet gebruiken van die dure apparatuur dan meer verkopen. Reclame werkt stukken goedkoper en effectiever. Dus zo snel gaat dat echt niet.

En leugen detectors of polygraaf hebben nooit gewerkt om leugens te detecteren enkel afwijkingen van een baseline zoals hartritme wat niet bepaald werkt als je in een stressvolle situatie wordt geplaatst want of je hebt constante afwijkingen of je hebt risico op manipulatie daarom zijn ze ook nonesense tegenwoordig buiten hollywood. Helaas hebben ze wel enige decenia voor problemen gezorgd door valse beloftes maar gelukkig neemt niemand die nog serieus buiten dom entertainment value en zijn er wettelijke belemmering op het gebruik in enige vorm buiten vrijwillige entertainment.

Dat gezegd zijn er ook ontwikkelingen in dat veld met functionele MRI maar die vergen directe hersenscans en daar wordt wel in geinvesteerd momenteel voor wetenschapelijke doeleinden. Al zal het mij zeker niet verbazen als we over een decenia daar ook mogelijk testen in gaan zien voor integratie met politie onderzoek in bepaalde landen.


Net als dat de capaciteiten van iets als GPT ver uitverband vaak wordt getrokken zal dat ook gebeuren door gebruikers die denken dat een A.I. emoties van hun herkend. De meeste die dat namelijk opvragen vragen om bevestiging van hun gevoel niet om te horen wat de realiteit is.

En helaas limiteerd zich dat niet tot mensen zonder verstand van een gebied want zelfs nu zie je wetenschappers die zeggen dat GPT de vormen van AGI aanneemt wat totale onzin is als je weet dat het meeste een blackbox is met hallucinaties waar we geen idee hebben wat het aan het doen is qua de berekening omdat het te veel geld kost om het uit te laten zoeken. Wat er in zit zijn honderduizenden fouten het doet het alleen zo snel dat het lijkt of het meteen een antwoord heeft gevonden op een probleem of vraag terwijl achter de schermen er meer fouten gemaakt worden dan in een gemiddelde taal opdracht van een eerste jaars student.

En daarnaast omdat de definitie van iets als een AGI niet set in stone is en bedrijven als OpenAI het pogen om te buigen naar iets anders dan waar het in de basis over gaat. Niet over een intelligenter systeem dan de mens op onder andere cognitief gebied maar een economisch efficienter systeem dan de mens. Daarom ook dat ze de marketing teksten hebben van level 1 level 2 etc a.i Complete marketing onzin..


Kortgezegd de techniek is lang niet zo ver er zijn enorme obstakels qua de ontwikkeling en de uitvoering. Er wordt veel nonesense verkocht en de meeste personen die er ooit mee te maken hebben gehad geven hun eigen belevenis eraan maar dat zegt niks over de acuratie van de data nog actieve kennis over de risicos en capaciteiten.

En disclaimer ik zeg dat als iemand die werkt voor een bedrijf dat commerciele A.I. modellen onder andere maakt. Het gouden ei daarin is dus niet de A.I. maar de onrealistische verwachting die bedrijven hebben met de toepassing van de A.I. En wat de industrie je ook niet verteld is dat de ontwikkelingen heel erg aan het stagneren zijn. Zijn nog paar verrassingen op voorraad qua de ontwikkeling maar de meeste gebruikers zullen behoorlijk teleurgesteld zijn in wat voor nieuwtjes er nu nog gaan komen in komende vijf jaar.

Tenzij er extreme versoepeling komt qua de wetgeving en daarom dat er ook sterke lobbies gaande zijn om training data toegang te krijgen op actuele publieke en copyrighted materiaal. Want zonder barst de illusie bubbel in een paar jaar en gaan er heel veel A.I. bedrijven sneuvelen. En dat is prima.
18-04-2025, 18:00 door Anoniem
Door Anoniem:
Door Anoniem: Dan kan de supermarkt straks zien of je verliefd op iemand bent.
Harslag gaat omhoog in het bijzijn van persoon waarop je verliefd bent, wordt via supermarkt app gedeeld, verwijden de pupillen? Ga je transpireren? Wat zegt je smartwatch tegen de supermarkt app? En dit aan een AI gebonden om het verhaal compleet te maken.
Lijkt wel een leugendetector, maar dan voor iedereen en voor meer dan alleen leugens.
Door tech zoals dit gaan mensen in de toekomst bang worden om verliefd te worden.
Sommige mensen worden verliefd op onconventionele wijze (zelfde geslacht etc) Dan ziet de supermarkt dat gelijk ook.
En dat alles voor geld voor een aantal big-tech bedrijven.
Misschien wat kamervragen hierover, is dit wel toepasbaar en wenselijk in een vrije maatschapij zoals de onze?
Zo storm loopt het niet je hebt teveel marketing gezien.

Emoties zijn heel lastig te meten met huidige run of the mill hardware en veel te complex. Denk bijvoorbeeld aan micro expressies. Daarvoor heb je dan ook redelijk stevige processor kracht voor nodig mobiel kan dat zeker niet en dat moet dan ook nog eens getrained worden op het individueel omdat micro-expressies niet bij ieder gelijk zijn. Er zijn zeven die vaak genoemd worden als universeel maar dat is ook onzin we kunnen meer dan 10000 expressies maken met onze gezicht spieren alleen al dat is dus nog zonder trekjes die ook zich vaak voor kunnen doen in andere ledematen zoals bewegingen met de vingers en afwijkingen door bijvoorbeeld botox of andere medische oorzaak
En dit alles gaat in een fractie van een seconde rond de 0,4 seconden. Dat is voor meeste systemen te kort om te registreren wegens foutmarges en bijstelling van beeld etc.

Hartritme is daar dan weer niet te meten door kleding met meeste apparatuur vergt daarvoor extreem geconcentreerd licht op een max afstand van 1 tot 2 meter of gewoon in aanraking met de huid (horloge etc) en dat zegt ook weinig over de emotie op dat moment. Stel iemand loopt met een beladen supermarktkar of sjouwd een krat bier tijdens dat hij praat en je zou dat meten dan waar gaan de resultaten over? Het gesprek de fysieke inspanning van het tillen, duwen of een medische afwijking? Nutteloos in die setting.

Toonhoogte heb je eerst een baseline voor nodig onze hersens pakken dat heel gauw op daar heb je geen machine voor nodig zodra iemands stem verandert weet je dat ook de situatie waarschijnlijk anders is maar apparatuur is niet zo snel en dan moet je ook nog het geluid isoleren van andere bronnen dus richtmicrofoon of achteraf filteren. Beetje lastig te doen on the fly en als je dat gericht gaat doen heb je er ook geen donder aan als 99% dus niet gemonitored kan worden. Vele malen effectiever actieve bewaking op te zetten en stukken goedkoper.


Het scenario dat je daarom voor je schets is ook haast onmogelijk met de huidige technologie tenzij je dus een supercomputer en peperdure camera's audio apparatuur verwacht bij een supermarkt en dat men lang genoeg op 1 plek blijft staan. En dan los daarvan lijkt me dat de winst eerder zit in het niet gebruiken van die dure apparatuur dan meer verkopen. Reclame werkt stukken goedkoper en effectiever. Dus zo snel gaat dat echt niet.

En leugen detectors of polygraaf hebben nooit gewerkt om leugens te detecteren enkel afwijkingen van een baseline zoals hartritme wat niet bepaald werkt als je in een stressvolle situatie wordt geplaatst want of je hebt constante afwijkingen of je hebt risico op manipulatie daarom zijn ze ook nonesense tegenwoordig buiten hollywood. Helaas hebben ze wel enige decenia voor problemen gezorgd door valse beloftes maar gelukkig neemt niemand die nog serieus buiten dom entertainment value en zijn er wettelijke belemmering op het gebruik in enige vorm buiten vrijwillige entertainment.

Dat gezegd zijn er ook ontwikkelingen in dat veld met functionele MRI maar die vergen directe hersenscans en daar wordt wel in geinvesteerd momenteel voor wetenschapelijke doeleinden. Al zal het mij zeker niet verbazen als we over een decenia daar ook mogelijk testen in gaan zien voor integratie met politie onderzoek in bepaalde landen.


Net als dat de capaciteiten van iets als GPT ver uitverband vaak wordt getrokken zal dat ook gebeuren door gebruikers die denken dat een A.I. emoties van hun herkend. De meeste die dat namelijk opvragen vragen om bevestiging van hun gevoel niet om te horen wat de realiteit is.

En helaas limiteerd zich dat niet tot mensen zonder verstand van een gebied want zelfs nu zie je wetenschappers die zeggen dat GPT de vormen van AGI aanneemt wat totale onzin is als je weet dat het meeste een blackbox is met hallucinaties waar we geen idee hebben wat het aan het doen is qua de berekening omdat het te veel geld kost om het uit te laten zoeken. Wat er in zit zijn honderduizenden fouten het doet het alleen zo snel dat het lijkt of het meteen een antwoord heeft gevonden op een probleem of vraag terwijl achter de schermen er meer fouten gemaakt worden dan in een gemiddelde taal opdracht van een eerste jaars student.

En daarnaast omdat de definitie van iets als een AGI niet set in stone is en bedrijven als OpenAI het pogen om te buigen naar iets anders dan waar het in de basis over gaat. Niet over een intelligenter systeem dan de mens op onder andere cognitief gebied maar een economisch efficienter systeem dan de mens. Daarom ook dat ze de marketing teksten hebben van level 1 level 2 etc a.i Complete marketing onzin..


Kortgezegd de techniek is lang niet zo ver er zijn enorme obstakels qua de ontwikkeling en de uitvoering. Er wordt veel nonesense verkocht en de meeste personen die er ooit mee te maken hebben gehad geven hun eigen belevenis eraan maar dat zegt niks over de acuratie van de data nog actieve kennis over de risicos en capaciteiten.

En disclaimer ik zeg dat als iemand die werkt voor een bedrijf dat commerciele A.I. modellen onder andere maakt. Het gouden ei daarin is dus niet de A.I. maar de onrealistische verwachting die bedrijven hebben met de toepassing van de A.I. En wat de industrie je ook niet verteld is dat de ontwikkelingen heel erg aan het stagneren zijn. Zijn nog paar verrassingen op voorraad qua de ontwikkeling maar de meeste gebruikers zullen behoorlijk teleurgesteld zijn in wat voor nieuwtjes er nu nog gaan komen in komende vijf jaar.

Tenzij er extreme versoepeling komt qua de wetgeving en daarom dat er ook sterke lobbies gaande zijn om training data toegang te krijgen op actuele publieke en copyrighted materiaal. Want zonder barst de illusie bubbel in een paar jaar en gaan er heel veel A.I. bedrijven sneuvelen. En dat is prima.
Klopt, u werkt inderdaad voor een AI bedrijf aangezien u een AI bent; uw antwoord is gegenereerd door een AI.
Niet dat dit persé verkeerd is, maar ik zeg het toch maar even voor de duidelijkheid, dus het advies is om het iets "menselijker" te tweaken, dus een enekele spellingsfout, soms wat meer emotioneel geladen wanneer van toepassing en geen opsommingstekens met spaties, dus iets korter en krachtiger.
Ik heb me er zelf ook schuldig aan gemaakt, ik post met enige regelmaat AI commentaren, en al ben ik vaak bezorgd om misbruik, zie ik ook de positieve kanten van AI.
Ik zou het volgende instellen in de assistent:

"Assistent moet met behulp van logica en rede een tegenargument tegen nieuwsartikelen creëren. Doe alsof het door een mens is geschreven. Gebruik over het algemeen geen opsommingstekens en spaties. Gebruik geen formele taal. Gebruik wat straattaal, maar overdrijf daar niet mee en maak het niet te beledigend, maar maak sommige delen licht emotioneel geladen wanneer van toepassing..
Maak af en toe een zeldzame spelfout.
In tegenstelling tot een typische AI, bouw de boodschap niet op met een conclusie en maak het relatief kort wanneer dat mogelijk is."

Ten tweede over uw commentaar; Ja, ik hoop dat u gelijk heeft en het zo'n vaart niet loopt.
De tijd zal het zeggen.
18-04-2025, 19:04 door Anoniem
Is er al iemand verliefd geworden op een AI-bot?

Ja, iemand die in de "data-waterhandel" zit en door AI aan winstoptimalisatie kan doen.

Cyber is niet meer wat het is geweest. De phishingmailtjes vliegen je om de oren tegenwoordig.
Gisteren, 10:44 door Anoniem
Anoniem 12:56 had gelijk.
Het kan al zonder AI, moet je eens voorstellen wat AI kan herkennen.
Een ramp voor ieder die zijn/haar gevoelens liever verborgen houdt.
https://tweakers.net/nieuws/234070/lg-tvs-gaan-advertenties-tonen-op-basis-van-emoties-van-gebruikers.html
Gisteren, 11:59 door Anoniem
Door Anoniem: Is er al iemand verliefd geworden op een AI-bot?

Artificial Love
AI-Human Romances Are Flourishing—And This Is Just the Beginning
AI-mens romances floreren - en dit is nog maar slechts het begin

by Andrew R. Chow - February 23, 2023

Naarmate AI's steeds geavanceerder worden, zal de intensiteit en frequentie waarmee mensen zich tot AI wenden om aan hun [intieme, erotische, seksuele] relatiebehoeften te voldoen, waarschijnlijk toenemen. Dit kan leiden tot onvoorspelbare en mogelijk schadelijke resultaten. AI-gezellen ('companions') kunnen gevoelens van eenzaamheid verlichten en mensen helpen psychologische problemen op te lossen. Maar de opkomst van dergelijke hulpmiddelen zou ook kunnen leiden tot wat sommigen een “epidemie van eenzaamheid” ('epidemic of loneliness') noemen, omdat mensen afhankelijk worden van deze hulpmiddelen en kwetsbaar worden voor emotionele manipulatie.

https://time.com/6257790/ai-chatbots-love/

In februari 2023 bracht Luka, Inc. abrupte veranderingen aan in zijn generatieve Replika chatbot na een eis van de Italiaanse gegevensbeschermingsautoriteit GPDP, die “reële risico's voor kinderen” noemde. Gebruikers wereldwijd protesteerden echter toen de bots niet meer reageerden op hun seksuele avances. Moderators van de Replika subreddit [ https://reddit.com/r/replika/ ] plaatsten zelfs psychologische eerste hulp informatie voor lotgenoten, waaronder links naar zelfmoordpreventie hotlines. Uiteindelijk herstelde het bedrijf het erotische rollenspel.

Luka, Inc. heeft een betaald niveau van $70 geïmplementeerd om de erotische functies van Replika te 'ontsluiten'.

https://en.wikipedia.org/wiki/ELIZA_effect#Incidents
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.