OpenAI lobbyde in Brussel om Europese AI-wetgeving af te zwakken
OpenAI heeft in Brussel gelobbyd om de Europese AI-wetgeving af te zwakken en lijkt daar succesvol in te zijn geweest, zo stelt Time op basis van documenten die het via de Europese tegenhanger van de Wet Open Overheid (Woo) wist te bemachtigen. "Ze kregen waar ze om vroegen", aldus Sarah Chander, senior beleidsadviseur van burgerrechtenbeweging European Digital Rights (EDRi) in een reactie op de verkregen documenten. Volgens Chander laten de documenten zien dat "OpenAI, net als veel andere techbedrijven, het argument van nut en algemeen publiek belang gebruikt om hun financiële belangen in het afzwakken van de wetgeving te verbergen."
Vorige week stemde het Europees Parlement voor de AI Act, die regels voor AI-systemen verplicht. Daarbij hangen de maatregelen die ontwikkelaars moeten nemen af van het risiconiveau dat het betreffende AI-systeem vormt. AI-systemen die als "hoog risico" zijn aangemerkt zullen in een EU-database moeten worden geregistreerd en mogen pas na een assessment op de markt komen. OpenAI, het bedrijf achter ChatGPT en Dall-E 2, lobbyde in Brussel om ervoor te zorgen dat die systemen niet als "hoog risico" zouden worden aangemerkt.
Iets waar OpenAI succesvol in lijkt te zijn geweest. In eerdere voorstellen voor de AI Act werd nog gesteld dat "general purpose" AI-systemen als hoog risico zouden moeten worden aangemerkt. Uiteindelijk werd in het aangenomen voorstel een nieuwe categorie AI-systemen geïntroduceerd met de naam "foundation models". Het gaat dan om systemen zoals ChatGPT waarvoor de eisen minder streng zijn dan bij hoog risicosystemen het geval is.
Naast het inzenden van verschillende white papers naar EU-functionarissen over hoe de eigen AI-systemen moesten worden beschouwd, heeft OpenAI ook in Brussel overlegd om "overregulering" te voorkomen, aldus Time op basis van een anonieme bron. "Wat ze eigenlijk zeggen is dat we ze moeten vertrouwen om zichzelf te reguleren", aldus Daniel Leufer, senior beleidsadviseur bij Access Now. Volgens Leufer probeert OpenAI politici te laten denken dat ze voor zelfregulering zijn, maar zodra er harde eisen worden gesteld het hier niet aan wil. OpenAI stelt in een reactie dat het met beleidsmakers overlegt om ervoor te zorgen dat AI-tools veilig worden ontwikkeld en gebruikt.
Tuurlijk zullen ze gelobbyed hebben, maar dat betekent niet automatisch dat het amendement voor de regelgeving slecht is.
In de regelgeving heb je 4 categorien. "Totaal onacceptabel en dus verboden" en dan verder: high risk, medium risk en low risk.
Ik zie geen aanleiding om iets als ChatGPT automatisch in high risk te gooien. High risk zijn bv AI systemen voor zelf rijdende autos. Wat we tot nu van ChatGPT zien is low risk en de kans dat het in een high risk implementatie gebruikt word is klein.
En als zo'n implementatie er wel komt, dan moet die toch apart geclassificeerd worden door de maker.
Tuurlijk zullen ze gelobbyed hebben, maar dat betekent niet automatisch dat het amendement voor de regelgeving slecht is.
In de regelgeving heb je 4 categorien. "Totaal onacceptabel en dus verboden" en dan verder: high risk, medium risk en low risk.
Ik zie geen aanleiding om iets als ChatGPT automatisch in high risk te gooien. High risk zijn bv AI systemen voor zelf rijdende autos. Wat we tot nu van ChatGPT zien is low risk en de kans dat het in een high risk implementatie gebruikt word is klein.
En als zo'n implementatie er wel komt, dan moet die toch apart geclassificeerd worden door de maker.
Toch moet er goed naar gekeken worden vrees ik. Anders krijgen we achteraf weer de nodige scheefgroei die dan veel moeilijker te corrigeren is.
diegenen die maar wat roepen.
Dat lobbyen als normaal wordt gezien is voor mij het bewijs dat de politiek dood is, het is gewoon een manier om
extra geld binnen te harken. Ze mogen wetten maken waar ze totaal geen verstand van hebben en de burger is de
pineut. Al dat gelobby van Apple heeft hun heel veel opgebracht en het product wat ze maken “ IPhone “ wordt gezien
als zeer veilig maar is net zo onbetrouwbaar als de rest van wat die techneuten maken. Ja ik heb een iPhone om dat
ik dit ook geloofde maar weet nu beter. In welke richting het nu met AI uitgaat dat weet ik niet maar dank zij dat gelobby,
en vergeet niet die journalisten dan heb ik wel een idee.
Tuurlijk zullen ze gelobbyed hebben, maar dat betekent niet automatisch dat het amendement voor de regelgeving slecht is.
In de regelgeving heb je 4 categorien. "Totaal onacceptabel en dus verboden" en dan verder: high risk, medium risk en low risk.
Ik zie geen aanleiding om iets als ChatGPT automatisch in high risk te gooien. High risk zijn bv AI systemen voor zelf rijdende autos. Wat we tot nu van ChatGPT zien is low risk en de kans dat het in een high risk implementatie gebruikt word is klein.
En als zo'n implementatie er wel komt, dan moet die toch apart geclassificeerd worden door de maker.
Wie zegt dat deze post niet gegenereerd is door ChatGPT?
Tuurlijk zullen ze gelobbyed hebben, maar dat betekent niet automatisch dat het amendement voor de regelgeving slecht is.
In de regelgeving heb je 4 categorien. "Totaal onacceptabel en dus verboden" en dan verder: high risk, medium risk en low risk.
Ik zie geen aanleiding om iets als ChatGPT automatisch in high risk te gooien. High risk zijn bv AI systemen voor zelf rijdende autos. Wat we tot nu van ChatGPT zien is low risk en de kans dat het in een high risk implementatie gebruikt word is klein.
En als zo'n implementatie er wel komt, dan moet die toch apart geclassificeerd worden door de maker.
Wie zegt dat deze post niet gegenereerd is door ChatGPT?
Slechte herkenbaarheid van de bron / oorsprong lijkt me al een sterke indicator dat er belangrijke risico's aan dit soort tools verbonden zijn ;-)
Deze posting is gelocked. Reageren is niet meer mogelijk.
Specialiseer je in Forensisch ICT
Online informatieavond 19 november
Wil jij je specialiseren in digitaal forensisch onderzoek? Je kennis verbreden en tech-nische vaardigheden ontwikkelen? Ontdek de cursus- en opleidingsmogelijkheden van Hogeschool Leiden:
- Bachelor Informatica Forensisch ICT (deeltijd)
- Master Digital Forensics (vol- en deeltijd)
- Module Mobile Forensics
- Module Data Analytics
Interesse? Meld je aan!
Chief Information Security Officer
Utrecht heeft jou nodig! Als Chief Information Security Officer speel jij een cruciale rol in de bescherming van de digitale informatie van de gemeente Utrecht. Als geen ander weet jij welke dreigingen er zijn en kun je deze vertalen naar risico's die de gemeente en haar inwoners lopen. Solliciteer nu!
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
