Dus alle datasets van bedrijven moeten door een overheids waakhond worden gecontroleerd. En dat zou privacy schendingen moeten voorkomen. Right.

Zorg nou gewoon eens dat die data er niet is, dan bestaat het hele probleem niet.

Het grootste probleem is dat deze man het ook nog meent. Big Data is dadelijk op honderdduizenden plekken te vinden. En dan gaat de overheid al die algoritmen, al die data sets, alle instellingen voor het leren van patronen etc beoordelen, nog los van de "biases" die mensen hebben bij een eventuele tweede beoordeling? Doe alsjeblieft normaal Kees. Als dan als uitsmijter ook nog de regel


naar voren wordt gebracht, dan weet ik genoeg: wat leuk, een proefballon! De overeid als ethische en morele rechter. Sla de krant open en je weet: als je bij één instituut niet moet zijn voor een ethisch oordeel, dan is het wel bij de politiek en overheid.

De overheid moet zelf KI systemen gaan ontwikkelen en stimuleren ipv op Google en Microsoft te gaan controleren en of zij wel eerlijk zijn. Het zijn Amerikaanse bedrijven die in Amerika bakken met geld aan belasting betalen wat wij in Europa en Nederland mislopen.
Google en Microsoft zijn grote bedrijven en hebben met de jaren mee heel veel geld opgebouwd en de gat tussen Google en Microsoft en andere topbedrijven in de tech zoals Amazon en Facebook zullen in de toekomst veel verder dan ons zijn met de toepassingen van artificiele intellegence.
Ook gaan deze techbedrijven de al bestaande sector zoals bankindustrie en andere tech sectoren waar wij nu inzitten en denken dat het goed gaat overnemen en moet je niet schrikken als Google en Facebook de bank industrie ingaan. Facebook wou dit laatst doen zelfs.
Ipv van dat de overheid gebruik gaat maken van de oplossingen van Google en Microsoft kan het ook zelf dingen gaan bouwen of laten bouwen en de concurrentie met deze bedrijven aan gaan of het eigen volk stimuleren om ondernemingen te starten die deze concurrentie aangaan

Er is een oplopend tekort aan AI specialisten (numerus fixus). En die moeten dan bij de overheid gaan werken bij een waakhond? Voor een overheidssalaris?

Ook kan een neuraal netwerk niet uitleggen hoe het tot een conclusie komt. Dus dat gaat ook niet werken.

Hmmmm, zoveel data gaat ook serieus geld kosten om te analyseren, hopelijk houden ze er ook rekening mee dat je er met de initiële investering nog lang niet bent.
Tevens gaat al die rekenkracht ook weer heel veel extra CO2 uitstoot leveren op de rekening van Nederland (wat vervolgens weer gecompenseerd moet worden voor de klimaateisen van Parijs....
Nogal dubbel allemaal

Het is zeker weer proefballonetjestijd. "Alle algorithmes". Dat zijn er een heleboel. Een ontzettend grote hoeveelheid. Alle software, van shell-scripts tot de grootste systemen bij banken e.d. zitten vol met algorithmes. Daar zijn dagelijkes tienduizenden developers en programmeurs mee bezig, en Kees wil dat de overheid dat allemaal gaat controleren... Nog afgezien van het probleem dat algorithmes bedrijfsgeheim zijn, dus voor het vestigingsklimaat (erg belangrijk vind de coalitie blijkbaar) is het ook niet erg positief als bedrijven (verplicht?) hun algorithmes en vertrouwelijke data moeten overdragen of inzichtelijk maken aan een overheidsinstantie.

Het lukt de staat niet eens om de IT-problemen bij een enkele dienst zoals de belastingdienst onder controle te krijgen, maar Kees Proefballon wil graag nog een extra overheids-dienst om die andere diensten dan weer te controleren en dan en passant ook nog eventjes alle datasets van all bedrijven..Het hele idee is zo waanzinnig dat het grenst aan het krankzinnige.

Motie van wanhoop, dit. Ik denk dat er al een hoop wetgeving is tegen discriminatie en privacyschendingen, waar burgers gebruik van zouden kunnen maken. De huidige waakhonden hebben het er druk zat mee.

Begin met algoritmen van Facebook, maar daar durft men niet aan te beginnen. Daar werkt men juist mee.

Ik denk dat de overheid zijn handen meer dan vol heeft.
Dit is weer zo’n idee uit de ideeenkoker van de grootste yuppenpartij van Nederland.
Ga nou eerst eens echte problemen aanpakken: tekort politie,rechtspraak,verpleging,
Tweedeling,te grote instroom van kanslozen etc etc.
Werk zat,geld te kort.

wat een kansloos actie weer van de D66/overheid de overheid loopt ten eerste al 400 jaar achter in kennis en ervarig binnen de IT.
Het lukt ze nog niet eens om de IT problematiek bij de DUO/Belastingdienst op te lossen.
Laat staan dat ze uit wanhoop dit project willen gaan starten.
Dit raakt echt nog kant nog wal.

Als ze dit daadwerkelijk door willen zetten is het afzetten die man.
(zal waarscheinlijk wel ingefluisterd zijn door 1 van zijn collega's maar toch)
Weet echt totaal niet waar hij het over heeft en dat dit echt een kansloos verhaal is.

Onze waakhond heet Snort. Hij slaapt buiten in zijn Pi-Hole. We voeren hem rauwe TCP/IP streams.

Zal ik de grap maken, of niet?

Een onmetelijk dom voorstel, afkomstig van iemand die kennelijk nog nooit een enkel computer programma heeft geschreven, maar zichzelf wel als de "ICT-specialist" wil profileren van nota bene de partij die zegt op te komen voor goed onderwijs. Het zou van meer gezond verstand getuigen als deze "ICT-specialist", voordat hij dergelijke voorstellen lanceert, zou overleggen met echte ICT-specialisten, want de echte kennis over algoritmen, kunstmatige intelligentie, big data en verwante onderwerpen is echt te vinden buiten de politiek en nauwelijks aanwezig binnen de overheid. Een zekere terughoudendheid voor wat betreft overheidsbemoeienis zou de politiek dus best sieren; ondoordachte regelgeving werkt wurgend op het ondernemersklimaat.

Goed voorstel, want het gebeurt al jaren dat procedures de zaken bepalen en niet de redelijkheid. Dat moet worden opgekeerd. De overheid doet dit zelf ook al jaren. Denk aan UWV, Belastingdienst, mensen die zorg nodig hebben. Al deze mensen moeten door administratieve hoepeltjes springen om iets simpels geregeld te krijgen. Als dat al lukt, want het zijn vaak Kafkaiaanse toestanden.

Israel heeft dit al en verkoopt het en verdient er bakken geld mee, waarom kan Nederland niet hier in meegaan en zelf KI inzetten om defensie te verbeteren en geld te verdienen...

Goed voorstel ? Waarom zou ik in hemelsnaam mijn intellectual property willen delen met de overheid (tenzij ze daarvoor betalen) ? En algoritmes en datasets hoeven privacy van derden op geen enkele manier te raken.


Dus vanwege misstanden bij het UWV en de Belastingdienst moet een waakhond mijn bedrijfsgegevens gaan doorspitten, welke confidential zijn, en welke geen privacy gevoelige informatie bevat van wie dan ook ?

Voorstel mag wel wat beter worden uitgewerkt, om duidelijjk te maken over wat voor algo's en datasets dit precies gaat.

Hoe zorgt dit voorstel ervoor dat redelijkheid meer de zaken zouden bepalen, leg eens uit ?

Wil jij dat een stupide algoritme gaat bepalen of je je hypotheekrenteaftrek krijgt of niet? Of wil je dat er kwaliteitscontrole plaatsvind?

AI (artificiele intelligentie) = contradictio in terminis

AI heeft geen intelligentie, het is uitermate dom, maar het neemt wel beslissingen

Ik heb liever een waakhond, die de "privé-schenkingen" aan politici in de gaten zou houden.
Zoals plotseling opduikende "Penthouses" en dergelijke.

Lees dit en we zijn direct klaar met de discussie.

Titel van dit artikel: No one really knows how the most advanced algorithms do what they do. That could be a problem.

https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/


Ik stel voor dat Pechthold gelijk aan de slag gaat. Ik wens hem veel succes. ;)

Pechtold is niet de juiste persoon bij D66, privacy en de rechtsstaat gaan er als eerste aan bij onderhandelingen als het aan hem ligt. Het is te danken aan anderen bij de partij dat ze wel positieve dingen bereiken. O.a. in de EU (Sophie in 't Veld). Van mij mag zij het stokje gaan overnemen in de 2e kamer.

Het zijn juist de bedrijven die tov hun inkomsten nauwelijks belasting betalen door het oa door te sluizen via Nederland.
Nederland loopt het dus niet mis.
https://en.wikipedia.org/wiki/Dutch_Sandwich

Dat klopt er is een nederlandse invullling. Je kent hem wel, het liep via "geen peil" met de politieke academie.
Wel een maar, niet facebook die de algoritmes inzet, het zijn derden er achter. Cambridge Analytica werd er bekend om.

Reinder jij kijkt naar de rekenregels die gecodeerd zijn. Dat is een prima insteek. Die zijn verzonnen door politici en andere beslissers maar geen hand kan uitleggen waarom ze die en juist met die waardes hebben verzonnen.

Met ML en mijn voorkeur de supervised insteek, veranderd dat naar een doelgericht en onderbouwd iets.
De foutmarges betrouwbaarheid en marges met een terugkoppeling van resultaten van de adviezen hoort er allemaal bij.
Het grote onbegrip zit er hoe de ML algoritmes werken. Men vind dat eng terwijl je dat deel juist moet doorzien zonder de details. De statistische algoritmes zijn trouwens openbaar en al zo'n jaar of 50 algemeen bekend.
De zakjapanner zit vol algoritmes maar niemand klaagt dat hij het telbord en schuiflat voor het handwerk terug wil.

Maar dan moet je ook zien, wat al die steeds veranderende algoritmes doen? Men past ze aan aan de betsaande data en aan de te verwachten data. Het is manipulatief gericht.

Wat nu als het deel blijkt uit te maken van een soort van "stasi" kapitalisme?

Voorbeeld - via facebook algoritmen heeft een zorgverzekeraar weet van uw dagelijkse loop- en zitgewoonten. Met een gratis stappenteller als welkomstgeschenk past dit ook nog binnen het verdienmodel van de zorverzekeraar. Loopt u weinig wordt u premie hoger, loopt u veel betaalt u niet meer als bij andere verzekeraars, want u betekent minder risico.

Begrijpelijk dat de politiek het hier niet over heeft. Politici zijn voor het merendeel ook "trekpoppen" binnen dit systeem en gaan heus niet tegen de eigen interessen en/of de eigen loopbaan in.

Er zullen daarentegen hier ook nog wel een paar mensen bestaan, die dit al langer niet zo'n wenselijke ontwikkeling vinden.
Een ontwikkeling die "het gemeen" van Nederland niet al te veel opbrengt, om het maar eens zachtjes uit te drukken, maar een kleine groep flink laat cashen op z'n tijd. Tel uit je dividend.

Dat niemand dit is opgevallen en dat jer er niemand over hoort, verbaast me. Vooruit met de geit met bij voorbeeld statische detectie regels en afwijkingsregels, alsmede reguliere expressies om het onderliggende bloot te leggen.

Voorbeeldje van zo'n reguliere expressie: UNION Keyword Attack /((\%27)|(\')) (select| union | insert | update | delete | replace/ix - wat een voorbeeld is van de single quote met hex equivalenten reguliere expressie.

Doei

Sommige nog redelijk "eenvoudige" algoritmen bestaan uit tienduizenden regels code. Ik wens ze bij D66 dan ook veel succes met het van staatswege (laten) analyseren van de binaire core dumps, als blijkt dat het object van studie een obfuscated closed source code blijkt te zijn. Daar komt een bedrijfsgeheim in de ICT sector namelijk vaak op neer.

Vaak weet eigenlijk niemand meer hoe die code precies werkt, omdat de oorspronkelijke programmeurs vertrokken / ontslagen / gedesillusioneerd / niet meewerken / onbekend / gepensioneerd / overleden* zijn. En dan heb ik het nog niet eens over volstrekt ondoorgrondelijke spaghetti code of over exotische zaken zoals zelflerende algoritmen.

Waar die partij zich dus eigenlijk voor zou moeten beijveren, is de toepassing van open standaarden en formaten, en de toepassing van free open source code. Anders zou ik niet weten hoe men in een open, democratische samenleving monopolievorming en discriminerende algoritmen tegen zou kunnen gaan.

* doorhalen wat niet van toepassing is.

uit de koker van d66 kwam de sleepwet. Nu wil diezelfde d66 een algoritme waakhond? Waar gaat dit naar toe?

De context van de opmerking van Kees Verhoeven is kunstmatige intelligentie (of wat daarvoor doorgaat: machine learning). Dit gaat over het toenemende besef dat wat dergelijke algoritmes "leren" gekleurd is door wat je erin stopt en daarmee de vooroordelen en misverstanden kan volgen van wat de mensen die het maken en voeden erin stoppen. En het besef dat het resultaat wel iets doet maar dat niemand bij bijvoorbeeld toepassing van neurale netwerken kan vertellen hoe een beslissing eigenlijk is genomen.

De laatste tijd wordt steeds vaker het woord "algoritme" gebruikt voor machine learning-algoritmes, een veel specifiekere betekenis dan het woord eigenlijk heeft. Net zoals het woord "hacker" verkeerd gebruikt wordt, er mensen "internet" zeggen als ze het world wide web bedoelen, "wiki" als ze wikipedia bedoelen, "top" als ze topconferentie bedoelen, de taal staat binnen en buiten ICT-onderwerpen stijf van van dat soort slordigheden. Kees Verhoeven gebruikt zo te zien "algoritme" in die betekenis. Hij heeft het volgens mij dus niet over het analyseren van core dumps en dergelijke.

Hij heeft in ieder geval opgepikt dat dat een punt van zorg is en dat dat aandacht verdient. Of zijn aanpak zou gaan werken kan je je inderdaad afvragen, maar ik ben benieuwd of iedereen die hem nu afkraakt daar betere manieren voor weet.

Ik heb trouwens ooit een werkgever gehad die in zee ging met een bedrijf dat onder een NDA code doorlicht om de kwaliteit en onderhoudbaarheid te beoordelen. Ik was daar nogal sceptisch over, maar ik moet zeggen dat ik best onder de indruk was van wat ze allemaal naar boven wisten te halen. Roep niet te snel dat zoiets bij voorbaat onmogelijk is, als goede informatici zich in zoiets specialiseren komen ze misschien heel wat verder dan je zou verwachten.

Het gaat hier natuurlijk niet om het controleren van algoritmes maar om het gratis verzamelen van data, waarmee ze dan zelf weer aan de slag kunnen

Zoals hierboven al door andere ano is gezegd, Beter bespreken ze dit soort verzonnen-hersenspinsels-door-politici met deskundige mensen voordat ze het de wereld ingooien zodat ze geen flater slaan bij het grote publiek (maar slechts één deskundig persoon effe een binnenpretje heeft).
Dat Kees dat niet heeft gedaan , ' dát ' baart me pas zorgen. Je hoeft niet overal expert in te zijn om in die Kamer te zitten, maar als je die expertise niet hebt en je gaat dan toch doen alsof je iets heel verstandigs hebt gezegd, hoor - je - daar - niet - thuis.
En mocht je dan toch algoritmes willen nakijken, begin dan maar bij Syri waarbij bekend is dat dit systeem foute biases gebruikt en daarmee sommige mensen bevooroordeeld/benadeeld. Maar deze vraag heeft het kabinet naast zich neegelegd. Dat er geen transparantie komt, geeft al aan, dat er iets niet klopt.

En (flater 2), hoe ziet Kees zo'n "algoritme-waakhond " voor zich? Is dit een geautomatiseerd proces (een programma met allemaaal foute alogoritmes erin) die 'alle' software van bedrijven en overheden kan nakijken (LOL) of wordt het een instantie zoals AP...

Zoveel haken en ogen aan dit voorstel, dat m'n broek ervan afzakt. Dat een/één kamerlid dit voorstel kan maken. Ik snap het echt niet. Moet hij dit eerst met Pechtold bespreken, of wordt het voorgelegd aan de gehele d66? En zegt Pechtold of de gehele d66 dan : 'Ja goed idee, doen '

Defensie maakt al sinds de 80'er jaren gebruik van KI, o.a. voor beslissing-ondersteuning.

Syri heeft weinig met AI te maken. Het is vooral een koppeling van gedecentraliseerde overheidsbestanden.
Die koppeling is nodig om dat het door politici (mensen) verzonnen regels veronderstellen (foute menselijk bias) dat de gemeentelijke toezichthouders wel bij dien benodigde gegevens kunnen.

Met wat gerichte onderzoeken zijn er aparte projecten. Je flater daar een bias bij voorbaat te veronderstellen toont aan dat je niets van AI en de doelstelling van die projecten begrijpt. Met een kans hint voor de toezichthouders wordt de effectiviteit van die mensen vergroot. Het helpt om aan te geven waar te kijken de beste resultaten geeft (verhoogde pakkans).