Defensie en Justitie werken aan eigen alternatief voor commerciële chatbots
De ministeries van Justitie en Veiligheid en Defensie werken aan eigen alternatieven voor commerciële chatbots zoals ChatGPT. Een aantal maanden geleden liet staatssecretaris Tuinman van Defensie op LinkedIn weten dat personeel gebruik kon maken van DefGPT. "Een veilig intern alternatief voor populaire AI-diensten zoals ChatGPT", aldus de bewindsman. DefGPT draait volledig afgesloten van het internet. "Zo blijft gevoelige informatie veilig", legde Tuinman uit.
Volgens de staatssecretaris biedt 'AI' enorme mogelijkheden voor de krijgsmacht. "Kunstmatige intelligentie kan bijvoorbeeld helpen om teksten te herschrijven, samenvatten of analyseren. Zo kunnen onze mensen informatie sneller verwerken en beslissingen efficiënter nemen." Sofie Berns van Defensie laat nu tegenover Digitale Overheid weten dat DefGPT niet vanaf nul is opgebouwd.
"Eigenlijk is dat vrijwel ondoenlijk, omdat je gigantische hoeveelheden data nodig hebt om generatieve AI überhaupt enigszins te laten werken. We hebben daarom gebruikgemaakt van een opensouremodel dat op dit moment volledig afgesloten van het internet draait. Met dit model faciliteren we onze collega’s hun werk op een veilige manier zo goed mogelijk te kunnen doen", aldus het Hoofd Data Lab.
Berns voegt toe dat het belangrijk is om controle over de data te houden. "Als onze 70.000 defensiemedewerkers gaan interacteren met een commercieel model, geven wij potentieel informatie weg die onze tegenstander een voorsprong kan geven en lopen we mogelijk een groot risico." Ze stelt verder dat Defensie uiteindelijk wil testen of bijvoorbeeld het operationeel hoofdkwartier (grotendeels) kan bestaan uit 'multi-agent AI-systemen'.
Robin
Het alternatief waar het ministerie van Justitie en Veiligheid aan werkt heet Robin, zo laat Joost de Haan weten. "Robin, onze interne AI-applicatie, is ook een veilig, verantwoord en effectief alternatief voor commerciële AI-tools. Door alle componenten van de applicatie en het model zelf te beheren houden we controle over onze gegevensstromen. Dat doen we onder meer met zogenoemde AI-guardrails: eigen richtlijnen en technische maatregelen waarmee we het model kunnen sturen om beter te voldoen aan onze normen, waarden en beleidsregels."De Haan voegt toe dat het belangrijk is om de verwachtingen rond 'AI' te managen. "Men denkt wel eens dat AI alle problemen kan oplossen. Om misverstanden en teleurstellingen te voorkomen moeten we realistisch communiceren wat AI wel en niet kan, transparant zijn over AI-beslissingen en risico’s beheersen."
Mmm. Waarom zouden Chatbot Robin en DefGPT niet binnen de kortste keren seniel kunnen worden. (...Lijkt me leuk die twee chatbots het grondig oneens met elkaar te laten worden...)
Zit Jan Soldaat daar op het operationele hoofdkwartier orders van multi-agent AI-systemen op te volgen. Als hij die AI-orders niet opvolgt, valt dat ook onder muiterij?
Dus ze gebruiken het chineese Deepseek, het enige open source model dat beschikbaar is.
Maar waarschijnlijk weten ze niet de nuance van de term open-source. Het is ook mogelijk dat ze facebook's Llama gebruiken maar die presteert een stuk slechter.
"Eigen richtlijnen en technische maatregelen waarmee we het model kunnen sturen om beter te voldoen aan onze normen, waarden en beleidsregels."
Cool, dus ondanks dat de makers van deze modellen dat niet lukt, gaat hen dit wel lukken. Wat een ondoordachte uitspraak.
Hoe dan ook, ik ruik kamervragen die ze moeilijk uit kunnen leggen.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Cybersecurity Trainer / Full Stack Developer
bij Certified Secure
Ben je toe aan een nieuwe nieuwe job waarmee je het verschil maakt? Wil jij je security kennis graag delen en hands-on laten zien hoe cybersecurity in de praktijk echt werkt? Werk je net als wij graag samen met enthousiaste en gedreven collega's? Bij ons geen bureaucratie maar open communicatie en een werkomgeving gericht op samenwerking.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
