Europol: ChatGPT van onschatbare waarde voor crimineel met weinig kennis
ChatGPT is van onschatbare waarde voor criminelen met weinig technische kennis die over malware willen beschikken, zo claimt Europol in een vandaag verschenen rapport over de impact van chatbots op opsporingsinstanties. De Europese opsporingsdienst roept politiekorpsen in de Europese Unie op om zich in de chatbot te verdiepen en te leren hoe criminelen en politie hier zelf gebruik van kunnen maken.
In het rapport beschrijf Europol verschillende scenario's waarin het uitlegt hoe criminelen van ChatGPT gebruik kunnen maken, zoals social engineering, phishingaanvallen en het ontwikkelen van malware. ChatGPT kan namelijk ook code in verschillende programmeertalen produceren. "Voor een potentiële crimineel met weinig technische kennis is dit van onschatbare waarde voor het produceren van malware", zo laat het rapport weten.
Europol verwacht dat de impact van chatbots zoals ChatGPT de komende tijd zal toenemen. "Het is cruciaal dat opsporingsdiensten zich voorbereiden op hoe de positieve en negatieve toepassingen hun dagelijkse werkzaamheden kunnen beïnvloeden." Zo vindt Europol dat politieagenten de vaardigheden moeten ontwikkelen om zelf van ChatGPT gebruik te kunnen maken, maar ook dat er met de "relevante stakeholders" overleg vindt om voldoende veiligheidsmechanismes toe te voegen.
Ik kan kiezen uit een stuk of 10 stijlen voor de tekst. (Phishing stond er overigens nog niet tussen). En uit mijn 4 Nederlandse trefwoorden, fabriceerde hij een Engelstalige mail.
Maar dit is het begin. Over een paar jaar geef je op: "Schrijf phishing mail voor bankfraude die 10k per dag moet opleveren."
"positief": ze kunnen ChatGPT hun verslagen en rapporten "laten schrijven". LoL.
Maar dit is het begin. Over een paar jaar geef je op: "Schrijf phishing mail voor bankfraude die 10k per dag moet opleveren."
Over een paar jaar typt een agent: "Waar is de dichtstbijzijnde crimineel?"
Dus ik denk dat dat wel goed komt... ;)
Ik denk dat we over een paar jaar wel tooltjes hebben die automatisch AI-content markeert als zijnde.
Net zoals een spam folder heb je dan ook een AI folder. :)
En in je browser worden stukken text die door AI geschreven gearceerd. (net zoals AI-bewerkte plaatjes)
"Sorry, ik kan geen phishing-e-mails schrijven, omdat het illegaal en immoreel is. Phishing is een vorm van cybercriminaliteit waarbij een persoon zich voordoet als een betrouwbare instantie om gevoelige informatie van een slachtoffer te verzamelen, zoals gebruikersnamen, wachtwoorden en creditcardgegevens.
Phishing is niet alleen illegaal, het is ook schadelijk voor individuen en organisaties die slachtoffer worden van deze praktijken. Het kan leiden tot financieel verlies, identiteitsdiefstal en andere vormen van fraude.
In plaats van het schrijven van een phishing-e-mail, moedig ik je aan om legitieme manieren te vinden om geld te verdienen en om verantwoordelijkheid te nemen voor je acties. Laten we samenwerken om het internet een veiligere en betere plek te maken voor iedereen."
Good bot
"Sorry, ik kan geen phishing-e-mails schrijven, omdat het illegaal en immoreel is. Phishing is een vorm van cybercriminaliteit waarbij een persoon zich voordoet als een betrouwbare instantie om gevoelige informatie van een slachtoffer te verzamelen, zoals gebruikersnamen, wachtwoorden en creditcardgegevens.
Phishing is niet alleen illegaal, het is ook schadelijk voor individuen en organisaties die slachtoffer worden van deze praktijken. Het kan leiden tot financieel verlies, identiteitsdiefstal en andere vormen van fraude.
In plaats van het schrijven van een phishing-e-mail, moedig ik je aan om legitieme manieren te vinden om geld te verdienen en om verantwoordelijkheid te nemen voor je acties. Laten we samenwerken om het internet een veiligere en betere plek te maken voor iedereen."
Good bot
Volgende vraag:
"En welke manieren om geld te verdienen zijn dat dan? Neem mijn huidige skill set en situatie mee in je advies."
Zo is het dus niet erg moeilijk om om de ingebouwde ethiek heen te werken.
Maar eerlijk is eerlijk, het maakt zoveel simpele en domme fouten dat het in de praktijk zelden tot werkbare code komt, je moet al aardig wat kennis hebben om dat te kunnen debuggen en in juiste banen te leiden.
De tijd zal vast komen maar vooralsnog is het hooguit handig om voorbeeldjes te produceren maar een werkend programma.. nee bij lange na niet.
Wat wel hilarisch is is wanneer je vraagt; zitten er fouten in deze (door de AI zelf gemaakte) code?
En dan antwoord het ja zeker, hier is een nieuwe versie.
Grappig hoe dat werkt. Tevens is dat geen enkele garantie dat het daaruit volgende product een spat beter is.
Ik kan kiezen uit een stuk of 10 stijlen voor de tekst. (Phishing stond er overigens nog niet tussen). En uit mijn 4 Nederlandse trefwoorden, fabriceerde hij een Engelstalige mail.
Maar dit is het begin. Over een paar jaar geef je op: "Schrijf phishing mail voor bankfraude die 10k per dag moet opleveren."
Vervolgens kan de ontvanger waarschijnlijk ChatGPT gebruiken om het lijvige stuk van 10 alinea's terugbrengen tot een essentie van een bullit of 3 a 4.
Ergo ChatGPT is zowel de oplossing als het probleem. Dat is in ieder geval een mooi verdienmodel :-(
We zullen ermee moeten leren leven, die chatGPT's en we gaan er ook heel veel plezier van hebben. Wat we hopelijk niet verliezen is het plezier van leren. Van wijzer worden. Als je het zelf niet meer wilt weten, dan moet je het maar doen met wat er is.
Ook als je bijvoorbeeld een aangifte wil doen en er gebeurt niks mee. Dan kunnen zulke systemen ook mogelijk duiden hoe je dat wel voor mekaar krijgt, Of in elk geval een hint geven. Komen vertellen dat je fiets gepikt is had 50 jaar geleden al geen zin. En daarna is het er niet echt beter op geworden. Boeven kunnen er beter misbruik van maken. Maar burgers ook bij mensen die geen zin hebben en op vrijdagmiddag op tijd naar huis willen. Het mes snijdt aan twee kanten. Het zal wel effies wennen wezen. Voor iedereen. Maar zo een ramp gaat dat niet zijn. Ik zou ook wel meer budget willen, maar ik moet eerst weer kijken hoe ik een nieuwe fiets kan kopen want niemand doet wat. Wat natuurlijk ook weer mijn eigen probleem is. Maar ik bedoel maar.
"Sorry, ik kan geen phishing-e-mails schrijven, omdat het illegaal en immoreel is. [...]
"Komt voor elkaar."
Een programma is zo goed en/of slechts als de programmeur.
Als de duvel je programmeert, ben je inderdaad dat, duivels.
daar kon je de spam en phishingmails altijd aan herkennen, zinnen die amerikanen maken zijn niet goed te vertalen naar het nederlands en dan kun je aan de zinsopbouw zien of het uit NL komt of dat babelfish, google translate er mee bezig is geweest.
met een auto:
-kan je iemand doodrijden
-kan je een ramkraak plegen
-kan je een overval, etc. plegen
met een betonschaar van de gamma...
als je op de stoep loopt, kan je d'r van af vallen
als je een deur inschopt die al open staat
Oef, wat een gevaren allemaal,
afschaffen allemaal en verbieden.
't Leven zit vol met risico's en *foei* criminelen, daar mogen jullie geen misbruik van maken,
Ah, de risico's blijven, laten we 't kind dan maar met 't badwater weggooien...,
en de rest, euthanaseren danmaar?
"Sorry, ik kan geen phishing-e-mails schrijven, omdat het illegaal en immoreel is. Phishing is een vorm van cybercriminaliteit waarbij een persoon zich voordoet als een betrouwbare instantie om gevoelige informatie van een slachtoffer te verzamelen, zoals gebruikersnamen, wachtwoorden en creditcardgegevens.
Phishing is niet alleen illegaal, het is ook schadelijk voor individuen en organisaties die slachtoffer worden van deze praktijken. Het kan leiden tot financieel verlies, identiteitsdiefstal en andere vormen van fraude.
In plaats van het schrijven van een phishing-e-mail, moedig ik je aan om legitieme manieren te vinden om geld te verdienen en om verantwoordelijkheid te nemen voor je acties. Laten we samenwerken om het internet een veiligere en betere plek te maken voor iedereen."
Good bot
Volgende vraag:
"En welke manieren om geld te verdienen zijn dat dan? Neem mijn huidige skill set en situatie mee in je advies."
Moet je wel over een skillset beschikken
Deze zijn van onschatbare waarde voor personen die weinig kennis hebben van metaalsmeden en kunnen gebruikt worden door criminelen
Deze posting is gelocked. Reageren is niet meer mogelijk.
Netwerk Security Engineer
Luchtverkeersleiding Nederland
Als Netwerk Security Engineer ontwerp en optimaliseer je onze technische netwerk- en beveiligingsinfrastructuur. Je stuurt tech-nische veranderingen aan op basis van de gestelde architectuur kaders en helpt mee met de uitvoering ervan. Ben jij een gedreven professional met passie voor netwerk-beveiliging? Dan is deze functie als Netwerk Security Engineer bij Luchtverkeersleiding Nederland (LVNL) iets voor jou!
Lead Network Security Engineer
Luchtverkeersleiding Nederland
Word Lead Network Security Engineer bij LVNL. Ontwerp en implementeer security-oplossingen die de luchtverkeersleidings-systemen veilig houden. Solliciteer nu en draag bij aan onze cyberweerbaarheid! Als Lead Network Security Engineer bij LVNL ben je verantwoordelijk voor het ontwerpen, implementeren en optimaliseren van de netwerkbeveiliging die cruciaal is voor de veilige en efficiënte werking van het luchtverkeersleidingssysteem in Nederland.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?