ChatGPT wordt gebruikt voor de ontwikkeling en verspreiding van malware, zo stelt OpenAI in een rapport. Het gaat dan om het debuggen van malware, ondersteuning bij de ontwikkeling van Android-malware en maken van scripts voor het aanvallen van vitale infrastructuur. In het rapport beschrijft de ChatGPT-ontwikkelaar hoe verschillende groepen van de chatbot gebruikmaken voor het uitvoeren van aanvallen. Naast malware gaat het ook om beïnvloedings campagnes en het maken van nep-accounts op social media.

"Aanvallers gebruiken onze modellen vooral voor taken in een specifieke, tussenliggende fase van de activiteit - nadat ze basale tools hadden verkregen zoals internettoegang, e-mailadressen en socialmedia-accounts, maar voordat ze “afgeronde” producten zoals socialmediaposts of malware via verschillende distributiekanalen op internet verspreidden", aldus OpenAI.

Het gebruik van ChatGPT heeft echter niet geleid tot doorbraken in de mogelijkheid om nieuwe malware te ontwikkelen of viraal met bepaalde content te gaan, zo laat het rapport verder weten. Tevens stelt OpenAI dat het zelf ook doelwit van aanvallen is. Zo waren persoonlijke en zakelijke e-mailadressen van OpenAI-medewerkers het doelwit van spearphishing. De aanvallen waren echter niet succesvol, aldus het rapport.