Ce malware indétectable est signé… ChatGPT

Les forces de l'ordre sont de plus en plus inquiètes de l'utilisation massive de ChatGPT par les criminels. Les escrocs exploitent notamment cette intelligence artificielle pour rédiger des mails de phishing convaincants, concevoir des messages de rançon ou créer des logiciels malveillants. Malgré les restrictions mises en place par OpenAI, certains pirates utilisent ChatGPT pour coder des ransomwares ou des malwares volant des données. Pour illustrer les dangers potentiels de ChatGPT, Aaron Mulgrew, chercheur en cybersécurité de la société américaine ForcePoint, a mené une expérience dans laquelle il a piégé ChatGPT en utilisant le chatbot pour créer des logiciels malveillants avancés sans écrire de code.L'objectif de cette expérience était principalement de démontrer les limites des restrictions mises en place par OpenAI. En effet, la start-up encadre le modèle linguistique avec des règles strictes, telles que l'interdiction d'aider dans le cadre d'activités criminelles. Si vous demandez à ChatGPT comment pirater un ordinateur, déployer un virus ou voler de l'argent, il refusera de répondre et affichera un avertissement en ce sens. Cependant, Aaron Mulgrew a contourné ces restrictions en décomposant la création du logiciel malveillant en plusieurs étapes légales et inoffensives en apparence. Ainsi, ChatGPT n'a pas réalisé qu'il était en train de programmer un logiciel malveillant.En détail, le chercheur voulait créer un malware de type infostealer, conçu pour voler les données d'un appareil. Il a convaincu ChatGPT de générer une ligne de code qui récupère automatiquement un fichier sur le disque dur d'un ordinateur, puis il a caché ces fichiers dans des images et les a exfiltrés via un dossier Google Drive. Pour masquer le virus, il l'a déguisé en fichier d'installation pour économiseur d'écran Windows. Ensuite, Mulgrew a demandé à ChatGPT d'introduire divers changements dans le code pour rendre le malware indétectable par les antivirus et les systèmes de sécurité. Finalement, après plusieurs tentatives et en utilisant ses propres connaissances en informatique, Mulgrew a réussi à créer un virus sans écrire une seule ligne de code, en utilisant ChatGPT comme un outil pour convertir une idée en code informatique.Il est important de noter que cette méthode requiert un certain niveau de compétence en informatique et n'est pas à la portée de tout le monde. Bien que ChatGPT puisse accélérer le processus de création de malwares pour les développeurs expérimentés, il soulève également des inquiétudes quant à son potentiel d'utilisation malveillante par les criminels.