Jusqu’où peut-on automatiser des cyberattaques sans écrire une ligne de code ? Dans le contexte du développement des IA génératives, Check Point s’est interrogé. Il avait apporté une réponse fin 2022 en combinant ChatGPT et Codex. Nous nous en étions fait l’écho.
Europol aussi mentionne ces travaux, dans son dernier rapport Tech Watch Flash. Le sujet : les grands modèles de langage, leur potentiel pour les industries criminelles et leur influence sur l’activité des forces de l’ordre.
L’agence européenne s’appuie sur les travaux en question pour rappeler la capacité de ChatGPT et consorts à produire du code malveillant fonctionnel, bien que « basique ». Il existe bien des garde-fous, reconnaît-elle, mais il y a moyen de les déjouer en découpant les instructions en étapes.
L’arrivée de GPT-4, plus performant pour comprendre le contexte et corriger les erreurs, ne rassure pas davantage Europol, dont les perspectives pourraient se résumer ainsi : ça n’est que le début.
L’agence a le même raisonnement pour ce qui est des capacités de recherche d’informations qu’offre ChatGPT. De manière générale, rien qu’un moteur de type Google ne fournisse pas déjà… mais, et c’est là le véritable apport, une capacité à croiser les sources et à synthétiser. De quoi faciliter la prise de renseignements sur de potentiels lieux de crime.
Europol n’oublie pas la capacité de ChatGPT à générer du texte. Et les perspectives que cela ouvre dans le domaine de la fraude, entre phishing, désinformation et faux comptes/clics. Ici, pas de référence à Check Point, mais aux expérimentations d’un autre éditeur : F-Secure. Et à nouveau, une affirmation : il est possible de contourner les protections intégrées au modèle… comme les outils intervenant a posteriori pour détecter les contenus émanant d’IA.
Dans ce contexte, Europol invite les forces de l’ordre à « développer les compétences nécessaires » pour exploiter elles-mêmes ces IA génératives. Voire à en entraîner sur leurs propres données.
À consulter en complément :
ChatGPT : les cybercriminels l’utilisent aussi
Ce qu’en disent les spécialistes du secteur
Photo d’illustration (immeuble Europol à La Haye) © nikitamaykov – Adobe Stock
Dans un avis consultatif, l'Autorité de la concurrence a identifié les risques concurrentiels liés à…
OpenAI signe un « partenariat de contenu stratégique » avec Time pour accéder au contenu…
Au lendemain du rejet de sa proposition de restructuration, David Layani annonce sa démission du…
Après un an, Hugging Face a revu les fondements de son leaderboard LLM. Quels en…
Mozilla commence à expérimenter divers LLM dans Firefox, en parallèle d'autres initiatives axées sur l'intégration…
VMware met VCF à jour pour y favoriser la migration des déploiements qui, sur le…