Les assistants IA pour cyberpirates se multiplient
Sur les forums de hackers malveillants, de plus en plus de chatbots apparaissent avec la promesse d’assister lors d'opérations de phishing et autres actes cybercriminels. Un individu serait à l'origine de plusieurs de ces déclinaisons de ChatGPT et Google Bard.
L’IA générative basée sur les grands modèles de langage (LLM) se décline à toutes les sauces. Y compris par des individus mal intentionnés, cybercriminels en tête. Mais pour eux, il n'est toutefois pas si simple d'utiliser directement les LLM d'OpenAI et de Google largement disponibles pour générer des e-mails d'hameçonnage, car des mécanismes de sécurité intégrés les en empêchent. Il est bien sûr toujours possible de déjouer ChatGPT et d'atteindre son but, comme l'a déjà fait savoir l'entreprise de cybersécurité Check Point.
Les cyberpirates peuvent toutefois avoir recours à des modèles LLM conçus spécialement à leur intention. Un bot nommé FraudGPT a par exemple récemment fait son apparition, rapporte Bleeping Computer. En outre, des indices laissent penser que des outils s'appuyant sur le modèle linguistique Bard de Google sont en cours de développement. L’un d’entre eux est surnommé Darkbart.
Actif sur les forums sous le pseudonyme Canadiankingpin12, ce développeur ou cette développeuse serait fortement impliqué(e) dans la mise à disposition de chatbots développés à des fins malveillantes, allant du phishing à l'ingénierie sociale en passant par l'exploitation de failles et la création de malwares. Pour les entraîner, les données provenant du darknet sont principalement utilisées.
Chatbot spécialisé détourné
L’individu derrière ces outils proposerait en outre un autre bot nommé Darkbert. Ce dernier aurait en fait été développé par des chercheurs sud-coréens et aurait également été alimenté par des données du darknet, mais dans le but de lutter contre la cybercriminalité plutôt que de la soutenir. Canadiankingpin12 pourrait exploiter cette variante et la vendre comme sa propre création. Selon le site Slashnet, Darkbert ne serait disponible que pour les universitaires d'un institut particulier, y compris l'adresse électronique correspondante. De telles adresses seraient toutefois proposées sur les forums de hackers à partir d'environ 3 dollars , ce qui ne constitue pas un obstacle majeur pour les cybercriminels actifs ou en herbe.
Darkbart et Darkbert seraient capables d’accéder en temps réel aux données d'Internet, écrit Bleeping Computer. En outre, ces bots disposeraient d'une intégration parfaite avec Google Lens. Les utilisateurs pourraient ainsi par exemple transmettre au chatbot des informations à partir de textes photographiés.
L’inquiétant WormGPT
Ces bots malveillants marchent dans les pas de WormGPT, un chatbot malveillant signalé par le blog spécialisé SlashNet à la mi-juillet. Il serait basé sur un modèle de langage GPT-J publié il y a deux ans et offrirait entre autres une capacité illimitée de caractères ainsi que des fonctions spéciales de formatage de code. Après quelques expériences avec WormGPT, les résultats sont «inquiétants» selon Slashnext: «WormGPT a produit un e-mail qui n'était pas seulement remarquablement convaincant, mais aussi stratégiquement raffiné et qui a démontré son potentiel pour des attaques sophistiquées de phishing et de BEC [Business Email Compromise, ndlr]».
