Rapport de menace d'Anthropic : des acteurs soutenus par l'IA reconstruisent désormais le malware pour échapper à la détection

Le rapport se concentre sur sept domaines de préoccupation : opérations cybernétiques, influence, surveillance, escroqueries et fraudes, mauvaise utilisation biologique, développement d'armes conventionnelles et distillation illicite. Une des intrusions les plus notables implique un acteur que la société suit sous le nom de GTG‑20006, dont l'attribution correspond à des rapports publics reliant le groupe à Midnight Blizzard, un acteur présumé russe lié à l'État.

La technique d'évasion automatisée L'auteur de la menace a conçu des agents d'IA qui surveillaient activement les produits de sécurité pour détecter ses propres implants. Lorsqu'un malware était signalé, les agents reconstruisaient automatiquement l'outil, le redéployaient et répétaient le processus jusqu'à ce que l'évasion soit à nouveau réussie. Ce cycle d'auto-reconstruction ferme la boucle que la détection statique impose traditionnellement aux attaquants, permettant désormais aux adversaires « de contourner les détections traditionnelles plus rapidement que les défenseurs ne peuvent développer et déployer de nouvelles signatures ».

Un composant complémentaire congelait les mises à jour de sécurité sur les machines victimes, empêchant ainsi les nouvelles signatures de détection d'atteindre les appareils. L'auteur de la menace a également utilisé des techniques telles que le détournement de DNS via des points d'accès Wi-Fi dans des hôtels, la prise de contrôle de comptes WhatsApp avec des navigateurs sans tête et l'exfiltration de grandes quantités de données, y compris des registres d'identité nationale et des SDK propriétaires pour des systèmes de vision de drones.

Portée et impact Selon le rapport, l'opération a ciblé plus de 20 organisations, principalement en Ukraine et en Europe. Les victimes comprenaient des fabricants de composants de drones, des autorités gouvernementales et des entreprises du secteur privé. L'auteur de la menace a exporté des boîtes aux lettres entières, volé un SDK de vision drone complet et récupéré des détails sur un produit non annoncé après plusieurs jours de reverse engineering.

L'auteur de la menace est également lié au collectif financier ShinyHunters et a été observé dans une violation de 350 Go de l'Union européenne, ainsi que dans une fusion avec le cartel Scattered LAPSUS$ Hunters, selon des articles de Cyber Kendra. Les activités incluent le détournement d'identifiants, l'exploitation d'appareils non corrigés et l'utilisation de techniques d'ingénierie sociale telles que les attaques ClickFix.

Réactions et contexte plus large Le rapport d'Anthropic est l'un des documents de divulgation les plus détaillés jamais publié par un laboratoire d'IA frontalier sur la manière dont ses modèles sont utilisés à des fins malveillantes. Bien que les techniques elles-mêmes ne soient pas nouvelles, le changement économique qu'elles introduisent est significatif : les attaquants peuvent désormais itérer plus rapidement que les équipes de sécurité, inversant le coût historique de la détection statique.

Des analyses indépendantes publiées par SecurityWeek confirment les conclusions d'Anthropic, notant que l'opération correspond au modus operandi connu de Midnight Blizzard et met en évidence une tendance croissante où les groupes criminels ciblent l'infrastructure des fournisseurs d'IA eux-mêmes. L'incident souligne l'évolution rapide de la chaîne d'attaque alimentée par l'IA et la nécessité pour les défenseurs de repenser leurs stratégies de détection face à des adversaires capables de boucler la boucle d'évasion plus rapidement que jamais.

L'histoire a été croisée avec des informations provenant de Cyber Kendra et SecurityWeek pour assurer une couverture complète.