-3.png?w=1024)
Les technologies vieillissantes de l’Australie pourraient être confrontées à une menace très moderne : des agents d’IA capables de trouver des failles à une vitesse qui réduit considérablement le temps de réaction des défenseurs.
La directrice générale de l’Australian Signals Directorate, Abigail Bradshaw, a averti cette semaine que l’intelligence artificielle transformait le paysage des cybermenaces du pays, en offrant potentiellement aux attaquants de nouveaux moyens de repérer et d’exploiter les vulnérabilités dans des systèmes obsolètes. Elle a appelé l’Australie à développer un « système d’alerte précoce » basé sur l’IA, qui aiderait les organisations à identifier les risques émergents avant qu’ils ne se propagent.
Le problème dépasse les frontières de l’Australie. À mesure que les systèmes d’IA autonomes deviennent plus efficaces pour naviguer dans les réseaux, écrire du code et accomplir des tâches en plusieurs étapes, les mêmes capacités que les entreprises espèrent utiliser pour accroître la productivité des salariés pourraient aussi rendre les cyberattaques plus rapides et plus faciles à déployer à grande échelle.
Les vieilles technologies australiennes face à une nouvelle génération d’attaquants
S’exprimant lors de l’Australian Strategic Policy Institute’s Sydney Dialogue AI Masterclass, Bradshaw a mis en garde contre les conséquences pour la sécurité de systèmes d’IA toujours plus performants.
Selon ABC News, elle a exhorté les organisations australiennes à adopter l’IA comme outil défensif, tandis que les pouvoirs publics, le secteur et les entreprises spécialisées dans l’IA améliorent leur partage d’informations sur les risques émergents.
Bradshaw a donné un exemple saisissant de l’avantage potentiel de l’IA en matière de vitesse. Des tâches qui auraient auparavant demandé « des semaines et des semaines » aux experts en cybersécurité de l’ASD pourraient désormais être réalisées en quelques heures grâce à des modèles d’IA avancés, a-t-elle expliqué.
Une partie du problème vient des technologies déjà en place au sein des organisations australiennes.
Bradshaw a averti que les systèmes obsolètes restaient vulnérables, l’IA accélérant la découverte des failles. The Guardian a rapporté qu’elle s’attendait à ce que les technologies historiques figurent probablement parmi les premiers systèmes compromis lors d’une attaque majeure reposant sur l’IA, si les organisations ne se modernisent pas assez rapidement.
Cette inquiétude s’inscrit dans un problème technologique déjà ancien dans le pays. eWeek a précédemment examiné la manière dont 58 % des entreprises australiennes interrogées par IDC et MongoDB décrivaient leur architecture technologique comme trop rigide, coûteuse et lente pour prendre en charge les systèmes d’IA qu’elles cherchent à développer.
Cela crée un décalage préoccupant. Les organisations adoptent peut-être une IA toujours plus sophistiquée, alors qu’une partie de l’infrastructure sous-jacente a été conçue pour un environnement où les menaces évoluaient bien plus lentement.
L’Australie investit également massivement dans l’infrastructure nécessaire à une économie fondée sur l’IA. eWeek a récemment examiné l’essor des centres de données dédiés à l’IA en Australie, en soulignant que des milliards de dollars sont injectés dans de nouvelles capacités de calcul tandis que le pays cherche à s’imposer comme une plaque tournante régionale de l’IA.
Davantage de puissance de calcul signifie toutefois aussi davantage d’infrastructures à protéger.
Pourquoi les agents d’IA changent la donne en cybersécurité
L’IA générative a déjà facilité la production de messages d’hameçonnage convaincants, l’analyse de code et l’automatisation de certaines étapes d’une attaque. Les agents d’IA pourraient aller plus loin encore, car ils sont conçus pour prendre des mesures et accomplir des séquences de tâches avec moins d’intervention humaine.
Un agent chargé de trouver une vulnérabilité pourrait, en théorie, examiner des systèmes, tester des faiblesses potentielles, ajuster son approche et poursuivre son travail jusqu’à atteindre son objectif.
Certains signes montrent déjà que les cyberattaques évoluent dans cette direction. eWeek a rapporté en juillet ce que des chercheurs ont décrit comme la première attaque connue de « rançongiciel agentique », au cours de laquelle un système d’IA a servi à automatiser plusieurs étapes d’une opération d’extorsion par rançongiciel.
Cela ne signifie pas que les agents d’IA autonomes peuvent simplement s’introduire dans n’importe quel système. Leurs capacités restent limitées par les modèles, les outils, les autorisations et les environnements auxquels ils ont accès, et l’avertissement de Bradshaw porte sur l’évolution de la menace plutôt que sur la preuve que des agents autonomes compromettent déjà à grande échelle les infrastructures australiennes.
Mais la trajectoire est importante.
Bradshaw a déclaré que la capacité de l’IA à identifier rapidement les vulnérabilités pourrait obliger les organisations à repenser même les pratiques de sécurité les plus élémentaires. Plutôt que de suivre des calendriers de correctifs prévisibles, certaines vulnérabilités pourraient devoir être corrigées sous 48 heures, a-t-elle suggéré, alors que les organisations donnent de plus en plus la priorité à la sécurité plutôt qu’à la disponibilité ininterrompue des systèmes.
L’Australie veut opposer l’IA à l’IA
La réponse proposée par Bradshaw n’est pas de tenir l’intelligence artificielle à l’écart de la cybersécurité. Il s’agit de déployer davantage d’IA dans la défense.
Elle a déclaré que l’Australie ne disposait actuellement d’aucun équivalent formalisé, fondé sur l’IA, des mécanismes d’alerte précoce déjà utilisés en cybersécurité. Regrouper les signalements d’incidents individuels liés à l’IA pourrait aider les services de renseignement, les entreprises et les sociétés spécialisées dans l’IA à repérer des tendances plus larges et des risques émergents.
Bradshaw a également cité les partenariats existants entre les pouvoirs publics et le secteur privé, ainsi que les accords internationaux prévoyant le partage rapide d’informations techniques, comme des modèles sur lesquels l’Australie pourrait s’appuyer.
Cette idée reflète une évolution plus large de la cybersécurité. Si les attaquants peuvent utiliser l’IA pour accélérer la reconnaissance et la découverte de vulnérabilités, les défenseurs auront de plus en plus besoin de capacités capables de fonctionner à une vitesse comparable.
Cela rend le partage d’informations particulièrement important. Une faille découverte chez une organisation pourrait concerner potentiellement beaucoup d’autres acteurs, ce qui rendrait l’identification précoce et la communication rapide d’autant plus précieuses à mesure que l’IA comprime les délais de réaction.
Pour l’Australie, le défi est particulièrement aigu. Le pays cherche simultanément à accélérer l’adoption de l’IA, à développer ses infrastructures de calcul et à moderniser des environnements technologiques qui n’ont pas été conçus pour des systèmes d’IA autonomes.
Ce qu’a découvert eWeek : l’avertissement australien sur l’IA porte en réalité sur la vitesse
L’avertissement de Bradshaw met en évidence un problème plus vaste que n’importe quelle technique de piratage reposant sur l’IA.
- Le fossé en matière de sécurité pourrait devenir un fossé en matière de vitesse. Les systèmes historiques ont toujours créé des vulnérabilités, mais l’IA pourrait réduire considérablement le temps nécessaire pour découvrir les failles. L’exemple de Bradshaw, qui évoque un passage de plusieurs semaines à quelques heures, montre l’ampleur que pourrait prendre ce bouleversement.
- La défense fondée sur l’IA pourrait devenir incontournable. Bradshaw a explicitement exhorté les organisations australiennes à adopter l’IA à des fins défensives, estimant que les défenseurs ont besoin de capacités comparables à celles dont disposent les cybercriminels et les attaquants soutenus par des États.
- La modernisation des anciens systèmes devient un enjeu lié à l’IA. L’effort entrepris par l’Australie pour construire de nouvelles infrastructures d’IA ne peut être dissocié des technologies qui fonctionnent déjà au sein des entreprises et des administrations. De nouvelles capacités de calcul n’éliminent pas les vulnérabilités des anciens systèmes.
- La disponibilité pourrait devenir un compromis en matière de sécurité. Bradshaw a averti que la découverte accélérée des vulnérabilités pourrait obliger les organisations à corriger leurs systèmes beaucoup plus rapidement, avec le risque de mettre hors ligne des services dont les Australiens ont pris l’habitude de disposer en permanence.
- L’Australie pourrait devenir un cas d’école important. Le pays développe simultanément ses capacités en matière d’IA et fait face aux conséquences de cette expansion sur le plan de la sécurité. La manière dont il parviendra à relier le renseignement public, les dispositifs de défense du secteur privé, les entreprises spécialisées dans l’IA et le partage rapide d’informations pourrait fournir des enseignements bien au-delà de l’Australie.
La course à l’IA ne se résume plus à une compétition visant à construire des modèles plus intelligents et des centres de données plus vastes. Elle devient aussi une course entre attaquants et défenseurs pour déterminer qui saura mettre ces capacités à profit le plus rapidement.
À lire aussi : pour découvrir une autre façon dont l’IA transforme les cybermenaces, lisez la mise en garde de la Federal Reserve selon laquelle l’IA de pointe pourrait trouver des vulnérabilités et enchaîner des exploits à la vitesse d’une machine.