Une nouvelle enquête de Legit Security a révélé que l’intelligence artificielle générative (IA générative) expose des vulnérabilités critiques en matière de sécurité, alors même qu’elle transforme le développement logiciel. Publiée fin novembre 2024, l’enquête met en évidence les inquiétudes des développeurs et des professionnels de la sécurité concernant l’intégration de l’IA générative dans les pipelines de développement, malgré son utilisation très répandue.
Le rapport, intitulé « Utilisation et sécurité de l’IA générative dans le développement logiciel », a interrogé plus de 400 professionnels de différents secteurs et montré que 96 % des organisations utilisent désormais des outils d’IA générative pour le développement d’applications, 79 % d’entre elles déclarant que leurs équipes les utilisent régulièrement. Toutefois, les risques de sécurité, comme l’exposition potentielle à du code malveillant et aux attaques visant la chaîne logistique de l’IA, assombrissent cette avancée technologique.
« Alors que l’IA générative transforme le développement logiciel et s’intègre de plus en plus au cycle de vie du développement, les développeurs et les équipes de sécurité sont confrontés à de véritables préoccupations en matière de sécurité », a déclaré Liav Caspi, cofondateur et directeur technique de Legit Security, dans un communiqué de presse. « Notre étude a révélé que les équipes peinent à trouver un équilibre entre les innovations permises par l’IA générative et les risques qu’elle introduit en exposant leurs applications et leurs chaînes logistiques logicielles à de nouvelles vulnérabilités. »
L’enquête a également révélé que 85 % des développeurs et 75 % des professionnels de la sécurité s’inquiètent d’une dépendance excessive aux outils d’IA générative. Ces technologies, conçues pour automatiser les tâches de codage répétitives, risquent d’exposer des vulnérabilités susceptibles d’être exploitées par des attaquants.
- 98 % des répondants ont également souligné la nécessité pour les équipes de sécurité de mieux contrôler la manière dont les technologies d’IA générative sont utilisées
- 94 % ont insisté sur la nécessité d’améliorer la gestion des processus de développement pilotés par l’IA générative
Le rapport a également identifié des menaces potentielles liées à l’IA, telles que les fuites d’informations sensibles et le vol de modèles. Plus des deux tiers des répondants ont cité les vulnérabilités de la chaîne logistique comme un risque sérieux, soulignant l’ampleur du problème que pose la protection du code généré par l’IA dans les systèmes critiques. Ces conclusions coïncident avec les tendances observées plus largement dans le domaine de la cybersécurité, où les attaques par rançongiciel ont atteint des niveaux records et où les vulnérabilités fondées sur l’IA continuent d’évoluer.
Malgré ces obstacles, le consensus est clair : l’IA générative transforme l’avenir du développement logiciel. Près de 95 % des répondants prévoient que la dépendance à ces outils augmentera au cours des cinq prochaines années. Pourtant, tandis que les entreprises adoptent cette nouvelle technologie, les experts recommandent la prudence et soulignent que les organisations devraient exploiter des outils essentiels d’ingénierie des prompts afin d’améliorer la supervision de l’IA et d’atténuer les risques.
« Si l’IA générative est indéniablement l’avenir du développement logiciel, a déclaré Caspi, les organisations doivent rester conscientes de ses nouveaux risques et s’assurer de disposer d’une visibilité et d’un contrôle appropriés sur son utilisation. »
Téléchargez le rapport complet de Legit Security ou découvrez-en davantage sur la manière dont l’IA générative peut être utilisée pour renforcer les capacités de cybersécurité.