.png?w=512)
Un drone grand public à environ 100 dollars peut désormais être transformé en quelque chose de bien plus inquiétant : un système volant capable de reconnaître une personne et de la suivre d’une pièce à l’autre.
Selon NBC News, des modèles d’IA d’entreprises comme OpenAI et Anthropic ont contribué à générer le code permettant à un drone d’intérieur d’utiliser la reconnaissance faciale, de se déplacer à travers les portes et autour des meubles, et de garder sa cible dans son champ de vision. Cette démonstration laisse penser que les assistants de programmation fondés sur l’IA pourraient réduire le niveau d’expertise nécessaire pour combiner des technologies peu coûteuses et largement disponibles afin de créer des systèmes de surveillance autonomes.
Si aucune de ces technologies n’est nouvelle, l’expérience montre que des capacités avancées qui nécessitaient autrefois une expertise spécialisée en ingénierie deviennent de plus en plus accessibles grâce aux instructions en langage naturel. Cette évolution gagne en importance pour les entreprises, les équipes de sécurité et les responsables politiques, à mesure que les assistants de programmation fondés sur l’IA continuent de progresser.
L’IA réduit la barrière technique
Par le passé, se lancer dans la construction de drones autonomes nécessitait une expertise avancée dans des domaines comme la robotique, la vision par ordinateur et le développement logiciel. Désormais, les assistants de programmation fondés sur l’IA sont potentiellement plus capables de générer du code fonctionnel pour des tâches complexes, ce qui pourrait permettre à des utilisateurs moins expérimentés en programmation spécialisée de créer des systèmes plus complexes.
L’expérience de NBC News s’est concentrée sur un drone grand public d’intérieur peu coûteux plutôt que sur une plateforme commerciale ou militaire, mais l’importance de l’expérience réside moins dans le drone lui-même que dans la manière dont du code généré par l’IA a relié des technologies largement disponibles pour créer un système de surveillance opérationnel.
Cela illustre ce que l’on décrit souvent comme des capacités d’IA à « double usage » : des outils conçus à des fins légitimes qui peuvent aussi être utilisés de manière préjudiciable.
Les implications pour la sécurité des entreprises
Les assistants de programmation fondés sur l’IA s’intègrent rapidement aux workflows quotidiens de développement logiciel. Mais alors que les entreprises adoptent ces outils pour aider les développeurs à écrire du code plus rapidement, automatiser les tâches répétitives et accélérer les projets logiciels, leurs équipes de sécurité vont devoir examiner de plus près les enjeux de sécurité qu’ils soulèvent.
Cette démonstration souligne pourquoi les organisations pourraient devoir renforcer leurs programmes de gouvernance de l’IA, afin d’évaluer non seulement la manière dont les employés utilisent l’IA, mais aussi la façon dont les fournisseurs d’IA mettent en place des garde-fous autour de la génération de code. Dans le même temps, les organisations qui adoptent l’IA générative sont désormais confrontées à des questions concernant les politiques d’utilisation acceptable, les contrôles d’accès aux modèles et la surveillance des applications potentiellement dangereuses générées dans le cadre d’un développement assisté par l’IA.
Avant d’agir, rappelons que cette actualité ne signifie pas nécessairement que tous les assistants de programmation fondés sur l’IA sont intrinsèquement dangereux. Elle met plutôt en évidence la difficulté à laquelle les organisations sont confrontées pour gérer une technologie toujours plus avancée, qui peut être utilisée à des fins légitimes comme préjudiciables.
Les garde-fous de l’IA soumis à un nouvel examen
L’expérience attire également l’attention sur la question de savoir si les fournisseurs d’IA devraient imposer des restrictions supplémentaires aux demandes liées aux technologies de surveillance.
La plupart des grandes entreprises de l’IA, notamment OpenAI, , , Anthropic, , , et Google, Microsoft et Meta, ont instauré des politiques d’IA responsable, des restrictions d’utilisation et des cadres de sécurité destinés à réduire les usages nuisibles ou illégaux de leurs modèles. Cependant, déterminer où s’arrête le développement logiciel légitime et où commence une surveillance potentiellement préjudiciable demeure un défi bien plus difficile.
Par ailleurs, nous ne devons pas oublier que la navigation des drones, la vision par ordinateur et la reconnaissance faciale ont toutes des applications commerciales légitimes. La reconnaissance faciale peut servir à automatiser les entrepôts, réaliser des inspections industrielles et gérer les stocks, tandis que les drones autonomes sont de plus en plus utilisés pour surveiller les infrastructures, dans l’agriculture et pour les interventions d’urgence. Cela dit, il peut être difficile de restreindre la génération de code dans ces domaines sans nuire aux cas d’usage légitimes.
À mesure que les capacités de programmation de l’IA continuent de s’améliorer au sein de modèles concurrents, les fournisseurs subiront probablement une pression croissante de la part des autorités de régulation et des responsables politiques, qui leur demanderont de démontrer que des garde-fous appropriés sont en place.
Le débat sur la sécurité de l’IA s’étend au-delà des chatbots
Une grande partie du discours autour de l’IA générative a porté sur des sujets comme les réponses des chatbots, la désinformation et les questions de droit d’auteur. Mais alors que nous continuons d’examiner les effets plus larges de l’IA générative sur la société et que les modèles capables de coder deviennent plus performants, l’attention semble se déplacer vers les systèmes d’IA capables d’écrire des logiciels fonctionnels qui interagissent avec des appareils physiques.
Le problème plus général concerne peut-être moins les drones que ce qui se produira lorsque les logiciels générés par l’IA acquerront la capacité de contrôler des caméras, des robots, des véhicules et d’autres systèmes physiques. Les assistants de programmation ont été largement présentés comme des outils de productivité, mais des expériences comme celle-ci montrent pourquoi leurs implications en matière de sécurité dépassent de plus en plus le cadre de l’écran d’ordinateur.
Pour les fournisseurs d’IA et les organisations qui adoptent leurs modèles, le prochain défi consistera à déterminer où s’arrête l’assistance logicielle ordinaire et où commence une capacité véritablement dangereuse — une frontière qui pourrait devenir plus difficile à tracer à mesure que les modèles s’améliorent dans l’écriture de code fonctionnel.
Autre actualité : une nouvelle étude a révélé que les lecteurs ont mieux noté les nouvelles courtes générées par ChatGPT que les œuvres de fiction écrites par des humains, soulevant de nouvelles questions sur le rôle croissant de l’IA dans l’écriture créative.