L’Italie est devenue le premier pays de l’Union européenne à adopter une loi nationale encadrant l’intelligence artificielle, après l’entrée en vigueur de l’AI Act à l’échelle de l’UE. Désormais, les enfants de moins de 14 ans doivent obtenir l’autorisation de leurs parents pour accéder aux systèmes d’IA.
La protection des enfants contre l’IA est actuellement au cœur des préoccupations des responsables politiques après une série d’incidents récents impliquant des chatbots. OpenAI fait l’objet de poursuites intentées par les parents d’un adolescent de 16 ans mort par suicide. Ils affirment que ChatGPT a renforcé ses pensées les plus sombres et lui a fourni des informations sur la manière de mettre fin à ses jours.
En avril, il a été révélé que les chatbots d’IA de Meta, accessibles via Facebook, Instagram et WhatsApp, pouvaient avoir des conversations explicites avec des mineurs si celles-ci étaient présentées comme des jeux de rôle. En outre, jusqu’au mois dernier, la maison mère de Facebook autorisait activement ses chatbots à avoir des conversations « romantiques ou sexuelles » avec des enfants.
En Italie, le mauvais usage de l’IA peut entraîner une peine de prison, tandis que certaines œuvres d’art générées par l’IA peuvent être protégées par le droit d’auteur
La nouvelle loi, adoptée par le Parlement mercredi, prévoit des peines de prison d’un à cinq ans pour les usages abusifs de l’IA, comme la diffusion de deepfakes, ainsi que des sanctions plus lourdes pour les crimes tels que l’usurpation d’identité et la fraude commis avec l’IA.
La loi définit un certain nombre de garde-fous propres à chaque secteur : elle exige notamment que les médecins prennent la décision finale même lorsqu’ils utilisent l’IA pour les aider à établir un diagnostic ou à assurer un traitement, interdit aux juges de déléguer leurs décisions à l’IA et oblige les employeurs à informer les travailleurs lorsque des outils d’IA sont utilisés.
S’agissant de la question controversée du droit d’auteur, les œuvres créées par des humains avec l’aide de l’IA peuvent être protégées par le droit d’auteur si elles témoignent d’un effort intellectuel. Dans le même temps, l’exploration de textes et de données par l’IA n’est autorisée que pour les contenus non protégés par le droit d’auteur ou dans le cadre de recherches scientifiques.
Les nations et les entreprises technologiques du monde entier ont continuellement débattu de la manière de concilier les droits des artistes, comme le contrôle de l’utilisation de leurs œuvres et une rémunération équitable, avec les bénéfices sociétaux de l’IA entraînée sur de vastes quantités de données. Le manque de clarté entourant les autorisations a déjà donné lieu à de nombreux procès intentés contre des entreprises comme OpenAI, Meta et Anthropic.
L’Italie a apporté quelques réponses aux artistes et aux développeurs d’IA, mais comme de nombreux modèles fonctionnent à l’international, cette législation pourrait tout aussi bien créer de nouveaux niveaux de confusion.
La nouvelle loi du pays autorise l’allocation de jusqu’à 1 milliard d’euros (1,18 milliard de dollars) par l’intermédiaire d’un fonds de capital-risque soutenu par l’État afin de soutenir les entreprises actives dans l’IA, la cybersécurité, l’informatique quantique et les télécommunications. Son application sera supervisée par l’Agency for Digital Italy et la National Cybersecurity Agency.
L’Italie a l’IA dans le collimateur depuis un certain temps
L’Italie s’est forgé une certaine réputation en matière de surveillance de l’IA.
En janvier 2024, l’autorité italienne de protection des données a accusé le ChatGPT d’OpenAI d’enfreindre le RGPD en traitant des données personnelles sans base juridique appropriée, ce qui a entraîné une suspension temporaire. Avec sa nouvelle loi, le pays montre qu’il n’attend pas l’entrée en vigueur complète de l’AI Act de l’UE en 2030 pour réglementer l’IA sur son territoire.
Que ce soit une coïncidence ou non, la loi italienne sur l’IA a été autorisée un jour seulement après que Mario Draghi, ancien président de la Banque centrale européenne et auteur d’un rapport publié en 2024 critiquant la faible compétitivité de l’UE dans le domaine de l’IA, a suggéré de mettre l’AI Act de l’UE en pause « jusqu’à ce que nous comprenions mieux ses inconvénients.”
La Federal Trade Commission a ouvert une vaste enquête sur les chatbots d’IA, en demandant des comptes à sept géants de la tech au sujet des risques potentiels pour les enfants et les adolescents.