Apple fait actuellement l’objet de critiques après que son outil de résumé de l’actualité par IA a déformé des informations rapportées par des sources d’information fiables, notamment BBC News et The New York Times, et envoyé des alertes inexactes aux utilisateurs d’iPhone. Des groupes de médias ont demandé la suspension de cet outil, conçu pour résumer l’actualité urgente, après qu’il a été reconnu responsable de la diffusion de faux titres d’information.
Les médias réclament une action rapide
La polémique s’est amplifiée lorsque l’outil d’IA a affirmé à tort que BBC News avait publié des articles sur le coming out de l’athlète Rafael Nadal et annoncé prématurément le vainqueur d’un championnat de fléchettes. Dans les deux cas, ces affirmations étaient totalement fausses.
La BBC a déposé une plainte officielle après que des alertes générées par l’IA ont affirmé à tort que Luigi Mangione, un Américain poursuivi pour le meurtre du PDG de UnitedHealth Care, s’était suicidé — un événement qui n’a jamais eu lieu. En novembre, l’IA a également attribué à tort au New York Times un article faisant état de la détention du Premier ministre israélien Benjamin Netanyahu. Cette série de déformations a renforcé les appels à Apple pour qu’il remédie aux graves faiblesses de sa plateforme d’IA.
La BBC comme The New York Times ont souligné l’importance d’une information fiable, en particulier lorsque la réputation de leurs marques est en jeu. Une porte-parole de la BBC a exigé qu’Apple corrige rapidement le problème, avertissant que de telles erreurs pourraient considérablement éroder la confiance du public.
Les leaders du secteur exigent une suspension
Des défenseurs des médias, dont Reporters sans frontières, se sont joints aux appels de plus en plus nombreux demandant à Apple de suspendre l’utilisation de l’outil d’IA, estimant qu’il pourrait porter un préjudice sans précédent à la confiance du public. Alan Rusbridger, ancien rédacteur en chef de The Guardian, a critiqué l’outil sur BBC Radio 4, mettant en garde contre la propagation incontrôlée de fausses informations par l’IA et d’autres risques liés à l’intelligence artificielle.
Rusbridger a souligné que le déploiement de cette technologie devrait être limité à des environnements réglementés afin d’éviter la diffusion de fausses informations au public. En réponse, Apple a publié un communiqué reconnaissant les problèmes et s’engageant à déployer des mises à jour pour indiquer clairement que les résumés sont générés par l’IA. Un représentant de l’entreprise a rassuré les utilisateurs en affirmant que des améliorations étaient en cours et les a encouragés à signaler toute notification problématique.
« Les fonctionnalités d’intelligence d’Apple sont actuellement en version bêta et nous les améliorons constamment en fonction des retours des utilisateurs », précise le communiqué. « Une mise à jour logicielle prévue dans les prochaines semaines indiquera clairement lorsque le texte affiché est un résumé généré par Apple Intelligence. Nous encourageons les utilisateurs à nous informer s’ils remarquent un résumé de notification inhabituel. »
Actuellement, les alertes affichent bien en évidence les logos d’applications d’organes de presse comme BBC News et The New York Times, donnant l’impression qu’elles proviennent directement de ces sources. Elles n’indiquent toutefois nulle part que les informations proviennent de l’IA d’Apple plutôt que de l’organe de presse lui-même.
Découvrez notre liste des principales entreprises qui façonnent le domaine de l’IA et explorent de nouvelles applications de cette technologie dans un large éventail de secteurs.