Le pape François met en garde contre les dangers « pervers » de l’Intelligence Artificielle (IA)
Le pape François a mis en garde mercredi contre les dangers « pervers » de l’intelligence artificielle et des « deepfake », et renouvelé son appel en faveur d’une réglementation mondiale afin d’exploiter cette technologie pour le bien commun.
Dans un message relayé à l’occasion de la Journée mondiale des communications sociales de l’Eglise catholique romaine, François a mis en garde contre la « pollution cognitive » qui peut déformer la réalité, promouvoir de faux récits et enfermer les gens dans des chambres d’écho idéologiques.
Dans le même temps, le souverain pontife a exhorté à mettre de côté temporairement « les prédictions catastrophiques et leurs effets anesthésiants » concernant les nouvelles technologies.
« Il suffit de penser au problème de longue date de la désinformation sous forme de ‘fake news’, qui peut aujourd’hui utiliser des ‘deepfakes’, à savoir la création et la diffusion d’images qui semblent parfaitement plausibles mais qui sont fausses – j’en ai également fait l’objet », a écrit le pape François.
Il faisait semble-t-il référence à une fausse image de lui, devenue virale sur les réseaux sociaux l’année dernière, qui le représentait vêtu d’un longue doudoune blanche. L’image avait été postée par un utilisateur d’un programme de génération d’images.
Le pape François a également évoqué les faux « messages audio qui utilisent la voix d’une personne pour dire des choses qu’elle n’a jamais dites ».
Lundi, le procureur général de l’État américain du New Hampshire a déclaré que son bureau avait ouvert une enquête sur l’origine de faux appels téléphoniques simulant la voix du président Joe Biden et encourageant les électeurs à ne pas voter lors des primaires à l’investiture républicaine mardi.
« La technologie de simulation que sous-tend ces programmes peut être utile dans certains domaines spécifiques, mais elle devient perverse lorsqu’elle déforme notre relation avec les autres et avec la réalité », a écrit le pape.
Il a renouvelé son appel, lancé le mois dernier, en faveur d’un traité international juridiquement contraignant pour réglementer l’IA.
Dans son message de mercredi, le pape a évoqué les « pathologies associées » à l’IA, notamment la diminution du pluralisme et la prolifération de la « pensée de groupe », qui consiste à adopter des positions consensuelles sans tenir compte des critiques extérieures ou des alternatives.
François a également évoqué le danger de l’IA dans les médias, en particulier dans les reportages de guerre, qui, selon lui, pourraient être le biais de campagnes de désinformation.
L’IA doit soutenir et non éliminer le rôle du journalisme sur le terrain, a-t-il déclaré.
(Reportage de Philip Pullella ; version française Gaëlle Sheehan, édité par Blandine Hénault)
