Podcast
«Faux positifs»: un podcast sur le blocage automatique de comptes
En collaboration avec l'Agence France-Presse, nous avons mené une recherche de six mois dans le cadre du fellowship «Algorithmic Accountability Reporting». Les résultats sont désormais disponibles sous la forme d’un podcast.
Que ferais-tu si l'accès à tous tes comptes bancaires était soudainement bloqué? Tu ne recevrais plus ton salaire et tu ne pourrais plus rien payer. Imagine que tu n’obtiennes aucune réponse lorsque tu cherches à savoir pourquoi cela s'est produit. Comment te sentirais-tu si tu découvrais ensuite qu'un algorithme est responsable du blocage de ton compte?
Les banques doivent utiliser des systèmes automatisés pour surveiller les transactions de leurs client·e·s afin de lutter contre le blanchiment d'argent et le financement du terrorisme. Mais parfois, ces systèmes font des erreurs, ce qui entraîne le blocage de comptes bancaires. Cela arrive à de nombreuses personnes dans toute l'Europe: petites entreprises, ONG, organisations religieuses, migrant·e·s, réfugié·e·s, et même à des politicien·ne·s de haut rang. Les données publiées par différents pays laissent penser qu'il pourrait y avoir des milliers de personnes concernées.
Ce phénomène, connu sous le nom de «de-banking», peut être provoqué par des algorithmes et l’intelligence artificielle dans un processus de décision semi-automatique. Les décisions erronées des systèmes sont appelées «faux positifs».
«Faux positifs» est une série de podcasts produite par AlgorithmWatch et l'Agence France-Presse. Le podcast parcourt toute l'Europe: l'Espagne, la France, la Grande-Bretagne, la Turquie, l'Allemagne et la Pologne. Nous nous sommes entretenus avec des personnes qui ont été touchées par des décisions erronées automatisées et qui ont dû se battre pour les faire corriger. Nous avons également parlé avec des expert·e·s du secteur qui expliquent comment et pourquoi de telles décisions automatisées sont prises.
Les trois épisodes du podcast ont été publiés début 2025.
Épisode 1: Kafka
En Espagne, Atilio Andrade a vu son compte bloqué. En France, c'est arrivé à Koffi Agodjro. Tous deux se sont ensuite heurtés à des obstacles bureaucratiques importants. Nous avons étudié ces cas et découvert que ce ne sont pas des exceptions. Des systèmes automatisés sont souvent à l'origine de ces problèmes. Écouter maintenant!
Épisode 2: Tous surveillés
Les banques sont tenues par la loi de surveiller leurs client·e·s afin de lutter contre le blanchiment d'argent. Cela signifie que nous sommes toutes et tous surveillé·e·s , même les politicien·ne·s de haut rang. Des expert·e·s nous ont fait découvrir les coulisses de cette machinerie en partie automatisée. La surveillance est-elle justifiée? Écouter maintenant!
Épisode 3: Sans refuge
Que se passerait-il si les banques étaient contraintes d'appliquer des lois promulguées par des autocrates contre des opposant·e·s politiques? Aussi dystopique que cela puisse paraître, c'est déjà une réalité dans l'Union européenne. Les trafiquants de données collectent en ligne des informations compromettantes sur les dissident·e·s et les réfugié·e·s. De telles informations sont également utilisées par les banques pour évaluer les profils de risque de leurs client·e·s. Cette pratique est-elle justifiable? Peut-on compter sur les banques pour prendre les bonnes décisions? Écouter maintenant!
À propos du podcast
Sept journalistes et chercheur·e·s ont travaillé sur cette enquête: Pablo Jimenez Arandia, Naiara Bellio, Yasir Gökce, Mayra Russo, Mathilde Saliou, Benoît Pelegrin et Nicolas Kayser-Bril et Michaëla Cancela-Kieffer. | Cette série a été réalisée par Camille Kauffmann | Christophe Robert a assuré le mixage. | La musique a créée par Nicolas Vair. | Design graphique par Julie Pereira. | Doublages: Mona Guichard, Hugo Ruaud, Maelys Sourt, Adrien Barbier, Martin Zuber, Henri Bouvier, Pierre Moutot, Guillaume Gérard, Ulysse Busnel, Camille Kauffmann. | Rédaction en chef chez AlgorithmWatch Naiara Bellio, Jean-Baptiste Oubrier pour l’Agence France-Presse.
AlgorithmWatch est une organisation non gouvernementale d'utilité publique basée à Zurich et Berlin. Nous nous engageons pour que les algorithmes et l’Intelligence artificielle (IA) renforcent la justice, la démocratie, les droits humains et la durabilité plutôt que de les affaiblir.
Agence France-Presse (AFP) est une agence de presse présente dans 150 pays. L'agence a produit le podcast et a effectué une recherche supplémentaire et des vérifications de faits en Grande-Bretagne, en France et en Turquie.
