Une jeune Américaine de 23 ans, Lindsey Isaacs, a été arrêtée en avril 2026 et incarcérée pendant treize jours après avoir été identifiée à tort comme responsable d’un accident de la route mortel survenu en Floride. L’enquête reposait principalement sur les données fournies par un système de vidéosurveillance algorithmique de l’entreprise Flock Safety, spécialisé dans la lecture automatisée des plaques d’immatriculation.
Le système a confondu le véhicule de la jeune femme avec celui réellement impliqué dans l’accident. Malgré l’absence de dommages visibles sur sa voiture, saisie dès le lendemain des faits, l’erreur algorithmique a été considérée comme suffisamment crédible pour soutenir plusieurs chefs d’accusation criminels à son encontre. Ce n’est qu’après l’intervention de ses avocats et l’établissement de preuves démontrant qu’elle ne se trouvait pas sur les lieux du drame que les poursuites ont été abandonnées.
Cette affaire a été portée devant une commission d’enquête du Sénat américain consacrée aux dérives potentielles des technologies de surveillance reposant sur l’intelligence artificielle. Lors de son audition, Lindsey Isaacs a décrit les conséquences humaines et psychologiques de cette erreur, notamment son placement à l’isolement pendant plusieurs jours.
Cette affaire illustre parfaitement les risques dénoncés depuis plusieurs années par les autorités de protection des données et les spécialistes de l’IA. Lorsqu’une décision ayant des conséquences majeures sur la vie d’une personne repose principalement sur un traitement automatisé, une erreur algorithmique peut conduire à des atteintes extrêmement graves aux libertés fondamentales. Dans l’Union européenne, le RGPD encadre précisément ce risque en consacrant un droit à ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques significatifs (article 22). La situation décrite montre également l’importance du principe de supervision humaine : un agent public ne devrait jamais considérer les résultats d’une IA comme une preuve infaillible, mais comme un simple indice devant être vérifié et confronté à d’autres éléments.
Au-delà du RGPD, cette affaire résonne fortement avec le règlement européen sur l’intelligence artificielle (AI Act), qui classe les systèmes utilisés par les forces de l’ordre parmi les usages les plus sensibles et exige des garanties renforcées en matière de précision, de traçabilité, d’auditabilité et de contrôle humain. Le véritable danger n’est pas seulement l’erreur technique d’une IA, mais la confiance excessive accordée à cette erreur par les décideurs humains. Lorsque l’automatisation crée une présomption de vérité, les droits fondamentaux, la présomption d’innocence et le droit à un recours effectif peuvent être gravement compromis. Cette affaire rappelle que l’innovation technologique ne peut se substituer à l’esprit critique, à la responsabilité humaine et à l’État de droit.