Ou pourquoi l’excuse du « bug informatique » ne protège plus personne
Il fut un temps, pas si lointain, où un dirigeant pouvait se réfugier derrière une formule commode dès que ses systèmes se comportaient mal. « C’est la faute à l’ordinateur. » La phrase avait quelque chose de rassurant, presque enfantin, comme si la machine était un tiers autonome dont on subissait les caprices sans y être pour rien. Cette époque est en train de se refermer. Quand un algorithme de recrutement écarte silencieusement les candidats d’un certain âge, quand un robot conversationnel promet à un client endeuillé un remboursement qui n’existe pas, il n’y a plus personne pour endosser la faute à la place de l’entreprise. Le tiers commode a disparu. Reste le responsable.
J’observe cette bascule depuis quelques années, et elle me paraît autrement plus profonde qu’un simple durcissement réglementaire. Ce qui se joue, c’est la fin d’une fiction : celle d’une technologie qui déciderait à notre place et nous dédouanerait par la même occasion.
On aurait tort de croire, comme le laisse penser l’emballement autour de ChatGPT, que l’intelligence artificielle est née avec le smartphone de nos adolescents. Elle occupait déjà les laboratoires quand nos parents apprenaient à programmer, et les questions d’éthique, de gouvernance et de responsabilité qu’elle soulève ne datent pas d’hier. Elles nourrissaient les colloques universitaires bien avant que le grand public ne s’en empare. Ce qui a changé, ce n’est pas la nature du problème, c’est son échelle. Tant qu’une poignée de chercheurs manipulait ces systèmes dans des enceintes fermées, le débat restait théorique, presque confidentiel. À partir du moment où des centaines de millions de personnes interrogent quotidiennement des IA génératives, la même interrogation devient un enjeu juridique, économique et social concret. Le facteur d’échelle a tout déplacé : ce qui relevait du séminaire est devenu une question de survie pour bien des organisations.
Cette mutation redessine aussi la carte des puissances. L’Europe légifère, méthodique et parfois tatillonne. Les États-Unis parient sur l’innovation et n’interviennent qu’après coup, quand les dégâts sont déjà là. La Chine, elle, encadre étroitement une innovation qu’elle veut à la fois rapide et docile. Au milieu de ces trois logiques inconciliables, les entreprises tentent de tenir un cap. Et la question de savoir qui répondra des errements de ses machines n’est pas un détail juridique : elle pèsera lourd dans la répartition de la richesse des prochaines décennies.
L’Europe se pose en régulateur du numérique
Quand l’Union européenne a adopté son règlement sur l’intelligence artificielle en 2024, publié au Journal officiel le 12 juillet et entré en vigueur le 1er août [1], beaucoup y ont vu une énième couche bureaucratique, un réflexe européen de plus. C’était mal en saisir la portée. Pour la première fois, une grande puissance posait par la loi des limites explicites à ce que les systèmes automatisés ont le droit de faire. On peut trouver le texte lourd, on peut le juger prématuré, mais il installe un principe qui manquait : certaines choses ne se décideront pas par algorithme, quelles que soient les performances de la machine.
Le règlement ne se contente pas d’interdire ou d’autoriser en bloc. Il gradue. Il classe les usages selon quatre niveaux de risque, de l’inacceptable au minimal, et calibre les obligations en conséquence [1]. Les pratiques jugées contraires aux droits fondamentaux, comme la notation sociale des citoyens, la manipulation par des techniques subliminales ou certaines formes de surveillance biométrique dans l’espace public, tombent dans la catégorie prohibée [1]. Cette hiérarchie dit quelque chose d’assez neuf : tous les algorithmes ne naissent pas égaux devant la loi.
Pour les entreprises, la subtilité cache une contrainte réelle. Développer un système classé « à haut risque » revient désormais à s’engager dans un parcours de conformité qui évoque, par sa lourdeur, l’homologation d’un dispositif médical. Documentation détaillée, gestion des données, supervision humaine, traçabilité. Le tout adossé à des sanctions dissuasives : jusqu’à 35 millions d’euros, ou 7 % du chiffre d’affaires mondial de l’entreprise si ce montant est plus élevé, pour les infractions les plus graves [1]. De quoi faire réfléchir même les plus téméraires.
Il y a pourtant quelque chose d’un peu vertigineux dans cette course. Pendant que les juristes de Bruxelles ciselaient leurs articles, la technologie qu’ils prétendaient encadrer changeait plusieurs fois de visage. C’est le paradoxe de toute régulation technologique : elle vise une cible mouvante et arrive presque toujours un temps de retard. Les institutions posent des panneaux de signalisation quand la route, déjà, s’est déplacée.
En France, c’est la Commission nationale de l’informatique et des libertés qui hérite de ce nouveau rôle. Sa présidente, Marie-Laure Denis, reconduite début 2024 pour un second mandat, a fait de l’intelligence artificielle l’une de ses priorités affichées ; l’autorité a d’ailleurs constitué un service dédié et publie régulièrement des recommandations pour aider les acteurs à concilier innovation et protection des données [2]. La CNIL a aussi expérimenté des « bacs à sable » réglementaires, ces espaces encadrés où une entreprise peut tester un dispositif sous l’œil du régulateur avant de le déployer largement. L’idée est astucieuse : plutôt que de découvrir les problèmes une fois le mal fait, on les anticipe dans un cadre maîtrisé.
Quand les machines déraillent en public
Les meilleures leçons ne viennent pas des textes de loi mais des accidents. Et de ce point de vue, les dernières années ont offert une collection de cas d’école aussi instructifs que gênants pour les entreprises concernées.
Prenez l’affaire Air Canada. Un homme, qui vient de perdre sa grand-mère, consulte le robot conversationnel de la compagnie pour savoir s’il peut bénéficier d’un tarif réduit lié au deuil. Le chatbot lui répond qu’il pourra demander un remboursement rétroactif dans les quatre-vingt-dix jours suivant l’achat de son billet. L’information est fausse : la politique réelle de la compagnie exige que la réduction soit accordée avant le voyage. Quand le client réclame son dû, Air Canada refuse, puis, devant le tribunal, tente une défense stupéfiante : le chatbot serait une entité distincte, responsable de ses propres déclarations, dont la compagnie ne saurait répondre. En février 2024, le Tribunal de résolution des litiges civils de Colombie-Britannique balaie l’argument. Un robot conversationnel, tranche-t-il en substance, n’est qu’une composante du site de l’entreprise, laquelle demeure responsable de toutes les informations qu’elle diffuse, qu’elles proviennent d’une page fixe ou d’une conversation automatisée [3]. Le montant en jeu était dérisoire, quelques centaines de dollars canadiens, mais le principe posé, lui, ne l’est pas. Vos algorithmes parlent en votre nom. Ce qu’ils promettent vous engage.
Le cas McDonald’s raconte une autre histoire, plus burlesque, mais tout aussi révélatrice. Depuis 2021, le géant du hamburger testait avec IBM un système de prise de commande vocale dans plus d’une centaine de ses restaurants américains [4]. Sur le papier, l’idée était séduisante : fluidifier le passage au drive, soulager les équipes. Dans la réalité, le système peinait à comprendre la diversité des accents et se noyait dans le brouhaha ambiant [4]. Les réseaux sociaux se sont régalés de vidéos où la machine ajoutait imperturbablement des articles qu’aucun client n’avait demandés. En juin 2024, McDonald’s a mis fin à l’expérience [4]. La leçon est limpide : un drive à l’heure de pointe, avec ses moteurs, ses klaxons et ses commandes qui se chevauchent, n’a rien du laboratoire silencieux où l’algorithme a appris ses bonnes manières. Entre les deux, il y a tout l’écart qui sépare le monde tel qu’on l’imagine du monde tel qu’il résiste.
D’autres dérives font moins rire. En 2023, le groupe de soutien scolaire iTutorGroup a accepté de verser 365 000 dollars pour clore une action de l’agence américaine chargée de l’égalité dans l’emploi [5]. En cause : un logiciel de recrutement programmé pour écarter automatiquement les candidates de 55 ans et plus et les candidats de 60 ans et plus, ce qui avait conduit au rejet de plus de deux cents postulants [5]. Ce fut le premier règlement de ce type portant sur une discrimination automatisée à l’embauche. Ce qui frappe ici, ce n’est pas seulement l’illégalité, c’est la mécanique. Un recruteur humain module ses décisions, se ravise, tient compte du cas particulier. L’algorithme, lui, applique la règle apprise avec une régularité de métronome, sans exception ni état d’âme. Il ne discrimine pas plus qu’un humain de mauvaise foi ; il discrimine plus systématiquement.
On retrouve cette systématisation dans un précédent souvent cité, celui d’Amazon. L’entreprise avait développé, à partir de 2014, un outil expérimental censé classer les CV automatiquement. Entraîné sur une décennie de candidatures majoritairement masculines, le système avait « appris » à préférer les hommes, pénalisant par exemple les CV mentionnant certains termes associés aux femmes. Révélé par l’agence Reuters en 2018, le projet a été abandonné [6]. Amazon a précisé que l’outil n’avait jamais servi à évaluer réellement des candidats [6], nuance qui compte, mais l’épisode reste emblématique : une IA n’invente pas ses préjugés, elle hérite des nôtres et les reproduit à grande échelle.
Le cas de la carte Apple mérite qu’on s’y arrête, précisément parce qu’il est plus ambigu. Fin 2019, plusieurs utilisateurs, dont l’entrepreneur David Heinemeier Hansson puis le cofondateur d’Apple Steve Wozniak, s’indignent publiquement : la carte, adossée à Goldman Sachs, aurait accordé à des femmes des plafonds de crédit très inférieurs à ceux de leur conjoint, parfois à situation financière comparable [7]. Le régulateur financier de l’État de New York ouvre une enquête. Or son rapport, publié en 2021, ne retient aucune violation des lois sur le crédit équitable [7]. Aucune discrimination illégale démontrée, donc. Et pourtant les dégâts d’image, eux, avaient bel et bien eu lieu. C’est tout le paradoxe : dès lors qu’un algorithme décide de manière opaque, le simple soupçon suffit à entamer la confiance, même quand l’accusation n’est pas confirmée. L’opacité, à elle seule, est un risque.
La désinformation offre un dernier registre de dérives. En avril 2024, le robot conversationnel Grok, intégré au réseau social X, a transformé une plaisanterie de supporters de basket en fausse nouvelle. Des fans se moquaient des mauvais tirs d’un joueur, Klay Thompson, en jouant sur l’expression consistant à « lancer des briques ». Prenant l’image au pied de la lettre, Grok a généré une histoire de vandalisme, accusant le joueur d’avoir brisé des fenêtres à coups de briques [8]. Anecdotique en apparence, l’épisode dit quelque chose de sérieux sur la capacité de ces systèmes à fabriquer du faux avec l’aplomb du vrai. Quelques mois plus tôt, en novembre 2023, un autre scandale avait secoué le journalisme : le magazine Sports Illustrated s’est retrouvé accusé d’avoir publié des articles signés par des auteurs qui n’existaient pas, dotés de biographies fictives et de photos de profil générées par intelligence artificielle. Le contenu provenait d’un prestataire extérieur, et l’éditeur a mis fin à la collaboration une fois l’affaire révélée [9]. Là encore, c’est la confiance qui trinque, cette matière première fragile sans laquelle ni un média ni une marque ne valent grand-chose.
La France n’est pas à l’abri de ces débats. Le recours de l’administration à des algorithmes de profilage soulève des interrogations croissantes. L’association La Quadrature du Net a ainsi documenté, à partir de 2024, l’usage par France Travail de systèmes de notation des demandeurs d’emploi, notamment un « score de suspicion » destiné à repérer d’éventuelles fraudes et un « score d’employabilité », des dispositifs qui ont nourri les critiques d’institutions comme le Défenseur des droits sur la logique de contrôle qui les sous-tend [10]. On mesure ici la sensibilité particulière du sujet quand c’est la puissance publique qui automatise ses décisions : ce ne sont plus des consommateurs qui sont concernés, mais des citoyens face à leurs droits.
De cette série d’accidents se dégage une vérité un peu dérangeante. Nos machines ne sont pas neutres. Elles amplifient nos biais, reconduisent nos inégalités, et le font avec une constance qu’aucune malveillance humaine n’atteindrait. C’est précisément cette régularité mécanique qui rend leur supervision si nécessaire.
Anatomie de l’échec algorithmique
À force d’examiner ces ratés, on finit par y reconnaître des schémas récurrents. Toujours les mêmes failles, ou presque, qui reviennent d’un fiasco à l’autre.
La première, la plus insidieuse, tient à l’illusion de l’environnement contrôlé. Un système peut se comporter parfaitement dans le calme d’un laboratoire et s’effondrer au contact du réel. McDonald’s l’a payé cher : des mois de tests concluants, puis l’écroulement dès que la machine a dû composer avec le désordre d’un vrai drive. Concevoir une IA, ce n’est pas bâtir un dispositif qui marche dans des conditions idéales, c’est en fabriquer un qui résiste au chaos ordinaire. La nuance paraît mince ; elle fait toute la différence.
Vient ensuite la tentation de l’automatisation intégrale. Grisées par l’efficacité, certaines entreprises retirent l’humain de la boucle et créent des systèmes autonomes sans soupape. On l’a vu dans les commandes de McDonald’s qui s’emballaient sans qu’aucun garde-fou ne vienne les arrêter. Cette obsession du tout-automatique a un défaut fatal : elle supprime la capacité de correction en temps réel, cette faculté proprement humaine de sentir que quelque chose déraille et de reprendre la main.
Il y a aussi la reproduction amplifiée des biais du passé. Un algorithme ne se contente pas de refléter les discriminations existantes, il les fige en règle et les applique à l’échelle industrielle. iTutorGroup en donne l’illustration la plus nette : une préférence discriminatoire, qui aurait pu rester le fait d’individus, devient une politique systématique appliquée sans faille à des centaines de dossiers.
Enfin, l’absence de chaîne de responsabilité claire empoisonne la gouvernance de la plupart des organisations. Dans les grandes structures, personne n’assume vraiment la décision algorithmique finale. Ce flou crée un vide que certaines entreprises tentent même d’exploiter, comme Air Canada cherchant à imputer la faute à son propre chatbot. Tant qu’aucun dirigeant n’accepte de répondre personnellement des choix de ses machines, les dérives restent inévitables.
Ces quatre travers ne sont pas indépendants. Ils s’alimentent les uns les autres : l’illusion du contrôle encourage l’automatisation totale, qui masque les biais hérités, lesquels prospèrent dans le flou des responsabilités. On ne brise pas cette mécanique en corrigeant un maillon isolé. Il faut la prendre dans son ensemble, sous peine de simplement déplacer le problème.
Trois puissances, trois manières de tenir la bride
Résumer à gros traits les approches américaine, européenne et chinoise donnerait à peu près ceci : les États-Unis avancent vite et réparent après, l’Europe réfléchit tant qu’elle risque de manquer le train, la Chine innove dans un cadre que le pouvoir politique tient fermement. La caricature a ses limites, mais elle pointe des philosophies qui, au fond, ne se rejoignent pas.
Du côté américain, la doctrine reste celle du primat de l’innovation et de la confiance dans le marché pour éliminer de lui-même les acteurs irresponsables. Cette orientation s’est accentuée récemment : le décret sur l’intelligence artificielle pris sous l’administration Biden en 2023 a été révoqué début 2025 par l’administration Trump, qui a démantelé une partie de l’édifice réglementaire hérité au nom de la compétitivité [11]. L’avantage est réel, un rythme d’innovation soutenu qui attire talents et capitaux. Le revers l’est tout autant : on découvre les dommages une fois qu’ils sont là, quand il est souvent trop tard pour les réparer sans casse.
L’Europe, elle, mise sur la seule arme qu’elle maîtrise encore vraiment : la norme. Son pari n’est pas seulement de protéger ses citoyens, mais d’imposer ses standards au reste du monde par capillarité, en espérant reproduire ce qui s’est joué avec le règlement sur les données personnelles, devenu une référence bien au-delà de ses frontières. C’est une stratégie d’influence par le droit. Elle a ses forces, une protection robuste et la capacité de fixer des règles que d’autres finissent par adopter. Mais elle porte un risque que l’on ne peut ignorer : réguler avec vigueur une technologie que l’on ne produit guère, et voir talents et investissements filer vers des cieux plus cléments. J’ai déjà eu l’occasion d’écrire ailleurs à quel point cette dépendance nous rend vulnérables ; je n’y reviens pas ici, mais elle plane sur tout ce débat.
La Chine, enfin, suit une troisième voie, souvent réduite à tort au simple contrôle autoritaire. La réalité est plus subtile. Les entreprises y sont encouragées à développer des systèmes puissants, à condition qu’ils respectent les orientations idéologiques du pouvoir ; les règles adoptées en 2023 sur l’IA générative exigent ainsi que les contenus produits demeurent conformes aux valeurs promues par le Parti [12]. Ce cadre autorise une innovation rapide et massivement soutenue par l’État, dans un corset rigide mais prévisible. Cohérence stratégique et moyens considérables d’un côté, risque de sclérose et de défiance internationale de l’autre.
Pour une entreprise présente sur plusieurs continents, ces divergences composent un casse-tête d’une réelle complexité. Comment concevoir une IA à la fois conforme aux exigences européennes de transparence, à la souplesse américaine et aux impératifs idéologiques chinois ? La quadrature paraît impossible, et chacune des sorties envisageables a son coût. Aligner tous ses produits sur la règle la plus stricte simplifie la gestion mais bride l’innovation partout. Décliner une version par marché optimise localement mais fragmente et alourdit le développement. Concentrer ses efforts là où les règles sont les plus lâches accélère le rythme mais ferme des marchés et expose à la critique. Aucune de ces voies n’est confortable ; il faut simplement choisir laquelle on préfère.
Ce qu’une entreprise peut faire, concrètement
Face à ce paysage mouvant, l’expérience douloureuse des précurseurs dessine tout de même quelques principes de conduite. Rien de miraculeux, mais des repères qui séparent déjà, dans les faits, celles qui tiennent de celles qui trébuchent.
Le premier est de traiter chaque déploiement d’IA comme une décision engageante, méritant une évaluation d’impact sérieuse avant lancement, et pas après. Fiabilité technique, conformité juridique, effets sur les personnes, acceptabilité sociale : mieux vaut examiner ces angles à froid que les découvrir dans un tribunal ou sur les réseaux sociaux. Une seule erreur, on l’a vu, peut abîmer durablement une réputation patiemment construite.
Le deuxième principe, que tous ces échecs confirment, est de garder un humain dans la boucle. Les organisations qui s’en sortent sont invariablement celles qui ont résisté à la tentation de tout automatiser. Maintenir une supervision humaine coûte cher à court terme et complique les opérations, mais c’est précisément cette redondance qui évite le naufrage quand la machine se trompe. Encore faut-il que ce garde-fou soit pensé pour fonctionner sous pression, au moment exact où l’on en a besoin.
Vient ensuite la documentation. L’époque du bricolage algorithmique, où l’on assemblait un modèle dans son coin sans trop se soucier de traçabilité, touche à sa fin. Les régulateurs attendent désormais qu’on puisse rendre compte des données d’entraînement, des méthodes de test, des performances et de leurs limites, des responsabilités en cas de problème. Cette rigueur peut sembler fastidieuse. Elle constitue pourtant la meilleure protection le jour où il faudra s’expliquer.
La responsabilité, enfin, ne peut plus reposer sur les seules épaules des équipes techniques. Elle suppose une culture partagée, où le commercial saisit les biais possibles de son outil de recommandation, où les ressources humaines savent repérer une dérive discriminatoire dans un logiciel de recrutement, où la direction assume pleinement les choix technologiques qu’elle valide. Anticiper l’évolution des règles plutôt que la subir, participer aux consultations et aux démarches sectorielles, cela vaut mieux que de découvrir les contraintes de demain dans le Journal officiel.
Il faut ajouter que ces exigences ne relèvent pas seulement de la contrainte. En France comme ailleurs, des initiatives se sont montées pour faire de l’IA responsable un terrain d’action collective plutôt qu’une simple obligation. Des associations comme Data for Good mobilisent depuis des années des bénévoles autour de projets d’intérêt général, prouvant qu’excellence technique et conscience des enjeux ne s’excluent pas. D’autres regroupements d’entreprises ont choisi d’anticiper la réglementation en s’imposant des règles avant qu’on ne les leur impose. Le calcul n’est pas seulement moral : il est souvent plus confortable d’écrire soi-même les règles du jeu que d’en hériter, rédigées par d’autres.
Un nouveau contour de la responsabilité
Nous assistons, en direct, à la formation d’un régime de responsabilité inédit. Le parallèle avec l’automobile me paraît éclairant. Au début du vingtième siècle, la voiture a bouleversé les notions d’assurance et de responsabilité civile, en créant des risques que le droit d’alors ne savait pas nommer. Il a fallu inventer des règles, des solidarités, des mécanismes de réparation. L’intelligence artificielle nous place devant un chantier comparable, à ceci près qu’elle touche cette fois à la décision elle-même, à ce qui était jusqu’ici le domaine réservé du jugement humain.
Cette transformation fait émerger de nouveaux métiers. Le responsable de l’IA, l’auditeur d’algorithmes, le spécialiste de la conformité deviennent des fonctions recherchées, à mesure que les enjeux qu’ils maîtrisent gagnent en importance. Paradoxalement, la complexité même de ce cadre pourrait finir par en démocratiser l’accès. Plutôt que de développer en interne des compétences coûteuses, hors de portée de la plupart des structures moyennes, beaucoup se tournent déjà vers des prestataires spécialisés en audit, en formation ou en veille. Cette mutualisation permet à des acteurs modestes d’accéder à des savoir-faire longtemps réservés aux géants.
La technique elle-même pourrait, ironiquement, alléger certaines difficultés qui semblent aujourd’hui insurmontables. Les méthodes visant à rendre les décisions algorithmiques plus explicables progressent, les outils de détection automatique des biais se répandent, et l’IA générative pourrait faciliter la production de cette documentation qui pèse tant sur les équipes. Rien n’est joué, mais la trajectoire n’est pas uniquement celle d’un durcissement sans fin.
Ne nous berçons pas d’illusions pour autant. Cette transition se fera avec de la casse. Certaines entreprises paieront leur négligence passée, d’autres découvriront que leur modèle ne résiste pas aux nouvelles contraintes. Cette sélection, brutale sur le plan humain, participera sans doute à l’émergence d’un écosystème plus mûr et plus durable. C’est une maigre consolation pour ceux qui en feront les frais.
La vraie question n’est plus de savoir si les entreprises devront répondre de leurs systèmes. Sur ce point, le débat est tranché, et les tribunaux l’ont déjà signifié. La question est de savoir à quelle vitesse, et avec quelle lucidité, elles s’y préparent. Celles qui parviendront à faire de cette contrainte un atout prendront une longueur d’avance. Les autres apprendront, à leurs dépens, que dans l’économie qui se dessine, l’irresponsabilité technologique se paie comptant : en argent, en réputation, en parts de marché, parfois davantage.
Car au fond, lorsque nos machines se trompent, quelqu’un doit assumer les conséquences. Ce quelqu’un, que nous l’ayons voulu ou non, c’est nous. Avec nos décisions, nos budgets, et la confiance que nous accordons ou refusons à ces outils. La question que je poserais volontiers pour finir n’est donc pas de savoir si la régulation va trop loin ou pas assez. Elle est plus concrète, et elle s’adresse à quiconque déploie aujourd’hui une IA dans son organisation : êtes-vous prêt, s’il le fallait demain, à expliquer et à défendre chacune des décisions que prend votre machine ? Ceux qui peuvent répondre oui n’ont pas grand-chose à craindre. Les autres feraient bien de s’y mettre.
Références
Comme toujours, les sources qui ont nourri ce texte sont rassemblées ici, pour qui veut vérifier, comparer et se forger sa propre idée. À l’heure où les contenus fabriqués par des IA se multiplient, ce simple réflexe de remonter aux faits n’a jamais été aussi précieux.
[1] Règlement (UE) 2024/1689 du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle. Publié au Journal officiel de l’Union européenne le 12 juillet 2024, entré en vigueur le 1er août 2024. Quatre niveaux de risque ; sanctions pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial pour les pratiques interdites (article 99). Texte et calendrier d’application : https://eur-lex.europa.eu/eli/reg/2024/1689/oj et https://artificialintelligenceact.eu/article/99/
[2] CNIL, « Marie-Laure Denis est reconduite dans ses fonctions de présidente de la CNIL », 31 janvier 2024, et travaux de la CNIL sur l’intelligence artificielle. https://www.cnil.fr/fr/marie-laure-denis-est-reconduite-dans-ses-fonctions-de-presidente-de-la-cnil et https://www.cnil.fr/fr/intelligence-artificielle
[3] Moffatt v. Air Canada, 2024 BCCRT 149, Civil Resolution Tribunal de Colombie-Britannique, décision du 14 février 2024. Sur la responsabilité de l’entreprise pour les informations fournies par son chatbot : Le Monde du Droit, 20 février 2024. https://www.lemondedudroit.fr/decryptages/91527-air-canada-est-responsable-des-erreurs-de-son-chatbot.html
[4] « McDonald’s to end AI drive-thru test with IBM », CNBC, 17 juin 2024 (partenariat engagé en 2021, test dans plus de 100 restaurants, arrêt en juillet 2024, difficultés liées aux accents et au bruit). https://www.cnbc.com/2024/06/17/mcdonalds-to-end-ibm-ai-drive-thru-test.html
[5] U.S. Equal Employment Opportunity Commission, « iTutorGroup to Pay $365,000 to Settle EEOC Discriminatory Hiring Suit », 9 août 2023 (logiciel écartant les candidates de 55 ans et plus et les candidats de 60 ans et plus ; plus de 200 postulants concernés ; premier règlement de l’EEOC portant sur une discrimination par IA). https://www.eeoc.gov/newsroom/itutorgroup-pay-365000-settle-eeoc-discriminatory-hiring-suit
[6] Jeffrey Dastin, « Amazon scraps secret AI recruiting tool that showed bias against women », Reuters, 10 octobre 2018. Amazon a indiqué que l’outil n’avait jamais servi à évaluer réellement des candidats. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G
[7] New York State Department of Financial Services, « DFS Issues Findings on the Apple Card and Its Underwriter Goldman Sachs Bank », rapport du 23 mars 2021 : aucune violation des lois sur le crédit équitable retenue, à la suite de la controverse née en novembre 2019. https://www.dfs.ny.gov/reports_and_publications/press_releases/pr202103231
[8] « Grok AI Spreads False Vandalism Accusation Against NBA Star Klay Thompson », avril 2024 (le chatbot a interprété littéralement l’expression « shooting bricks »). https://oecd.ai/en/incidents/2024-04-17-f827
[9] Maggie Harrison Dupré, « Sports Illustrated Published Articles by Fake, AI-Generated Writers », Futurism, 27 novembre 2023 ; contenu fourni par un prestataire tiers, partenariat rompu à la suite des révélations. https://futurism.com/sports-illustrated-ai-generated-writers
[10] La Quadrature du Net, enquête sur le profilage algorithmique des demandeurs d’emploi et allocataires par France Travail (« score de suspicion », « score d’employabilité »), 2024-2025 ; critiques du Défenseur des droits et de la CNCDH sur la loi « Plein emploi ». https://www.laquadrature.net/2025/05/22/france-travail-des-robots-pour-controler-les-chomeurs%C2%B7euses-et-les-personnes-au-rsa/
[11] Sur la révocation du décret sur l’intelligence artificielle de l’administration Biden (Executive Order 14110, octobre 2023) par l’administration Trump début 2025, et l’orientation dérégulatrice qui a suivi. À vérifier auprès de sources officielles américaines pour le détail des textes successifs.
[12] Mesures provisoires chinoises pour la gestion des services d’IA générative, entrées en vigueur en août 2023, imposant notamment la conformité des contenus aux valeurs promues par les autorités. Pour une présentation générale : Cyberspace Administration of China et analyses spécialisées.