Étiquette : <span>BIAIS</span>

Un LLM n’est pas une base de connaissance

Un LLM n’est pas une base de connaissance

La semaine dernière je parlais d’un point souvent mal compris : pour les IA, la vérité n’existe pas.

Aujourd’hui, je pousse le raisonnement un cran plus loin. Car il y a un malentendu encore plus ancré : croire qu’un LLM est une base de connaissance. Ce n’est pas le cas. Un modèle de langage génère des suites de mots probables, pas des faits vérifiés. Autrement dit, il récite avec aisance, mais il ne cite jamais.

C’est exactement ce que je développe dans mon nouvel article : pourquoi cette confusion persiste, et comment distinguer une mémoire paramétrique d’une mémoire explicite, pour enfin marier correctement les deux.

Continuer la lectureUn LLM n’est pas une base de connaissance

OPINION

BIAIS IA

La Bienveillance, la nouvelle lacheté à la mode

La Bienveillance, la nouvelle lacheté à la mode

On a tellement repeint le mot bienveillance de couleurs pastel qu’il en est devenu méconnaissable.
Aujourd’hui, il sert plus souvent de paravent que de valeur : un cache-misère pour justifier l’inaction, la mollesse, voire la lâcheté.

Dire NON est devenu suspect, recadrer est perçu comme toxique, exiger est considéré comme violent. Résultat, on applaudit des copies vides, on salue le néant comme une victoire, et on appelle ça de la bienveillance.

Mais si protéger, aimer, éduquer, travailler ensemble signifient encore quelque chose, alors il est temps de se rappeler que la vraie bienveillance ne caresse pas toujours dans le sens du poil. Elle protège en étant lucide, elle construit en étant exigeante.

Continuer la lectureLa Bienveillance, la nouvelle lacheté à la mode

BILLET D'HUMEUR

BIAIS HUMOUR

Pour les IA, la vérité n’existe pas

Pour les IA, la vérité n’existe pas

Une IA ne ment pas. Elle ne dit pas non plus la vérité. Elle ne sait pas ce qui est vrai ou ce sui est faux, elle calcule des probabilités. Son « raisonnement » se résume à deviner quel mot a le plus de chances de suivre le précédent, selon les milliards de phrases qu’on lui a montrées.

Le résultat peut être bluffant : fluide, élégant, convaincant. Mais cette aisance n’est qu’une illusion. Ce que nous lisons n’est pas un savoir vérifié, c’est une suite de mots qui « tombent bien ». Parfois juste, parfois faux, parfois ni l’un ni l’autre.

Le vrai danger n’est donc pas l’IA elle-même, mais notre réflexe humain : confondre cohérence et vérité. Autrement dit, prendre des vessies pour des lanternes. C’est ce glissement subtil, presque imperceptible, qui ouvre la porte à la confusion par ignorance de son fonctionnement, et par excès de confiance dans ce qui « sonne juste ».

Continuer la lecturePour les IA, la vérité n’existe pas

OPINION

BIAIS IA

L’art discret de manipuler les IA avec des prompts invisibles

L’art discret de manipuler les IA avec des prompts invisibles

Et si l’on pouvait chuchoter à l’oreille d’une IA sans que personne ne s’en aperçoive ?

Des chercheurs l’ont fait. Pas dans un roman, mais sur arXiv, la plus sérieuse des plateformes scientifiques. En tapant des messages invisibles dans leurs articles, ils ont discrètement orienté le jugement… non pas des lecteurs humains, mais des intelligences artificielles chargées d’évaluer les publications.

Texte blanc sur fond blanc. Police minuscule. Instructions cachées.
Le lecteur ne voit rien. L’IA, elle, obéit.

Ce n’est pas un simple hack technique. C’est un révélateur d’époque.

Car dans un monde où les IA nous aident à lire, à choisir, à décider, que se passe-t-il quand elles sont manipulées, à notre insu ?
Et plus vertigineux encore : que reste-t-il de notre libre arbitre, si même ce que nous lisons est déjà préformaté… pour la machine qui filtre notre regard ?

👉 Cet article explore une nouvelle forme de manipulation. Subtile. Sournoise. Invisible. Et pourtant redoutablement efficace.

Continuer la lectureL’art discret de manipuler les IA avec des prompts invisibles

OPINION

BIAIS ETHIQUE IA

Les biais dans l’IA sont le reflet troublant de notre humanité

Les biais dans l’IA sont le reflet troublant de notre humanité

💡 Et si les biais de l’IA n’étaient rien d’autre que les nôtres… amplifiés ?

Les algorithmes n’ont ni morale, ni intention. Mais ils apprennent de nous. De nos données. De nos décisions passées. Et parfois, sans que nous le voulions, ils héritent de nos préjugés les plus profonds.

Dans cet extrait, je vous invite à une plongée dans la cartographie de nos errances numériques : un voyage à travers ces biais invisibles qui sculptent, en silence, les décisions de nos machines… et influencent déjà nos vies. Recrutement, crédit, justice, santé : aucun domaine n’y échappe.

🔍 Qu’il s’agisse de biais historiques, de représentation ou d’automatisation aveugle, chaque distorsion algorithmique agit comme un miroir déformant de notre société. Ce n’est pas juste une question de code : c’est une affaire de conscience.

Et si, pour rendre nos IA plus justes, il fallait d’abord apprendre à mieux nous regarder nous-mêmes ?

Continuer la lectureLes biais dans l’IA sont le reflet troublant de notre humanité

CERISE & ADA

BIAIS ETHIQUE IA