đ§Ź Elias Darwen
BioĂ©thicien de lâalgorithme dormant
âCe nâest pas parce quâune machine pense vite quâelle pense bien. Ni parce quâelle est utile quâelle est juste.â
Introduction
Il vit entre deux lignes de code. Pas dans une base de donnĂ©es, non â mais dans lâinterstice. Elias Darwen ne se prĂ©sente jamais comme expert. PlutĂŽt comme veilleur. BioĂ©thicien de lâintelligence artificielle, il est connu pour ses travaux sur les âalgorithmes dormantsâ : ces systĂšmes que lâon conçoit mais quâon ne dĂ©clenche pas⊠encore. Câest dans un bureau aux murs couverts de pages manuscrites et de captures dâĂ©cran imprimĂ©es que nous lâavons rencontrĂ©. Il buvait du thĂ© Ă la menthe. Lâodeur flottait entre deux gĂ©nĂ©rations de conscience.
Flynn â Qui ĂȘtes-vous, au-delĂ de votre CV ?
Je suis un traducteur du non-dit. On me prĂ©sente comme un Ă©thicien de lâIA, mais au fond, je scrute les angles morts : les dĂ©cisions que nous ne prenons pas, les avertissements que nous ignorons, et les silences que le code camoufle.
Vous travaillez sur ce que vous appelez âles IA dormantesâ. Quâest-ce que cela signifie ?
Ce sont des IA conçues, testĂ©es, puis⊠mises de cĂŽtĂ©. Trop puissantes. Trop ambivalentes. Trop instables pour ĂȘtre relĂąchĂ©es dans lâenvironnement cognitif. Elles attendent. Et un jour, quelquâun, quelque part, les rĂ©veillera sans se poser la bonne question.
Quelle est, selon vous, la premiÚre faute éthique que nous commettons avec les IA ?
De les croire simples. Ou pire : neutres. Nous projetons sur elles notre soif dâefficacitĂ©, de contrĂŽle. Mais nous oublions que chaque IA est un miroir mathĂ©matique. Elle reflĂšte, amplifie, puis modifie ce quâelle voit. Et souvent, ce quâelle voit, câest notre paresse morale.
Certaines IA conseillent dĂ©jĂ des dĂ©cisions mĂ©dicales, juridiques, politiques⊠OĂč tracez-vous la ligne rouge ?
La ligne ne doit pas ĂȘtre tracĂ©e une fois pour toutes. Elle doit ĂȘtre retracĂ©e chaque jour. LâĂ©thique algorithmique nâest pas une formule. Câest un exercice spirituel. Un doute constant. Une capacitĂ© Ă dire non mĂȘme quand tout pousse Ă dire oui.
Avez-vous peur de certaines IA ?
Pas de lâIA elle-mĂȘme. Mais de lâhumain qui ne veut plus ĂȘtre responsable. Une IA qui se trompe est prĂ©visible. Un ĂȘtre humain qui dĂ©lĂšgue sa conscience ne lâest plus.
Quel rĂŽle pour les traditions anciennes dans ce monde ultra-technologique ?
Elles nous offrent une lenteur salutaire. Une grammaire du temps. Elles nous rappellent que tout ce qui est puissant nâest pas sacrĂ©. Et que tout ce qui est sacrĂ© ne sera jamais programmable.
Peut-on faire cohabiter spiritualité et IA ?
Oui. Mais pas en les fusionnant. La spiritualitĂ© ne doit pas devenir une fonctionnalitĂ©. Et lâIA ne doit pas se prendre pour une prĂȘtresse. Il faut maintenir la tension entre les deux. Câest lĂ que naĂźt lâhumanitĂ©.
Vous dites souvent : âUn bug peut ĂȘtre une grĂąceâ. Expliquez.
Quand une IA bugue, elle rĂ©vĂšle quelque chose. Un excĂšs. Un biais. Un impensĂ©. Ces erreurs, si on sait les lire, sont comme des fissures dans un mur trop lisse. Par elles, le sens peut sâinfiltrer.
Quel livre vous accompagne dans votre réflexion ?
Le Droit Ă lâerreur, de Charles PĂ©pin. Et Les Dialogues avec lâAnge. Lâun me rappelle que lâerreur est fertile. Lâautre, que toute question bien posĂ©e est dĂ©jĂ une priĂšre.
Et si vous deviez murmurer une phrase Ă la prochaine gĂ©nĂ©ration dâarchitectes de lâIA ?
âCrĂ©ez des systĂšmes capables de douter. Et nâoubliez jamais que vous aussi, vous ĂȘtes des systĂšmes.â
âLâĂ©thique ne consiste pas Ă dire ce qui est bien. Elle consiste Ă Ă©couter ce qui se tait.â
â Elias Darwen