L’IA ment-elle sur la religion ?

Un ami, pour­tant spé­cial­isé dans les nou­velles tech­nolo­gies, me présente un post dans lequel un inter­naute sem­ble affirmer que l’In­tel­li­gence Arti­fi­cielle ment sur la reli­gion. De prime abord, la ques­tion est déli­cate pour tout croy­ant, car il ne s’ag­it évidem­ment pas de dire des bêtis­es. On peut se tromper sur l’IA, mais il est spir­ituelle­ment déli­cat de se tromper, et surtout de tromper les autres, sur la reli­gion.

Néan­moins, la ques­tion peut être abor­dée tant par le biais des faits his­toriques que par la com­préhen­sion des modes de fonc­tion­nement de la tech­nolo­gie. Je pré­cise d’emblée que je ne suis pas un expert de l’IA. En même temps, je ten­terai de rester au plus près de ce que je crois avoir appris de ceux qui en sont à l’origine.

La pre­mière chose à faire est de pren­dre de la dis­tance avec les mots. Certes, tout le monde par­le d’in­tel­li­gence arti­fi­cielle. Je ne pense pas qu’il s’agisse à pro­pre­ment par­ler ici d’in­tel­li­gence, car cela réclam­erait l’ex­is­tence d’une con­science. Or, il me paraît que la machine en est dépourvue. Par con­tre, force est de recon­naître sa puis­sance de cal­cul. Elle tra­vaille à des vitesses qui dépassent celle de nos pro­pres nerfs. Elle est imbat­table sur ce point.

Si on pré­tend que la machine nous ment, cela veut donc dire que nous avons la pos­si­bil­ité d’ap­préci­er la qual­ité de sa réponse. Pour cela, il nous faut un grand bagage intel­lectuel. De plus, il nous faut de grandes con­nais­sances dans le domaine à l’o­rig­ine de la ques­tion. Compte tenu des capac­ités dis­tinc­tives de l’homme et de la machine, il me sem­ble que cette dernière peut absorber et traiter infin­i­ment plus de don­nées que n’en est capa­ble l’hu­main. D’ailleurs, sa base de con­nais­sances est sou­vent beau­coup plus étroite que celle util­isée par la machine. Mais, ce qui importe surtout de soulign­er, c’est que l’usage de la machine impose à celui qui y fait appel d’avoir un large socle de con­nais­sances afin de pou­voir appréci­er et “chal­lenger” les résul­tats pro­posés par la machine. C’est une com­préhen­sion qui paraît absente chez beau­coup de péd­a­gogues et d’en­seignants qui veu­lent voir dans l’IA l’avenir de l’in­struc­tion : de l’in­tel­li­gence assistée par ordi­na­teur.

Tou­jours côté reli­gion, nous savons aujour­d’hui que les hadiths dont nous dis­posons ne sont qu’une infime frac­tion de ceux ayant existé. Ajou­tons à cela tout ce que la sci­ence des hadiths exige. Nous le savons, beau­coup de hadiths ont été forgés et appa­rais­sent fort oppor­tuné­ment lorsque les enne­mis du Prophète Muham­mad (﵌) repren­nent la main sur le pou­voir. Je par­le évidem­ment ici des dynas­ties des Umayyades ou des Abbas­sides qui n’hésitèrent pas à mas­sacr­er – et le mot est faible – jusqu’aux descen­dants du Prophète (﵌). Maîtris­er les chaînes de trans­mis­sion, mais égale­ment con­naître le pedi­gree de chaque rap­por­teur est essen­tiel. Ajoutez à cela la remise de ces hadiths dans leurs con­textes his­toriques afin d’y débus­quer les impos­si­bil­ités, et vous aurez à peine le début de ce qu’il faut pour com­mencer à appréci­er la qual­ité d’un élé­ment de cette source essen­tielle de droit musul­man.

Pour tra­vailler à charge et à décharge, ce qu’on appelle l’IA avec sa puis­sance de cal­cul pour­rait toute­fois se révéler très utile pour faire ce tra­vail déli­cat. Bien pro­gram­mée et ali­men­tée en don­nées, elle pour­rait rapi­de­ment abat­tre un tra­vail qui pour­rait néces­siter toute une vie à un humain. Mais, ceux qui sont aux com­man­des doivent par­faite­ment maîtris­er le code don­né à la machine et se souci­er de la qual­ité des don­nées qui lui sont fournies. En d’autres ter­mes, c’est à l’homme à domin­er la machine et non l’in­verse. Si on inter­roge une IA dont on ne con­naît pas les bases de références et encore moins la con­cep­tion, alors il sem­ble impos­si­ble, à moins de le lui deman­der, de savoir com­ment elle arrive à ses con­clu­sions. Or, les algo­rithmes sont le nerf de la guerre économique. C’est leur qual­ité qui dis­tingue les IA sur le marché. Il s’agit donc là un secret bien gardé. J’ai récem­ment lu un arti­cle dans lequel il était pré­cisé que le con­trat d’u­til­i­sa­tion d’une IA par­ti­c­ulière spé­ci­fi­ait qu’il était stricte­ment inter­dit d’in­ter­roger l’IA sur ses algo­rithmes. En con­séquence, à min­i­mums pour des ques­tions com­mer­ciales, nous ignorons com­ment les IA sont pro­gram­mées. Et, cela pose un prob­lème évi­dent, car toute pro­gram­ma­tion repose, qu’elle le veuille ou non, sur une idéolo­gie. Non pas que le pro­gram­meur ait une inten­tion malveil­lante, ni même qu’il le fasse volon­taire­ment. Sim­ple­ment, et c’est nor­mal, tout le monde fonc­tionne et réflé­chit en fonc­tion de ses croy­ances et de sa vision du monde. Pour car­i­ca­tur­er la chose, et en dehors de toute con­sid­éra­tion spir­ituelle, l’ag­nos­ti­cisme, comme la croy­ance en Dieu, peu­vent être vus comme la con­séquence d’un proces­sus de pen­sée qui mène les pre­miers à nier l’ex­is­tence de Dieu pen­dant qu’il inspire aux sec­onds une foi en un Créa­teur. Peut-on raisonnable­ment penser que, à une ques­tion con­cer­nant l’Is­lam, les répons­es qui seraient don­nées par une IA dont la logique repose sur la toute puis­sance de l’homme soient les mêmes que celle dont la logique reposerait sur l’ex­is­tence d’un Dieu qui nous tran­scende ? Prob­a­ble­ment pas. La faute n’est pas à rejeter sur la machine, mais sur les biais cog­ni­tifs du pro­gram­meur. Et, c’est là l’un des dan­gers de l’IA, selon moi. En l’ab­sence de con­nais­sance per­me­t­tant à son util­isa­teur d’avoir un socle de référence solide pour appréci­er les répons­es don­nées, nous risquons fort de nous retrou­ver dans un champ de pen­sée de plus en plus étroit, de moins en moins diver­si­fié. C’est un peu ce qui s’est passé avec le vocab­u­laire lorsque ce sont les machines qui ont com­mencé à traduire. Beau­coup de mots sont tombés dans l’ou­bli. Comme la machine tra­vaille en se fon­dant sur des sta­tis­tiques, cer­tains mots étaient jugés plus prob­a­bles que d’autres et ce sont ceux-là qui ont été sys­té­ma­tique­ment pro­posés en tra­duc­tion. Cela a créé un cer­cle vicieux. Les mots préférés ont vu leur présence ren­for­cée, ce qui a con­forté leur classe­ment sta­tis­tique. Avec le temps, les autres can­di­dats sont pro­gres­sive­ment tombés dans l’ou­bli, jusqu’à dis­paraître totale­ment de nos con­ver­sa­tions, ce qui nous a appau­vri intel­lectuelle­ment. En effet, si nous n’avons pas un mot pour quelque chose, cette chose n’ex­iste pas pour nous.

C’est amu­sant, car il y a même des preuves “spir­ituelles” à cette dernière affir­ma­tion. Le pre­mier ver­set de l’É­vangile selon Saint-Jean dit : « Au com­mence­ment était le Verbe. Et le Verbe était Dieu. Et le Verbe était avec Dieu ». Dans le Coran, nous avons « Koun Faya Koun » (Sois ! Et, la chose est). Donc, Dieu, Qui a la lib­erté de faire ce qu’Il veut, S’est imposé à Lui-même le fait qu’un mot précède une réal­ité. D’ailleurs, com­ment hon­ore-t-Il notre père Adam (﵇) ? En lui don­nant le nom des choses (des principes) et en lui deman­dant d’en enseign­er les anges. Pen­sons-nous vrai­ment pou­voir nous acquit­ter de notre mis­sion de Cal­ife d’Al­lah sur Terre en ayant per­du les mots ?

Alors, est-ce que l’IA nous ment ? Tech­nique­ment, non. Elle con­clut peut-être à des choses inex­actes, mais elles sont seule­ment la con­séquence logique de sa pro­gram­ma­tion et de la base de con­nais­sances qui est la sienne. Un musul­man qui fait un tra­vail sincère de recherche de vérité s’as­sur­era tout d’abord de par­tir de sources “pro­pres”, c’est-à-dire dénuée de toute erreur ou de toute fal­si­fi­ca­tion. Bien qu’il me sem­ble qu’on puisse réduire la base de référence lorsqu’on inter­roge l’IA, a‑t-elle été, lors de sa con­cep­tion, instru­ite avec tout ce qu’il y a à trou­ver sur inter­net ou non ? Car, si c’est le cas, il est prob­a­ble que l’avis des igno­rants pèsera tout autant que celui des savants. Or, si l’IA se fonde sur des prob­a­bil­ités, on com­prend immé­di­ate­ment le dan­ger que cela entraîne puisque, dans tout champ d’expertise, il y a plus d’ig­no­rants que de savants. Les risques d’er­reurs sont donc loin d’être nuls.

En même temps, est-ce que ces men­songes sont le pro­pre de la machine ? Non. Depuis son avène­ment, l’Is­lam est sujet à dis­cus­sion et à inter­pré­ta­tion. Cet effort porte même un nom : Ijti­had. Même s’il peut y avoir con­sen­sus sur cer­tains points, il y en a d’autres où les avis des savants s’opposent. Ce sont d’ailleurs ces avis diver­gents qui sont à l’o­rig­ine des dif­férentes écoles de pen­sées recon­nues dans l’Is­lam. Si cer­taines sont encore bien vivaces, d’autres ont som­bré dans l’ou­bli.

Par ailleurs, lorsqu’il s’ag­it de don­ner un avis, il y a tout un tra­vail de mise en con­texte et en per­spec­tive à faire. C’est ain­si que cer­tains savants, à l’o­rig­ine des écoles de pen­sée, ont pu par­fois ren­dre des avis qui sem­blent con­tredire la tra­di­tion prophé­tique. Sim­ple­ment, compte tenu des cir­con­stances, c’é­tait le bon avis à pren­dre. Évidem­ment, dans ce monde dans lequel s’af­fronte idéologique­ment approche spir­ituelle et vision lit­téral­iste, cha­cun prêche pour “sa mosquée”. Le manque de sci­ence, le faible niveau intel­lectuel et l’embrigadement poussent de nom­breux “fidèles” à l’intolérance. Con­va­in­cus de détenir la vérité et per­suadé d’être investis d’un devoir escha­tologique, nom­breux sont ceux à agiter l’arme de l’excommunication. À l’évidence, il ne s’ag­it plus ici d’une ques­tion de tech­nolo­gie, mais bien d’une ten­ta­tive d’im­pos­er une vision hégé­monique de la spir­i­tu­al­ité. Les raisons sous-jacentes sont nom­breuses et pour­raient être étudiées par ailleurs. Mais, c’est une autre ques­tion.