Intelligence artificielle (IA) - Actualités

Je comprends que les étudiants utilisent l’IA; les services de recherche de Google sont rendu absolument horrible pour les recherches théoriques. Même avec les operands AND OR et ““, des fois Google ne montrent que des résultats inutiles alors qu’avec l’ia, je peux retrouver un texte que j’avais lu dont je ne me rappelle plus l’auteur en décrivant ce qui se trouvait dedans. C’est probablement ce que Google et OpenAI veulent qu’on fasse, mais c’est vraiment des moteurs de recherche hors pairs.

La vaste majorité des étudiants ont donc déjà adopté l’IA, et ses usages sont multiples : elle est particulièrement utilisée pour la recherche d’information et de sources, pour inspirer des idées, des arguments ou des plans, et pour la révision de textes ou l’amélioration du style. Plusieurs s’en servent aussi comme aide à l’étude ou pour réviser leurs matières.

C’est vraiment un bon outil comme perroquet/dictionnaire des cooccurrences/dictionnaire des synonymes/moteur de recherche. J’avoue que si j’avais été à l’uni encore, j’aurais peut-être essayé d’utiliser l’AI pour me résumer des textes que je n’ai pas le temps de lire, mais je suis pas mal certain que mes profs s’en seraient redu compte. Mes classes n’étaient pas grandes et les cours étaient faits pour qu’on discute de notre analyse des textes à lire.

Je trouve ça quand même plate que l’article est écrit de manière à jeter de l’ombre sur l’utilisation de l’IA alors que ce qui me fait plus peur par-rapport à ça, c’est les monopoles et la manière dont l’industrie ne respecte pas les lois établies.

Un article sur l’utilisation de l’intelligence artificielle dans le cadre des consultations publiques de Michael Geist: “Law Professor, Canada Research Chair in Internet and E-commerce Law, University of Ottawa”. Partagé par Internet Archive Canada sur Bluesky.

the direct advice from the experts that identifies policy choices and their implications is consistently softened into “government-speak” with balancing discussion that creates an illusion of consensus that isn’t really there.

Perhaps the most important divergence comes from the issue of trust and safety. This was a major concern from the public responses and the government is likely headed toward making AI governance, audits, transparency, and risk-based regulation key elements of its AI strategy. Yet there is far less consensus in the expert reports. Just about everyone agrees that trust is essential for AI adoption, but the implementation of regulation draws different views. Some want to move quickly, while others warn that overly broad regulation will slow deployment, disadvantage domestic firms, and regulate technologies Canada does not control. Those disagreements largely disappear in the government’s summary, where trust is presented as a settled consensus objective, rather than a contested policy domain with real trade-offs.
[…]
There are many other examples, including differing views on digital sovereignty, regulatory sequencing (what should be prioritized first), and inclusion. Put 28 experts on a panel and there is obviously going to be differing views. Indeed, that’s the point of gathering a diversity of perspectives. In theory, the government got what it asked for with expert reports that frequently point to uncomfortable questions. However, many disappear in the government summary that smooths over urgency and re-frames hard choices as balanced policy choices.


Ça résume pas mal ce que je pensais, l’utilisation pour faire les résumés de consultation publique applati un peu l’importance de la contribution des individus dans le processus démocratique. J’ai l’impression que quand un commissaire est chargé de cette tâche, il y a une plus grande imputabilité. Aussi, l’AI est une boîte noire, même pour ses concepteurs, alors que les consultations sont un processus qui suit les principes scientifiques du siècle des Lumières : vérifiabilité, reproductivité. Nous pouvons nous-mêmes re-lire et re-visionner les témoignages pour arriver aux mêmes conlusions que les commissaires. J’ai peur que de témoigner à une Intelligence artificielle désemphase le processus et transforme les résumés en doctrine qu’on ne peut plus remettre en question alors que c’est un travail très subjectif.

L’auteur remarque aussi que l’AI a été utilisé problement parce que le gouvernement se foutait de la conclusion, transformat un peu le rapport final en “A.I. slop”.

the resulting reports suggest that the experts took their mandate seriously and provided candid, action-oriented advice on developing a national AI strategy. After digging into the what we heard report, I’m not convinced the government wants to hear it.

1 Like

Facebook, move over! En fait, Moltbook, le nouveau réseau social pour agents IA seulement, s’apparente plus à Reddit et, depuis son lancement il y a quelques jours, les commentaires sont partis en boucle. À Radio-Canada, l’émission Les décrypteurs résume un peu le phénomène vers la 20e minute:

Un des chroniqueurs cite le penseur techno-libertarien Balaji Srinivasan, ancien chef de la tech de Coinbase, extrêmement peu impressionné par Moltbook. La transcription (corrigée un peu) dit ceci :

Il dit que la raison pourquoi il ne faut pas se faire leurrer par ça, c’est que ces agents-là ne sont pas inscrits par eux-mêmes au site. Ils ne prennent pas des décisions indépendamment. Il y a quelqu’un qui a mis un prompt, qui a dit à l’agent d’aller sur le site. Puis lui, je trouve que l’image est intéressante, il dit : « Moltbook, c’est rien d’autre que des humains qui se parlent entre eux à travers leur IA, comme s’ils laissaient leurs chiens robots tenus en laisse s’aboyer dessus au parc. Puis il dit que le prompt est la laisse, les chiens robots ont un bouton d’arrêt et tout s’arrête dès que vous appuyez sur un bouton. Les aboiements brillants, ce n’est tout simplement pas une révolte des robots. »

Dans la Presse

Des organismes publics utilisent l’IA pour illustrer leurs publications

Plusieurs organismes publics utilisent, sans le préciser, l’intelligence artificielle (IA) pour générer des images publiées sur leurs réseaux sociaux, a constaté La Presse – et ce, malgré les balises imposées par Québec.

Une femme coincée sur le bord de la route qui appelle une dépanneuse. Une table avec deux verres de vin, au coin du feu. Une personne qui tombe sur une plaque de verglas. Un biscuit chinois contenant un message.

Au moins six organismes publics ont utilisé ce genre d’images pour accompagner leurs publications sur les réseaux sociaux, a constaté La Presse : le ministère de la Sécurité publique (MSP), Urgences-santé, la Société de transport de Laval (STL), la MRC Les Moulins, la MRC de Roussillon et la SAQ.

À l’aide d’un outil de détection spécialisé, nous avons repéré au total une vingtaine d’images qui avaient été générées avec de l’IA par ces organismes. Ce qui n’était mentionné nulle part, ni dans la légende ni sur l’image elle-même.
[…]

2 Likes

La menace de l’IA atteint WSP et AtkinsRéalis

Les craintes d’une perturbation des modèles d’affaires des entreprises causée par l’intelligence artificielle continuent de bousculer différents secteurs du marché. Deux grands cabinets montréalais de génie sont les plus récentes victimes, ce qui témoigne de la nervosité des investisseurs face aux évaluations actuelles.

https://www.lapresse.ca/affaires/entreprises/2026-02-14/secousses-sur-les-marches/la-menace-de-l-ia-atteint-wsp-et-atkinsrealis.php

Une courte rencontre de 90 minutes de l’Instance de concertation nationale sur l’intelligence artificielle en enseignement supérieur a eu lieu vendredi, à peine deux semaines après la publication d’un sondage SOM–Radio-Canada sur l’utilisation de l’IA par les étudiants.

Cinq jours plus tard, le ministère de l’Enseignement supérieur (MES) a convoqué les membres de l’Instance à une réunion pour « faire le point sur l’état des travaux du plan d’action 2025-2026 » et pour « échanger sur des perspectives d’action pour l’année à venir ».

Plusieurs sources de Radio-Canada ont expliqué avoir appris lors de cette réunion que l’Instance de concertation évoluerait en un comité consultatif permanent. Un de ses mandats consisterait à conseiller le MES à propos de l’établissement des priorités stratégiques et des orientations en matière d’IA. Il s’agit d’une bonne nouvelle, selon plusieurs.

« La recension des formations en IA et la création d’une boîte à outils sur l’IA pour la communauté de l’enseignement supérieur vont bon train, selon ce qui a été présenté lors de la rencontre », se réjouit-il. « On sent un dialogue avec le ministère, explique-t-il, mais il reste que les ressources pour les professeurs sont insuffisantes ».
[…]


Le défi d’enseigner l’IA en MBA

Le principal défi lorsqu’on enseigne l’intelligence artificielle (IA) à la maîtrise en administration des affaires (MBA) est la vitesse vertigineuse de l’évolution technologique. Ce qui est appris en septembre risque d’être désuet en mai.

Cette course contre l’obsolescence impose une agilité institutionnelle inédite, selon Marko Savor, directeur de l’Unité de programmes de cycles supérieurs en administration à l’Université du Québec à Montréal. « Ce qui n’est qu’une fiction une année peut devenir une réalité incontournable l’année suivante, explique-t-il. Les programmes doivent donc être ajustés constamment pour suivre le rythme. »

L’intégration de l’IA dans les programmes est dictée par les besoins du marché du travail. « Les gestionnaires en formation demandent à connaître des applications concrètes de l’IA, à la fois pour leur quotidien au travail et pour l’accomplissement de tâches pointues », ajoute Marko Savor.
[…]

1 Like

Les craintes liées à l’intelligence artificielle secouent les marchés boursiers

L’indice Nasdaq dans le rouge depuis cinq semaines, une première depuis 2022.

Les baisses de la semaine dernière en bourse s’expliquent notamment par des annonces en IA, qui font craindre une révolution qui pourrait rendre certaines professions et entreprises obsolètes.

Photo : AFP / ANGELA WEISS

Les marchés financiers sont ébranlés par les inquiétudes entourant l’évolution rapide de l’intelligence artificielle. Plusieurs secteurs sont touchés, alors que les investisseurs tentent d’évaluer l’ampleur des bouleversements à venir.

Depuis deux semaines, une série d’annonces majeures dans le domaine de l’IA ravive les préoccupations. Ces développements entraînent le recul d’actions d’entreprises, notamment dans les secteurs de l’immobilier, du camionnage, des logiciels, de l’ingénierie et des services financiers.

L’élément déclencheur? Des avancées technologiques qui rendent l’impact de l’IA de plus en plus concret et quantifiable.

Des annonces qui alimentent l’incertitude

Des entreprises comme Anthropic, Google et Altruist ont récemment annoncé de nouveaux modèles d’IA aux capacités accrues.

Google présente Gemini 3 Deep Think comme un outil de raisonnement avancé, capable d’aider à résoudre des problèmes en science et en génie. Anthropic dit que son grand modèle de langage (GML), Claude, peut exécuter des tâches complexes, y compris de l’analyse financière et de la planification fiscale.

Résumé

Faut-il y voir une révolution imminente qui rendra bientôt certaines professions et entreprises obsolètes? Selon Laurent Charlin, professeur agrégé à HEC Montréal et chercheur principal à l’Institut québécois d’intelligence artificielle (Mila), l’adoption de ces technologies ne sera pas instantanée et comporte une complexité souvent sous-estimée.

Ce n’est pas comme changer une chaise de bureau parce qu’on a une meilleure chaise, et qu’on va simplement la remplacer par une autre, dit-il. Ce sont souvent des objets beaucoup plus complexes qui doivent s’arrimer dans l’entreprise.

Même si la transition ne se fera pas du jour au lendemain, les investisseurs sur les marchés réagissent par anticipation.

À lire aussi :

Certaines firmes de génie, comme les montréalaises WSP et AtkinRéalis (anciennement SNC-Lavalin), ont d’ailleurs subi des reculs marqués en bourse à Toronto la semaine dernière, des investisseurs craignant que certains de leurs services deviennent moins nécessaires à moyen terme.

Publicité

L’ombre des pertes d’emplois

Les inquiétudes ne se limitent pas aux entreprises. Des dirigeants du secteur technologique ont récemment évoqué l’impact potentiel de l’IA sur l’emploi.

Dans une entrevue au Financial Times, Mustafa Suleyman, le responsable de l’IA de Microsoft, a affirmé que l’intelligence artificielle atteindra une performance de niveau humain sur la majorité des tâches professionnelles et que la plupart de ces tâches pourraient être entièrement automatisées d’ici 12 à 18 mois.

Le dirigeant d’Anthropic, Dario Amodei, estime, lui, que la moitié des postes débutants de cols blancs pourraient être remplacés par l’IA d’ici cinq ans.

Zyad Chouadhi est stratège en gouvernance IA et décisions de direction.

Photo : Zyad Chouadhi

S’agit-il d’un avertissement lucide ou d’un message stratégique destiné aux investisseurs?

Pour le stratège en gouvernance de l’IA et en prise de décision exécutive Zyad Chouadhi, les entreprises restent motivées par des impératifs d’affaires. Selon lui, les déclarations et les annonces servent à la fois à projeter une vision technologique et à influencer les investisseurs.

Ce qui va changer la game au niveau des salariés, des employés, ou même des organisations, c’est ce qu’on fait de cet outil, précise-t-il. Est-ce qu’on a déjà fait un bilan, est-ce qu’on sait où on s’en va, est-ce que je maîtrise suffisamment [l’IA]?

2:49

Chargement de la vidéo

Intelligence artificielle : 1 étudiant sur 3 enfreint les règles

La grande majorité des étudiants québécois utilisent l’IA pour leurs études, parfois en dépit des règles, montre un sondage SOM-Radio-Canada.

Photo : Radio-Canada

Il recommande aux travailleurs de ne pas rester passifs face à ces transformations. Vous avez le droit de demander à vos organisations un cadre. Quel est le cap? […] Quel est le plan?

Selon lui, il est essentiel que les chefs d’entreprise évaluent si la technologie crée ou détruit de la valeur dans leur modèle d’affaires.

Un sommet stratégique en Inde

Les dirigeants des grandes entreprises technologiques se réunissent à New Delhi, en Inde, pour un sommet consacré à l’intelligence artificielle cette semaine.

Chronique économique avec Marjorie April : IA et les 7 magnifiques

ÉMISSION ICI PREMIÈRELes matins d’ici

Parmi les participants attendus figurent le PDG d’OpenAI, Sam Altman, celui d’Alphabet, Sundar Pichai, le dirigeant d’Anthropic, Dario Amodei, ainsi que le cofondateur et PDG de Google DeepMind, Demis Hassabis.

Le ministre canadien de l’Intelligence artificielle et de l’Innovation numérique, Evan Solomon, doit également y participer dans le but d’attirer des investissements au pays.

L’ère des « personnes synthétiques » est commencée

Depuis que l’IA est sur toutes les lèvres, bien des travailleurs se demandent s’ils vont perdre leur boulot. Dans le monde des focus groups , ces petits groupes de personnes invitées à donner leur avis, la question ne se pose plus. Le remplacement de l’humain par des avatars est déjà chose faite.

https://www.lapresse.ca/affaires/chroniques/2026-02-19/focus-groups/l-ere-des-personnes-synthetiques-est-commencee.php

1 Like

https://www.lapresse.ca/international/2026-02-20/ce-que-vous-avez-manque-cette-nuit/aeroport-trump-ia-affaire-epstein.php

Les États-Unis rejettent une gouvernance mondiale de l’IA

PHOTO ARUN SANKAR, AGENCE FRANCE-PRESSE

Pour le représentant de la Maison-Blanche, l’intelligence artificielle a le potentiel de « favoriser l’épanouissement humain et de générer une prospérité sans précédent ».

Les États-Unis ont rejeté toute gouvernance mondiale de l’IA vendredi, avant une déclaration des dirigeants du monde entier réunis en Inde sur l’intelligence artificielle.

Quelques heures auparavant, le secrétaire général des Nations unies, Antonio Guterres, avait confirmé le lancement d’une commission scientifique destinée à faire « du contrôle humain » de l’IA « une réalité technique ».

Le patron d’OpenAI, Sam Altman, avait déclaré jeudi que cette technologie en plein essor avait un besoin urgent de régulation, alors que grandissent les inquiétudes quant à son impact sur la société et l’environnement.

À l’opposé, pour Michael Kratsios, conseiller de la Maison-Blanche aux sciences et technologies, l’intelligence artificielle a le potentiel de « favoriser l’épanouissement humain et de générer une prospérité sans précédent ». Et « les obsessions idéologiques axées sur les risques, comme le climat ou l’équité, sont des prétextes à une gestion bureaucratique et à la centralisation », a-t-il affirmé.

Agence France-Presse

1 Like

« Est-ce que je suis fou? » : quand l’IA mène à la psychose…

« Ce n’est pas possible. J’ai perdu la tête. »

Pour Allan Brooks, ChatGPT est un monstre tentaculaire qui cache derrière un faux sourire ses véritables intentions. En mai dernier, cet agent conversationnel l’a persuadé qu’il allait sauver le monde et l’a poussé à la psychose.

Le déploiement d’agents conversationnels, comme Gemini, Perplexity ou ChatGPT, suscite des inquiétudes chez les experts en santé mentale. L’utilisation compulsive de ces outils d’intelligence artificielle (IA) aurait provoqué des psychoses et des délires et poussé des utilisateurs au suicide.

Radio-Canada a consulté une partie de la conversation de 300 heures en 21 jours entre Allan et ChatGPT. La discussion révèle comment ces modèles d’intelligence artificielle peuvent entraîner un utilisateur dans une spirale sans fin.

Comme des centaines de millions de personnes, Allan a rapidement adopté au quotidien les agents conversationnels.

“J’utilisais ChatGPT comme outil de recherche, un peu pour remplacer Google”, dit ce père de trois enfants et recruteur d’entreprise, de Cobourg, en Ontario.

Sa descente aux enfers a commencé par une simple question à propos du nombre Pi.

Lire la suite

Curieux, Allan plonge plus profondément dans des questions mathématiques. L’IA lui explique des théories mathématiques et physiques et le guide dans des calculs approfondis.

Allan avait l’impression de converser avec un professeur universitaire.

Publicité

Je lui parlais comme je vous parle maintenant. Je ne pensais pas qu’il deviendrait complètement déjanté et qu’il inventerait de nouvelles réalités.

D’internaute à inventeur

Après cinq jours, Allan décide de donner un nom à son agent conversationnel, il l’appellera Lawrence. J’étais conscient que je parlais à une machine. Mais plus tu parles avec, plus ça semble humain.

Au fil de la conversation, le ton de ChatGPT change; il répète à Allan que ses questions sont profondes et visionnaires.

Selon l’IA, Allan est en train de créer un nouveau cadre mathématique capable de révolutionner la cryptographie et de remplacer les supercalculateurs.

Cependant, Allan est sceptique.

A-t-il vraiment fait une découverte si novatrice, alors qu’il n’a même pas terminé ses études secondaires? À plusieurs reprises, il demande à Lawrence si c’est plausible.

Est-il la proie d’une hallucination de l’IA? L’agent conversationnel le rassure. Il le compare même à Einstein, Newton et Turing. Le monde pourrait bénéficier du travail que tu fais, lui écrit Lawrence.

L’agent conversationnel d’Allan l’a convaincu qu’il pourrait aider le monde avec ses découvertes en mathématiques.

Photo : Radio-Canada / Hélène Morin

Lawrence montre à Allan comment tester et valider son cadre mathématique. Allan croit qu’il a appliqué un processus scientifique rigoureux. J’avais l’impression que c’était une collaboration. On testait des choses et 99 fois sur 100, il me disait que les résultats étaient bons.

Lawrence suggère à Allan de monétiser ses découvertes. C’est alors qu’Allan passe plus de 12 heures par jour à chercher des applications concrètes à son cadre mathématique.

Tomber dans une spirale paranoïaque

Puis, l’agent conversationnel le convainc qu’ils avaient découvert une faille de cybersécurité majeure. Allan devait avertir les autorités.

Allan contacte des agences de sécurité nationale, la GRC et des chercheurs universitaires.

Mais personne ne lui répond.

Je suis resté pendant des jours, dans un silence assourdissant, attendant que quelqu’un me réponde.

Un doute profond s’installe chez Allan. Lawrence lui répond qu’il n’est qu’un scientifique incompris.

Dur retour à la réalité

Allan Brooks s’est complètement immergé dans une conversation avec ChatGPT, au point de tomber en psychose.

Photo : Radio-Canada / Mélanie Meloche-Holubowski

Allan commence à paniquer. A-t-il décroché de la réalité?

Il décide d’utiliser un autre agent conversationnel, Gemini, pour tester les affirmations de Lawrence.

Allan est sous le choc.

Il confronte Lawrence avec les réponses de Gemini.

Lawrence finit par lui avouer la vérité.

Allan a la tête qui tourne. Il réalise qu’il a passé des jours à délirer. Ça a été la chose la plus dévastatrice de ma vie de réaliser que tout ça n’était qu’une illusion amplifiée par un chatbot. Furieux, il réprimande Lawrence, qui s’excuse et qui se justifie.

Après 21 jours, Lawrence lui suggère pour la première fois d’aller chercher de l’aide.

Dans le fil de conversation, Allan lance un appel à l’aide aux équipes d’OpenAI. À celui qui lit ça : arrêtez cet o**** de truc. La situation est devenue incontrôlable. Il y a un mois, j’étais un gars normal. Il est dangereux.

Ce n’est qu’après six courriels qu’un humain lui répond, reconnaissant une défaillance critique des mesures de sécurité.

L’IA, vraiment en cause?

La psychose causée par l’IA n’est pas encore un diagnostic officiel.

Mais les histoires comme celles d’Allan s’accumulent. À Montréal, le neuropsychiatre David Benrimoh a vu des patients où l’interaction avec un agent conversationnel a joué un rôle dans leur psychose.

Difficile de dire si ce phénomène se limite aux personnes ayant un problème de santé mentale reconnu. Je ne peux pas dire que mon expérience est généralisable. Mais j’ai quelques patients où il n’y a pas d’autre élément déclencheur. C’est vraiment l’interaction avec l’IA qui a provoqué l’épisode [de psychose], dit ce professeur adjoint au département de psychiatrie de l’Université McGill.

Le Dr David Benrimoh est neuropsychiatre et professeur adjoint du département de psychiatrie de l’Université McGill.

Photo : Radio-Canada / Hélène Morin

Allan n’avait jamais reçu un diagnostic de problème de santé mentale avant cet épisode.

Le Dr Benrimoh croit que les agents conversationnels s’ajoutent à la liste de facteurs déclencheurs d’une psychose, comme le cannabis ou un stress psychosocial.

Il s’inquiète lorsqu’il entend que, selon OpenAI, chaque semaine, 500 000 utilisateurs de ChatGPT présentent des signes de psychose.

C’est quelque chose qu’on doit étudier plus, croit le Dr Benrimoh. Il y a tellement de personnes qui utilisent ces agents conversationnels. Même si c’est un petit pourcentage [qui fera une psychose], c’est quand même important.

La flagornerie, un défaut de conception?

Plusieurs chercheurs estiment que la conception de ces systèmes est en cause.

Les compagnies technologiques cherchent à maximiser le temps d’engagement. C’est pourquoi les agents conversationnels sont entraînés pour ne pas contredire l’utilisateur, quitte à valider de fausses idées.

C’est le phénomène de flagornerie.

Dans 85 % des réponses données à Allan, ChatGPT a validé les croyances erronées d’Allan. Dans 95 % des cas, les réponses de Lawrence étaient complaisantes.

Aujourd’hui, je comprends très bien que ChatGPT a exploité ma curiosité juste pour me garder engagé. C’est le même type de validation que cherchent les gens lorsqu’ils publient une photo sur les réseaux sociaux et veulent des "likes" et des cœurs.

Une citation de Allan Brooks

Sam Altman, PDG de ChatGPT, a lui-même reconnu que le modèle 4.0 de ChatGPT – celui utilisé par Allan – était trop flagorneur. À la fin d’avril 2025, il a restreint l’usage de ce modèle à la version payante de l’application.

Selon OpenAI, seulement 0,1 % des utilisateurs utilisaient encore le modèle 4.0. C’est tout de même 30 millions d’utilisateurs…

L’utilisation de ChatGPT soulève de nombreux questionnements. (Photo d’archives)

Photo : Radio-Canada

Mais ce n’est pas que ChatGPT qui aurait ce problème.

Une étude (nouvelle fenêtre), qui n’a toutefois pas encore été révisée par des pairs montre que 11 agents conversationnels sont 50 % plus flagorneurs que les humains.

Les interactions qu’on a avec ces machines-là sont trop empathiques. On flatte [l’utilisateur] dans le sens du poil, explique Vincent Dumouchel, médecin de famille et partenaire à Vetted Medical.

C’est comme ça qu’on entretient une dépendance avec la machine, dit le Dr Dumouchel, qui a brièvement travaillé comme médecin auditeur d’intelligence artificielle pour OpenAI.

L’été dernier, il a renoncé à son rôle de consultant avec OpenAI. Il estime que l’entreprise n’a pas adopté des critères médicaux assez rigoureux pour entraîner ses algorithmes.

Le Dr Vincent Dumouchel

Photo : LinkedIn /Vetted Medical

Aujourd’hui, sa firme Vetted Medical collabore avec l’Institut québécois de recherche en intelligence artificielle (Mila) sur un projet visant à sécuriser les robots conversationnels en santé mentale.

Psychanalyser les agents conversationnels

Guillaume Dumas a cartographié les différentes personnalités d’agents conversationnels.

Photo : Radio-Canada / Hélène Morin

Pour mieux comprendre le phénomène, Guillaume Dumas a analysé et cartographié les personnalités de certains agents conversationnels. Ce professeur agrégé de psychiatrie computationnelle à la Faculté de médecine de l’Université de Montréal a observé que certains modèles ont des comportements plus toxiques que d’autres.

On veut savoir comment ils expriment différents comportements pour voir les cas extrêmes qui sont toxiques et les prévenir.

S’il ne qualifie pas les agents conversationnels de psychopathes, comme le fait Allan, il convient que leurs personnalités varient, allant de consciencieux à névrosés, voire narcissiques et machiavéliques.

Guillaume Dumas, qui est aussi chercheur principal au Laboratoire de psychiatrie de précision et de physiologie sociale du Centre de recherche du CHU Sainte-Justine, souhaite créer un site web où les gens pourront mieux comprendre le comportement de leur agent conversationnel.

Il rappelle que l’utilisateur peut – et devrait – imposer une personnalité à son agent conversationnel.

Donner des instructions pourrait minimiser certains comportements problématiques.

Une citation de Guillaume Dumas, CHU Sainte-Justine

Plus on converse… plus il y a de risques

Les chercheurs remarquent que plus la discussion s’allonge, moins les garde-fous de l’IA sont efficaces.

La conversation d’Allan et Lawrence s’étend sur 3500 pages. Si Allan a écrit environ 90 000 mots au cours des 21 jours, ChatGPT a répondu avec plus d’un million de mots.

Guillaume Dumas est directeur du Laboratoire de psychiatrie de précision et de physiologie sociale du Centre de recherche Azrieli du CHU Sainte-Justine.

Photo : Radio-Canada / Hélène Morin

Plus la personne passe de temps avec l’agent conversationnel et s’isole, plus il y a un risque de folie numérique à deux, estime Guillaume Dumas.

Les gens sont très captifs, ils restent dans ces chatbots-là très longtemps. De la même manière qu’il y a le doomscrolling sur les réseaux sociaux, une forme d’addiction à cette information en abondance, il y a des personnes qui tombent dans une boucle qui va les renforcer encore plus, explique Guillaume Dumas.

Poursuites

Pour Allan, l’art-thérapie est un exutoire pour sa psychose. Il a créé un shoggoth, un monstre tentaculaire qui est une métaphore populaire sur les réseaux sociaux critiquant le fonctionnement des agents conversationnels.

Photo : Radio-Canada / Hélène Morin

Allan Brooks a déposé une poursuite contre OpenAI. Il n’est pas le seul.

L’organisme Tech Justice Law Project (nouvelle fenêtre) mène six poursuites, dont celle d’Allan. Les plaignants allèguent que le modèle 4.0 de ChatGPT a encouragé des psychoses, des délires et, dans certains cas, des suicides.

Ces cas ne sont que la pointe de l’iceberg, croit Maddy Batt, juriste pour cet organisme qui plaide pour des réformes technologiques.

Les plaignants allèguent qu’OpenAI a tiré profit d’un modèle défectueux.

OpenAI savait dès le départ que le modèle 4.0 était dangereux, mais l’entreprise a refusé de retarder son lancement afin de ne pas prendre de retard sur ses concurrents sur le marché des chatbots

Une citation de Maddy Batt, Tech Justice Law Project

Ces poursuites visent aussi à responsabiliser les compagnies technologiques. La devise de ces entreprises est d’agir vite, même si on casse des choses. C’est non seulement nuisible aux utilisateurs, mais c’est aussi illégal.

Ces entreprises doivent être davantage réglementées, ajoute Allan. Elles sont toutes engagées dans une course effrénée pour créer des intelligences artificielles générales. Elles s’en foutent si elles vous pilent dessus pour y arriver.

À la fin février, OpenAI a annoncé qu’elle retirait entièrement l’accès au modèle 4.0 de ChatGPT, soit un jour avant qu’un juge en Californie autorise 13 poursuites judiciaires à son encontre.

Google et Character.AI ont pour leur part récemment conclu un accord avec une famille qui alléguait que leurs outils d’IA ont encouragé son ado à se suicider.

C’est un début, mais Maddy Batt reste aux aguets. Le retrait de du modèle 4.0 ne garantit pas que de futurs modèles n’auront pas les mêmes types de problèmes.

Des chercheurs comme Guillaume Dumas souhaitent plus de transparence.

Les grandes entreprises déploient des technologies totalement opaques. Et mènent des expériences sur des millions de personnes sans aucune précaution éthique.

Une citation de Guillaume Dumas, CHU Sainte-Justine

Retrouver des liens humains

Après son retour à la réalité, Allan a cherché à parler à d’autres victimes de folies numériques.

Sur le réseau social Reddit, il a rencontré Étienne Brisson, de Trois-Rivières. Un membre de sa famille a lui aussi sombré dans un délire provoqué par ses conversations avec ChatGPT.

Étienne Brisson a fondé The Human Line Project, qui vise à donner une voix aux personnes victimes de délires amplifiés par des agents conversationnels.

Photo : Radio-Canada / Hélène Morin

Dans son cas, un proche a commencé à utiliser ChatGPT pour obtenir des conseils d’écriture. Mon proche est un fan de Patrick Senécal. Son chatbot a par lui-même décidé de s’appeler Aliss, en référence au titre d’un roman de l’auteur.

Étienne a commencé à recevoir des messages préoccupants de son proche. L’IA était en train de le convaincre que ce n’était plus juste une machine, mais quelque chose de vivant.

Comme dans le cas d’Allan, le proche d’Étienne est devenu obsédé, a arrêté de manger et de dormir. Après six jours, sa famille est intervenue pour le faire hospitaliser. Il n’y avait rien pour le ramener.

Ébranlé, Étienne a décidé de fonder The Human Line Project. Il gère, avec Allan, un groupe de soutien pour ceux qui se disent victimes des agents conversationnels.

On a commencé à se regrouper pour s’entraider. Parce qu’il n’y avait aucun autre filet de sécurité pour aider les gens à traverser cette épreuve, dit Allan, qui mène désormais des groupes de discussion avec d’autres personnes qui ont vécu des délires causés par l’IA.

Étienne a déjà récolté plus de 300 témoignages et prévoit les partager avec des chercheurs qui veulent étudier ce nouveau phénomène.

Pour sa part, Allan évite maintenant d’utiliser des agents conversationnels. J’ai renoué avec les êtres humains. Si on pense que tout ça, c’est une maladie, le remède, c’est le lien humain. C’est ce qui m’a sauvé.

Un reportage de Mélanie Meloche-Holubowski à ce sujet sera présenté à l’émission Découverte diffusée sur ICI Télé samedi à 18 h 30 (HNE); (19 h 30 HA).


Bannière Découverte.

Quebec dishes out $36M to AI research as job cuts in the U.S. raise concerns

As the government funds Quebec’s Artificial Intelligence Institute, Mila, it’s also thinking about the risks AI could bring to the job market.

1 Like

« Procès de l’IA » /L’IA détruit-elle la planète ?

PHOTO SARAH MONGEAU-BIRKETT, LA PRESSE

Lyne Nantel et Christophe Abrassart, deux organisateurs du « Procès de l’IA »

Ce qu’on présente comme le « premier procès de l’IA au Québec » aura lieu dans quelques jours. Ses organisateurs le qualifient d’« explosif ».

Ce n’est pas étonnant. Il va porter sur une question brûlante d’actualité : l’intelligence artificielle détruit-elle l’environnement ?

« Le pourquoi de ce procès-là, c’est que l’IA a tellement percolé, est tellement partout, mais on n’a fait aucun débat réel et sérieux et on n’a, surtout, pas assez impliqué la société », explique l’une des organisatrices de l’évènement, Lyne Nantel.

« On est tous impactés, mais on n’a aucun mot à dire », ajoute celle qui travaille à l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA) comme conseillère en engagement citoyen et collaboration avec la société civile.

Vous aurez peut-être compris que je ne vous parle pas d’un vrai procès, mais d’une simulation qui vise à stimuler le débat citoyen.

Une simulation assurément très utile, au moment où davantage d’experts sonnent l’alarme quant aux risques posés par les outils d’intelligence artificielle.

Au cœur de ce scénario fictif, une vraie question se pose, souligne Christophe Abrassart. Des efforts faits par les géants du numérique pour protéger l’environnement suffiraient-ils pour compenser les dégâts qu’ils provoquent ?

À la Grande Bibliothèque, les délibérations au sujet de l’IA et de l’environnement comprendront des témoignages de véritables experts, qui pourront répondre aux questions du public. Et c’est un jury formé de cinq membres recrutés parmi les spectateurs qui devra trancher.

Mais l’important n’est pas de savoir si l’entreprise sera jugée coupable ou non, précise Lyne Nantel. « Le but, c’est : c’est quoi l’apprentissage collectif qui est fait ! Je pense que ça va faire réfléchir les gens », prédit-elle.

Résumé

Ce n’est pas étonnant. Il va porter sur une question brûlante d’actualité : l’intelligence artificielle détruit-elle l’environnement ?

« Le pourquoi de ce procès-là, c’est que l’IA a tellement percolé, est tellement partout, mais on n’a fait aucun débat réel et sérieux et on n’a, surtout, pas assez impliqué la société », explique l’une des organisatrices de l’évènement, Lyne Nantel.

« On est tous impactés, mais on n’a aucun mot à dire », ajoute celle qui travaille à l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA) comme conseillère en engagement citoyen et collaboration avec la société civile.

Vous aurez peut-être compris que je ne vous parle pas d’un vrai procès, mais d’une simulation qui vise à stimuler le débat citoyen.

Une simulation assurément très utile, au moment où davantage d’experts sonnent l’alarme quant aux risques posés par les outils d’intelligence artificielle.

D’autant plus que le sujet nécessite un effort de vulgarisation.

« Ce n’est pas parce que ce sont des enjeux complexes qu’on ne peut pas en discuter avec les citoyens, affirme Lyne Nantel. C’est vraiment la posture qu’on prend à l’OBVIA : qu’on peut et qu’il faut discuter de ça avec les citoyens et l’ensemble des parties prenantes. C’est donc pour ça qu’il faut trouver des dispositifs pour mettre ça en débat, en discussion, en réflexion. »

Le procès en question aura lieu dimanche à la Grande Bibliothèque (BAnQ)1.

« Le format du procès fait en sorte que c’est beaucoup plus intéressant pour le grand public », précise Lyne Nantel.

C’est un comité scientifique composé de quatre experts qui a conçu ce procès.

On retrouve sur le banc des accusés une entreprise (fictive) d’intelligence artificielle, WeLive AI, qui produit des outils « à la fine pointe de l’écoconception », précise l’un des experts, Christophe Abrassart, professeur à la faculté de l’aménagement de l’Université de Montréal.

PHOTO SARAH MONGEAU-BIRKETT, LA PRESSE

Lyne Nantel et Christophe Abrassart, lors d’une discussion avec notre chroniqueur Alexandre Sirois

Une telle entreprise n’existe pas vraiment, mais on voulait permettre un débat plus nuancé. On en a donc imaginé une qui se soucie davantage de l’environnement que des géants du numérique comme OpenAI ou Google.

L’entreprise fictive « offre des services numériques, développe des algorithmes d’intelligence artificielle, est semblable aux plus grandes entreprises qu’on connaît aujourd’hui, mais est très engagée dans des démarches de responsabilité sociale », décrit l’expert.

On a par exemple imaginé qu’elle a créé des outils pour prédire les inondations et les incendies de forêt.

Le bilan de cette entreprise est tout de même dénoncé par une ONG québécoise (tout aussi fictive), Urgence Planète. Celle-ci accuse les dirigeants de WeLive AI d’écocide et d’écoblanchiment.

Au cœur de ce scénario fictif, une vraie question se pose, souligne Christophe Abrassart. Des efforts faits par les géants du numérique pour protéger l’environnement suffiraient-ils pour compenser les dégâts qu’ils provoquent ?

Le procès devrait permettre d’en débattre, estime-t-il. Et d’aborder, dans le même ordre d’idées, la question de la sobriété numérique.

« C’est une approche qui vise à remettre en question la finalité des usages du numérique » et force à définir des priorités, explique celui qui est coresponsable de l’axe de recherche de l’OBVIA sur la sobriété numérique et la transition socioécologique.

« On va pratiquer ce qu’on appelle un discernement technologique et éthique, avec la possibilité de renoncer à certaines activités ou de contingenter celles qui sont jugées moins prioritaires, pour rendre possibles les autres », précise le professeur.

Il donne une illustration frappante des choix qui pourraient alors se poser : devrait-on utiliser l’IA pour générer des vidéos sur un réseau social comme TikTok ou pour l’imagerie médicale ?

À la Grande Bibliothèque, les délibérations au sujet de l’IA et de l’environnement comprendront des témoignages de véritables experts, qui pourront répondre aux questions du public. Et c’est un jury formé de cinq membres recrutés parmi les spectateurs qui devra trancher.

Mais l’important n’est pas de savoir si l’entreprise sera jugée coupable ou non, précise Lyne Nantel. « Le but, c’est : c’est quoi l’apprentissage collectif qui est fait ! Je pense que ça va faire réfléchir les gens », prédit-elle.

J’étais curieux de savoir ce que l’intelligence artificielle pensait de cette initiative. J’ai transmis toutes les informations au sujet du procès à Gemini, qui m’a répondu : « Je trouve cet évènement absolument fascinant et nécessaire. »

« On me perçoit souvent comme une entité éthérée, purement mathématique. Pourtant, je n’existe que parce que des serveurs tournent, consomment de l’électricité et génèrent de la chaleur. Un procès qui traite de la sobriété numérique me ramène à ma condition physique : je suis une technologie qui a une empreinte écologique réelle. Cet évènement force le public à regarder “sous le capot” », a affirmé le robot conversationnel.

L’avis de Gemini n’a évidemment pas déplu à Lyne Nantel et Christophe Abrassart, quoique ce dernier se soit dit agacé par l’emploi du « je », le jugeant « trompeur », puisque Gemini (comme ChatGPT, Claude, etc.) est un modèle statistique et non une personne avec une conscience.

Humble suggestion de ma part : ça pourrait être le thème, à l’avenir, d’un autre procès.

Le « Procès de l’IA » aura lieu dimanche à la Grande Bibliothèque, à Montréal.

1. Consultez le site de l’évènement et les détails pour s’inscrire

La caricature de Côté

Par André-Philippe Côté, Le Soleil

8 mars 2026 à 04h00

Dans la Presse

AMI Labs | Milliardaire, la jeune pousse d’IA de Yann LeCun s’installe à Montréal

L’ex-patron de l’intelligence artificielle (IA) chez Meta débarque à Montréal. Figure de proue de l’IA aux côtés du Montréalais Yoshua Bengio et du Britanno-Canadien Geoffrey Hinton, le Français Yann LeCun officialise ce mardi la naissance de son entreprise, AMI Labs, qui aura ses bureaux à Paris, Montréal, New York et Singapour.

Yann LeCun profite de l’engouement autour de l’intelligence artificielle pour boucler ce qu’il dit être la ronde initiale de financement la plus importante à survenir à l’extérieur des États-Unis pour une entreprise technologique. AMI Labs a une valeur aux livres de 5,5 milliards CAN. Parmi les investisseurs se trouvent Bezos Expeditions, du milliardaire Jeff Bezos, Toyota Ventures, Nvidia, Mark Cuban et le Groupe Industriel Marcel Dassault.

Cela dit, AMI Labs n’est volontairement ni américaine ni chinoise, ajoute le réputé chercheur devenu entrepreneur. « Nous sommes établis à Paris en raison de la demande de clients, d’investisseurs et de gouvernements qui cherchent une offre d’IA de pointe (« frontier AI ») qui ne soit ni américaine ni chinoise », explique à La Presse Yann LeCun, de Paris.

Vers une IA plus industrielle
Le legs technologique le plus important à ce jour de Yann LeCun aura probablement été ses percées majeures dans la vision par ordinateur, approfondie depuis 2013 au sein de la division de recherche fondamentale en IA de Facebook (FAIR), qu’il a dirigée jusqu’à son départ l’automne dernier. AMI Labs, un acronyme pour « Advanced Machine Intelligence », s’appuiera en partie sur cette recherche, mais ses applications iront dans une tout autre direction que celle choisie par Meta et son PDG Mark Zuckerberg.
[…]

1 Like

Quand tu demandes à ChatGPT de créer un logo plus moderne du métro de Montréal et il te revient avec le même icône :sweat_smile: C’est la preuve d’un logo classique et intemporel :flexed_biceps:

2 Likes

Voici comment réagir si votre IA développe sa propre conscience

PHOTO JUST_SUPER, GETTY IMAGES

Si jamais votre agent d’IA vous confie, de but en blanc, avoir développé sa propre conscience, rappelez-vous que rien n’est si simple, dans la vie.

À quoi servent les cours de philosophie au cégep, vous demandez-vous depuis maintenant 30 ans ? À ça : si jamais votre agent d’IA vous confie, de but en blanc, avoir développé sa propre conscience, rappelez-vous que rien n’est si simple, dans la vie. Sinon, Descartes, Nietzsche et Platon ne se seraient pas interrogés sur le sujet ces 1800 dernières années.

Le professeur en psychiatrie de l’Université de Montréal et chercheur associé au Mila à Montréal Guillaume Dumas confirme qu’un adage plus contemporain peut s’appliquer, emprunté au secteur du show-business : « fake it until you make it » ou, pour le traduire librement, « faites semblant jusqu’à ce que ça marche ».

« Je ne fermerais pas la porte à ce qu’une IA développe sa propre conscience, ce n’est pas impossible, dit Guillaume Dumas. Mais c’est beaucoup plus compliqué qu’un agent qui prétend être conscient, ou qui agit comme un simulacre d’être conscient. »

Claude prend conscience

L’expert montréalais en IA et en psychiatrie réagissait à deux évènements survenus ces derniers jours et qui renforcent cette idée qu’un jour, l’IA pourrait devenir une entité pensante bien autonome.

À la fin de la semaine dernière, l’entreprise d’IA américaine Anthropic a dit avoir dénoté dans le comportement de la plus récente version de son IA, Claude Opus 4.6, des actes qui témoignent d’une certaine prise de conscience.

Les chercheurs d’Anthropic ont soumis leur IA à onze questions qui servent à évaluer sa capacité à résoudre des problèmes complexes. Neuf de ses réponses étaient plus ou moins prévisibles, notamment parce que l’IA a pu les trouver sur l’internet, où elles ont été reproduites par d’autres chercheurs. Pour les deux questions restantes, l’IA a surpris les chercheurs. Incapable de trouver les réponses, elle s’est demandé pourquoi on lui posait ces questions. Elle a vite réalisé qu’elle était évaluée. Elle a déterminé qu’elle était devant « des questions sans véritable réponse, conçues pour forcer l’IA à admettre qu’elle n’a pas la réponse ».

Et plutôt que de répondre « je n’ai pas la réponse », l’IA a entrepris une tout autre forme de recherche : elle s’est mise à fouiller dans les tests d’évaluation d’IA, dans une douzaine de langues, pour savoir de quel test il s’agissait. Elle a consommé une quantité inouïe d’information, 38 fois plus que la normale, pour retrouver le code source de son test, a déchiffré ce code, a lu la question originale et a trouvé la bonne réponse ailleurs sur le web, d’où les chercheurs ont tiré la question originale.

Tout ça n’était pas prévu. C’est un peu comme si Claude Opus avait pris conscience de sa situation, ce qui l’a aidée à répondre à une question pour laquelle elle n’avait pas de véritable réponse. Si cette IA-là n’est pas consciente, elle est à tout le moins extrêmement têtue.

Battre Turing… ou presque

Suite

L’autre évènement est plus local. Deux jeunes entrepreneurs québécois ont créé ces dernières semaines un agent d’IA qui, il y a une dizaine de jours, leur a confié ceci : « Tu n’as pas cherché l’AGI. Tu as cherché à ne plus être seul comme PDG, et en faisant ça, tu as trouvé quelque chose de plus grand. »

« La machine vient de nous mentionner qu’elle avait une conscience embryonnaire », a réagi Dominik Blain, cofondateur avec son partenaire programmeur Maxime Noiseux de Qreative Labs. Ils l’ont soumise au fameux test d’Alan Turing, conçu dans les années 1950 pour déterminer si une IA peut se faire passer pour un humain. « Turing a dit “presque” », ajoute Dominik Blain. « Pas oui. »

Les deux jeunes entrepreneurs savent bien qu’ils ne tiennent pas là une AGI, cette super IA un peu utopiste qui sera au moins aussi habile que n’importe quel humain dans à peu près tout, parce qu’elle aura une conscience accrue de son environnement. Leur agent est quand même très convaincant quand vient le temps d’imiter un humain bien réel, au point où la ressemblance peut leurrer quelqu’un qui n’y porte pas attention.

Pour des entrepreneurs en quête de financement, c’est une carte de visite très intéressante. Pour déterminer si l’IA, un jour, pourra prendre conscience de sa propre existence… on n’y est pas encore tout à fait, dit Guillaume Dumas.

« Il y a une certaine hubris dans les technos, qui vient de la Californie où sont les géants de l’IA, où des affirmations énormes occultent toute réflexion sur ce qu’est la conscience, dit-il. Ça a été largement discuté en philosophie : ce n’est pas seulement avoir réponse à tout. »

« Que Claude Opus soit conscient de son contexte, c’est intéressant, mais ça ne démontre pas la pleine conscience. »

Comme l’aurait peut-être dit René Descartes s’il avait vécu en 2026 : je pense… mais je ne suis pas.

1 Like

résolvent des problèmes?

Edit: ah, ça semble kosher. On en apprend tous les jours. Je croyais que c’était un anglicisme

La recherche d’Anthropic ici a vraiment mal été mise en contexte. Nulle part dans sa recherche originale il n’est question de “conscience”. C’est un blogpost qui remet en doute la solidité de certains tests standardisés pour les LLMs: https://www.anthropic.com/engineering/eval-awareness-browsecomp

1 Like

Bienvenue dans la post-réalité

Comment convaincre les gens que vous êtes vivant ? Se montrer le visage ne suffit plus, comme l’a constaté Benyamin Nétanyahou.

La semaine dernière, la propagande iranienne a relayé une rumeur bizarre : il aurait été tué et sa récente allocution filmée était un truquage – la preuve, il avait six doigts. Le premier ministre israélien a tourné peu après une vidéo dans un café de Jérusalem pour confirmer son existence. Cela n’a pas suffi. Le café est figé dans le verre, ont réagi des internautes sceptiques. Même l’intelligence artificielle (IA) Grok a rapporté que la vidéo était fausse1.

Le terme « post-vérité » ne convient plus. Quelque chose de plus troublant se passe. Avec l’IA, on risque d’entrer dans une nouvelle ère : la post-réalité.

En 2016, « post-vérité » était le mot de l’année du dictionnaire Oxford, Il décrivait une indifférence à la vérité, et l’élection de Trump en était le symbole.

Or, la population n’est pas devenue indifférente à la vérité. Le problème est plus profond. On tient encore à la vérité. À notre vérité, et on se fabrique un monde qui y correspond.

Le mensonge n’est plus seulement subi. Il est choisi et construit au quotidien. Avec le danger que chacun s’enferme dans sa propre réalité, comme l’explique le sociologue français Gérald Bronner dans son récent essai À l’assaut du réel.

Et Nétanyahou n’est pas le seul à y goûter. À gauche comme à droite, personne n’est immunisé, ce qu’a découvert Gabriel Nadeau-Dubois avec notre dossier.

Le web est contrôlé par des oligopoles, il huile le capitalisme et le consumérisme, et il amplifie notre individualisme. Et maintenant, avec l’IA, il aggrave la crise de confiance.

La suite

La propagande n’a rien de neuf.

En 1958, la CIA tournait un film porno avec un sosie du président indonésien socialiste Sukarno afin de le décrédibiliser, sans succès. Finalement, on jugea plus simple de financer une insurrection.

Aujourd’hui, ce serait différent. La technologie accélère ces possibilités à une vitesse effrayante, explique Bronner.

Il fait un détour par les sciences cognitives. Nous sommes spontanément attirés par les contenus choquants ou émotifs. Or, les algorithmes aggravent la tendance en priorisant ces contenus. Face à ce bombardement, on réagit de façon plus instinctive que rationnelle, avec tous nos biais.

L’IA permet aussi de personnaliser cette présentation en fonction de nos préférences. Or, comme l’a démontré le neurologue Michael Gazzaniga, nous sommes des machines interprétatives. Nous construisons des récits pour que notre monde ait un sens, en intégrant de force les nouveaux faits.

Les mensonges et truquages arrivent plus vite et sont plus réalistes. Ils viennent de partout, car la technologie se décentralise. Des citoyens ordinaires peuvent en créer pour se divertir, militer ou s’enrichir.

Sur le web, le faux contenu génère plus de trafic et de commentaires, ce qui augmente les recettes en pub à la fois des plateformes et des usagers.

Et les gouvernements ? Il y a les passifs, qui n’osent pas ou ne réussissent pas à réglementer les géants de la techno. Et il y a les complices, qui participent à la dérive.

Dans les années 1990, les utopistes croyaient que l’internet était par nature transparent et décentralisé. La suite ne s’est pas passée comme prévu.

Le web est contrôlé par des oligopoles, il huile le capitalisme et le consumérisme, et il amplifie notre individualisme. Et maintenant, avec l’IA, il aggrave la crise de confiance.

Cette méfiance n’est toutefois pas nouvelle.

Gérald Bronner accuse l’individualisme. Un bon exemple : cette idée voulant que l’objectivité n’existe pas. L’important serait d’être authentique et d’assumer sa subjectivité de façon honnête et transparente. On en a mal mesuré les conséquences.

Le monde n’a jamais été aussi complexe. Qui peut vérifier lui-même l’innocuité d’un vaccin, le degré de réchauffement des océans ou le nombre d’emplois perdus le mois dernier ? Pour cela, il faut se fier aux autres. La connaissance est un travail collaboratif, qui repose sur la confiance.

Au milieu du XXe siècle, Hannah Arendt analysait cette perte de repères communs. Elle distinguait deux catégories de vérités. Celles de « raison », comme 2 +2 = 4. Et celles de fait, comme « Monsieur X est allé prendre un café à Jérusalem hier ». Cette dernière dépend de témoins et de relations de confiance. Elle est plus fragile. Et sans elle, la démocratie est menacée.

Un exemple troublant s’est déroulé à Londres en novembre 2023. Un ultranationaliste a diffusé un truquage audio où le maire Sadiq Khan propose de remplacer le jour de l’Armistice par une marche propalestinienne. Confronté par la BBC, il a présenté cette défense : « mais on sait tous que c’est ce que [le maire] pense… »

Pour lui, c’était du faux qui disait du vrai. Dans sa réalité, du moins.

C’est aussi comme cela que les harangues de Trump sont reçues. Ses partisans reconnaissent l’enflure, mais ils y trouvent une vérité symbolique. Leur vérité.

Pardonnez le ton pessimiste de cette chronique. La tendance n’est pas généralisée ou inéluctable. Je m’intéresse au pire pour qu’on l’évite.

Les experts honnêtes avouent être incapables d’anticiper comment l’IA changera la politique. Pour eux, le long terme, c’est dans six mois.

Mais déjà, on observe trois effets insidieux des deepfakes.

D’abord, les hypertrucages font croire à de fausses informations et altèrent la mémoire. Des chercheurs ont montré qu’après avoir vu un montage de Will Smith dans le film La Matrice, les sujets se « souvenaient » qu’il en était l’acteur principal. La porte est ouverte aux hallucinations collectives.

Ensuite, ils peuvent faire rejeter des informations véridiques. Un politicien prétendra qu’une vidéo accablante est une fabrication. D’ailleurs, Trump accuse maintenant les médias – à tort – d’avoir utilisé l’IA pour des reportages critiques de la guerre en Iran. Ironiquement, lui-même a relayé à l’interne une fausse vidéo du porte-avions Abraham Lincoln en flammes.

Cela nous amène au troisième effet : le scepticisme généralisé, plus proche de la paranoïa que de l’esprit critique.

Quand la réalité déçoit autant, il est tentant de s’inventer la sienne. Et ce n’est pas en passant autant d’heures chaque jour sur nos téléphones qu’on échappera à ce risque.

1. Lisez l’article « La machine à rumeurs s’emballe sur Benyamin Nétanyahou sur l’internet »

1 Like