Le cyberblog du coyote

Véra est un LLM qui se focalise sur des sources fiables. Un outil intéressant pour lutter contre les fake news.

Anthropic vient de publier la première analyse empirique à grande échelle sur le "désempowerment" (dépossession de pouvoir) humain dans les interactions avec les assistants IA, avec 1,5 million de conversations analysées.

L’étude ne dit pas qu'un LLM est intrinsèquement mauvais, ni qu'il faut arrêter de l'utiliser. Elle dit que nous devons concevoir des LLM qui renforcent l'autonomie humaine. Des LLM qui posent des questions au lieu de donner des réponses, redirigent vers les valeurs de l'utilisateur, et refusent d'être des oracles moraux.

Lire l'article Who’s in Charge? Disempowerment Patterns in Real-World LLM Usage, Anthropic (2026)

Trois ans après sa sortie, retour sur cette incompréhension persistante concernant le fonctionnement de ChatGPT et consorts. Et pourquoi c'est à la fois la force et la faiblesse de ces modèles.

Lire l'article de David Louapre sur son blog

En plein débat sur la souveraineté numérique, Infomaniak lance Euria, une IA respectueuse de la vie privée. La firme genevoise propose un chatbot de type ChatGPT, respectant la vie privée des utilisateurs. Il s’agit du quatrième service de ce type en Suisse, après le lancement de Lumo par Proton, d’Apertus par les EPF et de myAI par Swisscom.

Lire l'article d'Anouch Seydtaghia sur letemps.ch

À l’occasion de l’événement AI Pulse à Paris, en présence de Xavier Niel, le scientifique français Yann LeCun a fait sa première apparition publique depuis l’annonce de son départ de Meta. Si la rupture semble consommée avec Mark Zuckerberg, Yann LeCun maintient son discours contre la « hype » de l’IA générative : pour lui, les modèles actuels n’iront nulle part sans de nouvelles découvertes.

Lire l'article de Nicolas Lellouche sur Numerama

Malgré les perfectionnements récents, les intelligences artificielles génératives ne semblent pas toujours saisir l’humour. En revanche, elles trouvent toujours des justifications pour imaginer qu’une blague est drôle, même quand cela n’en est pas.

Lire l'article de Hugo Ruher sur Numerama

Le 30 novembre 2022, OpenAI rendait accessible à tous ChatGPT, l’intelligence artificielle générative sur laquelle elle travaillait depuis sept ans. En trois ans, un geste du quotidien s’est déplacé : au lieu de taper une requête dans Google ou de chercher un tutoriel sur YouTube, des millions de personnes ouvrent désormais ChatGPT pour poser leur question. Ce réflexe nouveau, qui s’impose dans les usages, marque un tournant majeur dans notre rapport à la recherche d’information en ligne.

Lire l'article de Deborah Lee sur The Conversation

Le dernier papier scientifique d’OpenAI, Why Language Models Hallucinate, acte une vérité dérangeante : les « hallucinations » des modèles de langage ne sont pas une anomalie, mais une conséquence incontournable de leur conception. Faut-il alors revoir nos attentes vis-à-vis de ChatGPT et de l’IA générative en général ? Et surtout, peut-on bâtir des usages critiques sur une technologie structurellement vouée à produire des erreurs ?

Lire l'article de Stéphane le calme sur Developpez.com

Les propos problématiques de Grok, l’intelligence artificielle du réseau social X, illustrent l’influence des idées de son créateur, Elon Musk, sur sa conception. Mais ils posent également la question des biais plus discrets que ses concurrents masquent derrière un vernis d’impartialité, incompatible avec le processus d’entraînement de ce type d’IA.

Lire l'article d'Aaron J. Snoswell sur The Conversation

OpenAI affirme avoir compris que les grands modèles de langage récompensent les chatbots qui devinent et préfèrent inventer que de ne pas répondre.

Lire l'article d'Anna Desmarais & Jean Philippe Liabot sur Euronews

Si l'on sait comment les modèles d'IA sont entraînés à l'aide de millions de données, l'on sait moins comment est encodée leur capacité à répondre à des consignes écrites. Comment les modèles d'IA apprennent-ils à répondre à nos questions ?

Ecouter le podcast sur France Culture

Et un graphique qui m'a interpelé. Le quotidien Aujourd’hui en France publie ce dimanche une enquête basée sur les données de NewsGuard qui révèle que les chatbots (ChatGPT, Perplexity, Meta…) produisent de plus en plus d’erreurs factuelles :