La littérature face aux détecteurs d’IA · Meta dévoile une avalanche de nouvelles lunettes connectées · Muse veut transformer l’IA en véritable assistant personnel · Les patrons d’OpenAI et d’Anthropic alertent sur les risques de l’IA tout en lançant de nouveaux modèles · Mon Carnet fête ses 10 ans.

Avec Bruno Guglielminetti (Mon Carnet)

===============

L’affaire Thélison Aurélien relance le débat sur l’utilisation de l’intelligence artificielle dans la littérature, après des accusations selon lesquelles son roman aurait été largement généré par IA. Au cœur de la polémique, les détecteurs d’IA comme Pangram, dont les résultats peuvent constituer une alerte mais pas une preuve absolue, et une question plus large : jusqu’où un écrivain peut-il utiliser l’IA sans remettre en cause la responsabilité et l’intention qui fondent son œuvre ?

À l’occasion de Meta Connect, Meta a présenté une impressionnante gamme de nouvelles lunettes et dispositifs connectés. Parmi les annonces, un casque léger de réalité mixte, de nouvelles Ray-Ban sans caméra davantage centrées sur l’audio, ainsi que les Ray-Ban Display qui doivent désormais arriver au Canada, au Royaume-Uni et en France.

Bruno Guglielminetti raconte son expérience de Muse, présenté par Meta comme un agent personnel capable de proposer spontanément des tâches et d’effectuer certaines opérations sur Internet. L’agent dispose de son propre environnement informatique et peut désormais, sur Mac, intervenir directement sur l’ordinateur de l’utilisateur, ouvrant la voie à une nouvelle génération d’assistants capables d’agir plutôt que de simplement répondre.

Avec Muse, les lunettes connectées et un petit dispositif baptisé Muse Charm, Meta cherche à installer l’intelligence artificielle dans les usages quotidiens plutôt qu’à la cantonner aux conversations avec un chatbot. Cette stratégie s’appuie sur l’immense écosystème de Meta et pourrait donner à des centaines de millions d’utilisateurs un accès direct à des agents capables d’agir pour eux.

Sam Altman et Dario Amodei se sont exprimés devant les Nations Unies pour appeler à une coopération internationale et à un cadre mondial destiné à encadrer les risques liés à l’intelligence artificielle. Un discours qui contraste avec l’accélération permanente du secteur, alors qu’Anthropic et OpenAI continuent parallèlement de présenter de nouveaux modèles toujours plus puissants.

Bruno Guglielminetti annonce une émission spéciale de Mon Carnet consacrée aux dix années d’évolution de la technologie et aux grandes transformations vécues durant cette décennie. L’équipe au complet se joint à lui pour revenir sur cette histoire, avec Jérôme Colombain également de la partie.

Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.

Les détecteurs d’IA peuvent-ils réellement identifier un texte généré par une machine ? Thomas Jacquesson, président de Lucide AI, explique comment ces outils sont entraînés et pourquoi leur verdict doit rester un indice, jamais une preuve.

• Les détecteurs d’IA ne seront jamais fiables à 100 %.
• Claude ou ChatGPT ne peut pas dire si un texte a été produit par une IA ou pas.
• Le détecteur d’IA, c’est un peu comme le détecteur de fumée.

=================================

L’idée est de vérifier si un texte a été généré par une IA, en totalité ou en partie, ou si un humain est à l’origine du texte. Les premiers détecteurs fonctionnaient avec des règles basées sur des caractéristiques fréquemment observées dans les textes générés par les IA. Les meilleurs détecteurs actuels sont entraînés avec des centaines de milliers de textes dont on connaît l’origine. L’IA apprend ainsi à distinguer mathématiquement les textes humains des textes générés par des machines. Il n’y a pas de watermark ni de marque secrète dans le texte.

Les différences peuvent venir des méthodes d’entraînement. Certains outils peuvent être davantage fondés sur des règles ou avoir été moins entraînés sur certains styles d’écriture. Nous avons nous-mêmes un taux général de bonne réponse autour de 97 %, avec un taux de faux positifs inférieur à 1 %. Mais tous les détecteurs peuvent se tromper, y compris le nôtre. La précision dépend notamment du registre d’écriture et de la quantité de texte disponible.

Un détecteur ne sera jamais fiable à 100 %, notamment parce que la langue évolue en permanence et que les IA évoluent elles aussi. Les textes courts sont également difficiles à analyser : il faut au bas mot 300 à 400 mots pour disposer de suffisamment de matière. Dans l’éducation, nous recommandons donc de ne pas considérer le résultat comme une preuve, mais comme un indice qui doit conduire à interroger l’étudiant et à vérifier s’il maîtrise réellement le sujet. C’est une démarche de levée de doute.

Il faut entraîner les modèles sur des écrits anciens et sur des styles différents. Nous avons déjà rencontré des cas où une ancienne version de notre modèle accusait à tort des écrivains ou des textes anciens. La longueur du texte joue aussi beaucoup : un poème peut être trop court pour permettre un verdict fiable. C’est pourquoi nous affichons, comme nos concurrents, un indice de confiance fortement lié à la longueur du texte fourni.

Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.