Deuxième partie de notre épisode sur l'IA frugale. La première posait le problème, le coût réel de l'IA une fois qu'on additionne tout. Cette fois, on passe au concret, avec des façons d'en utiliser moins, ou une version moins gourmande. Et la première question à se poser, avant même de choisir un modèle, c'est de savoir si on a vraiment besoin d'IA. Le contexte, lui, a changé : on quitte doucement l'époque où un abonnement à 20 euros donnait accès à bien plus de calcul qu'il ne coûtait, pour aller vers une facturation à l'usage où chaque token pèse. Du coup, la sobriété touche désormais la facture autant que l'environnement.

L'idée qu'on déroule ensuite ressemble à un escalier. On part du bas, en se demandant comment on ferait sans IA du tout : un script, un moteur de recherche par correspondance, de meilleurs tableaux de bord sur des données qu'on a déjà. On ne monte d'un cran que si le besoin l'impose, vers de l'IA symbolique, de l'OCR, puis des petits modèles spécialisés. Le gros modèle reste le dernier étage, pour les cas qui le méritent vraiment. Lulu revient aussi sur ses tests avec Comparia, l'outil de Betagouv qui fait s'affronter deux modèles à l'aveugle, où le petit l'emporte souvent. Et quand on doit utiliser l'IA, il reste le prompting frugal : cadrer sa demande une bonne fois, préciser le format et la longueur, plutôt que d'enchaîner dix allers-retours qui remplissent le contexte pour rien.

Does Sustainable AI have a future? Here’s what the experts think…
How to #QuitBigAI for smaller models… with the Frugal AI Switchboard
Beta.gouv.fr - compar:AI - The chatbot arena
gwittebolle sur github - claude-carbon
Green prompt engineering for sustainable generative AI
Huggingface
Jan.ai
Ecologits

09:09 - Découper ses usages et le réflexe "ai-je besoin de l'IA"

18:30 - Trier des CV : OCR, IA symbolique, RAG et taille de contexte

29:41 - Comparia : petits contre gros modèles, testés à l'aveugle

37:08 - Des modèles plus sobres, l'escalier Haiku, Sonnet, Opus et le lieu d'hébergement

48:12 - Le prompting frugal et les outils pour mesurer

Retrouvez nous sur :

https://www.instagram.com/ledernierclic/

https://www.linkedin.com/in/emmanuel-fernandez-b28740180/

https://www.linkedin.com/in/lucile-mothiron/

contact@ledernierclic.fr

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.