Température

La température est un paramètre important et configurable qui permet de régler le degré déterminisme (prévisibilité) ou de créativité des réponses d’un modèle:

• Température proche de 0 : les réponses sont déterministes et répétables. Idéal pour des tâches factuelles (ex: traduction, résumé objectif, extraction de données)
• Température proche de 1 : les réponses sont plus aléatoires et créatives, mais potentiellement moins cohérentes. Parfait pour le brainstorming, l’écriture créative ou la génération d’idées.

Exemples :

• “Donne-moi 5 idées de slogans pour une marque de café.” avec une température de 0.9  => résultats originaux et variés.
• “Traduis ce contrat juridique en anglais.” avec une température de 0.2 => traduction précise et fidèle.

A retenir: Une température trop élevée peut générer des hallucinations (voir partie 1), tandis qu’une température trop basse produit des réponses trop génériques.

Fenêtre de contexte (context window)

La fenêtre de contexte est la mémoire à court terme d’un modèle, par exemple pendant une conversation avec un LLM. Elle définit le nombre maximum de tokens (mots ou fragments de mots) que l’IA peut prendre en compte en une seule fois pour produire une réponse.

Limites courantes : 

• Modèles grand public : 8k à 32k tokens (~6 000 à 24 000 mots)
• modèles avancées: 100k à 1M tokens (ex: Claude 3, Mistral Large)

Une fenêtre de 32k tokens permet de traiter environ 50 pages de texte (selon la longueur des mots).

Conséquences:

• Si la conversation ou le document dépasse cette limite, l’IA “oublie” les premières informations. Dans un long échange, elle peut perdre le fil ou répéter des questions déjà posées.

Astuces: 

• Pour analyser un document volumineux, le découper en parties ou utiliser des outils comme le RAG (voir partie 3)
• Certains modèles permettent d’étendre la fenêtre via des techniques de mémoire externe, ou de compacter le contexte pour éviter de perdre des informations ou décisions clés.

Multimodal

Un modèle multimodal est capable de comprendre et générer plusieurs types de données: texte, images, audio, vidéo, etc.

Contrairement aux modèles classiques (limités au texte), il estime les liens entre ces différentes modalités.

Cas d’usage:

• Analyser une image: “Décris ce qui se passe sur cette photo.” (ex: outils comme GPT-4V ou LLaVa)
• Générer une image à partir d’une description textuelle (ex : MidJourney, DALL·E, Stable Diffusion)
• Transcrire et résumer une vidéo (ex : outils comme Sora ou Pika Labs)
• Exemples de modèles multimodaux: Claude 3 (Anthropic), Gemini (Google), Fuyu-8B (Adept)

Limite: La compréhension reste statistique – un modèle multimodal ne « voit » pas une image comme un humain, mais identifie des motifs appris pendant son entraînement.

Attention: Ces modèles consomment beaucoup plus de ressources (et donc de tokens) que les modèles texte seul.

Agent

Un agent est un système d’IA autonome capable d’enchaîner des actions pour atteindre un objectif précis, sans intervention humaine constante.

Contrairement à un chatbot (qui répond à des questions), un agent :

1. Analyse son environnement (ex : il lit des emails, consulte un calendrier, accède à des bases de données).
2. Prend des décisions en fonction de règles ou d’objectifs prédéfinis.
3. Agit (ex : il envoie un message, réserve un créneau, lance un processus).

Exemples concrets :

• Un assistant qui planifie un voyage : il compare les vols, réserve l’hôtel, et envoie l’itinéraire par email.
• Un outil de service client qui classe les tickets, répond aux FAQ et escalade les problèmes complexes à un humain.
• Un agent de monitoring qui surveille des indicateurs métiers et alerte en cas d’anomalie.

Technologies associées :

• Utilisation de boucles de rétroaction (feedback loops) pour s’améliorer avec le temps.
• Intégration avec des outils externes (API, bases de données) pour interagir avec le monde réel.

Enjeux : Les agents soulèvent des questions sur l’autonomie, la transparence et la responsabilité (ex : qui est responsable si un agent commet une erreur ?)

Exemple de solution : AutoGPT, Microsoft Copilot ou LangChain permettent de créer des agents personnalisés.