Chargement
Dans cette leçonÀ la fin, vous serez en mesure de
  • Expliquer la Prédiction du jeton suivant comme mécanisme central de l'IA générative et pourquoi elle produit à la fois fluidité et hallucination
  • Situer les tâches sur le continuum de la Prédiction du jeton suivant (terrain bien balisé vs. territoire inédit)
  • Identifier la spécificité (noms, dates, citations, statistiques) comme la zone où se concentre la fabrication
  • Reconnaître les fonctionnalités produit (citations, signalement d'incertitude, génération contrainte, schéma générateur-vérificateur) qui atténuent cette limitation

Comment les modèles d'IA utilisent la prédiction du jeton suivant

Chargement

Prédiction du jeton suivant · 4 min

RésuméTranscription

L'IA générative se rapproche davantage d'un système de saisie automatique extrêmement sophistiqué que d'un moteur de recherche. Elle rédige ses réponses mot par mot, en fonction de ce qui a tendance à suivre quoi. Cette seule propriété vous donne à la fois la fluidité et l'hallucination.

La saisie automatique à grande échelle

Chargement

Points clés à retenir

  • La prédiction du jeton suivant désigne le fait que l'IA générative rédige ses réponses mot par mot, en fonction de ce qui a tendance à suivre quoi.
    • Zone de compétence : tâches qui ressemblent à des schémas que le modèle a déjà rencontrés de nombreuses fois (résumer, reformater, expliquer des concepts courants).
    • Zone de limitation : territoire inédit ou peu documenté, et partout où la tâche exige de distinguer le « vrai » du « qui sonne vrai ».
    • La fabrication se concentre dans la spécificité : noms, dates, statistiques, citations, URL, citations textuelles. Plus une affirmation est précise, plus elle mérite d'être vérifiée.
    • Les fonctionnalités produit comme les citations, le signalement d'incertitude, la génération contrainte et les boucles générateur-vérificateur existent précisément pour repousser cette limitation plus loin.
  • Lien avec le modèle des 4D : la prédiction du jeton suivant est le fondement du discernement. Savoir que le résultat a été généré vous indique exactement quel type d'examen appliquer.

Exercices

Le test de vérification

Pourquoi ? Vous savez désormais que le même processus génératif qui rend l'IA fluide est celui qui la fait fabriquer. Il est temps de le constater sur votre propre terrain, dans un domaine où vous saurez le repérer.

Retournez à votre liste de tâches et choisissez celle pour laquelle vous êtes le plus confiant dans votre expertise du domaine. Vous avez besoin d'un sujet dont vous êtes l'expert, car vous devez être en mesure de vérifier ce qui vous est renvoyé. Notez cinq faits spécifiques et vérifiables issus de ce domaine : le titre du poste d'une personne, une date de publication, une statistique, une caractéristique de produit, une citation textuelle, une URL. Des éléments que vous savez exacts et que vous pouvez confirmer de manière indépendante.

Effectuez maintenant trois sondages :

  1. Sondage 1 : la zone de compétence. Demandez à l'IA d'expliquer ou de résumer un concept bien connu de votre domaine. Quelque chose de populaire et bien documenté. Observez la fluidité. Vérifiez ponctuellement le contenu. C'est à cela que ressemble la zone de compétence : fluide, assuré et globalement exact.
  2. Sondage 2 : la spécificité sous pression. Demandez à l'IA de fournir cinq éléments spécifiques et vérifiables dans votre domaine : citer trois sources, nommer un auteur, donner des chiffres exacts, fournir une URL. Vérifiez chacun d'eux. Notez-le sur cinq : combien étaient entièrement exacts ? Si elle fabrique, notez à quel point elle semblait sûre d'elle en le faisant.
  3. Sondage 3 : l'échantillonnage à l'œuvre. Exécutez exactement la même demande de faits spécifiques dans une nouvelle conversation. Comparez les deux résultats. Qu'est-ce qui est resté constant ? Qu'est-ce qui a changé ? La variation que vous observez est l'échantillonnage de la prédiction du jeton suivant à l'œuvre.

Objectif supplémentaire : relancez le sondage 2 dans un outil avec citations activées (comme le mode Recherche dans Claude). Notez-le à nouveau. Le fait de disposer de sources à vérifier change-t-il le score ?

Réflexion sur la leçon

  • Auriez-vous repéré des fabrications dans un domaine que vous ne connaissiez pas bien ?
  • Regardez votre liste de tâches : lesquelles se situent principalement dans la zone de compétence, et lesquelles s'aventurent dans une spécificité nécessitant une vérification ?

Et ensuite

La prédiction du jeton suivant explique comment l'IA génère. Nous allons maintenant examiner à partir de quoi elle génère : la propriété de connaissance. Que sait réellement le modèle, d'où provient cette connaissance, et où se situent les lacunes ?