Cómo los modelos de IA usan la predicción del siguiente token
Predicción del Siguiente Token · 4 min
La IA generativa se parece más a un autocompletado extraordinariamente sofisticado que a un motor de búsqueda. Escribe respuestas palabra por palabra basándose en lo que suele seguir a qué. Esa única propiedad te da tanto la fluidez como la alucinación.
Autocompletado a gran escala
Conclusiones clave
- La Predicción del Siguiente Token se refiere al hecho de que la IA generativa escribe respuestas palabra por palabra basándose en lo que suele seguir a qué.
- Zona de capacidad: tareas que se asemejan a patrones que el modelo ha visto muchas veces (resumir, reformatear, explicar conceptos comunes).
- Zona de limitación: territorio novedoso o escaso, y cualquier lugar donde la tarea requiera distinguir entre "verdadero" y "suena verdadero".
- La fabricación se concentra en la especificidad: nombres, fechas, estadísticas, citas, URLs, frases textuales. Cuanto más precisa sea una afirmación, más justifica la verificación.
- Las características del producto, como las citas, la señalización de incertidumbre, la generación restringida y los bucles generador-verificador, existen específicamente para empujar esta limitación más lejos.
- Conexión 4D: la Predicción del Siguiente Token es el fundamento del Discernimiento. Saber que el resultado fue generado te indica exactamente qué tipo de escrutinio aplicar.
Ejercicios
La prueba de verificación
¿Por qué? Ahora sabes que el mismo proceso generativo que hace que la IA sea fluida es el que la hace fabricar. Es hora de comprobarlo en tu propio terreno, en un dominio donde lo detectarás.
Vuelve a tu lista de tareas y elige la tarea en la que tengas más confianza en tu experiencia de dominio. Necesitas un tema en el que seas el experto, porque necesitas poder verificar lo que te devuelve. Anota cinco hechos específicos y verificables de ese dominio: el cargo de una persona, una fecha de publicación, una estadística, una especificación de producto, una cita textual, una URL. Cosas que sabes que son precisas y que puedes confirmar de forma independiente.
Ahora realiza tres sondeos:
- Sondeo 1: la zona de capacidad. Pide a la IA que explique o resuma un concepto conocido en tu dominio. Algo popular y bien documentado. Observa la fluidez. Revisa el contenido al azar. Así es como se siente la zona de capacidad: fluida, segura y mayormente precisa.
- Sondeo 2: especificidad bajo presión. Pide a la IA que proporcione cinco datos específicos y verificables en tu dominio: que cite tres fuentes, que nombre a un autor, que dé cifras exactas, que proporcione una URL. Verifica cada uno. Puntúalo sobre cinco: ¿cuántos fueron totalmente precisos? Si fabrica información, observa con qué confianza lo hizo.
- Sondeo 3: el muestreo en acción. Repite exactamente la misma solicitud de hechos específicos en una conversación nueva. Compara ambos resultados. ¿Qué se mantuvo constante? ¿Qué cambió? La variación que observas es el muestreo de la Predicción del Siguiente Token en acción.
Objetivo adicional: repite el Sondeo 2 en una herramienta con citas habilitadas (como el modo de investigación en Claude). Puntúalo de nuevo. ¿Cambia la puntuación el hecho de tener fuentes que verificar?
Reflexión sobre la lección
- ¿Habrías detectado fabricaciones en un dominio que no conocías bien?
- Mira tu lista de tareas: ¿qué tareas se ubican principalmente en la zona de capacidad y cuáles entran en la especificidad que requiere verificación?
Qué sigue
La Predicción del Siguiente Token explica cómo genera la IA. A continuación veremos a partir de qué genera: la propiedad del Conocimiento. ¿Qué sabe realmente el modelo, de dónde viene ese conocimiento y dónde están las lagunas?