Consumo tokens por encima de mis posibilidades
Cómo aprender a optimizar el uso de las IA
Si has leído el titular y te has sentido identificado, felicidades. Eres de los míos.
Estoy en un punto donde exprimo tanto a la IA que veo cada día el mensaje de “Has llegado al límite de tu uso … “. Sí, con Claude me fundo los tokens rapidísimo. ChatGPT sobre las 18h me dice que ya no puedo usar más el modo de voz avanzado. La verdad es que parece que lo hacen a propósito. Cuando estás acabando eso que te ha llevado todo el día. ¡Zás! Los tokens.
Como esto me ocurre ya con demasiada frecuencia, me puse a investigar cómo optimizar mejor el consumo de tokens y he organizado aquí algunas ideas que me están funcionando.
A mi me ha servido.
Para los que no estéis en lo de los tokens
Las herramientas de IA no funcionan igual que el resto de software. No pagas únicamente por acceso. Pagas un fijo que cubre hasta un límite de consumo. El consumo se mide en tokens. El token sería la medida del esfuerzo que tiene que hacer tu IA para darte una respuesta.
El exceso de consumo de tokens suele venir de dos situaciones bastante distintas.
La primera tiene que ver con exigirle muchísimo a la herramienta. Le das tareas complejas, enormes cantidades de contexto o problemas que requieren mucho razonamiento. Ahí el modelo trabaja de verdad.
Post extra : ¿Qué herramienta de IA es mejor para ti? Averígualo
La segunda razón del exceso de consumo de tokens tiene que ver con cómo trabajas. Si no trabajas bien y usas mal los comandos, entonces también lo tuestas.
Seguro que nadie mantiene una conversación continua con más de 20 interacciones ¿verdad? Seguro que usáis prompts super elaborados de inicio ¿verdad?.
La forma de consumir tokens me parece una buena evidencia para saber si dominas la forma de trabajar con IA, por lo que le sacas más provecho a tus peticiones, retrasas el límite de uso y mejoras la calidad de las respuestas.
Es decir, que llegar constantemente a los límites de tokens no hablaba tanto de cuánto exprimía el modelo, sino de lo mal que estaba trabajando yo.
Voy a repasar algunas cosas que seguro que no haces al trabajar con IA.
1. Edita el prompt en lugar de encadenar mensajes
Uno de los cambios más útiles es dejar de utilizar la conversación como una secuencia infinita de correcciones.
Muchas veces hacemos esto: “más corto” “más ejecutivo” “añade ejemplos” “quita bullets” “cámbialo a español”
Cada nuevo mensaje añade más contexto y obliga al sistema a releer todo lo anterior. Tus preguntas, sus respuestas, nuevas instrucciones, reformulaciones y cambios de dirección.
Y eso tiene un coste operativo enorme.
En muchos casos es más eficiente volver al mensaje original, editarlo y regenerar la respuesta. No solo consume menos. También obliga a pensar mejor qué estás pidiendo realmente.
2. Reinicia conversaciones largas
Las conversaciones largas tienen una trampa. Dan sensación de continuidad y comodidad, pero poco a poco degradan la calidad del contexto.
Llega un momento donde la IA ya no sabe distinguir qué parte de la conversación sigue siendo relevante y qué parte pertenece a pruebas anteriores, ideas descartadas o cambios de dirección.
Y ahí empiezan las respuestas inconsistentes.
Una práctica muy útil consiste en cerrar conversaciones antes de que colapsen. Pedir un resumen, abrir un nuevo chat y continuar desde ahí suele funcionar muchísimo mejor que seguir acumulando mensajes indefinidamente.
La medida cambia mucho según la herramienta, pero para que tengas una referencia, alrededor de unas 20 iteraciones largas ya empieza a notarse bastante desgaste en el contexto
3. Agrupa tareas relacionadas en un mismo mensaje
Otro hábito bastante ineficiente consiste en fragmentar demasiado las instrucciones.
Primero pides un resumen.
Después los puntos clave.
Después un titular.
Después adaptación para LinkedIn.
Cada interacción añade coste y fragmenta el objetivo.
Los modelos suelen responder mucho mejor cuando entienden desde el principio qué quieres construir. Una instrucción más completa no solo reduce consumo. También mejora coherencia y dirección.
Si quieres una instrucción completa y precisa, acúerdate de usar la reversibilidad.
4. Utiliza el modelo adecuado para cada tarea
Aquí hay bastante despilfarro.
Muchísima gente utiliza modelos avanzados para tareas que realmente no los necesitan. Corregir gramática, reformatear texto o generar una primera versión rápida no requiere el mismo nivel de razonamiento que analizar un documento complejo o construir una estructura conceptual profunda.
Parte de la buena gestión de los tokens consiste en repartir bien el trabajo entre modelos.
Los modelos rápidos funcionan muy bien para tareas de organización, reformateo, resúmenes o primeras versiones rápidas donde lo importante es velocidad y eficiencia más que profundidad de razonamiento.
Los modelos más avanzados tienen sentido cuando necesitas profundidad, conexión de ideas, razonamiento, revisión compleja y trabajar con grandes volúmenes de contexto.
No todas las tareas están al mismo nivel.
Y probablemente ese es uno de los grandes errores actuales en el uso de IA. Estamos utilizando herramientas de razonamiento avanzado para tareas administrativas bastante básicas.
5. Gestiona mejor el contexto permanente
Subir el mismo PDF una y otra vez. Explicar constantemente cómo trabajas. Repetir tu estilo, tus preferencias o tu contexto profesional en cada conversación. Si eres de los que haces estas cosas tengo una mala noticia: estás haciéndolo mal.
Las memorias, Projects e instrucciones personalizadas existen precisamente para reducir esa fricción repetitiva. Y cuando empiezas a utilizarlas bien, notas una diferencia enorme en continuidad y eficiencia.
Las personas que mejor trabajan con IA muchas veces no son las que escriben prompts más sofisticados. Son las que mejor organizan el contexto, la información y el conocimiento alrededor del trabajo.
Para hacerlo te tienes que dedicar tiempo a construir, a personalizar y a configurar. Créeme que ese tiempo que pasas configurando un proyecto con toda la documentación, después merece la pena.
6. Abre más pestañas
Cuando empecé a usar Chatgpt tenía una pestaña abierta del navegador y de ahí me basaba la conversación. Lo que ocurre es que en seguida incumplía alguna de las recomendaciones de arriba.
Ahora he aprendido a abir una pestaña por conversación, así que no mezclo contextos ni conversaciones.
Tengo una pestañas para hacer prompts perfectos. Otra aplico la tarea que quiero realizar. Otra pestaña la tengo para imágenes, otra para un proyecto vinculado. He aprendido que para asegurarme estar muy centrado en cada tema me fuerzo a ir separando conversaciones diferentes en pestañas del navegador.
Por qué merece la pena trabajar así
Optimizar el uso de IA no consiste únicamente en ahorrar tokens. Creo que cuanto mejor aprendes a usar la herramienta, mejor comprendes cómo funciona.
Y cuando entiendes el engranaje, entonces ves que la IA es menos una herramienta mágica y más como una infraestructura de trabajo.
Hace años aprendimos a gestionar la información, las comunicaciones digitales o nuestra presencia digital. Creo que ahora nos toca desplegar y entender el funcionamiento de estas herramientas nuevas.
Yo he entendido que el consumo de tokens más el cómo trabajas con ella que cuánto usas la IA.
Espero que te haya ayudado.
La 4 es la de burro grande, ande o no ande. Bromas aparte, ahí estamos ahora, en la economía de tokens...
Observo en mi entorno otro rechazo a consecuencia de esto. Como se agotan los tokens pronto, se llega a la conclusión de que esto en realidad no sirve, no tengo claro cómo afectará a la adopción de la IA