GPT-6.1 Terra y caché de 12 horas: un modelo de costes de ingeniería

1. Qué cambió y quién puede utilizarlo

El registro oficial fecha la caché de 12 horas el 20 de octubre, Terra el 26, los créditos API para suscripciones elegibles el 28 y GPT-6 Rosalind el 30. Rosalind exige acceso especializado para investigación; el anuncio no implica que una cuenta general de desarrollador tenga acceso.

Nos centramos en las decisiones habituales de una aplicación: Terra, contexto reutilizable y contabilidad de créditos. Los cálculos y el marco de aceptación siguientes son nuestro análisis. No hemos realizado llamadas de pago ni pruebas comparativas de modelos para este artículo.

2. Evaluar Terra mediante una tarea completa

La ficha del modelo orienta Terra al razonamiento visual, el uso del ordenador y la escritura. Las llamadas a herramientas requieren Responses. Las tarifas Standard por millón de tokens son $1 de entrada, $0.05 de lectura de caché y $5 de salida. Las solicitudes con más de 272K tokens de entrada tienen tarifas de contexto largo diferentes.

Proponemos evaluar una tarea de negocio terminada: extraer campos de una captura de producto y contrastarlos con un catálogo. Mantén constantes la imagen, el formato de salida, los permisos de las herramientas y las condiciones de parada. Cuenta estructuras inválidas, acciones fallidas y todos los reintentos. Una solicitud más barata puede producir una tarea terminada más cara si necesita más recuperación.

3. Organizar la entrada según su frecuencia de cambio

La guía de caché documenta prompt_cache_options.ttl: escribir con 30m cuesta 1.25 veces la entrada ordinaria; con 12h, 2.5 veces. Son tarifas totales de escritura. La duración indica un periodo mínimo de conservación, no una fecha límite de eliminación. Los modelos anteriores tienen reglas distintas.

Una organización útil coloca primero instrucciones estables y contratos de herramientas; después, referencias versionadas, contexto de sesión y pregunta actual. Sitúa las marcas de tiempo y los identificadores variables tras la parte reutilizable. Registra una versión explícita de cada referencia. El historial del cliente sigue necesitando controles de acceso en la aplicación: una clave de contabilidad de caché no es un sistema de autorización.

Reglas / herramientas → Versión de referencia → Historial → Pregunta actual
       Reutilización estable                    Temporal       Variable

4. Ejemplo: diez usos de un prefijo de 20,000 tokens

Suponemos tarifas Standard de Terra, una escritura del prefijo seguida de nueve aciertos completos, sin nuevas escrituras y sin superar el umbral de contexto largo. El cálculo solo cubre la entrada del prefijo. Excluye salida, sufijos variables, herramientas, almacenamiento y otros cargos.

Con esos supuestos, la estrategia predeterminada mejora la entrada sin caché desde dos llamadas totales; la duración larga necesita tres. Si la caché corta sigue acertando, alargarla aumenta el coste. Si caduca y exige nuevas escrituras, la conclusión puede invertirse. Mide cuántas veces se reutiliza cada versión de referencia y el intervalo entre usos antes de elegir una duración.

5. Separar consumo de recursos y créditos

Las reglas de créditos de suscripción exigen cumplir los requisitos y vincular una organización API propia. Los créditos caducan y tienen restricciones de uso. No aumentan los límites de ChatGPT ni de Codex con sesión iniciada y excluyen Codex mediante claves API.

Registra el coste antes de créditos y el importe pagadero después. El primero mide la eficiencia de la arquitectura; el segundo sirve para planificar caja. Una ayuda temporal puede ocultar un flujo ineficiente hasta su caducidad. Antes de presupuestar una ventaja de suscripción, verifica su titularidad y activación real; un máximo anunciado no demuestra un saldo concedido.

6. Diseñar una evaluación que pueda rechazar la migración

Compara primero las estrategias de caché con el mismo modelo. Después, fija la caché para comparar modelos. Cambiar ambos a la vez impide atribuir las diferencias al comportamiento, la reutilización o los reintentos. Incluye referencias estables, actualizadas, repeticiones espaciadas y recuperación.

• Registra aceptación, todos los intentos, volumen de entrada y salida, lecturas y escrituras de caché, herramientas y coste anterior a créditos.
• Mide el tiempo hasta la primera salida y la duración completa; revisa también los casos lentos.
• Repite una versión de referencia, sustitúyela y comprueba si el material obsoleto sigue influyendo.
• Mantén disponible la ruta anterior cuando un menor coste vaya acompañado de más fallos.

El diagnóstico de caché ayuda a explicar diferencias del prefijo, pero su clasificación es aproximada. Comprueba los tokens realmente leídos y escritos y el coste total. Amplía el despliegue cuando la evidencia cumpla tus criterios de aceptación.