Cómputo en tiempo de inferencia (Test-time compute)
Cómputo adicional gastado cuando un modelo responde a una pregunta, en tiempo de inferencia, no solo durante el entrenamiento; un recurso para tareas de razonamiento difíciles.
El cómputo en tiempo de inferencia (test-time compute) significa dar a un modelo más procesamiento cuando se le hace una pregunta, no solo al entrenarlo. Sistemas de razonamiento como OpenAI o1 y DeepSeek-R1 pasan más tiempo en cadenas de pensamiento al responder, cambiando velocidad y coste por precisión en tareas difíciles.
Complementa escalar datos de entrenamiento y parámetros: un segundo eje de progreso tras el tamaño bruto del modelo. Referencias como el oro en la IMO en 2025 mostraron cuán lejos se había movido ese recurso en un solo año.