Coste de consulta RAG (2026): El desglose completo del stack

Cada consulta RAG ejecuta cuatro operaciones en secuencia. Aquí está la fórmula con cada capa aislada:

``` per_query_cost = # Layer 1: embed the user query (query_tokens / 1_000_000) × embed_$/M # Layer 2: vector database read + vector_read_cost_per_query # Layer 3: reranker (optional) + (use_reranker ? rerank_$/query : 0) # Layer 4: LLM generation (this dominates) + (llm_input_tokens / 1_000_000) × llm_input_$/M + (llm_output_tokens / 1_000_000) × llm_output_$/M ```

El conteo de tokens de entrada del LLM es la suma de: el prompt del sistema (compartido entre consultas), la pregunta del usuario y los fragmentos de contexto recuperados. Este es el apalancamiento clave. Un prompt del sistema de 800 tokens + una pregunta de 100 tokens + 5 fragmentos de 400 tokens cada uno = 2.900 tokens de entrada. A la tasa de entrada de Sonnet 4.6 de $3/1M, eso es $0,0087 solo en tokens de entrada — antes de la salida. Añade 500 tokens de salida a $15/1M = $0,0075. LLM total: $0,0162 por consulta.

El número de fragmentos recuperados es el apalancamiento de coste más controlable después de la selección del modelo. Pasar de top-10 a top-5 fragmentos reduce el contexto ~40% en una RAG típica, reduciendo el coste de entrada del LLM proporcionalmente. Mide la precisión de la recuperación para encontrar el conteo mínimo de fragmentos que mantenga la calidad de la respuesta.

A 1.000 consultas/mes, la factura es negligible. Este es un búsqueda de documentos internos de un desarrollador en solitario o una base de conocimiento de equipo con uso ligero.

**Embedding de consulta (OpenAI text-embedding-3-small, 50 tokens/consulta):** 1.000 × 50 tokens = 50.000 tokens = 0,05M. 0,05 × $0,02 = **$0,001/mes**.

**Lectura de Vector DB (Pinecone Serverless):** 1.000 × $8,25/1M = **$0,00825/mes**.

**LLM (Sonnet 4.6, 3.000 entrada + 500 salida tokens):** Entrada: 1.000 × 3.000 / 1M × $3 = $9. Salida: 1.000 × 500 / 1M × $15 = $7,50. Total LLM: **$16,50/mes**.

**Total:** ~$16,51/mes. La capa LLM es el 99,9% de la factura. A esta escala, la selección del modelo es la única decisión de coste que vale la pena tomar.

**Alternativa más barata:** Cambia a Claude Haiku 3.5 ($0,80/$4 por M entrada/salida): Entrada: $2,40, Salida: $2,00. LLM total: $4,40. Coste total de consulta: **$4,41/mes**. A 1.000 consultas/mes, Haiku es a menudo suficiente para respuesta a preguntas aumentada por recuperación con contexto recuperado limpio.

100.000 consultas/mes es una característica RAG viva en producción en un producto SaaS B2B — un asistente de documentación, una herramienta de deflexión de tickets de soporte, una ayuda de revisión de contratos.

**Embedding de consulta (OpenAI text-embedding-3-small):** 100.000 × 50 / 1M × $0,02 = **$0,10/mes**.

**Lectura de Vector DB (Pinecone Serverless):** 100.000 × $8,25/1M = **$0,83/mes**.

**Reranker (Cohere Rerank, opcional):** 100.000 × $1/1.000 = **$100/mes**. Nota: el reranker es ahora el segundo componente de coste más grande a este volumen — más grande que la Vector DB y embedding combinados. Solo inclúyelo si mejora mediblemente la calidad de la respuesta en tu evaluación.

**LLM (Sonnet 4.6, 3.000 entrada + 500 salida):** Entrada: 100.000 × 3.000 / 1M × $3 = $900. Salida: 100.000 × 500 / 1M × $15 = $750. Total LLM: **$1.650/mes**.

**Total (con reranker):** $0,10 + $0,83 + $100 + $1.650 = **$1.750,93/mes** (~$0,0175/consulta).

**Total (sin reranker):** $0,10 + $0,83 + $1.650 = **$1.650,93/mes** (~$0,0165/consulta).

A 100K consultas/mes, el LLM sigue siendo el 94% de la factura. El reranker de Cohere añade un coste del 6% por su aumento de calidad — vale la pena probarlo contra tu evaluación antes de incluirlo en producción.

1M consultas/mes es un despliegue RAG a escala empresarial — un asistente de IA orientado al cliente, una herramienta de gestión de conocimiento interno a gran escala, un pipeline de procesamiento de documentos de alto volumen.

**Embedding de consulta (OpenAI text-embedding-3-small):** 1M × 50 / 1M × $0,02 = **$1,00/mes**.

**Lectura de Vector DB (Pinecone Serverless):** 1M × $8,25/1M = **$8,25/mes**.

**Reranker (Cohere Rerank):** 1M × $1/1.000 = **$1.000/mes**.

**LLM (Sonnet 4.6, 3.000 entrada + 500 salida):** Entrada: 1M × 3.000 / 1M × $3 = $9.000. Salida: 1M × 500 / 1M × $15 = $7.500. Total LLM: **$16.500/mes**.

**Total (con reranker): $17.509/mes** (~$0,0175/consulta).

**Total (sin reranker): $16.509/mes** (~$0,0165/consulta).

A esta escala, el coste del LLM es el único apalancamiento de optimización que importa. Tres caminos para reducirlo: (1) caché de prompts para el prompt del sistema compartido y contexto estático — reduce el coste de entrada un 75-90% en la porción en caché; (2) cambio a un nivel de modelo más barato (gpt-4.1-mini a $0,40/$1,60 por M vs Sonnet 4.6 a $3/$15); (3) reducir la longitud del contexto recuperado de top-10 a top-5 fragmentos. Cada uno de estos es independiente y compuesto.

El caché de prompts es el optimización de coste de RAG con mayor apalancamiento disponible en 2026. Tanto Anthropic como OpenAI lo ofrecen; la mecánica difiere ligeramente.

**Anthropic Claude (prompt cache):** Escritura de caché: 1,25x el precio de entrada estándar. Lectura de caché: 0,10x el precio de entrada estándar — un descuento del 90%. Si tu prompt del sistema + cualquier contexto estático totales 1.500 tokens y se comparten en todas las consultas, la primera consulta lo escribe en caché a 1,25x; cada consulta posterior lo lee a 0,10x.

``` Without caching (Sonnet 4.6, 3,000 input tokens per query at $3/1M): 1M queries × 3,000 tokens = 3B input tokens × $3/1M = $9,000/month With caching (1,500 tokens cached, 1,500 tokens uncached): Cache writes (first hit per cache TTL): ~$1,687 (1.25x rate, amortized) Cache reads: 1M queries × 1,500 cached tokens × $0.30/1M = $450 Uncached: 1M queries × 1,500 tokens × $3/1M = $4,500 Total input: ~$6,637 — 26% cheaper just from caching the system prompt. ```

Si puedes cachear más agresivamente — un preámbulo de base de conocimiento estático grande de 4.000 tokens incluido en cada solicitud — los ahorros se componen. A 4.000 tokens en caché por 5.000 tokens totales de prompt (80% en caché): lecturas de caché = 1M × 4.000 × $0,30/1M = $1.200; sin caché = 1M × 1.000 × $3/1M = $3.000; entrada total = $4.200 vs $15.000 sin caché — una reducción de coste de entrada del 72%.

**OpenAI (automatic prompt caching):** OpenAI aplica caché automático de prompts al prefijo común más largo de las solicitudes. La porción en caché se factura al 50% de la tasa de entrada estándar (versus el 10% de Anthropic). Menos agresivo pero sin configuración necesaria — se aplica automáticamente a las solicitudes que comparten un contexto inicial común.

El caché es la optimización de coste RAG más impactante. Si tu prompt del sistema es más de 1.000 tokens, habilita el caché de prompts hoy. Consulta nuestra calculadora de coste de API Claude para las matemáticas de caché en otros modelos Claude.

Los equipos rutinariamente sobre-recuperan. Un sistema RAG configurado para devolver top-10 fragmentos de 400 tokens cada uno está inyectando 4.000 tokens de contexto por consulta. Reducir eso a top-5 y cortas la inyección de contexto por la mitad. A la tasa de entrada de Sonnet 4.6 de $3/1M, la diferencia de coste de entrada es $0,006/consulta — $6.000/mes a 1M consultas. Ese es un ahorro de artículo vale una ejecución de benchmark.

``` Context injection cost by chunk configuration (Sonnet 4.6, $3/1M input): top-3 × 400 tokens = 1,200 context tokens → $0.0036/query top-5 × 400 tokens = 2,000 context tokens → $0.0060/query top-10 × 400 tokens = 4,000 context tokens → $0.0120/query top-20 × 400 tokens = 8,000 context tokens → $0.0240/query ```

El conteo de tokens de salida a menudo se subestima. Un asistente de IA que escribe respuestas integrales de 800 tokens cuesta 60% más en salida que uno que da respuestas de 500 tokens. En Sonnet 4.6 a $15/1M salida, la diferencia es $0,0045/consulta — $4.500/mes a 1M consultas. Añade restricciones de salida a nivel de sistema (`max_tokens`, orientación de formato de respuesta) para controlar esto.

Para una guía práctica de minimizar la longitud del contexto sin degradar la calidad de la respuesta, consulta nuestro árbol de decisiones de arquitectura RAG.

La elección del modelo LLM impulsa más del coste de consulta RAG que cualquier otra decisión individual. El margen entre el nivel más barato y más caro es de 100x:

**Tier presupuestario** — Claude Haiku 3.5 ($0,80/$4 por M entrada/salida) o gpt-4.1-mini ($0,40/$1,60 por M entrada/salida). A 3.000 entrada + 500 tokens de salida: Haiku = $0,0024 + $0,002 = $0,0044/consulta. gpt-4.1-mini = $0,0012 + $0,0008 = $0,002/consulta. Usar para: Q&A factual simple en contexto estructurado limpio, deflexión de tickets de soporte, recuperación de FAQ donde la respuesta es una extracción directa del texto recuperado.

**Tier medio** — Claude Sonnet 4.6 ($3/$15 por M) o gpt-4.1 ($2/$8 por M). A 3.000 entrada + 500 salida: Sonnet = $0,009 + $0,0075 = $0,0165/consulta. gpt-4.1 = $0,006 + $0,004 = $0,010/consulta. Usar para: razonamiento multi-paso sobre contexto recuperado, síntesis entre múltiples fragmentos, generación de respuesta matizada donde el riesgo de alucinación es significativo.

**Tier premium** — Claude Opus ($15/$75 por M) o equivalente. A 3.000 entrada + 500 salida: $0,045 + $0,0375 = $0,0825/consulta. Usar solo cuando el caso de uso lo exija: razonamiento legal/médico complejo, síntesis multi-documento en decisiones de alto riesgo. A 1M consultas/mes esto es una factura de $82.500/mes — típicamente reservado para consultas de bajo volumen y alto riesgo, no para cargas de trabajo masivas.

El patrón de producción para RAG de alto volumen: enruta consultas simples (respondibles por palabra clave, recuperación de un solo fragmento) al tier presupuestario; enruta consultas complejas (multi-salto, ambiguas, síntesis entre fragmentos) al tier medio. Un división 70/30 entre Haiku y Sonnet reduce el coste del LLM ~50% versus todo-Sonnet, con regresión mínima de calidad en el segmento de consultas simples.

Verifica todos los precios del modelo en anthropic.com/pricing y openai.com/pricing antes de finalizar cualquier presupuesto — ambos proveedores ajustan los precios con nuevas generaciones de modelo.

Un reranker toma los top-N fragmentos recuperados de la búsqueda vectorial y los puntúa por relevancia semántica a la consulta específica antes de pasar al LLM. Cohere Rerank v3 es $1/1.000 consultas en el tier de producción = $0,001/consulta.

El caso de negocio: si tu búsqueda vectorial devuelve top-10 fragmentos pero solo 3 son realmente relevantes, el LLM está gastando tokens en 7 fragmentos irrelevantes. Un buen reranker filtra esos, reduciendo la longitud del contexto (y el coste del LLM) mientras mejora la precisión de la respuesta. El reranker se justifica con $0,001 si reduce el conteo promedio de fragmentos de 10 a 5 a 3.000 tokens totales de contexto — porque la reducción ahorra $0,006 a tasas de Sonnet 4.6, generando un ahorro neto de $0,005 por consulta.

Cuándo el reranking vale la pena: recuperación de alto-recall, bajo-precision (búsqueda vectorial densa con muchos fragmentos casi-acierto); ventanas de contexto largas que son caras de llenar; casos de uso donde la precisión de la respuesta se mide (puntuaciones de evaluación RAG, CSAT de satisfacción del usuario, precisión de deflexión de soporte).

Cuándo el reranking no vale la pena: corpus muy limpios y estrechos donde la búsqueda vectorial ya devuelve resultados de alta precisión; uso de LLM tier presupuestario donde el coste del LLM por consulta ya es $0,002-0,004 y la tarifa de reranker de $0,001 es un recargo del 25-50%; volúmenes de consulta por encima de 100K/mes donde la factura de reranker excede $100/mes y una auditoría de precisión de recuperación podría dar las mismas ganancias gratis.

Consulta la comparación Pinecone vs Weaviate vs Qdrant para benchmarks de precisión de búsqueda vectorial por proveedor que informan la compensación reranker-vs-no-reranker.

Factura base a 1M consultas/mes (Sonnet 4.6, top-10 fragmentos a 400 tokens cada uno, sin caché, sin reranker):

``` Embedding: $1/month (negligible) Vector DB: $8/month (negligible) LLM input: 1M × 4,100 tokens × $3/1M = $12,300/month LLM output: 1M × 500 tokens × $15/1M = $7,500/month Total: ~$19,800/month ```

Optimización 1 — reducir a top-5 fragmentos: entrada del LLM cae a 2.100 tokens. Entrada = $6.300. Ahorra **$6.000/mes**.

Optimización 2 — habilitar caché de prompts (1.000 tokens del prompt del sistema): lecturas de caché a $0,30/1M vs $3/1M en la porción compartida. Ahorra ~$1.800/mes en tokens del prompt del sistema. Ahorra **~$1.800/mes**.

Optimización 3 — enrutamiento de consultas: envía 60% de consultas a Haiku 3.5 ($0,80/$4 por M). Haiku 60%: 600K × 2.100 entrada / 1M × $0,80 = $1.008; 600K × 500 salida / 1M × $4 = $1.200. Sonnet 40%: 400K × 2.100 entrada / 1M × $3 = $2.520; 400K × 500 salida / 1M × $15 = $3.000. LLM total después del enrutamiento: $7.728 vs $13.800. Ahorra **~$6.072/mes**.

Combinado después de los tres optimizaciones: ~**$5.736/mes** vs original $19.800 — una **reducción de coste del 71%** sin degradación del modelo en el segmento de consulta simple y precisión mejorada en el segmento de consulta compleja.

El orden de implementación: caché de prompts primero (cambio sin código en Anthropic, solo configuración), luego reducción de fragmentos (evalúa calidad de recuperación antes de cortar), luego enrutamiento de consultas (requiere capa de clasificación, mayor esfuerzo de ingeniería pero ahorros en dólares más altos).