En los últimos años, herramientas como GitHub Copilot nos han acostumbrado a una idea a un ritmo alarmante que parecía casi imposible no mucho antes de la explosión de la IA generativa: Acceso al sistema relativamente económico e incluso aparentemente ilimitadoCapacidad para programar, escribir, resumir, razonar o automatizar tareas complejas en segundos. Pero tal vez hayamos empezado a dar por sentado algo que nunca está del todo garantizado: que toda esta energía puede mantenerse indefinidamente a precios sorprendentemente bajos.

El detonante de esta nueva conversación provino del asistente de programación de Microsoft, GitHub Copilot. El 1 de junio, la compañía abandonó su modelo de tarifa plana quien introdujo un sistema junto con este servicio desde el principio Facturación basada en el uso. Los diferentes planes ahora incluyen una cantidad específica de créditos mensuales, cuyo consumo depende del modelo utilizado, el tamaño del contexto, la complejidad de la consulta y el tipo de tareas realizadas. En otras palabras: la experiencia deja de parecer un buffet y empieza a parecerse a un modelo clásico de servicio en la nube.

Como era de esperar, el cambio pronto generó controversia. Apenas unos días después de que el proyecto de ley entrara en vigor, Las reseñas comenzaron a multiplicarse de usuarios que afirmaban haber consumido la mayoría de sus puntos antes de lo esperado.. Algunos desarrolladores incluso hablan de Aumento potencial del costo hasta 100 veces en comparación con el modelo anteriorEspecialmente en escenarios de uso intensivo, largas horas de programación auxiliar o cuando se trabaja con modelos especialmente avanzados. Si bien estos casos parecen corresponder principalmente a perfiles muy densos, el llamado shock de la etiqueta de IA (el momento en que los usuarios descubren cuánto cuesta realmente un servicio basado en IA) está comenzando a ocupar un lugar destacado en las conversaciones.

La explicación técnica detrás del problema no es tan misteriosa como parece. Los modelos de IA no “recuerdan” conversaciones en el sentido estricto de la palabra: para mantener el contexto, Requiere reprocesamiento constante de grandes cantidades de información.. Esto significa que proyectos largos, historiales largos o sesiones largas pueden desencadenar el consumo de tokens muy rápidamente. A esto se suma otra variable importante: no todos los modelos cuestan lo mismo. Completar tareas complejas con opciones particularmente avanzadas puede conllevar un gasto adicional en comparación con modelos más livianos y eficientes, lo que agrega una capa de complejidad financiera a una experiencia que hasta ahora parecía más predecible.

Pero quizás lo más interesante de esta historia es que GitHub Copilot no parece ser un caso aislado. Hace apenas unas semanas, Anthropic endureció los términos para el uso de las herramientas avanzadas de Claude.y OpenAI ha admitido previamente Algunos planes premium son difíciles de sostener financieramentee bajo ciertos patrones de uso. La llegada de agentes de inteligencia artificial, la automatización compleja y procesos cada vez más largos también están comenzando a disparar las demandas informáticas de maneras que eran inimaginables hace apenas un año.

Esta paradoja es particularmente interesante. Técnicamente hablando, operar un modelo de IA es más eficiente hoy que hace apenas unos meses. El hardware mejora, la inferencia se vuelve más barata y las nuevas arquitecturas prometen reducir los costos operativos. Pero al mismo tiempo, Cada salto tecnológico abre nuevos escenarios de uso: Más automatización, más contexto, más agentes, consultas más largas y tareas más complejas. El resultado es que los costos unitarios pueden caer mientras el gasto general sigue creciendo.

Quizás estén empezando a producirse cambios importantes en la forma en que entendemos la economía de estos servicios. Durante un tiempo, la IA casi se consideraba una tarifa fija: pagabas una tarifa y la usabas tanto como podías. Pero propuestas como la nueva política de GitHub Copilot presentan un escenario diferente, más cercano al modelo de nube e incluso al consumo energético: Pague por lo que realmente usa, especialmente cuando se trata de funciones premium.

Probablemente sea demasiado pronto para decir si realmente nos enfrentamos al fin de la IA barata, pero cada vez está más claro que la conversación ha comenzado. Quizás la gran sorpresa de esta nueva etapa no sea descubrir cuánto cuesta crear modelos cada vez más potentes; ¿Cuánto cuesta realmente mantenerlos en funcionamiento? Cuando millones de personas realmente comiencen a usarlos.

Más información