La IA está desperdiciando millones de tokens.

11 0

El verdadero problema de la IA no sería la potencia.

La IA está desperdiciando millones de tokens y un nuevo análisis publicado por Xataka pone sobre la mesa uno de los problemas menos comentados dentro de la inteligencia artificial actual. Aunque normalmente toda la conversación gira alrededor de modelos más potentes y avanzados, la realidad es que gran parte de los recursos utilizados simplemente se están desperdiciando.

Los llamados “tokens” son pequeñas unidades de texto que utilizan modelos como ChatGPT, Gemini o Claude para procesar información y generar respuestas. Sin embargo, diversos expertos aseguran que una enorme cantidad de esos tokens terminan consumiéndose de manera innecesaria.

La IA está desperdiciando millones de tokens innecesariamente.

Uno de los puntos más importantes del análisis explica que muchos modelos actuales procesan cantidades enormes de información irrelevante para responder preguntas relativamente simples.

Esto provoca que empresas gasten más dinero en infraestructura, servidores y consumo energético sin obtener realmente una mejora proporcional en calidad o precisión.

Además, el problema se vuelve todavía más importante conforme los modelos aumentan su ventana de contexto y capacidad para procesar documentos completos, conversaciones largas o grandes volúmenes de información.

Según el reporte, muchas veces los modelos terminan “leyendo” enormes cantidades de texto que realmente no aportan nada útil a la respuesta final.

Tokens desperdiciados en IA

El desperdicio también aumenta costos y energía.

El crecimiento de la inteligencia artificial provocó un aumento gigantesco en la demanda de centros de datos y hardware especializado. Empresas como OpenAI, Google, Microsoft y Meta invierten miles de millones de dólares para mantener funcionando sus modelos.

Sin embargo, si buena parte de los tokens procesados son irrelevantes, el costo operativo también aumenta innecesariamente.

Además del aspecto económico, también existe preocupación por el consumo energético y el impacto ambiental de ejecutar modelos cada vez más grandes.

Por eso, varias compañías ya trabajan en sistemas de compresión, memoria más eficiente y técnicas que permitan utilizar menos tokens sin perder calidad en las respuestas.

La industria busca modelos más eficientes.

Durante los últimos meses comenzaron a aparecer propuestas enfocadas en optimización antes que únicamente en aumentar tamaño o potencia.

Algunos investigadores consideran que el futuro de la IA dependerá más de la eficiencia que de seguir aumentando brutalmente la cantidad de parámetros y contexto procesado.

Además, varias empresas ya exploran arquitecturas capaces de identificar qué información realmente es útil antes de procesarla completamente, reduciendo así el desperdicio de recursos.

El futuro de la IA también depende de la eficiencia.

La conversación alrededor de inteligencia artificial normalmente se enfoca en qué modelo es más poderoso o más avanzado. Sin embargo, el problema del desperdicio de tokens demuestra que la eficiencia también será una pieza clave para el futuro de esta industria.

Mientras los modelos continúan creciendo, compañías y desarrolladores tendrán que encontrar formas mucho más inteligentes de utilizar recursos sin disparar todavía más los costos y el consumo energético.


Conoce más…

Galaxy Z Fold8 sería más delgado y sin S Pen.

iPhone Ultra plegable producción.

Wear OS 7 ya es oficial: estas son sus novedades.

¿Quieres encontrar buenas ofertas de Amazon y recomendaciones de productos de calidad en México? Dale clic AQUÍ y únete al canal de TelegramCarlos Vassan PROMOS.

Deja una respuesta

Salir de la versión móvil