Si se mira desde la perspectiva de que «la inferencia explotará», la posición de @inference_labs en realidad está bastante clara.

Cuando los modelos dejan de diferenciarse por tamaño de parámetros, la verdadera variable se convierte en:
cuántas inferencias pueden realizarse en un mismo período de tiempo.
No se trata de responder más inteligentemente en una sola vez, sino de si se puede pensar de manera continua, de alta frecuencia y en paralelo.

La estructura de pequeños modelos + múltiples Agentes, en esencia, amplifica las llamadas a la inferencia.
Decenas de Agentes corriendo simultáneamente, verificándose entre sí, dividiendo tareas y luego fusionando resultados, no consume «capacidad del modelo», sino canales de inferencia y capacidad de procesamiento.

Inference Labs no busca competir en el rendimiento del modelo en sí, sino que aborda un problema más fundamental:
cuando la inferencia se convierte en algo similar a un flujo de solicitudes, ¿quién puede sostener esa carga?

Esto es similar a cómo, en los primeros años, cuando la frecuencia del CPU alcanzó un cuello de botella, la industria se dirigió hacia la memoria, el bus y el cálculo paralelo.
El poder de cómputo no dejó de ser importante, sino que cómo se gestiona y amplifica es lo que realmente importa.

Por eso, Inference Labs es más como preparar el camino para la próxima etapa en el uso de la IA,
no solo un modelo respondiendo preguntas,
sino un sistema completo de inferencia en funcionamiento continuo.

Los modelos no crecerán indefinidamente, pero la densidad de la inferencia sin duda aumentará.
Una vez que esta tendencia se consolide, el valor de la infraestructura apenas comienza a ser valorado.
@KaitoAI @Bybit_Web3