Together AI

Together AI se ha consolidado como una plataforma líder para acceder a LLMs de código abierto a través de una API rápida y amigable para los desarrolladores. Su motor de inferencia ofrece una velocidad impresionante, superando a menudo a los competidores en rendimiento para modelos populares como Llama 3, Mixtral y Qwen. Los precios por token son competitivos y transparentes, lo que lo hace accesible tanto para la creación de prototipos como para cargas de trabajo en producción.

La plataforma destaca en el alojamiento de modelos con un extenso catálogo de modelos de código abierto disponibles de inmediato, además de soporte para ajuste fino personalizado e implementaciones dedicadas. Su pipeline de ajuste fino es sencillo, aunque las opciones de personalización de entrenamiento avanzado son algo limitadas en comparación con plataformas MLOps dedicadas. Las ofertas de nube GPU son sólidas pero menos flexibles que los proveedores de infraestructura pura como Lambda o CoreWeave.

Entre sus puntos fuertes se encuentran una velocidad de inferencia excepcional, endpoints de API compatibles con OpenAI para una migración sencilla y un sólido soporte de modelos de código abierto. Las limitaciones incluyen un control menos granular sobre la infraestructura y que los costes pueden escalar a volúmenes muy altos en comparación con el autoalojamiento. En general, Together AI es una excelente opción para equipos que desean un acceso rápido y fiable a los mejores modelos de código abierto sin gestionar infraestructura.