SGLang-Neuron ahora está disponible públicamente a través de un contenedor de aprendizaje profundo de AWS. Con SGLang-Neuron, puede servir modelos y generar implementaciones de aprendizaje por refuerzo con SGLang en AWS Trainium utilizando el mismo SGLang int...
Los nuevos modelos restablecen la frontera entre capacidad y precio-rendimiento. Los equipos reevalúan sobre qué construir cada vez que un lanzamiento cambia lo que es posible por dólar.
Los resúmenes se agregan únicamente con fines informativos; siga el enlace fuente para ver la historia completa. Las entradas de demostración son ilustrativas.