Ollama, la plataforma para ejecutar modelos de lenguaje de manera local, anunció que su versión 0.35 ahora soporta modelos de decisión tipo Jev, orientados a tareas como la clasificación de tickets, el enrutamiento de modelos y la clasificación de contenido. De acuerdo con el comunicado, todo el procesamiento se realiza completamente en la máquina del usuario, sin necesidad de servicios en la nube.
El componente central de esta actualización es la nueva System One API, que según la empresa está basada en la Jev API de TypeSafe. Esta interfaz permite enviar texto junto con un conjunto de preguntas a la ruta /v1/systemone, y puede utilizarse para clasificar texto, responder preguntas de sí o no, o calificar texto contra una rúbrica. El comunicado señala que la respuesta del modelo incluye la etiqueta seleccionada y una probabilidad para cada opción.
Entre los modelos disponibles para esta funcionalidad se encuentran Nimble 9B, desarrollado por Bespoke Labs, así como Tev1 4B y Tev1 0.8B, ambos de Together AI. La empresa indicó que los usuarios deben actualizar Ollama a la versión 0.35 o superior y luego descargar el modelo deseado. El ejemplo proporcionado en el comunicado es el siguiente:
ollama pull nimble
Una vez descargado, el modelo puede ejecutarse en la máquina del usuario sin requerir una clave de API. El comunicado ejemplifica su uso con la clasificación de un ticket de soporte, aunque no detalla el contenido específico de dicho ticket ni los resultados obtenidos.
La compañía también compartió recursos adicionales para quienes deseen comenzar a utilizar estas capacidades. Entre ellos se incluyen ejemplos publicados en el blog de Ollama, la documentación de la System One API y ejemplos de la API. El comunicado no ofrece más detalles sobre el funcionamiento interno de los modelos ni sobre su rendimiento en comparación con otras alternativas.
Con esta actualización, Ollama busca facilitar tareas de decisión automatizada —como la clasificación de texto y el enrutamiento de solicitudes— manteniendo la privacidad y el control local de los datos, ya que todo el procesamiento ocurre en el equipo del usuario. La empresa no especificó si estos modelos estarán disponibles para todas las plataformas compatibles con Ollama ni si se agregarán nuevos modelos en el futuro.
