Saltar al contenido principal

Catálogo de Modelos LLM como Servicio

Consultar el catálogo actualizado​

El catálogo y ciclo de vida de los modelos es la referencia para los modelos en producción, las deprecaciones, las fechas de fin de soporte, los estatus LTS y las migraciones recomendadas. Utiliza sus filtros y su búsqueda para preparar un nuevo proyecto o seguir los modelos de tus aplicaciones. Para las fechas del ciclo de vida y las migraciones, la información publicada en esta página hace autoridad en caso de discrepancia con un ejemplo anterior o una copia del catálogo.

Esta página explica cómo elegir y utilizar un modelo. Los inventarios, fechas y medidas de rendimiento son consultables directamente en las siguientes fuentes:

NecesidadFuente a consultar
Elegir un modelo, verificar su contexto y su ciclo de vidaCatálogo y ciclo de vida
Obtener las credenciales expuestas por la APIGET /v1/models (documentación)
Verificar la disponibilidad y los rendimientos observadosEstado del servicio
Consultar las evoluciones del servicio y los anuncios de migraciónChangelog LLMaaS
Examinar las medidas pasadasHistorial de supervisión

Elegir según tu uso​

El servicio cubre los usos siguientes. Verifica las capacidades del modelo seleccionado antes de la integración: no todos los modelos admiten las mismas entradas ni las mismas funcionalidades.

Chat y razonamiento​

Para asistentes, síntesis o análisis, compara la calidad de las respuestas sobre tus propios documentos, el tiempo de respuesta y el tamaño de contexto necesario. Para una aplicación llamada a perdurar, examina el estatus LTS y la fecha de fin de soporte publicada.

Programación y agentes​

Para generar código o construir un agente, verifica la admisión de llamadas a herramientas (tool calling) y prueba secuencias completas de ejecución. La guía de inicio rápido presenta un ejemplo de llamada a función.

Visión y multimodal​

Elige un modelo que acepte imágenes para el análisis visual y la extracción de texto. Verifica los formatos admitidos por la API y la capacidad de contexto; la admisión de texto no implica la de imágenes. Consulta los ejemplos de consultas multimodales.

Embedding y búsqueda semántica​

Los embeddings transforman el texto en vectores utilizados por la búsqueda. Compara la cobertura lingüística, la longitud de los textos admitidos y la pertinencia sobre tu corpus. Un cambio de modelo puede requerir recalcular los vectores y reconstruir el índice: no mezcles los embeddings de modelos diferentes. Consulta la guía RAG.

Modelos de Reranking​

El reranking reordena los documentos encontrados según su pertinencia para una pregunta. Complementa la búsqueda vectorial antes de la generación de la respuesta. Los endpoints /v1/rerank y /v2/rerank se presentan en la guía Reranking.

Seguridad y guardrails​

Los modelos de seguridad permiten evaluar contenidos en un recorrido aplicativo. Define los criterios de filtrado, los umbrales y el tratamiento de los casos ambiguos con tus equipos de negocio; valídalos sobre tus datos.

Traducción​

Para una aplicación multilingüe, prueba los idiomas concernidos, tu terminología y la preservación del formato. La calidad debe evaluarse sobre los documentos realmente tratados.

Audio e imagen​

El catálogo incluye usos de transcripción de audio y generación de imágenes. Verifica el modelo y el protocolo requerido para cada uso, especialmente la distinción entre transcripción de archivos y transcripción en tiempo real.

Recuperar las credenciales vía la API​

curl "https://api.ai.cloud-temple.com/v1/models" \
-H "Authorization: Bearer VOTRE_CLE_API"

Utiliza el identificador exacto devuelto por la API en el parámetro model. La presencia de un identificador no garantiza que aún designe al modelo original: un nombre antiguo puede ser redirigido a un sucesor. Verifica también su ciclo de vida.

Preparar la producción​

  1. Selecciona un modelo adecuado a tu uso y verifica su licencia.
  2. Consulta su estatus, su fecha de fin de soporte y su migración recomendada.
  3. Prueba la calidad, la latencia, el costo y las capacidades necesarias sobre tus casos reales.
  4. Conserva el identificador del modelo en la configuración de tu aplicación para facilitar una migración.
  5. Sigue el changelog y aplica la guía de migración cuando se anuncie un cambio.

Las velocidades observadas dependen, entre otros factores, de la carga, de la longitud de las consultas y del modo de generación. Sirven como referencias, no como garantías de rendimiento para tu aplicación.

Para conocer los precios públicos vigentes y establecer tu estimación, consulta el catálogo tarifario oficial Cloud Temple. Para los niveles técnicos, consulta la documentación API. Para los tratamientos diferidos, consulta el modo Batch.