Vision LLM

Medium

Mistral-Small-3.2-24B-Instruct-2506

ACCEDI PER INIZIARE

Panoramica

Mistral‑Small‑3.2‑24B aggiunge capacità di comprensione visiva di alto livello alla solida base testuale della serie Mistral Small. Con 24 miliardi di parametri e contesto fino a 128.000 token, eccelle in conversazione multilingua, generazione di codice, comprensione di istruzioni complesse e analisi di immagini. Supporta nativamente function calling, output strutturato in JSON e streaming, rendendolo versatile per applicazioni che richiedono sia elaborazione testuale sia visiva.

Specifiche tecniche

  • SEDE DEL PROVIDER: UE
  • PARAMETRI: 24B
  • CONTESTO MAX: 128K token
  • LICENZA: Apache 2.0
  • FUNZIONALITÀ: Function calling, Multimodale
  • OUTPUT FORMATS: Raw_text, Json_object, Json_schema

Casi d'uso

  • Assistente multimodale enterprise
  • Analisi visiva di documenti e grafici
  • Chatbot multilingua
  • Automazione con function calling

Esempi di implementazione

Input 
curl --request POST \
--url https://apiaruba.it/aiplatform/v1/chat/completions \
--header 'content-type: application/json' \
--header 'x-aruba-api-key: *****' \
--data '{
"model": "Mistral-Small-3.2-24B-Instruct-2506",
"messages": [
{
"role": "system",
"content": "Sei un assistente conciso."
},
{
"role": "user",
"content": "Spiega cos'\''è un embedding."
}
],
"temperature": 0.7,
"max_tokens": 1000
}'
Output 
{
"id": "chatcmpl-8ae79cc9-c696-494f-b14e-d099fdeb15e7",
"created": 1787560845,
"model": "Mistral-Small-3.2-24B-Instruct-2506",
"object": "chat.completion",
"system_fingerprint": "vllm-0.24.0-93d5b3f2",
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "Un embedding è una rappresentazione numerica di dati, solitamente in forma vettoriale, che permette di catturare le relazioni e le similitudini tra elementi in uno spazio multidimensionale. Viene spesso utilizzato in machine learning e elaborazione del linguaggio naturale per trasformare dati complessi (come parole, immagini o documenti) in rappresentazioni più semplici e gestibili, preservando le relazioni semantiche o strutturali tra di essi.",
"role": "assistant",
"provider_specific_fields": {
"reasoning": null,
"refusal": null
}
},
"provider_specific_fields": {}
}
],
"usage": {
"completion_tokens": 97,
"prompt_tokens": 19,
"total_tokens": 116
}
}

Costo

0,0614 € + IVA / 1M token (input)
0,1637 € + IVA / 1M token (output)
ACCEDI PER INIZIARE

Risorse