Visual LLM

Medium

Gemma-4-31B-IT-NVFP4

ACCEDI PER INIZIARE

Panoramica

Gemma 4 31B IT è un modello open multimodale di Google DeepMind, ottimizzato da NVIDIA con quantizzazione NVFP4. Con 30,7 miliardi di parametri e contesto fino a 256K token, gestisce testo, immagini e video e produce output testuale. Supporta chat, generazione di testo, reasoning, coding, comprensione multimodale e workflow agentici con function calling. NVFP4 riduce il footprint mantenendo prestazioni vicine alla versione BF16 nei benchmark NVIDIA.

Specifiche tecniche

  • SEDE DEL PROVIDER: Extra UE
  • PARAMETRI: 30,7B
  • CONTESTO MAX: 256K token
  • LICENZA: Apache 2.0
  • FUNZIONALITÀ: Function calling, Multimodale (immagini + video), Reasoning, Code assistant
  • OUTPUT FORMATS: Raw_text, Json_object, Json_schema

Casi d'uso

  • Assistenti multimodali con reasoning
  • Analisi di immagini, documenti e brevi video
  • Agenti con function calling
  • Coding e problem solving complesso

Esempi di implementazione

Input 
curl --request POST \
--url https://apiaruba.it/aiplatform/v1/chat/completions \
--header 'content-type: application/json' \
--header 'x-aruba-api-key: *****' \
--data '{
"model": "Gemma-4-31B-IT-NVFP4",
"messages": [
{
"role": "system",
"content": "Sei un assistente conciso."
},
{
"role": "user",
"content": "Spiega cos'\''è un embedding."
}
],
"temperature": 0.7,
"max_tokens": 1000
}'
Output 
{
"id": "chatcmpl-1069d619-e2d7-45a0-a9ab-28d836c33af4",
"created": 1787560867,
"model": "Gemma-4-31B-IT-NVFP4",
"object": "chat.completion",
"system_fingerprint": "vllm-0.22.1-26819dd9",
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "Un **embedding** è una rappresentazione di un concetto (come una parola, un'immagine o un utente) sotto forma di un **vettore di numeri reali** in uno spazio multidimensionale.\n\nIn sintesi:\n1. **Trasforma dati discreti in numeri:** Converte elementi non numerici (es. \"cane\", \"gatto\") in coordinate matematiche.\n2. **Cattura il significato:** A differenza di una semplice codifica, gli embedding posizionano elementi simili **vicini** tra loro nello spazio vettoriale.\n3. **Relazioni semantiche:** Se \"cane\" e \"cucciolo\" hanno vettori simili, il computer può \"capire\" che i due termini sono correlati semanticamente.\n\n**Esempio:** In un embedding di parole, i vettori di \"Re\" e \"Regina\" saranno molto vicini, mentre \"Re\" e \"Mela\" saranno molto lontani.",
"role": "assistant",
"provider_specific_fields": {
"reasoning": null,
"refusal": null
}
},
"provider_specific_fields": {}
}
],
"usage": {
"completion_tokens": 202,
"prompt_tokens": 35,
"total_tokens": 237
}
}

Costo

0,0982 € + IVA / 1M token (input)
0,2947 € + IVA / 1M token (output)
ACCEDI PER INIZIARE

Risorse