Llama-3.1-8B-Instruct

Llama‑3.1‑8B‑Instruct è un modello generativo di linguaggio ottimizzato per casi d'uso di dialogo multilingua. Utilizza un'architettura transformer avanzata ed è stato allineato alle preferenze umane tramite supervised fine tuning e reinforcement learning with human feedback. Supporta function calling e streaming, ed è pensato per scenari di assistenza conversazionale dove la reattività e l'efficienza sono prioritarie grazie alla dimensione contenuta da 8 miliardi di parametri.

• SEDE DEL PROVIDER: Extra UE
• PARAMETRI: 8B
• CONTESTO MAX: 128K token
• LICENZA: Llama 3.1 Community License
• FUNZIONALITÀ: Function calling, Multilingue
• OUTPUT FORMATS: Raw_text, Json_object, Json_schema

• Assistente conversazionale multilingua
• Generazione di testi
• Chatbot per customer service
• Prototipazione rapida di applicazioni AI

curl --request POST \
--url https://apiaruba.it/aiplatform/v1/chat/completions \
--header 'content-type: application/json' \
--header 'x-aruba-api-key: *****' \
--data '{
"model": "Llama-3.1-8B-Instruct",
"messages": [
{
"role": "system",
"content": "Sei un assistente conciso."
},
{
"role": "user",
"content": "Spiega cos'\''è un embedding."
}
],
"temperature": 0.7,
"max_tokens": 300
}'

{
"id": "chatcmpl-3b8b1020-a4f7-4b63-a55a-09306eb74de7",
"created": 1787560677,
"model": "Llama-3.1-8B-Instruct",
"object": "chat.completion",
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "Un embedding (in italiano \"inserimento\") è un concetto fondamentale nell'apprendimento automatico e nella rappresentazione dei dati. \n\nIn generale, un embedding è una rappresentazione di un oggetto o di un'entità (ad esempio un testo, un'immagine, un'etichetta) in uno spazio vettoriale di dimensioni fisse, in modo da poter rappresentare in modo numerico e comprensibile le caratteristiche e le relazioni tra gli oggetti stessi.\n\nL'obiettivo di un embedding è quello di mappare gli oggetti in uno spazio vettoriale in cui gli oggetti simili o correlati sono vicini tra loro, mentre gli oggetti diversi sono più lontani.\n\nEsempi di embedding:\n\n- **Word Embedding**: rappresentazione dei vocaboli in uno spazio vettoriale, in modo che parole simili (ad esempio \"gatto\", \"gatto nero\") siano vicine tra loro.\n- **Image Embedding**: rappresentazione di immagini in uno spazio vettoriale, in modo che immagini simili (ad esempio due immagini di un gatto) siano vicine tra loro.\n- **Node Embedding**: rappresentazione dei nodi di un grafo in uno spazio vettoriale, in modo che nodi simili (ad esempio nodi di un gruppo di amici) siano vicini tra loro.\n\nGli embedding sono fondamentali nell'apprendimento automatico perché consentono di applicare tecniche di apprendimento automatico come la classificazione, la regressione e la clustering in modo più efficace.",
"role": "assistant",
"provider_specific_fields": {
"reasoning": null,
"refusal": null
}
},
"provider_specific_fields": {}
}
],
"usage": {
"completion_tokens": 376,
"prompt_tokens": 52,
"total_tokens": 428
}
}

• Mistral‑Nemo‑Instruct‑2407

• Hugging Face
• Documentazione Llama
• Blog Meta AI