Reasoning LLM

Large

gpt-oss-120b

ACCEDI PER INIZIARE

Panoramica

gpt‑oss‑120b è il modello più potente della famiglia gpt‑oss. Con 117 miliardi di parametri totali e 5,1 miliardi attivi, è pensato per ragionamento avanzato, istruzioni multi step e flussi agentici complessi. Il contesto da 131.072 token permette di elaborare documenti estesi, analisi articolate e conversazioni prolungate mantenendo coerenza. Supporta function calling, output strutturato in JSON e streaming.

Specifiche tecniche

  • SEDE DEL PROVIDER: Extra UE
  • PARAMETRI: 117B (5,1B attivi)
  • CONTESTO MAX: 131K token
  • LICENZA: Apache 2.0
  • FUNZIONALITÀ: Function calling, Reasoning
  • OUTPUT FORMATS: Raw_text, Json_object, Json_schema

Casi d'uso

  • Ragionamento multi step su documenti lunghi
  • Agenti autonomi con decisioni complesse
  • Analisi legale e compliance
  • Generazione di report strutturati

Esempi di implementazione

Input 
curl --request POST \
--url https://apiaruba.it/aiplatform/v1/chat/completions \
--header 'content-type: application/json' \
--header 'x-aruba-api-key: *****' \
--data '{
"model": "gpt-oss-120b",
"messages": [
{
"role": "system",
"content": "Sei un assistente conciso."
},
{
"role": "user",
"content": "Spiega cos'\''è un embedding."
}
],
"temperature": 0.7,
"max_tokens": 1000
}'
Output 
{
"id": "chatcmpl-5c3c7148-63df-4255-a49d-b6811f1d326d",
"created": 1787560820,
"model": "gpt-oss-120b",
"object": "chat.completion",
"system_fingerprint": "vllm-0.24.0-0068fb53",
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "Un **embedding** è una rappresentazione numerica (solitamente un vettore di dimensione ridotta) di dati discreti o strutturati (parole, immagini, nodi di un grafo, ecc.) in uno spazio continuo. Lo scopo è catturare le relazioni semantiche o strutturali: elementi simili nel dominio originale hanno vettori vicini nella rappresentazione.\n\n- **Word embedding** (es. Word2Vec, GloVe): mappa parole in vettori dove la distanza riflette similarità di significato.\n- **Image embedding**: estratto da una rete neurale convoluzionale, consente confronti di immagini tramite distanza euclidea o coseno.\n- **Graph embedding**: mappa nodi o interi grafi in vettori per compiti come classificazione o clustering.\n\nGli embedding si apprendono tipicamente tramite reti neurali (auto‑encoder, modelli di language modeling, contrastive learning) o metodi di fattorizzazione matriciale, riducendo la dimensionalità e facilitando l’uso di algoritmi di machine learning tradizionali.",
"role": "assistant",
"reasoning_content": "The user asks in Italian: \"Spiega cos'è un embedding.\" They want explanation of what an embedding is. Concise. So respond in Italian, concise. Probably define embedding in machine learning, vector representation, mapping from discrete to continuous space, examples like word embeddings, image embeddings, etc. Keep concise.",
"provider_specific_fields": {
"reasoning": "The user asks in Italian: \"Spiega cos'è un embedding.\" They want explanation of what an embedding is. Concise. So respond in Italian, concise. Probably define embedding in machine learning, vector representation, mapping from discrete to continuous space, examples like word embeddings, image embeddings, etc. Keep concise.",
"refusal": null
}
},
"provider_specific_fields": {}
}
],
"usage": {
"completion_tokens": 307,
"prompt_tokens": 89,
"total_tokens": 396
}
}

Costo

0,0319 € + IVA / 1M token (input)
0,1474 € + IVA / 1M token (output)
ACCEDI PER INIZIARE

Risorse