Llama 3.1 Nemotron Nano 8B v1 Consultez les informations détaillées et les prix des modèles d'IA
Contexte Longueur 131,072 tokens, nvidia de fourni
131,072
Tokens de Contexte
$0.00
Prix du Prompt
$0.00
Prix de sortie
0/16
Support de Fonctionnalités
Présentation du Modèle
Llama-3.1-Nemotron-Nano-8B-v1 is a compact large language model (LLM) derived from Meta's Llama-3.1-8B-Instruct, specifically optimized for reasoning tasks, conversational interactions, retrieval-augmented generation (RAG), and tool-calling applications. It balances accuracy and efficiency, fitting comfortably onto a single consumer-grade RTX GPU for local deployment. The model supports extended context lengths of up to 128K tokens. Note: you must include `detailed thinking on` in the system prompt to enable reasoning. Please see [Usage Recommendations](https://huggingface.co/nvidia/Llama-3_1-Nemotron-Ultra-253B-v1#quick-start-and-usage-recommendations) for more.
Informations de Base
Développeur
nvidia
Série de Modèles
Other
Date de sortie
2025-04-08
Longueur de Contexte
131,072 tokens
Variante
standard
Informations sur les Prix
Jetons de Prompt
$0.00 / 1M jetons
Tokens de Complétion
$0.00 / 1M jetons
Fonctionnalités Prises en Charge
Non pris en charge (16)
Entrée d'Image
Top K
Seed
Pénalité de Fréquence
Pénalité de Présence
Pénalité de Répétition
Format de Réponse
Min P
Biais Logit
Utilisation d'Outils
Logprobs
Top Logprobs
Sorties Structurées
Raisonnement
Options de Recherche Web
Top A