Эту модель можно также запустить на своём GPU — требования к VRAM и совместимые видеокарты в базе моделей.
Запустить на GPUХарактеристики
- Контекстное окно
- 131,072
- Входящие данные
- Текст
- Исходящие данные
- Текст
Цены
Оплата по факту за использованные токены, цены за 1M токенов в рублях.
| Входящие токены | 9.88 ₽ |
| Исходящие токены | 31.60 ₽ |
Описание модели
The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model...
API и примеры кода
Единый OpenAI-совместимый endpoint. Укажите base_url и ключ из личного кабинета.
curl https://app.cloudcompute.ru/api/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"meta-llama/llama-3.3-70b-instruct","messages":[{"role":"user","content":"Привет!"}]}'from openai import OpenAI
client = OpenAI(
base_url="https://app.cloudcompute.ru/api/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="meta-llama/llama-3.3-70b-instruct",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)