Meta: Llama 3 70B Instruct

meta-llama/llama-3-70b-instruct

Характеристики

Контекстное окно
8,192
Входящие данные
Текст
Исходящие данные
Текст

Цены

Оплата по факту за использованные токены, цены за 1M токенов в рублях.

Входящие токены 50.36 ₽
Исходящие токены 73.08 ₽

Описание модели

Meta's latest class of model (Llama 3) launched with a variety of sizes & flavors. This 70B instruct-tuned version was optimized for high quality dialogue usecases. It has demonstrated strong...

API и примеры кода

Единый OpenAI-совместимый endpoint. Укажите base_url и ключ из личного кабинета.

curl https://app.cloudcompute.ru/api/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/llama-3-70b-instruct","messages":[{"role":"user","content":"Привет!"}]}'
from openai import OpenAI

client = OpenAI(
    base_url="https://app.cloudcompute.ru/api/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="meta-llama/llama-3-70b-instruct",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Полная документация API →