Sao10K: Llama 3.1 70B Hanami x1

sao10k/l3.1-70b-hanami-x1

Характеристики

Контекстное окно
16,000
Входящие данные
Текст
Исходящие данные
Текст

Цены

Оплата по факту за использованные токены, цены за 1M токенов в рублях.

Входящие токены 296.25 ₽
Исходящие токены 296.25 ₽

Описание модели

This is [Sao10K](/sao10k)'s experiment over [Euryale v2.2](/sao10k/l3.1-euryale-70b).

API и примеры кода

Единый OpenAI-совместимый endpoint. Укажите base_url и ключ из личного кабинета.

curl https://app.cloudcompute.ru/api/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"sao10k/l3.1-70b-hanami-x1","messages":[{"role":"user","content":"Привет!"}]}'
from openai import OpenAI

client = OpenAI(
    base_url="https://app.cloudcompute.ru/api/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="sao10k/l3.1-70b-hanami-x1",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Полная документация API →