Сколько стоит зафайнтюнить Llama 3 на своих данных: расчёт на 4 GPU
Полный расчёт стоимости fine-tuning Llama 3 8B и 70B на RTX 4090, A100 и H100. LoRA, QLoRA, full fine-tune — время, VRAM, цена за полный цикл.
Блог
Статьи о GPU-вычислениях, машинном обучении и облачной инфраструктуре