Рассчитайте требуемую видеопамять для запуска LLM моделей
Выберите модель и метод квантования
Требуемая видеопамять
Минимальная VRAM для запуска Llama 3 70B с квантованием FP16