Dracarys Llama 3.1 70B Instruct
вышла: август 2024
Dracarys Llama 3.1 70B Instruct — нейросеть. Её можно поставить на свой сервер.
01 Сколько стоит
Источники, которые мы используем, не публикуют цену этой модели.
02 Что умеет
- Понимает: текст
- Отвечает: текст
- Прочитает за раз примерно 218 страниц
- Можно поставить на свой сервер — открытые веса (Llama 3 Community License)
03 На своём сервере
Размер — 71 млрд параметров. Чем больше параметров, тем больше модель знает и тем мощнее нужен компьютер.
- Минимум — сжатая версия
- ≈ 45 ГБ памяти
- Две видеокарты по 24 ГБ или Mac с 64 ГБ
- Почти без потери качества
- ≈ 87 ГБ памяти
- Сервер с двумя видеокартами по 80 ГБ или Mac Studio с 256 ГБ
Сжатая версия отвечает чуть хуже оригинала. Оценка для разговора средней длины: для длинных документов нужно больше памяти, а скорость зависит от оборудования.
04 Насколько хороша
Этой модели пока нет в рейтинге LMArena.
Для технических специалистов
- Идентификатор
- abacusai/dracarys-llama-3.1-70b-instruct
- Контекст
- 131 072 токенов
- Максимум ответа
- 131 072 токенов
- Лицензия
- Llama 3 Community License
- Параметры
- 70 553 706 496 · веса в 16 бит
- Веса
- huggingface.co/abacusai/Dracarys-Llama-3.1-70B-Instruct
Характеристики: models.dev, 22 октября 2026 · Размер: Hugging Face · Рейтинг: LMArena (arena.ai), CC BY 4.0 · Названия моделей и логотипы разработчиков — товарные знаки их владельцев.