Baichuan M2 32B

01 Сколько стоит

1 000 ответов клиенту в чате

≈ $0,13

100 разборов договора на 10 страниц

≈ $0,06

100 текстов для сайта на 5 000 знаков

≈ $0,02

Разработчик сам её не продаёт — самая низкая цена у провайдеров (Novita AI). Модель рассуждает перед ответом, поэтому ответ может выйти в 2–5 раз дороже.

Цены за 1 млн токенов (≈ 1 667 страниц текста).

02 Что умеет

• Понимает: текст
• Отвечает: текст
• Прочитает за раз примерно 218 страниц
• Рассуждает перед ответом — медленнее, но точнее на сложных задачах
• Можно поставить на свой сервер — открытые веса (Apache-2.0)

03 На своём сервере

Размер — 33 млрд параметров. Чем больше параметров, тем больше модель знает и тем мощнее нужен компьютер.

Минимум — сжатая версия

≈ 21 ГБ памяти

Видеокарта 24 ГБ (RTX 4090) или Mac с 36 ГБ

Почти без потери качества

≈ 40 ГБ памяти

Две видеокарты по 24 ГБ или Mac с 64 ГБ

Сжатая версия отвечает чуть хуже оригинала. Оценка для разговора средней длины: для длинных документов нужно больше памяти, а скорость зависит от оборудования.

04 Насколько хороша

Этой модели пока нет в рейтинге LMArena.