Llama-3.1-70B-Instruct
Meta · США вышла: июль 2024
Llama-3.1-70B-Instruct — нейросеть компании Meta. 1 000 ответов клиенту в чате стоят около $0,72. Её можно поставить на свой сервер.
01 Сколько стоит
- 1 000 ответов клиенту в чате
- ≈ $0,72
- 100 разборов договора на 10 страниц
- ≈ $0,36
- 100 текстов для сайта на 5 000 знаков
- ≈ $0,13
Разработчик сам её не продаёт — самая низкая цена у провайдеров (Kilo Gateway).
| Где купить | Запрос | Ответ |
|---|---|---|
| Kilo Gateway | $0,40 | $0,40 |
Цены за 1 млн токенов (≈ 1 667 страниц текста).
02 Что умеет
- Понимает: текст
- Отвечает: текст
- Прочитает за раз примерно 213 страниц
- Подключается к вашим системам (CRM, 1С, таблицы) через API
- Можно поставить на свой сервер — открытые веса
- Знает события до: декабрь 2023
03 На своём сервере
Размер — 71 млрд параметров. Чем больше параметров, тем больше модель знает и тем мощнее нужен компьютер.
- Минимум — сжатая версия
- ≈ 45 ГБ памяти
- Две видеокарты по 24 ГБ или Mac с 64 ГБ
- Почти без потери качества
- ≈ 87 ГБ памяти
- Сервер с двумя видеокартами по 80 ГБ или Mac Studio с 256 ГБ
Сжатая версия отвечает чуть хуже оригинала. Оценка для разговора средней длины: для длинных документов нужно больше памяти, а скорость зависит от оборудования.
04 Насколько хороша
- В целом
- 282-е место из 409 55 240 голосов
- Русский язык
- 282-е место из 373 7 285 голосов
- Тексты
- 284-е место из 407 8 250 голосов
- Бизнес и финансы
- 280-е место из 402 6 381 голос
- Юристам
- 254-е место из 382 3 177 голосов
- Медицина
- 268-е место из 379 2 821 голос
- Код
- 279-е место из 404 9 389 голосов
- Точно по инструкции
- 286-е место из 409 21 910 голосов
LMArena: люди вслепую сравнивают ответы двух моделей и голосуют за лучший. Чем меньше голосов, тем менее надёжно место. Данные на 25 сентября 2026, CC BY 4.0.
Для технических специалистов
- Идентификатор
- meta/llama-3.1-70b-instruct
- Контекст
- 128 000 токенов
- Максимум ответа
- 4 096 токенов
- Дата знаний
- 2023-12
- Параметры
- 70 553 706 496 · веса в 16 бит
- Веса
- huggingface.co/meta-llama/Llama-3.1-70B-Instruct
Характеристики: models.dev, 29 сентября 2026 · Размер: Hugging Face · Рейтинг: LMArena (arena.ai), CC BY 4.0 · Названия моделей и логотипы разработчиков — товарные знаки их владельцев.