Neyrus.

Нейросети Llama

Llama-3.1-8B-Instruct

Meta · США вышла: июль 2024

Llama-3.1-8B-Instruct — нейросеть компании Meta. 1 000 ответов клиенту в чате стоят около $0,04. Её можно поставить на свой сервер.

01 Сколько стоит

1 000 ответов клиенту в чате
≈ $0,04
100 разборов договора на 10 страниц
≈ $0,02
100 текстов для сайта на 5 000 знаков
≈ $0,01

Разработчик сам её не продаёт — самая низкая цена у провайдеров (Kilo Gateway).

Где купить Запрос Ответ
Kilo Gateway $0,02 $0,04

Цены за 1 млн токенов (≈ 1 667 страниц текста).

02 Что умеет

  • Понимает: текст
  • Отвечает: текст
  • Прочитает за раз примерно 213 страниц
  • Подключается к вашим системам (CRM, 1С, таблицы) через API
  • Можно поставить на свой сервер — открытые веса
  • Знает события до: декабрь 2023

03 На своём сервере

Размер — 8 млрд параметров. Чем больше параметров, тем больше модель знает и тем мощнее нужен компьютер.

Минимум — сжатая версия
≈ 6 ГБ памяти
ПК с видеокартой 8 ГБ или Mac с 16 ГБ памяти
Почти без потери качества
≈ 10 ГБ памяти
Видеокарта 16 ГБ (RTX 5070 Ti, RTX 4080) или Mac с 24 ГБ

Сжатая версия отвечает чуть хуже оригинала. Оценка для разговора средней длины: для длинных документов нужно больше памяти, а скорость зависит от оборудования.

04 Насколько хороша

В целом
336-е место из 409 49 605 голосов
Русский язык
328-е место из 373 6 589 голосов
Тексты
335-е место из 407 7 346 голосов
Бизнес и финансы
330-е место из 402 5 722 голоса
Юристам
323-е место из 382 2 882 голоса
Медицина
321-е место из 379 2 564 голоса
Код
330-е место из 404 8 582 голоса
Точно по инструкции
337-е место из 409 19 781 голос

LMArena: люди вслепую сравнивают ответы двух моделей и голосуют за лучший. Чем меньше голосов, тем менее надёжно место. Данные на 25 сентября 2026, CC BY 4.0.

Для технических специалистов
Идентификатор
meta/llama-3.1-8b-instruct
Контекст
128 000 токенов
Максимум ответа
4 096 токенов
Дата знаний
2023-12
Параметры
8 030 261 248 · веса в 16 бит
Веса
huggingface.co/meta-llama/Llama-3.1-8B-Instruct

Характеристики: models.dev, 29 сентября 2026 · Размер: Hugging Face · Рейтинг: LMArena (arena.ai), CC BY 4.0 · Названия моделей и логотипы разработчиков — товарные знаки их владельцев.