llama-3.1-8b-instruct
Meta Llama · Оплата за токены · meta-llama/llama-3.1-8b-instruct
Meta выпустила свой последний класс моделей (Llama 3.1) с разнообразными размерами и вариантами. Эта версия с 8B, настроенная на инструкции, быстрая и эффективная. Она продемонстрировала отличную производительность по сравнению с...
131K
Запросов через нас / 24 ч
—
Средняя задержка
—
Успешность
—
Цены
Вход
0,50 ₽ / 100K
Выход
0,80 ₽ / 100K
Кэш (чтение)
0,25 ₽ / 100K
Цены за 100 тыс. токенов — то же, что списывает баланс.
Контекст
131K
Максимум на входе
Макс. выход
118K
Токенов в ответе
Модальности
TT
Выпущена
июль 2024 г.
Задержка
173 мс
p50 до первого токена, замер провайдера
TPS
148 ток/с
Скорость генерации, p50 провайдера
Неделя
55.4B
Токенов провайдера за 7 дней
Возможности
frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyструктурированный выводseedstopструктурированный выводtemperaturetool_choiceвызов инструментовtop_ktop_logprobstop_p
Провайдер и данные
Провайдер
openrouter
Токенизатор
Llama3
Модерация
нет
Статус
в каталоге