llama-3.1-70b-instruct
Meta Llama · Оплата за токены · meta-llama/llama-3.1-70b-instruct
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases. It has demonstrated strong...
131K
Запросов через нас / 24 ч
—
Средняя задержка
—
Успешность
—
Цены
Вход
4,00 ₽ / 100K
Выход
4,00 ₽ / 100K
Цены за 100 тыс. токенов — то же, что списывает баланс.
Контекст
131K
Максимум на входе
Макс. выход
16K
Токенов в ответе
Модальности
TT
Выпущена
июль 2024 г.
Задержка
367 мс
p50 до первого токена, замер провайдера
TPS
29 ток/с
Скорость генерации, p50 провайдера
Неделя
2.7B
Токенов провайдера за 7 дней
Возможности
frequency_penaltylogit_biasmax_tokensmin_ppresence_penaltyrepetition_penaltyструктурированный выводseedstopструктурированный выводtemperaturetool_choiceвызов инструментовtop_ktop_p
Провайдер и данные
Провайдер
openrouter
Токенизатор
Llama3
Модерация
нет
Статус
в каталоге