Комментарии 5
Судя по столбцу Cost, они все платные:( А для бесплатных такая табличка есть? Ведь платные - это скорее для тех кто занимается AI-генерацией профессионально и с претензией на извлечение прибыли. А для большинства юзеров, применяющих AI эпизодически (пусть даже и почти каждый день) - разобраться в каком-то вопросе, сгенерировать картинку для статьи - вполне достаточно бесплатных.
Не все платные. llama3, например, вполне можно локально запустить у себя через ollama (там ещё куча других моделей есть)
Часть из этих моделей можно подключать к фронтенду на свой выбор через OpenRouter. Платно, но в целом для большинства получится дешевле, чем подписка на ChatGPT. К тому же без цензуры.
Phi-3 тоже стоило бы упомянуть из свежего, 128к контекста обещается, но моделей 128к ещё нет квантованных
Какая-нибудь польза от 7b моделек есть, как их используют? Потыкал на опенроутере бесплатные модели, мистраль гемма опенчат, работают но очень плохо, даже близко не похожи на древнюю gpt3.5turbo 4к.
LLM Leaderboard за апрель 2024