Что умеет новый чат-бот Chat with RTX от Nvidia, чем отличается от ChatGPT и как им пользоваться

[maxsaf]

Интересно, почему указано WIN11 в системных требованиях? У меня на WIN10 запустилось без вопросов.

[Vit_32]

И как ощущения от пользования, есть фишки какие, поделись информацией?

[maxsaf]

Работает шустро на GeForce RTX 3070, использует всю видеопамять, при каждом ответе грузит GPU (3D). Под капотом - Mistral 7B int4. Есть функция брать инфу из ваших собственных документов (PDF, Docx etc.) В повседневной работе не использую.

[melodictsk]

Кривое поделие, которое лучше заменить на lm studio и установить любую модель в 2 клика.

[maxcat]

В нативное приложение вот не умеет. С другой стороны у индистудии nvidia нативные приложения кривоватые (GeForce experience), либо дико старые (nvidia control panel)

[palyaros02]

По-русски встроенные модели отказываются работать категорически, хотя они же нормально работают в других похожих софтинах

[dmbozz]

Судя по размеру дистрибутива, все модельки уже в комплекте. Вопрос, можно ли будет добавлять новые, подгружая с того же hugging face, или всё жестко привязано к своим. А то тут новая LLAMA 3 подъехала, и будут ведь ещё. Также непонятно, на кой в требованиях именно Windows 11 прописана, неужели на десятке не запустится?

[maxsaf]

У меня на WIN10 работает

[Chuv1]

Из списка в 12 рекомендованых карт в подвале статьи в магазине в наличии лишь 3.
Отлично прорекламировались.

В статье всё же стоило упомянуть, что Chat with RTX от Nvidia с русским языком работает на уровне пятилетнего ребёнка.

[alextrof94]

"Демонстрационная версия"

[Chuv1]

Да, именно в этом блоке и стоило бы упомянуть об ограничениях демонстрационной версии, таком как качество работы с русским, например.

[Maks786]

А как установить ИИ которая требуется при установке я так и не понял

[darthmaul]

Судя по надписи Mistral на скрине, это просто обёртка для опенсорсных нейронок? Если так, можно ли подгружать свои?