Comments 17
Модно... основные моменты подсветили.
Спасибо за статью. Сам использую Клода чаще чем другие нейронки и очень им доволен.
Он часто выдает отказы, даже на довольно мирные запросы. Стоял вопрос о подписке на него, но банально не хочу поддерживать компанию Antrophic за преднамеренное ухудшение возможностей весьма хорошей базовой модели (Claude 1, ныне его эндроинт залочен обязательной модерацией промпта). Очень редко использую Sonnet для продуманных и сложных инструкций или задач, с ними он справляется лучше конкурентов, но для повседневного использования - только расцензуренные модели по API.
Хотелось бы понять технические ограничения Claude. Например, сколько текста я могу ему передать, чтобы он мог его обработать в полной мере? Например, я его начну учить правилам нового языка программирования. Потом попрошу с учётом этих правил написать программу на этом языке программирования.
Я набросал десяток чётких правил ChatGPT с примерами и после одиннадцатого ИИ не просто поплыл, но напрочь забыл все те 10, которым я его учил до этого и начал генерировать какой-то псевдо-код.
Как поведёт себя в таком случае Claude? Сможет ли он принять правила которым я его учу и писать код? Сколько таких правил можно будет ему передать? Должно ли это быть в одном чате или он обучается по отношению к пользователю? И действительно ли это дообучение или такой же "старческий склероз" как в ChatGPT?
Например, я его начну учить правилам нового языка программирования.
Потом попрошу с учётом этих правил написать программу на этом языке
программирования.
Думаю, для этого общения в чате недостаточно - нужно файнтюнить модель на сотнях примеров применения правил нового языка. Условно, у вас есть функция с 2 параметрами, каждый из которых необязателен. Тогда вы должны как минимум показать примеры с 0 параметров, 2 примера по 1 параметру, один пример с 2 параметрами, а кроме того, примеры с ошибочными значениями параметров. То есть нужна автоматическая генерация тысяч, а то и десятков тысяч примеров, с текстовым описанием, что делает этот кусок кода...
Я пока не пользовалась Claude, но рекомендации и описания читаю.
Обработка запросов зависит от модели Claude. Контекстное окно Claude 2.1 вмещает 200 тыс. слов
Выглядит так, что вам нужно использовать RAG для этих целей. Ну и про langchain заодно почитайте
... в чьей вы команде: Claude или ChatGPT?
В обоих, но мне больше Claude Opus в генрации кода,
хотя студенту-ребенку больше ChatGPT4 в студенческих задачах.
У Claude Opus, правда, есть ограничения, о которых они сами не знают?
>Claude в версии Opus опережает даже GPT-4
А есть результаты MMLU для GPT-4-Turbo-2024-04-09?
86.4% gpt4 показывал в 2023 году, указанная таблица взята судя по всему времен релиза Opus.
С тех пор модель обновлялась и стала лучше, по крайней мере в чатбот арене вернула себе первое место.
В байесовых сетях он немного какнул перед Копилотом премиум.
При этом он категорически отказывается генерировать опасный, оскорбительный, неэтичный контент. Даже если его об этом настойчиво просят
Вангую появление панковских распределённых gpt без подобных ограничений, как это случилось с криптовалютами, которые, по сути - ответ на дичайшую гипер-зарегулированность банковской сферы
Если есть платёжеспособный спрос, всегда появится предложение
RLHF - а чатег гпт не так что ли?
Именно поэтому Claude не будет генерировать опасный или оскорбительный контент, даже если его об этом просят - он обучен этого не делать.
Серьёзно? Кто-то всерьез полагается на то, что пользователи не научат его плохому?
Наконец, за кулисами Claude стоит целая команда, которая следит за безопасностью, непредвзятостью, защитой конфиденциальности. Продуманная система тестирования и контроля позволяет минимизировать риски, связанные с дезинформацией, незаконным контентом, нарушением приватности и прочими угрозами.
А, ну конечно нет, все как и везде, целая команда цензоров...
Как же задолбало уже, я не могу это читать каждый раз. Процесс инференса и процесс обучения - никак не пересекающиеся процессы. Каждый раз, когда открываешь чат заново - сталкиваешься с чистой моделью, которая не поменялась от твоего предыдущего диалога с ней. Да, openai, к примеру, часто обновляют свои модели. Но так-то сами модели от общения с пользователем никак не меняются
Автор заявил, что в статье "дадим практические рекомендации по эффективной работе с этим ИИ-помощником"
Но я так и не увидел описания в чем отличия формулирования запросов и работы с Claude по сравнению с ChatGPT
Как пользоваться Claude: знакомство с главным конкурентом ChatGPT и базовые правила его использования