Обновить

Моя лента

Тип публикации
Порог рейтинга
Уровень сложности
Предупреждение
Войдите или зарегистрируйтесь, чтобы настроить фильтры

125 токенов в секунду на RTX 4070 Ti SUPER: как я заставил локальную LLM работать полноценным кодинг-агентом

По статистике, среди рядовых пользователей настольных компов самая распространенная видеокарта имеет 16 ГБ видеопамяти. По опросам GaugeDB, такие карты занимают 27,21% рынка. У меня как раз видеокарта NVIDIA GeForce RTX 4070 Ti SUPER с 16 ГБ видеопамяти GDDR6X, которая на текущий момент стоит 900$. До сего момента главной проблемой было то, что на видеокарте такого класса невозможно было запустить LLM-агента, который будет достаточно умным и достаточно быстрым. Если запускаешь умную модель типа Qwen 3.8 27B (Dense архитектура), то на выходе получаешь 10-20 токенов в секунду. А для комфортной работы кодинг-агента надо 100-150 токенов в секунду.

125 токенов в секунду на RTX 4070 Ti SUPER: как я заставил локальную LLM работать полноценным кодинг-агентом
Статья

Кибермарксизм, или почему ИИ несовместим с капитализмом, и почему нас ждёт слом социально-экономической формации

Уровень сложностиПростой
Время на прочтение17 мин
Охват и читатели32

Изо всех американских утюгов до нас доносятся возгласы о том, что необходимо срочно бросить всё, бежать строить свои продукты с использованием искусственного интеллекта и продавать их, а те, кто этого не сделает, навечно попадёт в "permanent underclass". "Скоро новый феодализм!", "Работ больше не будет!", "Выживут только те, кто будет строить своё" - кричат нам голоса со стороны пар... пар... пр.. простите, Твиттера. Очевидно, для чего панику нагоняют продавцы LLM токенов - страх хорошо продаёт. А вот поддерживающие их впавшие в ИИ-психоз громкогласные "технобро" просто не понимают того, как вообще устроена экономика, и на это свойственное технарям неведение относительно других областей человеческой деятельности накладывается ещё и свойственная американцам принципиальная неспособность мыслить вне рамок капитализма.

В этом посте я хочу обсудить то, какое реальное влияние ИИ оказывает на экономику, почему ИИ принципиально несовместим с капиталистической системой экономических отношений, и как распространение ИИ-инструментов должно привести нас к слому текущего социально-экономического строя, и в чём состоит принципиальная логическая несостоятельность криков о "permanent underclass". Но начнём мы немного издалека.

Читать далее

Новости

Новость

Представлен проект YAM (Y Application Manager) — неофициальный менеджер пакетов для «Яндекс Станций» через ADB-доступ

Время на прочтение2 мин
Охват и читатели10

Разработчик под ником nyakokitsu представил открытый проект YAM (Y Application Manager). Это сторонний и неофициальный менеджер пакетов для «Яндекс Станций». Решение позволяет (после получения ADB-доступа) устанавливать на «Станции» собственные приложения, управлять аппаратными функциями устройства через браузер и запускать приложения на Linux.

Читать далее
Пост

Обсудили побеги ИИ-агентов и безопасность с сооснователем HiveTrace

На подкаст к нашему директору департамента стратегического развития ИИ-продуктов Диме Юдину заглянул Евгений Кокуйкин — ко-фаундер компании HiveTrace, которая занимается разработкой решений для безопасного использования генеративного ИИ. 

Что обсудили:

  • как сломать системный промпт с помощью манной каши;

  • чему побег агента OpenAI и взлом Hugging Face могут научить рынок;

  • как работают троянские MCP-серверы и как пропущенный pull-request может обернуться rug pull-ом;

  • проблему мисалайнменета и как агенты срезают путь к решению задачи;

  • теневое использование ИИ в компаниях и способы от него защититься;

  • отставание секьюрити-практик от технологий.

Добавляйте в закладки и смотрите, где удобно: YouTube | VK Видео | Rutube

Теги:
0
Комментарии0
Новость

NVIDIA тихо скорректировала спецификации Vera Rubin

Время на прочтение2 мин
Охват и читатели430

NVIDIA без публичных анонсов обновила официальные спецификации платформы Vera Rubin. Корректировка затронула пропускную способность стеков памяти HBM4 и интерфейса NVLink шестого поколения, в то время как пропускная способность сетевой подсистемы scale-out была увеличена.

Читать далее
Новость

Коммитов +240%, релизов +30%. NBER изучил 500 000 разработчиков и нашёл, где теряется эффект AI

Время на прочтение3 мин
Охват и читатели427

Экономисты Mert Demirer, Leon Musolff и Liyuan Yang разобрали телеметрию AI-инструментов у более чем 500 000 разработчиков на GitHub и посчитали, сколько от прироста производительности доживает до выпущенного продукта. Автономные агенты поднимают число коммитов на 240%, число проектов на 80%, а число реальных релизов только на 30%.

Читать далее
Статья

Книга «PostgreSQL 18. Оптимизация запросов»: основы работы планировщика в компактном формате

Уровень сложностиПростой
Время на прочтение6 мин
Охват и читатели883

Запрос тормозит, а EXPLAIN ANALYZE выдаёт простыню узлов, в которой непонятно, на чём остановиться. Postgres Professional выпустила бесплатную книгу «PostgreSQL 18. Оптимизация запросов» на основе курса QPT. Она объясняет, как планировщик оценивает кардинальность и стоимость, как читать планы и какие приёмы работают для OLTP и OLAP. Читать можно хоть в метро: результаты запросов уже вплетены в текст, терминал не нужен.

Читать далее
Статья

Системное программирование на C++: процессы, C-API и WinAPI

Уровень сложностиСредний
Время на прочтение18 мин
Охват и читатели930

Привет, Хабр!

Это вторая статья цикла про C++. В первой я разбирал базу для тех, кто начинает с нуля: переменные, циклы, классы, контейнеры. Здесь идём на уровень ниже — как обычная C+±программа договаривается с операционной системой.

Сразу скажу, зачем я вообще полез в эту тему. В колледже была лаба, где нужно было поднять процесс, дождаться его и снять код возврата. Я неделю не понимал, почему fork() в одном случае возвращает ноль, а в другом — PID, и почему после exec ребёнок «исчезает». Препод объяснил это минут за десять — и я понял, что половину объяснений всё равно не понял. С тех пор я пишу такие вещи с расстановкой: не «fork() создаёт процесс», а что именно он возвращает, что происходит в коде после вызова и что будет, если забыть закрыть дескрипторы. Поэтому статей будет много, а примеров в каждой — ещё больше.

Что дальше в цикле, чтобы было понятно, куда мы движемся:

Читать далее
Статья

Где Runtime Async в .NET 11 экономит память, а где нет

Уровень сложностиСложный
Время на прочтение11 мин
Охват и читатели725

В.NET 11 привычный механизм async/await меняется: управление приостановкой методов переходит к рантайму, а JIT получает новые возможности для оптимизации. Но насколько это снижает аллокации в реальном коде и почему результаты замеров иногда противоречат друг другу? Разбираем Runtime Async на примере бенчмарков, сравниваем результаты с классической реализацией и выясняем, в каких сценариях выигрыш действительно заметен.

Изучить результаты тестов
Статья

“Залипший” сентябрь: как флагман Honor Magic6 Pro и «умный» сканер Сбера едва не загнали меня в долг по ЖКХ

Уровень сложностиПростой
Время на прочтение3 мин
Охват и читатели610

Эта история о том, как избыточная мощность современного смартфона, помноженная на особенности кэширования мобильного приложения, может создать идеальный плавающий баг (race condition) на стыке финтеха и ЖКХ. И если бы не моя привычка перепроверять цифры, я бы гарантированно ушел в неосознанный долг перед поставщиком газа.

DISCLAIMER. Мои предположения и выводы о причинах возникновения описанной ниже технической проблемы изложены исключительно исходя из моего личного анализа фактов и событий.

Конец октября 2026 года. В почтовый ящик падает стандартный ежемесячный счет-квитанция за газоснабжение от РСО. Месяц расчета - октябрь 2026, дата формирования - 27.10.2026. В правом верхнем углу счета - привычный QR-код для быстрой оплаты по ГОСТу. Контекст тут важный: в октябре в России как раз произошло плановое изменение тарифов на коммунальные услуги, поэтому октябрьская сумма была ощутимо выше сентябрьской.

Я открываю приложение «СберБанк Онлайн» на своём телефоне, нажимаю кнопку оплаты по QR, навожу камеру на квитанцию и… замираю. Приложение Сбера вместо октябрьских данных подставляет мне экран с полностью оплаченным прошлым счетом за сентябрь 2026 года и, соответственно, старой, меньшей сентябрьской суммой. Первая мысль любого параноика в сфере ЖКХ — РСО накосячили и напечатали старый QR-код на новой квитанции. Я закрываю Сбер, открываю стандартное приложение камеры смартфона в режиме чтения кодов и сканирую QR-код просто как текст. На экран выводится «тело» ссылки следующего вида (строка данных по ГОСТ): Name=Межрегионгаз|PersonalAcc=XXXXXXXX|Sum=[НоваяОктябрьскаяСумма]|Period=102026....

Читать далее
Статья

Эволюция взглядов World Economic Forum на будущее рынка труда и как это влияет на руководителей проектов

Уровень сложностиПростой
Время на прочтение15 мин
Охват и читатели719

WEF выпустил четыре масштабных отчета «Future of Jobs» - в 2016, 2020, 2023 и 2025 годах, суммарно на 916 страниц. Это летопись того, как мы учились понимать будущее. От технологического детерминизма (2016: «технологии изменят все») через кризисное осознание (2020: «изменения ускорились») и посткризисную корректировку (2023: «не все так быстро») к зрелой картине (2025: «человек + технология = формула успеха»).

Отчеты WEF, конечно, не сфокусированы на профессии руководителя проектов. Они про рынок труда в целом, про профессии и навыки во всех отраслях. И все-таки предлагаю попробовать посмотреть на них (отчеты) через призму проектных компетенций.

Для организаций, развивающих проектные компетенции, вывод однозначен: будущее за РП, который сочетает методологическую грамотность, ИИ-компетенции, лидерские качества, ESG-понимание и человеческую эмпатию. Сложный профиль, но именно таких ждет рынок.

Читать далее
Статья

Маршрутизатор языковых моделей изнутри. От вектора задачи до судьи и обучения на отзывах

Уровень сложностиСложный
Время на прочтение22 мин
Охват и читатели851

Раннее мы описывали библиотеку FAIRouter для маршрутизации запроса к оптимальному исполнителю. В текущей редакции поддерживаются только LLM, но класс исполнителей планируем расширять также на инструменты и агентов. Но тема того какая математика стоит за всем этим осталась не до конца раскрыта.

Читать далее
Статья

Web search/fetch API нейросетей для бизнеса: что это, какие ошибки возникают и как подключить с оплатой в рублях

Время на прочтение15 мин
Охват и читатели703

Страница документации размером всего 100 КБ обходится языковой модели примерно в 25 000 токенов. Такую оценку Anthropic приводит в описании своего инструмента web fetch, а для обычной страницы на 10 КБ — около 2 500 токенов. Если агент без ограничений загружает пять таких страниц подряд, он за один шаг съедает заметную часть контекстного окна и бюджета. Добавьте к этому то, Cloudflare по умолчанию блокирует ИИ-краулеры и может отвечать им кодом 402 Payment Required.

Читать далее
Статья

Попросил Claude починить прокрутку в Linux под UTM — получил демон, окно настроек и находку в libinput

Уровень сложностиСредний
Время на прочтение8 мин
Охват и читатели963

Работаю в VS Code в Linux-виртуалке UTM на маке, и прокрутка там всегда прыгала по три строки и очень чувствительна к движениям пальца, вместо прокрутки приходилось пользоваться обычными стрелками на клаве. Ранее я уже просил Claude это исправить: поставили замедлитель и imwheel, не помогло, на этом и остановились. В этот раз Claude Opus 5.5 за один чат и пару моих правок разобрался до конца. Выяснилось, что причин три, и одна сидит в самом libinput (уж очень клод акцентирует внимание на этой причине): он придерживает первые пол-щелчка каждого жеста и выдаёт их рывком. Claude написал прогу с интерфейсом и настройками, залил всё на GitHub. До идеала macOS не дотягивает - первое движение нужно делать чуть длиннее, чем на маке. В остальном прокрутка плавная и привычная, результатом доволен. В статье - технический разбор, как это получилось. Картинка, вся работа и статья от клода опус 5.5.

Читать далее

Ближайшие события

Статья

Восемь ИИ-агентов и пять способов узнать, что они делают: как мы подключали OpenCode, Kilo и Pi к чёлке Mac

Уровень сложностиСредний
Время на прочтение7 мин
Охват и читатели962

Lumio — бесплатное приложение для чёлки MacBook. Оно показывает, что сейчас делают ваши ИИ-агенты: кто работает, кто закончил, кто ждёт разрешения на команду. Разрешить можно прямо из чёлки, не переключаясь в терминал. Ещё есть пиксельный офис, где каждая сессия — человечек за своим столом.

До сегодняшнего дня Lumio понимал Claude Code, Codex, Cursor, GitHub Copilot и Antigravity. В 1.3 добавились OpenCode, Kilo Code и Pi. Казалось бы, ещё три строки в настройках. На деле — три разных способа подключиться и одна неделя, из которой два дня ушли не на код, а на то, чтобы проверить его на настоящих агентах без платных ключей.

Читать далее
Статья

Что стоит проверить перед внедрением ИИ-агента в корпоративную среду

Уровень сложностиПростой
Время на прочтение8 мин
Охват и читатели1.2K

В новостных лентах слово «инцидент» всё чаще стоит рядом со словом «агент», но мы не собираемся никого отговаривать от внедрения агентных приложений в корпоративные процессы. Деже немножко наоборот. Эта статья про то, как не оказаться в заголовке новостей со словом «инцидент» и про десять практичных вопросов, которые стоит задать до пилота.

Читать далее
Статья

Как я научился зарабатывать 2000р. в час на статьях, а потом уперся в потолок. Карьерный трек лоха, часть 2

Уровень сложностиПростой
Время на прочтение4 мин
Охват и читатели1.3K

Всем привет! Я Андрей, копирайтер и редактор. В этом сериале я рассказываю про свой кривой карьерный путь — не только про успехи, но и содранные коленки и разбитый лоб. В прошлой серии рассказал, как три года искал постоянную работу, пока не попал в «Зарплату.ру». Сегодня расскажу, как научился писать по 2–3 лонгрида в неделю, зарабатывать около 100 тыс. рублей при работе 10 часов в неделю — пока эта сказка не кончилась месяц назад.

Читать далее
Новость

В Microsoft Teams появится поддержка сторонних инструментов для обнаружения дипфейков

Время на прочтение1 мин
Охват и читатели1.4K

Microsoft Teams позволит организациям подключать сторонние инструменты для анализа аудио‑ и видеопотоков на предмет наличия дипфейков. Внедрение функции начнётся в середине ноября 2026 года в десктопной, веб‑версии Teams и версии для Mac. 

Читать далее
Новость

Сетевое оборудование под нагрузкой: митап в Москве

Время на прочтение2 мин
Охват и читатели1.2K

На митапе Network Scream в Москве эксперты «Инфосистемы Джет» мы представят результаты тестирования отечественного сетевого оборудования.

Эксперты «Инфосистемы Джет» провели независимое функциональное и нагрузочное тестирование российских маршрутизаторов и VXLAN-фабрики и 12 ноября представят результаты на офлайн-митапе в Москве. В ходе тестов проверили заявленную вендорами функциональность в условиях, максимально приближенных к реальным сценариям эксплуатации.

В докладе «Тестирование отечественных маршрутизаторов» Александр Просевич, старший инженер-проектировщик систем передачи данных «Инфосистемы Джет», разберёт результаты нагрузочного тестирования отечественных маршрутизаторов EcoRouter и Eltex. Во время тестов мы проверили заявленные в документации вендоров показатели: VRF, BGP-сессии, GRE- и IPsec-туннели, NAT и ACL. Отдельно на встрече речь пойдёт о том, как заявленные характеристики соотносятся с реальным поведением оборудования при совместной работе функций. В качестве эталонного референса рассмотрим результаты тестирования маршрутизатора Huawei и сравним их с показателями отечественных маршрутизаторов. Также расскажем о том, что стоит учитывать при выборе платформы.

Илья Фурцев, руководитель отдела поддержки продаж сетевых решений «Инфосистемы Джет», представит результаты тестирования VXLAN-фабрики Eltex — это решение для масштабируемых и отказоустойчивых сетей ЦОД. Мы проверили динамическую маршрутизацию и протестировали стек протоколов MP-BGP/EVPN/VXLAN. Также мы провели нагрузочное тестирование в нашей лаборатории и смоделировали аварийные сценарии для проверки оборудования. На встрече поговорим о том, что полученные результаты значат для сетей ЦОД.

Программа встречи:

Читать далее
Статья

NKT: Киллер фича № 8, плагины

Уровень сложностиСредний
Время на прочтение8 мин
Охват и читатели1.9K

«This is the Unix philosophy: Write programs that do one thing and do it well. Write programs to work together. Write programs to handle text streams, because that is a universal interface.»

«Философия Unix: пиши программы, которые делают одну вещь и делают её хорошо. Пиши программы, которые работают вместе. Пиши программы, работающие с текстовыми потоками, потому что это универсальный интерфейс.»

Дуглас Макилрой, изобретатель Unix pipes

Читать далее
Статья

Первые 30 минут руководителя проекта, или как обнаружить проблемы до того, как они сорвут сроки

Уровень сложностиПростой
Время на прочтение8 мин
Охват и читатели1.9K

Утренние часы можно использовать для дел, которым постоянно мешает повседневная суета. Об этом пишет американская писательница Лаура Вандеркам в книге «Что самые успешные люди делают до завтрака». Попробуем перенести этот принцип на руководителя проекта и понять, как раньше остальных заметить отклонения в проектах, оценить последствия и принять решение, пока проблема еще управляема.

Читать далее
1
23 ...