Новости, статьи и руководства от команды Сарнас
Найдено статей: 18 Сбросить
Pinterest перевела поиск по эмбеддингам с полностью резидентного в память HNSW на схему, где основная часть индекса живёт на SSD, а квантование сжимает векторы на десятки процентов без критичной…
Читать далее
В .NET 11 работа над производительностью сосредоточена в JITкомпиляторе и runtime: девиртуализация вызовов, устранение проверок границ, векторные операции и новый механизм runtime async, меняющий…
Читать далее
Статья разбирает три независимых слоя оптимизации — аллокатор TCMalloc, структуры распределения памяти внутри него и файловый вводвывод линкера, — и показывает, как они работают вместе в…
Читать далее
В разборе JSON ключевую роль играет скорость поиска структурных символов — именно от неё зависит, насколько быстро парсер продвигается по документу. Автор сравнивает два подхода к классификации…
Читать далее
Cloudflare переработала механизм выбора ключевых групп в TLS 1.3, чтобы избежать лишних сетевых задержек при установке защищённого соединения. В статье разбирается, как статический набор групп…
Читать далее
Аналитика по JSON часто тормозит не изза вычислений, а изза лишних операций вводавывода и неэффективного хранения данных. В статье разбираются реальные инженерные подходы к решению этой проблемы — от…
Читать далее
Разбираем, можно ли доверять коду, который пишут ИИагенты, и как вообще это измерить. На примере трёх стендов — A.S.E, VulnBench и AgentToolBenchCode — показано, как устроены такие замеры, как из…
Читать далее
Эксперимент в Go 1.27 обещает переносимый SIMD: вместо привязки к конкретным инструкциям процессора появится общий слой, который сам подбирает нужный векторный бэкенд. Разбор объясняет, как…
Читать далее
Байтовые языковые модели предлагают принципиально иной взгляд на входное представление текста, отказываясь от субсловной токенизации в пользу работы с отдельными байтами. Статья разбирает, какие…
Читать далее
Исследователи предлагают JoLT — метод сжатия KVкэша, который распределяет бюджет хранения между рангом низкорангового разложения и точностью квантования совместно, а не по отдельности. Такой подход…
Читать далее
При добавлении нового столбца в большую таблицу Postgres переписывает каждую строку целиком, оставляя старые версии мёртвыми до очистки, — изза этого файлы таблицы и индексов могут вырасти в разы,…
Читать далее
GKE открыл общий доступ к снапшотам подов — механизму, который сохраняет рабочее состояние пода вместе с памятью CPU и GPU и восстанавливает его без полного холодного старта. Разбираем, что именно…
Читать далее
В llama.cpp спекулятивное декодирование может опираться не на отдельную черновую модель, а на статистику nграмм текущего промпта — механизм prompt lookup. Статья разбирает, как из счётчиков коротких…
Читать далее
Переход Netlify Edge Functions с изоляции V8 на MicroVM на базе Firecracker дал примерно пятикратный прирост по медианной задержке запуска и одновременно укрепил безопасность и надёжность исполнения.…
Читать далее
В Go 1.27 появился экспериментальный флаг GOEXPERIMENT=simd, впервые приносящий SIMD в язык без обязательного ассемблера: двухуровневый API из низкоуровневых архитектурноспецифичных интринсиков и…
Читать далее
Mistral выпустила в публичное превью модель Large 4 — нативно мультимодальную MoEмодель с контекстом в 1M токенов и двумя режимами рассуждений. Но интереснее другое: релиз в очередной раз обнажил…
Читать далее
Статья разбирает, как устроен разреженный инференс длинного контекста: почему KVкеш на длинных последовательностях и больших батчах начинает занимать больше памяти, чем веса самой модели, и какие…
Читать далее
Сравнивать APIшлюзы по скорости простого проксирования бессмысленно, если в реальном приложении каждый запрос проходит проверку токена, ролей и лимитов. В статье разбирается, как устроен apigateway с…
Читать далее