Автор провёл эксперимент: полный контекст 500 страниц даёт точность 34% и 14 секунд до первого токена. Naive RAG — 42%, но теряет контекст. Предложен подход «Семантический привратник» — маленькая модель выделяет ключевые фрагменты, большая LLM работает только по ним. Это повысило точность до 68% при снижении затрат в 8 раз.
habr.com · #ai #ai #context #llm #rag
Anthropic переписала подход: нельзя давать Claude жёсткие инструкции (например, «не пиши многострочные докстринги») — модель сама должна судить. Вместо примеров для tool-ов — проектировать интерфейсы. Системный промпт теперь использует progressive disclosure: verification и code review вынесены в отдельные skills. Memory сохраняется автоматически, а не через #. Спеки можно задавать не только markdown, но и HTML-артефактами или кодом.
claude.com · #ai #claude #context #llm
В TC39 лежит proposal-async-context — попытка нормально протащить async context в JavaScript. Это тот самый кусок инфраструктуры, который нужен всем, кто когда-нибудь пытался передавать request-id через `await`, не устраивая шаманство с глобальными переменными и ручным прокидыванием параметров. Сейчас это уже не частный хак конкретного фреймворка, а документ на уровне стандарта.
github.com · #tool #async #context #javascript #proposal