📰 IT Дайджест

#context

3 материала

13. Почему LLM деградирует на больших документах и как поднять точность с 34% до 68%

Автор провёл эксперимент: полный контекст 500 страниц даёт точность 34% и 14 секунд до первого токена. Naive RAG — 42%, но теряет контекст. Предложен подход «Семантический привратник» — маленькая модель выделяет ключевые фрагменты, большая LLM работает только по ним. Это повысило точность до 68% при снижении затрат в 8 раз.

habr.com · #ai #ai #context #llm #rag

7. Новые правила контекст-инжиниринга для Claude 5: никаких жёстких правил, примеры — зло, прогрессивная загрузка вместо всего сразу

Anthropic переписала подход: нельзя давать Claude жёсткие инструкции (например, «не пиши многострочные докстринги») — модель сама должна судить. Вместо примеров для tool-ов — проектировать интерфейсы. Системный промпт теперь использует progressive disclosure: verification и code review вынесены в отдельные skills. Memory сохраняется автоматически, а не через #. Спеки можно задавать не только markdown, но и HTML-артефактами или кодом.

claude.com · #ai #claude #context #llm

4. Async Context для JavaScript дошёл до TC39

В TC39 лежит proposal-async-context — попытка нормально протащить async context в JavaScript. Это тот самый кусок инфраструктуры, который нужен всем, кто когда-нибудь пытался передавать request-id через `await`, не устраивая шаманство с глобальными переменными и ручным прокидыванием параметров. Сейчас это уже не частный хак конкретного фреймворка, а документ на уровне стандарта.

github.com · #tool #async #context #javascript #proposal