Обсуждение на Level1Techs: пользователи жалуются, что локальные модели дают худшие результаты, чем облачные. Причины — квантование, маленький контекст и неоптимальные настройки. Конкретных цифр или имён моделей в статье нет.
Это не новость, а хороший срез реальности: 377 комментариев под вопросом, реально ли кто-то полностью переехал с облачных моделей на локальные для ежедневной разработки. Люди обсуждают токены в секунду, железо и рабочие сценарии — то есть там как раз тот редкий случай, когда HN полезнее маркетинга.
Show HN про репозиторий Andyyyy64/whichllm, который помогает выбрать локальную LLM под конкретный компьютер. В описании прямо обещают ранжирование по бенчмаркам, то есть без гадания на кофейной гуще и чатов про «а потянет ли мой ноут 70B».