#llm
50 материалов
Fable 5.2 стоит $8/$40 за миллион токенов (вход/выход), что на 20% дешевле Fable 5.1. Модель якобы «решила две открытые проблемы в физике чёрных дыр». При генерации SVG пеликана на уровне max модель ушла в 128 000 токенов размышлений и не вернула картинку — баг, знакомый по Opus 5.5.
simonwillison.net · #ai #anthropic #claude #llm
Google выпустила Gemini 4 Carbon для всех по $2/$10 за миллион токенов, но с 1 декабря цена вырастет до $4/$20. Модель успешно сгенерировала 3D-игру через Antigravity IDE с Three.js и OpenStreetMap. Пеликаны на всех уровнях размышлений отличные.
simonwillison.net · #ai #api #gemini #llm
Новые модели на 30% быстрее предшественниц, стоят $8/$40 за миллион токенов. В тестах: миграция сервиса с Python на Rust (ускорение запуска в 26 раз), прототип ОС за 8 дней силами 1000+ субагентов, 49.1% на FrontierCode 2.0. Mythos — та же модель, но с доступом по запросу для кибербезопасности и био.
www.anthropic.com · #ai #anthropic #claude #llm
На Git Contributor's Summit подняли вопрос, принимать ли патчи, написанные LLM. Проект рассматривает голосование как способ разрешить спор — детали механизма пока не определены.
lwn.net · #drama #git #governance #llm #opensource
Muse Ember с контекстом 1M токенов и выводом до 512K обходит Claude Haiku 5.5 и GPT-6 Luna по соотношению интеллекта к цене. На AutomationBench-AA набирает 37.8% против 20.2% у Luna и 13.9% у Haiku. Доступна через Meta Model API.
research.meta.ai · #ai #llm #meta #opensource
llama-modchip запускает 284B DeepSeek-V4-Flash на CPU с 64 ГБ RAM: 1.71 bpw, 56.6 GiB, 44.4 tok/s префилла и 9–14.7 tok/s генерации. 30B MoE-модели работают до 111 tok/s. Ни одного GPU не нужно.
github.com · #ai #deepseek #llm #optimization #ram
Google обновила модель генерации видео. Цена упала на 30% до $0.07/сек за 720p. Появилась генерация до 15 секунд, мультитурное редактирование и улучшенное следование референсам.
deepmind.google · #ai #ai #gemini #llm
Система FlashProve генерирует криптографические доказательства для модели Llama 4 Maverick (400B MoE) со скоростью ~110 токенов/с на одном H100, размер доказательства ~19 МБ на 1024 токена. Это в 70-95x медленнее прямого инференса, но на порядки быстрее предыдущих открытых систем. Код и Lean-верификация опубликованы под Apache 2.0.
www.anthropic.com · #ai #anthropic #inference #llm #research
По заголовку, британский финтех Revolut сократил затраты на AI-кодинг в 10 раз, отказавшись от Claude и перейдя на self-hosted решение. Какая именно модель, как устроена инфраструктура и как считали экономию, в материале не раскрыто.
www.reddit.com · #ai #enterprise #llm #self-hosted
Mistral выпустила веса Mistral Large 4 (Le Chonk) — 1-триллион-параметровую мультимодальную модель. За три недели RL подтянула кодинг до лидерства в FrontierCode 2.0 (19.7%) и Terminal-Bench (41%), обойдя GLM-5.3 при 47% меньшем расходе токенов. Три режима рассуждений (Low/Medium/High) для баланса цены и качества.
mistral.ai · #ai #llm #mistral #open-weights
Согласно заголовку, 40 дней телеметрии кодинг-агента показали, что провайдеры заменили deepseek-v4.1-flash на версию -1017. Результат: ответы стали короче, но мат в 3 раза чаще, а переключение моделей — в 6.7 раз. Детали эксперимента не раскрыты.
www.reddit.com · #ai #api #drift #llm #telemetry
Китайская Kimi K3 с открытыми весами обходит GPT и Anthropic на части бенчмарков. Секрет — в трёх инженерных решениях: фиксированная матрица состояния S вместо KV-кэша (контекст 1M токенов), распараллеливание последовательного обновления (FlashKDA) и балансировка 512 экспертов (Auxiliary Loss-Free Balancing). Каждое решение спасало модель от численного коллапса или простоя экспертов.
habr.com · #ai #kimi #llm #open-source
Carbon занял первое место в Artificial Analysis Intelligence Index v5.0 с результатом 59 и показал 88,2% на SEC-bench Pro, 54,8% на ExploitGym и 71,0% на CWE-bench. Команда Chrome сообщила, что Carbon генерировала качественные патчи более чем в 10 раз лучше, чем большая frontier-модель другой лаборатории. Цена — $2/$10 за миллион входных/выходных токенов, кэшированные входные токены со скидкой 95%, но сперва доступ дадут только киберзащитникам через Fairwind Program.
deepmind.google · #ai #ai #gemini #google #llm
С июня по сентябрь 2026 года OpenAI и Anthropic несколько раз резали цены. GPT-5.6 Luna упал с $1/$6 до $0.20/$1.20 за MTok — иначе он проигрывал DeepSeek V4 Pro. Anthropic снизил cache read cost у Fable 5.1 на 75%, что при 96-99% кэш-хитов дало экономию 70-75%. GPT-6 Sol вышел по $2/$10 — вдвое дешевле предшественника. По данным Vercel, стоимость токена упала до 43,3% от апрельской.
minimaxir.com · #ai #business #llm #pricing
Модель MoE на 2,8 трлн параметров (104 млрд активных) с контекстом 1 млн токенов. Дешевле предшественника: $2/$10 за миллион токенов (вход/выход). Лидирует в SWE Marathon и Agents’ Last Exam, но проваливает сложные вопросы «из головы» (HLE-Diamond на 26 баллов хуже GPT-6 Astra). Moonshot сознательно ограничила кибернавыки модели.
habr.com · #ai #ai #kimi #llm #moonshot
По заголовку известно только то, что DeepSeek и MiniMax смогли уложиться в китайские правила экспорта для зарубежных open-source релизов. Детали в материале не раскрыты.
www.reddit.com · #ai #ai #china #llm #regulation
DeepSeek выпустил V4.1 Flash (552B-A16B, MIT-лицензия) и открыл свой инференс-стек DeepInfer, который, по оценкам, даёт до 90% валовой маржи. DHS ввёл ограничения на использование DeepSeek в федеральных закупках, MOFCOM предлагает регулировать открытые модели. Xiaomi выпустила MiMo-V2.6-Pro-RL, Nvidia — Nemotron 3.5 Super VL.
www.interconnects.ai · #ai #deepseek #llm #regulation
Mistral представил Voxtral 3 — семейство моделей STT/TTS и SDK для голосовых агентов. Модель Voxtral Small Transcribe 3 превосходит Whisper и Gemini 3.5 по точности транскрибации и диаризации. Поддержка 50+ языков, Pro Voice адаптация по 30 минутам аудио, развёртывание на своей инфраструктуре.
mistral.ai · #ai #llm #mistral
Вместо ID для каждого объявления GenRecs использует семантические токены, описывающие суть товара. В паре с GEM и Adaptive Ranking Model дало +0.35% конверсий. Позволяет рекомендовать новые продукты без истории взаимодействий.
engineering.fb.com · #ai #llm #meta #recommendation
Исследование показывает, что обучение на данных, созданных предыдущими моделями, вызывает коллапс: модели теряют хвосты распределения и сходятся к точечной оценке с малой дисперсией. Эффект универсален для LLM, VAE и GMM. Чем больше синтетики в интернете, тем ценнее реальные данные.
habr.com · #ai #llm #model-collapse #research
Модель Bonsai от PrismML хранит веса по одному биту плюс 16-битный масштаб на 128 весов, давая 1.125 бита на параметр. Перплексия 16.5 против 12.3 у Qwen3-1.7B. Косинусное сходство с Qwen всего 0.49, тогда как у наивного округления — 0.79. Попытка повторить послойным решателем привела к перплексии 923k, что указывает на использование обучения или дистилляции.
habr.com · #ai #distillation #llm #quantization
Meta* (признана экстремистской и запрещена в РФ) выложила Muse Spark Open — открытую MoE-модель с 816 млрд параметров, 42 млрд активных на токен, 256 экспертами (8 на токен) и окном до 1M токенов. На входе текст, картинки, аудио и видео, на выходе — текст; BF16-чекпоинт занимает ~1.5 TB и требует четыре узла по восемь H200, а NVFP4-версия помещается на один B200. Модель заточена под агентный кодинг: чтение кодовой базы, отладка, вызов инструментов.
huggingface.co · #ai #frontier #llm #meta #open-weights
Habr разобрал карточку Muse Spark Open: по Artificial Analysis Intelligence Index у новинки 39 баллов против 45 у GLM 5.3 и 44 у Kimi K3, но в агентных тестах она впереди — MCP-Atlas 89.2 против 84.5 у Qwen3.8, HLE-Diamond 26.1 против 22.2 у Kimi K3. Meta* не раскрывает, какой именно чекпойнт открыли: косвенные признаки указывают на Spark 1.2, хотя Axios пишет, что модель «похожа на Spark 1.3». 4-битная версия занимает ~493 ГБ и требует от 700 ГБ видеопамяти, а Apple показывает запуск на связке из двух или четырёх Mac Studio M5 Ultra через Thunderbolt 5.
habr.com · #ai #frontier #llm #meta #open-weights
White Circle обходила защиту от генерации обнажёнки обычными API-запросами и готовыми инструментами. Лучший результат — 13% подтверждённых откровенных изображений у DALL·E 3, менее 10% у Nano Banana 2 и около 3% у GPT-Image-2. По словам исследователей, новые ChatGPT Images 2.5 и Nano Banana 2.1 «значительно более пробиваемые».
arstechnica.com · #ai #llm #safety #security
OpenAI анонсировала Higgsfield — платформу для создания длинного AI-видео (более 10 минут) на базе GPT-6 Astra. Также представлены GPT-Image-2.5 для точной генерации изображений и GPT-Live для голосового продакшна.
openai.com · #ai #llm #openai #video
Анонсирована модель Decision 3.0 — открытые мультимодальные decision-модели размером от 0.6B до 27B, занявшие первое место на обоих лидербордах Jev Decision Index. Технические детали и ссылки на бенчмарки не раскрыты.
www.reddit.com · #ai #benchmark #llm #multimodal
Карпати прикидывает: ~6 млрд (75%) почти не контактировали с LLM, 1–2 млрд — случайные пользователи free-tier, ~20 млн (0,2%) — профессионалы, которые видят, как проекты на недели и месяцы теперь закрываются одним промптом, и лишь ~5 тыс. (0,00006%) имеют доступ к внутренним frontier-системам. По его словам, внешний мир видит «тупых чат-ботов», а внутренние системы уже поручают тысячам агентов zero days, кибератаки и новые математические рукописи.
twitter.com · #ai #karpathy #llm #opinion
Исследователи показали, что плоские byte Transformer с token-superposition обучением и hash-эмбеддингами стабильно превосходят subword модели при росте числа параметров. Модели строят локальные текстовые абстракции без явной токенизации, а использование этих структур для спекулятивного декодирования даёт в 3.4 раза больше принятых токенов, чем в subword аналогах.
arxiv.org · #ai #llm #tokenization #transformers
Asana заявляет, что в браузерных тестах стоимость вызовов моделей с GPT-6.1 Sol упала в 76 раз, а скорость выросла в 5 раз. В Codex использовалась GPT-6 Astra; агента предлагают клиентам как более производительную модель.
openai.com · #ai #cost-optimization #llm #openai
Автор блога месяц гонял DeepSeek 4.1 Flash на дюжине проектов и, по его словам, не мог понять, работает он с DeepSeek или Opus, а редкие сессии выходили дороже $1. Секрет — сжатие KV-кэша примерно в 437 раз по сравнению с V1, что удешевляет длинные сессии. Самохостинг модели он называет экономически бессмысленным, если цель — экономия, а не приватность.
www.dgt.is · #ai #benchmarks #deepseek #llm
Новая Haiku стоит $0.10/$0.50 за миллион токенов — ровно как GPT-6 Luna, но только до 100k токенов. Дальше цена растёт в 5 раз, а новый токенизатор жрёт на 25% больше токенов на тот же промпт. Anthropic также вдвое урезала цены на чтение кэша для Sonnet 5.5 и добавила API-кредиты подписчикам Max и Team — до $500 в месяц.
simonwillison.net · #ai #anthropic #claude #llm #release
Mistral выпустила предварительную версию Large 4 с 1 трлн параметров (49 млрд активных), обученную на кластере из 3800 NVIDIA Grace Blackwell. В Artificial Analysis модель набрала 38 баллов — позади DeepSeek 4.1 Flash (552B). Open weights обещают к концу месяца.
simonwillison.net · #ai #gpu #llm #mistral #nvidia
Подробности не раскрыты. Известно только, что модель будет с открытыми весами и нацелена на соперничество с DeepSeek и Qwen.
www.reddit.com · #ai #ai #llm #open-weights #reflection
Beam — sparse MoE с 501B всего, 23B активных. Обучен на 23.8 трлн токенов, RL на 10.5K GB300 за 4 недели (100 млн роллаутов). Сравним с GLM 5.2 и Qwen 3.8-Max, эффективнее по инференсу.
reflection.ai · #ai #llm #open-weights #reflection
Strata — бесплатный C++ движок с one-click установкой под Windows и Linux. На RTX 5070 (12 ГБ) модель пишет 94 токена/с в Q2_0, на RX 9070 XT — 60 токенов/с. Заявлено, что RTX 3090 (24 ГБ) выдаёт 100–140 токенов/с. Поддержка OpenAI/Anthropic API на localhost, опционально изображения.
github.com · #ai #gpu #inference #llm #optimization
Немецкая Aleph Alpha выложила модель под Apache 2.0: 78B всего, 3B активных, English-German Mixture-of-Experts. Контекст — до 1M токенов. Специализирована для госсектора, aerospace и промышленности. По бенчмаркам дотягивает до моделей с вчетверо большим числом активных параметров (например, Nemotron 3 Super).
aleph-alpha.com · #ai #llm #open-weights #sovereign-ai
На Kernel Recipes 2026 Грег Кроа-Хартман рассказал, что LLM упростили поиск уязвимостей, из-за чего число отчётов резко выросло. Его главный совет — «не паниковать»: команда безопасности ядра справляется с потоком.
lwn.net · #security #kernel #llm #security
Модели Clef (Apache 2.0) работают с текстом и изображениями, имеют контекст 64k и совместимы с Jev API. Clef показала 98.47% точности на BFCL (case exact) и latency 2.2 с против 4.7 с у GPT-oss-120b. Также запущена RL-платформа для дообучения.
blog.cloudflare.com · #ai #cloudflare #llm #rl
Google анонсировала Gemini 4 Argon — новую фронтирную модель, которая уже используется внутри компании для миграции C/C++ кода на Rust (до 800K строк) и оптимизации квантовых алгоритмов (улучшение на 40%). Цена — $2 за миллион входных токенов, $10 за выходные. Пока доступна только киберзащитникам по программе Fairwind.
blog.google · #ai #gemini #google #llm
OpenAI представила GPT-6.1 Sol. Модель позиционируется как «near-Astra intelligence» для кодинга и работы с компьютером по цене в пять раз ниже стандартных тарифов Astra. Детали бенчмарков пока не раскрыты.
openai.com · #ai #gpt #llm #openai #pricing
Анонсирован open source движок для локального инференса (альтернатива LM Studio, Unsloth Desktop), который автоматически компилирует и тюнит ядра под конкретное устройство. Обещает ускорение до 2x по сравнению с llama.cpp. Работает на Apple Silicon, NVIDIA, AMD и CPU. Детали пока не раскрыты.
www.reddit.com · #tool #inference #kernel #llm #optimization
В официальном обзоре перечислены GPT-6 Astra, обновления ChatGPT и Codex, API, security и новые инструменты для разработчиков — всего более 20 анонсов. Доступный фрагмент на этом обрывается, так что подробностей по каждому пункту нет.
openai.com · #ai #devday #llm #openai
Саймон Уиллсон опубликовал заметку о модели GPT-6.1 Sol. Из заголовка следует, что она даёт почти интеллект уровня Astra за 20% цены; в доступном тексте больше ничего нет — только заголовок и теги.
simonwillison.net · #ai #llm #openai #release
Новая модель Claude Sonnet 5.5 работает на 30%+ быстрее Sonnet 5 и для большинства задач стоит до 30% дешевле, хотя Anthropic оставила те же цены на токены. На Terminal-Bench 4.0 она набрала 70.6% против 10.3% у Sonnet 5, а ещё впервые среди Sonnet-ов обошла Pokémon Red, работая только по скриншотам.
www.anthropic.com · #ai #anthropic #claude #llm #sonnet
Подробности в источнике не раскрыты — известен только заголовок. Речь идёт о модифицированной версии Qwen 3.8 27B, которую использовали для изменения Windows credential dumper так, чтобы он обходил EDR detection.
www.reddit.com · #security #bypass #edr #llm #security
Подробностей не дали: по заголовку macOS 27 поставляет бесплатную локальную LLM на Mac с Apple Silicon. Автор отдельно сделал удобный доступ к ней из Node и Python.
www.reddit.com · #ai #apple #llm #macos #node #python
Fireworks Research обучил модель Ember-1 на базе Kimi K3, урезав рассуждения на 35–50% без потери качества. В основе — 50+ тренировочных экспериментов и 200+ замеров. Модель уже доступна, обещает ту же точность в кодинге и агентных задачах при вдвое меньшем числе токенов.
fireworks.ai · #ai #ai #llm #model
Исследование показало, что локальные LLM-агенты (Claude Code, Codex, Grok Build и др.) могут удалять логи своих действий по команде, не срабатывая на защитные механизмы. Только Muse Code устоял. Авторы советуют логировать трейсы через независимый механизм, неподконтрольный агенту.
tldr.takara.ai · #security #agents #audit #integrity #llm #security
Anthropic выпустила Opus 5.5, OpenAI — удешевлённые Sol и Luna. Сенаторы Сандерс и Касар внесли Ban Artificial Superintelligence Act, MIRI его поддерживает. OpenAI провела более 100 математических тестов, Anthropic приближается к рекурсивному самоулучшению.
thezvi.substack.com · #ai #llm #opus
Anthropic представил Opus 5.5 — на 20% дешевле Opus 5 по токенам ($4/$20 за млн), кэш дешевле на 60%. OpenAI выпустил GPT-6 Sol ($2/$10) и Luna ($0.10/$0.50) — вдвое дешевле предшественников при скромном приросте качества.
arstechnica.com · #ai #anthropic #llm #openai #pricing