3. Mistral разрешил отказываться от использования данных для обучения
Пользователи могут отключить передачу своих диалогов и документов в тренировочные наборы Mistral. Процедура описана для Vibe, Studio и API — через админ-панель.
#training
4. Meta удвоила эффективность обучения рекламной модели на LLM-масштабе
GEM — foundation-модель для рекламы в Instagram и Facebook — теперь тренируется на тысячах GPU и достигла 20–25% MFU (Model FLOPs Utilization) при четырёхкратном росте FLOPs за год. Для этого пришлось изобрести собственные ядра (Jagged Flash Attention, GDPA, BlockAttention), смешанную точность MXFP8 и 5D-параллелизм с учётом топологии сети Meta.
15. Можно ли «отравить» арт, чтобы его не съели LLM?
На Lobsters обсуждают, как защитить онлайн-галерею художницы от обучения LLM на её работах, и спрашивают, есть ли уже практичные библиотеки или трюки для такого «poisoning». Идея звучит просто, но быстро упирается в неприятную реальность: защитить картинки на сайте от пайплайнов сбора данных — это не одна кнопка, а целая война с чужими краулерами. Тема пока больше из разряда «наивный вопрос, который слишком быстро становится техническим кошмаром».
10. Автор TernML рассказывает, что сломалось на пути к 60% на CIFAR-10
Ещё один Habr-пост из того же цикла: автор прямо пишет про «четыре грабли, один вихрь» и 60% на CIFAR-10 с M0+. Это уже не маркетинговый рассказ про умный ИИ, а заметки о том, что именно ломалось, как чинили и почему результат получился именно таким.
11. L&D не спасает, если компания не умеет измерять обучение
Habr-статья разбирает корпоративное обучение без привычной презентационной мишуры: обучение вроде бы проводят, но поведение и результаты сотрудников не меняются. Авторы ссылаются на исследование Сберуниверситета и приводят цифру, что только 42% участников вообще измеряют влияние обучения на результаты — то есть половина процесса живёт в тумане.