28 февраля 2025

В выходные у меня амбициозные планы 👇 испечь блинов, разобрать свежие исследования по ИИ. 🔥 — ну мы? Делимся новой подборкой и выбираем тему для рубрики #разбор_от_тайного_редактора. Первый экспертный пост уже на канале, ждем ваши предложений, что вы хотите почитать еще — пишите цифру в комментариях ⤵️ 1⃣Бесплатный курс по генеративным моделям от ML-ресерчеров Google. В программе — глубокое обучение, LLM, векторные БД и MLOps → Подробности 2⃣ LLaDA — новый диффузионный метод, который конкурирует с ведущими авторегрессивными LLM. В ряде задач даже лучше → Подробнее 3⃣ Механизм внимания MoBA. Улучшает работу LLM с длинными контекстами без потери скорости → Подробнее 4⃣ Inner Thinking Transformers (ITT). Новый метод, который делает рассуждения небольших LLM точнее за счет динамического масштабирования глубины → Подробнее 5⃣ Фреймворк от Microsoft Research. Оптимизирует многомодульные LLM-пайплайны, подбирая модель под каждую задачу → Подробнее 6⃣ Native Sparse Attention (NSA) от DeepSeek-AI. Улучшает вычислительную эффективность в задачах с длинным контекстом → Подробнее 7⃣Новые модели и репозитории: — Технические отчеты: Qwen2.5-VL, GPT-4.5. — Внутренние разработки DeepSeek: FlashMLA, DeepEP, DeepGEMM, DualPipe, 3FS.