30 апреля 2025

▪️ У Alibaba пополнение — семейство LLM Qwen3. Коротко о главном: ✳️Модели в виде Dense представлены в размерах от 0,6B до 32B параметров. ✳️ Есть 2 модели с архитектурой MoE — на 235B (22B активных) и 30B (3B активных) параметров. Участие в вычислениях последующих токенов не всей модели, а только ее части = меньше требований к «железу». ✳️ Поддержка 119 языков и диалектов. ✳️Улучшены результаты на разных бенчмарках, по сравнению с Qwen 2.5 стало больше голов внимания. ✳️ Все модели поддерживают два режима работы — с размышлением (берет время на «подумать» перед ответом на сложный вопрос) и без (отвечает быстро — подходит для легких вопросов). Тесты: Наши первые тесты показали, что в генерации на русском языке у моделей Qwen3 много технических огрехов. Например, у Qwen3-8B в 2396 тестовых генерациях мы увидели 2718 случаев некорректного смешения токенов разных языков в одном слове. То есть в среднем в каждой генерации может содержаться 1 или более таких «ляпов». А вы что думаете о моделях Qwen3? 👍 Хорошие «рабочие лошадки» 🔥 Заявка на лидерство