7 августа 2025

Аналитики Future of Life Institute (FLI) оценили по 33 показателям практики безопасности семи ведущих компаний, разрабатывающих ИИ: Anthropic, OpenAI, Google DeepMind, Meta, xAI, DeepSeek и Zhipu AI, охватив шесть ключевых областей: от оценки рисков до экзистенциальной безопасности. ТОП-3 по безопасности Anthropic ⚫️Провела первое в отрасли исследование с участием людей по оценке рисков биологического оружия. ⚫️Не обучает модели на данных пользователей по умолчанию. OpenAI ⚫️Первая компания, опубликовавшая полную политику информаторов, включая каналы для сообщений о нарушениях. ⚫️Проводит оценку рисков до внедрения моделей (pre-mitigation) и делится данными с регуляторами (UK AISI, CAISI). Google DeepMind ⚫️Опубликовал Frontier Safety Framework v2.0, включая оценки по кибербезопасности и автономии. ⚫️Участвует в международных инициативах (G7, OECD). Анти—ТОП по показателям безопасности xAI ⚫️Не опубликовал ни одного фреймворка безопасности. ⚫️Не проводит тестирование на био-, кибер- или автономные риски. ⚫️Инцидент с Grok в мае 2025 года, связанный с несанкционированным изменением системного промпта, выявил отсутствие контроля за внутренними изменениями. ⚫️Минимальное участие в международных инициативах. DeepSeek ⚫️Открытые веса модели R1, без механизмов защиты от модификации. ⚫️Нет публичных данных о тестировании катастрофических рисков. ⚫️Не участвует в международных отчётных инициативах (G7, OECD). Подробности — в прикрепленном отчете