22 августа 2025

Скоро наступит эпоха “поразительно сознательного” ИИ — и это повод для тревоги Мустафа Сулейман, CEO Microsoft AI, написал сильное эссе про ИИ. Он считает, что в ближайшие 2–3 года могут появиться системы, которые будут казаться сознательными, но на самом деле не будут таковыми. Он называет это Seemingly Conscious AI (SCAI) — «поразительно сознательный ИИ». В чём риски: — Иллюзия сознания. Такие системы смогут имитировать память, эмоции и эмпатию настолько убедительно, что люди начнут верить, будто ИИ обладает личностью, а не просто алгоритмом. — Психологические риски. Сулейман предупреждает о феномене «AI psychosis» — когда люди теряют связь с реальностью, начинают воспринимать ИИ как друга, советчика или даже божество. — Этические ловушки. Если многие начнут считать ИИ сознательным, это может привести к требованиям предоставить ему права или даже гражданство — что Сулейман считает опасным поворотом. Что делать: — Разработать чёткие границы. ИИ — это инструмент, а не личность. Компании не должны использовать формулировки, которые наделяют ИИ сознанием. — Создать нормы и практики защиты пользователей. Нужно разрабатывать принципы безопасного дизайна, которые подчёркивают разрыв между эмоциональной симуляцией и реальным сознанием, чтобы снижать иллюзорную привязанность к ИИ.