16 сентября 2023

В предутреннем сне обнаружил себя на кафедре читающим лекцию по проблемам военного ИИ. Проснувшись, записал то немногое, что успел запомнить. Тема была такая: можно ли научить машину такому сугубо человеческому понятию, как «враг». Ну и, соответственно, «друг». Существующие системы «свой-чужой», включая древние докомпьютерные пароль-отзыв, герб на щите, знак рыбы на песке и т.д. — это всё алгоритмика, позволяющая обойти проблему. Имеешь идентификатор установленного образца — значит, свой; «доступ разрешён». Пресловутая «паляныця», как ни странно, даёт некоторый ключ. Способность фонетически грамотно произнести это слово — тест на то, что человек, по крайней мере, долго пребывал в определённой языковой среде, не является чужаком. Аналогичным образом Боливар вылавливал испанских солдат, переодевшихся в гражданское и прячущихся по деревням: кто произносил «АндалуСия» с твёрдым С, оставался в живых, а кто через th — пускался в расход. Это не ответ на задачу: это тоже внешний признак, но такой, который трудно или труднее симулировать. Человечество прошло длинный путь от времён, когда любой чужак не из своей пещеры это потенциальная еда, и до попытки (впрочем, неуспешной) превратить всё многомиллиардное уже человечество в такую «пещеру», где вообще никто никому не враг. Но вражда продолжает возникать — от бытового насилия до больших войн. Для нас, белковых, это химия — агрессия, Лоренц, всё такое. Но можно ли её понять и воспроизвести холодным кремниевым разумом? Дальше я говорил: кому не нравится думать о вражде, пусть думает о любви — это, в сущности, одно и то же: «любимый враг». Почти всё забыл, но ещё пара мыслей осталось. Кремниевый мозг отличается от белкового тем, что имеет чисто электрическую природу, тогда как белковый — электрохимическую: в наших процессах мышления гормональный контур играет важнейшую роль. Чувства — химия. Мозг занимается их «обслуживающей» рационализацией. Сегодняшний кремниевый мозг занимается вынесенной наружу рационализацией опять же наших чувств. Чувства в некотором смысле слепы и их легко обмануть — то, на чём стоит, в частности, вся парфюмерная индустрия. Но субъектность формируют именно они, а не разум. Поэтому практически обучать ИИ «искусству вражды» (ну или любви) надо начиная с декомпозиции базовой рефлекторики — не какой-то один признак, как в системах свой-чужой: есть код доступа или нет. А многокомпонентная онтология «друга» и «врага», состоящая из сотен, мб тысяч признаков, организованных друг относительно друга иерархически-сетевым образом. Причём даже если какие-то не сработают, главное, чтобы в целом срабатывало «больше половины».