Новая модная страшилка: Придет искусственный интеллект (ИИ) и всех людей порешит. Говорят, даже Димон (который вам не Димон) отметился в этой теме.

Это конечно, вздор. Но вздор, нуждающийся в разъяснениях.

1. Сама по себе идея о том, что техногенная среда может автоматически уничтожить человечество — не нова, и эта среда для уничтожения человечества совершенно не требует искусственного интеллекта. Более того, возможно (надеюсь), она существует — эта пресловутая Doomsday Machine (Машина Судного дня), каковой может быть советская система «Периметр», предполагающая автоматический полномасштабный ядерный удар по предполагаемому агрессору (гм, кто бы это мог быть?) в случае, если советское/российское военное руководство выведено из строя ударом этого агрессора, напавшего первым. Нуачётакова?

Вообще современные технические системы без всякого искусственного интеллекта уже сейчас могут быть наделены правом на решение вопросов жизни и смерти людей. Простой пример: автоматические водители автомобилей. Представьте себе, что автоматический автомобиль везет пассажира по горной дороге, а тут в результате ошибки человека-водителя у него на пути внезапно оказывается школьный автобус. Если автомобиль врежется в автобус, пассажир выживет, а дети погибнут. Альтернатива — свернуть в пропасть, и тогда погибнет пассажир. Автоматика автомобиля должна будет принимать решение — кого из представителей человечества следует убить: своего владельца или незнакомцев.

2. Страшилка об ИИ основана на неверном стереотипе западного общества: якобы более умный и более сильный непременно захочет поработить или уничтожить всех остальных. На самом же деле агрессивность никак не связана с интеллектом: он есть уже у одноклеточных. Это чисто биологическое свойство, простейшая автоматика выживания вида. Агрессивность и экспансионизм западного мира — чисто животные свойства, отнюдь не обусловленное высоким интеллектуальным потенциалом западного общества.

По этой причине эти свойства могут сочетаться с ИИ, только если они умышленно туда введены — вроде инстинкта, не подчиняющего разуму, — а это надо трактовать как умышленно созданную систему для уничтожения людей — см. пункт 1 выше.

3. Борьба за доминирование, аморальность и т.п., как уже указано в пункте 2 — свойства личности, не связанные с интеллектом, дополнительные к нему. Люди унаследовали их у своих животных предков.

Более общо, всё, в конце концов, сводится к вопросу о смысле жизни. Будут ли системы с ИИ ставить такой вопрос и как они будут его решать? Никакой интеллект в этом не поможет — это вопросы философские, религиозные, психологические — вопросы, к которым человечество до сих пор не смогло выработать общепринятого подхода. Скорее всего, такого подхода вообще не может быть, поэтому не следует предполагать, что какое-то решение этих вопросов вдруг возникнет у искусственной системы.