Новая модная страшилка: Придет искусственный интеллект (ИИ) и всех людей порешит. Говорят, даже Димон (который вам не Димон) отметился в этой теме.

Это конечно, вздор. Но вздор, нуждающийся в разъяснениях.

1. Сама по себе идея о том, что техногенная среда может автоматически уничтожить человечество – не нова, и эта среда для уничтожения человечества совершенно не требует искусственного интеллекта. Более того, возможно (надеюсь), она существует – эта пресловутая Doomsday Machine (Машина Судного дня), каковой может быть советская система “Периметр”, предполагающая автоматический полномасштабный ядерный удар по предполагаемому агрессору (гм, кто бы это мог быть?) в случае, если советское/российское военное руководство выведено из строя ударом этого агрессора, напавшего первым. Нуачётакова?

Вообще современные технические системы без всякого искусственного интеллекта уже сейчас могут быть наделены правом на решение вопросов жизни и смерти людей. Простой пример: автоматические водители автомобилей. Представьте себе, что автоматический автомобиль везет пассажира по горной дороге, а тут в результате ошибки человека-водителя у него на пути внезапно оказывается школьный автобус. Если автомобиль врежется в автобус, пассажир выживет, а дети погибнут. Альтернатива – свернуть в пропасть, и тогда погибнет пассажир. Автоматика автомобиля должна будет принимать решение – кого из представителей человечества следует убить: своего владельца или незнакомцев.

2. Страшилка об ИИ основана на неверном стереотипе западного общества: якобы более умный и более сильный непременно захочет поработить или уничтожить всех остальных. На самом же деле агрессивность никак не связана с интеллектом: он есть уже у одноклеточных. Это чисто биологическое свойство, простейшая автоматика выживания вида. Агрессивность и экспансионизм западного мира – чисто животные свойства, отнюдь не обусловленное высоким интеллектуальным потенциалом западного общества.

По этой причине эти свойства могут сочетаться с ИИ, только если они умышленно туда введены – вроде инстинкта, не подчиняющего разуму, – а это надо трактовать как умышленно созданную систему для уничтожения людей – см. пункт 1 выше.

3. Борьба за доминирование, аморальность и т.п., как уже указано в пункте 2 – свойства личности, не связанные с интеллектом, дополнительные к нему. Люди унаследовали их у своих животных предков.

Более общо, всё, в конце концов, сводится к вопросу о смысле жизни. Будут ли системы с ИИ ставить такой вопрос и как они будут его решать? Никакой интеллект в этом не поможет – это вопросы философские, религиозные, психологические – вопросы, к которым человечество до сих пор не смогло выработать общепринятого подхода. Скорее всего, такого подхода вообще не может быть, поэтому не следует предполагать, что какое-то решение этих вопросов вдруг возникнет у искусственной системы.