July 28th, 2018

Новая модная страшилка: Искусственный интеллект всех людей порешит

Говорят, даже Димон (который вам не Димон) отметился в этой теме.

Это конечно, вздор, по которому я пройдусь коротенько, минут на 40.

1. Сама по себе идея о том, что техногенная среда может автоматически уничтожить человечество, не нова, и эта среда совершенно не требует искусственного интеллекта. Более того, возможно (надеюсь), она существует -- это пресловутая Doomsday Machine -- Машина Судного дня -- каковой может быть советская система "Периметр", предполагающая автоматический полномасштабный ядерный удар по предполагаемому агрессору (гм, кто бы это мог быть?) в случае, если советское/российское (?) военное руководство выведено из строя ударом этого агрессора, напавшего первым. Нуачётакова?

Вообще современные технические системы без всякого искусственного интеллекта уже сейчас могут быть наделены правом на решение вопросов жизни и смерти людей. Простой пример: автоматические водители автомобилей. Представьте себе, что автоматический автомобиль везет пассажира по горной дороге, а тут в результате ошибки другого человека -- водителя школьного автобуса -- этот автобус внезапно оказывается у него на пути. Если автомобиль врежется в автобус, пассажир выживет, а дети погибнут. Альтернатива -- свернуть в пропасть, и тогда погибнет пассажир. Автоматика автомобиля должна будет принимать решение -- кого из представителей человечества следует убить: своего владельца, выложившего за автомобиль свои кровные, или незнакомцев... В первом случае автомобиль смог бы сказать: "Ты меня породил, а я тебя убью."

2. Страшилка об искусственном интеллекте основана на неверном стереотипе западного общества: более умный и более сильный непременно захочет поработить или уничтожить всех остальных. На самом деле, агрессивность никак не связана с интеллектом: она есть уже у одноклеточных. Это чисто биологическое свойство, простейшая автоматика выживания вида. Агрессивность и экспансионизм западного мира -- чисто животные свойства, отнюдь не обусловленные высоким интеллектуальным потенциалом западного общества. По этой причине эти свойства могут сочетаться с искусственным интеллектом, только если они умышленно туда введены -- вроде инстинкта, не подчиняющего разуму, -- а это надо трактовать как умышленно созданную систему для уничтожения людей -- см. пункт 1 выше.

3. Борьба за доминирование, аморальность и т.п., как уже указано в пункте 2 -- свойства личности, не связанные с интеллектом, дополнительные к нему. Люди унаследовали их у своих животных предков.

Более общо, всё, в конце концов, сводится к вопросу о смысле жизни. Будут ли системы с искусственным интеллектом ставить такой вопрос и как они будут его решать? Никакой интеллект в этом не поможет -- это вопросы философские, религиозные, психологические -- вопросы, к которым человечество до сих пор не смогло выработать общепринятого подхода. Скорее всего, такого подхода вообще не может быть, поэтому не следует предполагать, что какое-то решение этих вопросов вдруг возникнет у искусственной системы.