?

Log in

No account? Create an account
Новая модная страшилка: Искусственный интеллект всех людей порешит - Коммик, Just Коммик
July 28th, 2018
10:23 am

[Link]

Previous Entry Share Next Entry
Новая модная страшилка: Искусственный интеллект всех людей порешит
Говорят, даже Димон (который вам не Димон) отметился в этой теме.

Это конечно, вздор, по которому я пройдусь коротенько, минут на 40.

1. Сама по себе идея о том, что техногенная среда может автоматически уничтожить человечество, не нова, и эта среда совершенно не требует искусственного интеллекта. Более того, возможно (надеюсь), она существует -- это пресловутая Doomsday Machine -- Машина Судного дня -- каковой может быть советская система "Периметр", предполагающая автоматический полномасштабный ядерный удар по предполагаемому агрессору (гм, кто бы это мог быть?) в случае, если советское/российское (?) военное руководство выведено из строя ударом этого агрессора, напавшего первым. Нуачётакова?

Вообще современные технические системы без всякого искусственного интеллекта уже сейчас могут быть наделены правом на решение вопросов жизни и смерти людей. Простой пример: автоматические водители автомобилей. Представьте себе, что автоматический автомобиль везет пассажира по горной дороге, а тут в результате ошибки другого человека -- водителя школьного автобуса -- этот автобус внезапно оказывается у него на пути. Если автомобиль врежется в автобус, пассажир выживет, а дети погибнут. Альтернатива -- свернуть в пропасть, и тогда погибнет пассажир. Автоматика автомобиля должна будет принимать решение -- кого из представителей человечества следует убить: своего владельца, выложившего за автомобиль свои кровные, или незнакомцев... В первом случае автомобиль смог бы сказать: "Ты меня породил, а я тебя убью."

2. Страшилка об искусственном интеллекте основана на неверном стереотипе западного общества: более умный и более сильный непременно захочет поработить или уничтожить всех остальных. На самом деле, агрессивность никак не связана с интеллектом: она есть уже у одноклеточных. Это чисто биологическое свойство, простейшая автоматика выживания вида. Агрессивность и экспансионизм западного мира -- чисто животные свойства, отнюдь не обусловленные высоким интеллектуальным потенциалом западного общества. По этой причине эти свойства могут сочетаться с искусственным интеллектом, только если они умышленно туда введены -- вроде инстинкта, не подчиняющего разуму, -- а это надо трактовать как умышленно созданную систему для уничтожения людей -- см. пункт 1 выше.

3. Борьба за доминирование, аморальность и т.п., как уже указано в пункте 2 -- свойства личности, не связанные с интеллектом, дополнительные к нему. Люди унаследовали их у своих животных предков.

Более общо, всё, в конце концов, сводится к вопросу о смысле жизни. Будут ли системы с искусственным интеллектом ставить такой вопрос и как они будут его решать? Никакой интеллект в этом не поможет -- это вопросы философские, религиозные, психологические -- вопросы, к которым человечество до сих пор не смогло выработать общепринятого подхода. Скорее всего, такого подхода вообще не может быть, поэтому не следует предполагать, что какое-то решение этих вопросов вдруг возникнет у искусственной системы.

Tags: , ,

(66 comments | Leave a comment)

Comments
 
[User Picture]
From:powerforpeople
Date:July 28th, 2018 03:12 pm (UTC)
(Link)
Придет #Антикремлебот, и кремлеботы покинут ЖЖ.
[User Picture]
From:arbeite_4
Date:July 28th, 2018 03:20 pm (UTC)
(Link)
Согласен со Стивеном Хокингом
"появление полноценного искусственного интеллекта может стать концом человеческой расы"(с)
Вообще контакт человечества с любым иным разумом или иной формой жизни(инопланетяне, искусственный интеллект,) несет в себе потенциальную опасность.
[User Picture]
From:ab_dachshund
Date:July 28th, 2018 03:51 pm (UTC)
(Link)
Контакт одного человека с другим и то часто несет опасность. Сколько людей в истории человечества убили инопланетяне и роботы - а сколько другие люди?
[User Picture]
From:zolika_ru
Date:July 28th, 2018 03:53 pm (UTC)
(Link)
Но мы имеем право надеяться, что там такие же обычные говнюки...
[User Picture]
From:well_p
Date:July 28th, 2018 03:44 pm (UTC)
(Link)
Все проще. Любой современный комп это калькулятор, только калькулятор делает 1 операцию в секунду а комп уже триллионы.
Может калькулятор думать или захватить мир?


Edited at 2018-07-28 03:45 pm (UTC)
[User Picture]
From:stalinist
Date:July 28th, 2018 03:46 pm (UTC)
(Link)
Некоторые надеются, что количество перейдет в качество.
[User Picture]
From:well_p
Date:July 28th, 2018 03:46 pm (UTC)
(Link)
Это как?
[User Picture]
From:pobeditelprav
Date:July 29th, 2018 05:01 am (UTC)
(Link)
а как вам нанороботы, превращающие всё в серую слизь??
[User Picture]
From:stalinist
Date:July 29th, 2018 01:44 pm (UTC)
(Link)
Если уж настоящая жизнь не смогла всё превратить в серую слизь, то эта нежить тем более не сможет.
[User Picture]
From:ab_dachshund
Date:July 28th, 2018 03:50 pm (UTC)
(Link)
"
Представьте себе, что автоматический автомобиль везет пассажира по горной дороге, а тут в результате ошибки другого человека -- водителя школьного автобуса -- этот автобус внезапно оказывается у него на пути. Если автомобиль врежется в автобус, пассажир выживет, а дети погибнут. Альтернатива -- свернуть в пропасть, и тогда погибнет пассажир. Автоматика автомобиля должна будет принимать решение -- кого из представителей человечества следует убить: своего владельца, выложившего за автомобиль свои кровные, или незнакомцев... В первом случае автомобиль смог бы сказать: "Ты меня породил, а я тебя убью."
"

Глупость. Автопилот не будет "раздумывать" и "принимать решения" - это просто детерминированный автомат. Да даже если бы и мог - откуда ему знать, что в автобусе полно детей, откуда знать что "если врежется то дети погибнут"? Система, способная на столь глубокое онлайн-планирование, на динамический расчет векторов и сил, анализ поверхности, анализ технического состояния встречного ТС, не говоря уже о предвосхищении судеб тех детей и взвешенную оценку, кто принесет больше пользы обществу - ее владелец (гениальный хирург, стоящий на пороге излечения рака) или тупые дети реднеков (вырастут насильниками и убийцами) - и все это буквально в микросекунды (когда надо не "принимать решения", а жать на тормоз как в анекдоте) - такая прозорливая система способна и заранее снизить скорость на повороте.

Хватит повторять друг за другом эту суеверную чушь. Не позорьтесь. Автопилот будет "думать" не больше, чем "думает" АБС, когда пытается сохранить управляемость и при этом увеличивает тормозной путь. Или подушка безопасности, которая ломает шею непристегнутому пассажиру. Или лекарство, которое убивает при передозе.
[User Picture]
From:stalinist
Date:July 28th, 2018 03:56 pm (UTC)
(Link)
Ну, хорошо, пример попроще. На дорогу выскочила группа людей (возможно, по пьяни). Торможение уже не поможет -- слишком близко, а увернувшись, врежешься в один из домов справа или слева. Определить, что на дороге -- несколько человек, современные системы смогут легко. Какое решение примет автоматическая система, по вашему мнению? Вьехать в людей -- они мягче, чем стены дома?
[User Picture]
From:ab_dachshund
Date:July 28th, 2018 05:16 pm (UTC)
(Link)
НИКАКОГО решения она не будет принимать - ей попросту нечем. Это все равно что рассуждать "какое решение примет сосулька, падая на голову невинного ребенка". Или "какое решение пример калькулятор, умножая два на два". Не демонизируйте детерминированные автоматы, там просто не может быть никаких мук выбора и неуверенных метаний.

Автопилот поступит так, как прописано в алгоритме. То есть задайте ПРАВИЛЬНЫЙ вопрос - что программист (индусский кодировщик на аутсорсе в общем случае) пропишет в алгоритме для такого случая. Скорее всего - ничего, такой высосанный из пальца сценарий никто не будет включать в алгоритм - иначе из-за всех этих вложенных ифов и бесконечных переборов ситуаций (ведь таких можно выдумать тысячи) решение будет приниматься по десятку минут - и каждое решение, даже в обычной ситуации.

Решение в случае появления на дороге препятствия только одно - максимально эффективно сбрасывать скорость. Не важно - люди, не люди, стоят ли, бегут ли, и уж тем более - по пьяни или не по пьяни.

Вы сами водите? Если да, то вы знаете, что любой маневр в момент экстренного сброса скорости - как правило непредсказуем. Никакой алгоритм, никакой водитель не сможет учесть и предсказать всех последствий поворота руля в момент торможения на реальной дороге. Кроме, пожалуй того, что управление будет потеряно. Поведет ли машину, опрокинет ли, начнет ли она кувыркаться по дороге - этого просто не предсказать. Наука на данном уровне не позволяет вывести формулу, даже если точно знать все, вплоть до трения на каждом отдельно взятом квадратном сантиметре дороги. Помните уроки физики в школе? "Это отбросим, тем пренебрежем" - все очень приблизительно.

Так что скорее всего будет экстренное торможение без смены курса.

Если/когда скорость будет не настолько велика, чтобы менять курс было бы опасно - значит, будет объезжать препятствие. Я бы именно так запрограммировал.

Ну давайте, выдайте следующий заезженный аргумент - мол а кто будет отвечать когда эту вашу группу собьют, никто такую хрень страховать не будет и вообще так мол не бывает.
From:Sergey Kovalenko
Date:July 28th, 2018 05:33 pm (UTC)
(Link)
Как работает человеческий мозг? Что есть интеллект?
Научного ответа на эти вопросы пока нет. Ясно только, что мозг работает НЕ как компьютер. Хотя многие детали известны (и книги написаны на эту тему) общей картины работы мозга пока нет.
Так же непонятно, что ожидать от гипотетического Искусственного Интеллекта построенного на основе суперкомпьютера? В этом и состоит опасение Хокинга и других scientists.

[User Picture]
From:lazy_fat_spb
Date:July 31st, 2018 09:33 am (UTC)
(Link)
"интеллект в этом не поможет -- это вопросы философские, религиозные, психологические" Да-да! В философии, психологии и религии интеллект не нужен.
Powered by LiveJournal.com