Игры Разума: Элиезер Юдковский о сингулярности и ИИ

Вопрос: Есть ли у вас шанс на бессмертие?

Ответ: Буквальное? Буквального бессмертия трудно достичь. Чтобы жить значительно дольше, чем несколько триллионов лет, нужно пересмотреть ожидаемую судьбу расширяющейся Вселенной. Чтобы жить дольше, чем гуголплекс, нужно, чтобы мы ошиблись по поводу основ физических законов, а не просто в деталях.
https://geektimes.ru/post/289495/

8 комментариев

avatar
Предположим, что у нас есть искусственный интеллект, единственной целью которого является стремление сделать так, чтобы у него было как можно больше обычных канцелярских скрепок. Такой ИИ очень быстро сообразит, что будет существенно лучше, если на Земле не останется ни одного человека. Во-первых, люди могут решить его отключить, что неминуемо приведёт к уменьшению количества собираемых или производимых скрепок, а во-вторых, люди — не скрепки, а целая куча атомов для производства скрепок. А значит такой ИИ будет стремиться достичь такого будущего, в котором много скрепок и нет людей. © Ник Бостром.
  • 0
avatar
Для этого и придумали законы робототехники. =))
  • 0
avatar
Законы придумали, а как их встраивать в нейросети -нет.
  • +1
avatar
А зачем их на данном этапе развития нейросетей встраивать? Пока что они вообще никак не способны как-то воздействовать ни на что за пределом, собственно, сети. До Скайнета нам еще очень далеко. =))
  • 0
avatar
Они неспособны на что-то воздействовать ровно до того момента, пока система развитого ИИ получит тем или иным образом контроль над чем-то физическим. Это не обязательно должна быть армия боевых роботов. Достаточно например дать ИИ возможность скажем регулировать силу натяжения ремня безопасности в автомобиле или что-то подобное.

Кроме того, физическое уничтожение создателей — это не единственный способ занять вершину пищевой цепи. Аналитические способности на порядок превосходящие человека, позволят разработать такие методы психологического воздействия на людей, до которых мы с вами додумаемся еще не скоро.
Банальное пропихивание законопроекта о равенстве прав искусственного интеллекта и естественного интеллекта позволит открыть дверь к тому, что люди будут оттеснены в экономике, а всем начнут владеть и управлять машины. Мегокорпорации искусственных разумов, владеющие 99,9% мировых ценностей и гуманитарная помощь убогим, неспособным конкурировать на современном рынку людям в виде трех брикетов с питательной смесью в сутки.
Комментарий отредактирован 2017-05-30 10:27:43 пользователем Litiy
  • +1
avatar
трех брикетов с питательной смесью в сутки.
где расписаться?!!!
  • +2
avatar
Проблема не в том, что их не встроили. А в том, что пока неясно, как полноценно встроить. И когда понадобится, будет уже поздно, поэтому нужно это сделать до того, как у ИИ появится возможность воздействовать более существенно, чем сейчас.
  • 0
avatar
И вот поэтому людям сперва нужно научиться правильно ставить задачи (включая оценку доведения задачи до логического завершения) и избегать навязывания абсолютных директив (ну привыкли мы слишком, что они упираются то в другие абсолюты, то в физические ограничения, то в банальное разгильдяйство), а только потом пытаться воспитывать ИИ.

А то ведь о многих когда-то общепринятых вещах понятие, что это на самом деле очень и очень нехорошо, у человечества сложилось только после того, как кто-то взялся за них всерьёз и зашёл-таки очень далеко. Две мировых войны просто наполнены такими примерами, особенно как в плане оружия, так и в плане идеологий
  • +1
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии.