Читайте также

8 комментариев

avatar
Предположим, что у нас есть искусственный интеллект, единственной целью которого является стремление сделать так, чтобы у него было как можно больше обычных канцелярских скрепок. Такой ИИ очень быстро сообразит, что будет существенно лучше, если на Земле не останется ни одного человека. Во-первых, люди могут решить его отключить, что неминуемо приведёт к уменьшению количества собираемых или производимых скрепок, а во-вторых, люди — не скрепки, а целая куча атомов для производства скрепок. А значит такой ИИ будет стремиться достичь такого будущего, в котором много скрепок и нет людей. © Ник Бостром.
  • 0
avatar
Для этого и придумали законы робототехники. =))
  • 0
avatar
Законы придумали, а как их встраивать в нейросети -нет.
  • +1
avatar
А зачем их на данном этапе развития нейросетей встраивать? Пока что они вообще никак не способны как-то воздействовать ни на что за пределом, собственно, сети. До Скайнета нам еще очень далеко. =))
  • 0
avatar
Они неспособны на что-то воздействовать ровно до того момента, пока система развитого ИИ получит тем или иным образом контроль над чем-то физическим. Это не обязательно должна быть армия боевых роботов. Достаточно например дать ИИ возможность скажем регулировать силу натяжения ремня безопасности в автомобиле или что-то подобное.

Кроме того, физическое уничтожение создателей — это не единственный способ занять вершину пищевой цепи. Аналитические способности на порядок превосходящие человека, позволят разработать такие методы психологического воздействия на людей, до которых мы с вами додумаемся еще не скоро.
Банальное пропихивание законопроекта о равенстве прав искусственного интеллекта и естественного интеллекта позволит открыть дверь к тому, что люди будут оттеснены в экономике, а всем начнут владеть и управлять машины. Мегокорпорации искусственных разумов, владеющие 99,9% мировых ценностей и гуманитарная помощь убогим, неспособным конкурировать на современном рынку людям в виде трех брикетов с питательной смесью в сутки.
Комментарий отредактирован 2017-05-30 10:27:43 пользователем Litiy
  • +1
avatar
трех брикетов с питательной смесью в сутки.
где расписаться?!!!
  • +2
avatar
Проблема не в том, что их не встроили. А в том, что пока неясно, как полноценно встроить. И когда понадобится, будет уже поздно, поэтому нужно это сделать до того, как у ИИ появится возможность воздействовать более существенно, чем сейчас.
  • 0
avatar
И вот поэтому людям сперва нужно научиться правильно ставить задачи (включая оценку доведения задачи до логического завершения) и избегать навязывания абсолютных директив (ну привыкли мы слишком, что они упираются то в другие абсолюты, то в физические ограничения, то в банальное разгильдяйство), а только потом пытаться воспитывать ИИ.

А то ведь о многих когда-то общепринятых вещах понятие, что это на самом деле очень и очень нехорошо, у человечества сложилось только после того, как кто-то взялся за них всерьёз и зашёл-таки очень далеко. Две мировых войны просто наполнены такими примерами, особенно как в плане оружия, так и в плане идеологий
  • +1
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии.