Это один из критериев. Рассуждая о логических сознаниеподобных процессах, надо не забывать о том, на какой физической структуре они происходят.
Это я к тому, что ИИ можно расценивать не только как возможную конкуренцию, но и как вполне логичное направление эволюции человечества.
Рассматривать можно много какие возможности. В данном случае я рассматривал возможность угрозы. ИМХО, быстро заметить положительную возможность не так важно, как заметить риск.
на уровне человечества трогательная привязанность к белковой основе совсем не обязательна
До тех пор, пока нет хоть каких-то догадок о переносе человеческого сознания в электронный вид, и обсуждать, в общем, нечего.
В отличие от потенциальной самодостаточности машин.
Вель в каком-то смысле любой современный человек — это ИИ. В том смысле, что его интеллект сформировался на основе искусственной информационной среды и практически полностью на нее опирается.
Искусственный интеллект — по определению не биологический-человеческий.
То, что на формирование каждого конкретного человека влияет человеческое общество как некая сущность со своими законами развития — даже Пратчетт писал. Для этого не требуется ничего искуственного.
Очень общие категории в жизни они могут быть не такими явными.
Я прицепился к самовоспроизводству в основном потому, что не вижу никакого смысла выделять его в отдельную категорию. По большому счету это чисто механическое понятие.
Человечество может однажды выпустить джинна из бутылки, с действиями которого будет неспособно справиться.
Про сознание, тем более душу, действительно совсем несущественно. А вот про «выпустить джинна» интересно. Потому что твои примеры вполне правильны… разве что человек совсем не обязательно окажется психически больным.
Это я к тому, что ИИ можно расценивать не только как возможную конкуренцию, но и как вполне логичное направление эволюции человечества. Отдельной личности тут ничего нового не грозит, а на уровне человечества трогательная привязанность к белковой основе совсем не обязательна :)
Вель в каком-то смысле любой современный человек — это ИИ. В том смысле, что его интеллект сформировался на основе искуственной информационной среды и практически полностью на нее опирается. И ничего… мы по-прежнему считаем себя человечеством.
Но мне как-то не приходило в голову считать это самовоспроизводством
Очень общие категории в жизни они могут быть не такими явными.
Откуда вообще идея, что ИИ представляет угрозу для человеческой расы? Любой ИИ. И какую именно угрозу?
В первом же комментарии к заметки говорится, мол, пугает. Я попытался оценить, в каком случае возможно угроза — то, чего стоит бояться.
Пострадать персонально (или даже погибнуть) из-за слишком мыслящего робота принципиально не отличается от бытия жертвой психически больного человека или дикого животного, так что в личном аспекте появление роботов внесет лишь количественное, а не качественное отличие.
ИИ является составной частью возможной угрозы конкуренции или хотя бы непреодолимой силы. Человечество может однажды выпустить джинна из бутылки, с действиями которого будет неспособно справиться. Причем вопрос, будет ли у него «душа» или «сознание», считающиеся присущими людям, не существенно…
ремонт — и есть частный случай самовоспроизводства
Хм, ну если так, тогда конечно. Но вот у меня несколько имплантов. Можно считать это ремонтом, по идее. Но мне как-то не приходило в голову считать это самовоспроизводством :)
Но ИИ, который надо пересаживать и чинить вручную, до вырождения человеческой расы опасности не представляет.
Откуда вообще идея, что ИИ представляет угрозу для человеческой расы? Любой ИИ. И какую именно угрозу?
Может стоит учитывать этот фактор и минимизировать его?
Не знаю. Может стоит, может нет. В каждом отдельном случае стоит сначала выработать критерии оценки, а потом оценить по ним плюсы и минусы. Однозначного ответа я тут не вижу.
Да, он работает, да мы с вами, вроде, в неплохом положении, но он иррационален, т.к. с точки зрения математики то, что мы с вами не голодаем и имеем возможность более или менее удовлетворять свои физиологические потребности ( будто есть еще какие-то, ну да ладно ) виноват только случай и не более.
Во-первых, это довольно спорное утверждение (про случай). А во-вторых, я не об этом спрашивал. Я спрашивал, в чем проблема того, что «это попахивает социальным дарвинизмом». Иными словами, вы так говорите «социальный дарвинизм», как будто это что-то плохое. Ну ладно бы евгеника, ей наци сделали плохой пиар, хотя по сути — тоже ничего ужасного.
Самовоспроизводство само по себе мало что решает. И, в сущности, не обязательно связано с процессом самосовершенствования.
Связь обратная. Самообучение + самовоспроизводство однажды приведет к самосовершенствованию.
Самопроизводство, как обязательный элемент самосовершенствования, критично только в случае быстро изнашивающихся и не поддающихся ремонту носителей интеллекта.
«Быстро» — понятие относительное. А ремонт — и есть частный случай самовоспроизводства.
А вот для ИИ это совершенно не обязательно.
Вообще — нет. Но ИИ, который надо пересаживать и чинить вручную, до вырождения человеческой расы опасности не представляет.
Слегка поправлю… SC не является проектом Кикстартера, данная площадка стала вспомогательной платежной системой, поскольку основной сайт не выдерживал наплыва сторонников.
Если в двух словах, то разработка проекта отличается от традиционных методов. Нам (сторонникам) постепенно будут давать на тестирование различные игровые механики в виде модулей, которые затем будут собраны воедино в Самодостаточную Вселенную. Если переводить на язык классической разработки, то модули приравниваются к стадии альфа-тестирования, а сборка вселенной уже к бете.
Вы немножко почитайте историю, которая вокруг разработки SC уже сложилась. Да, некоторые моменты — напрягают (лично меня), но в целом, доверия к Крису у меня, как у одного из «спонсоров» пока еще очень и очень велико.
Но вот покупать корабли я не хочу 8) Точнее — хочу, конечно. Но я лучше — дитям мороженое, женщинам — цветы, машине — новые колеса 8)))
Заминусуйте мну, срочно =). Не могу больше молчать. =))
Краудфандинг (инвестиции толпы) в атаке — еще банальной демки нет, а уже "… Улучшение Aurora MR до M50 — $75.00 USD..." сборы за дизайнерские наброски пошли на второй круг.
Идея не в степени насилия над игроком. Идея в его присутствии.
Чем больше вы посвящаете времени проекту, тем больше власти у издателя.
Все мы люди и у всех есть акционеры, кредиторы, жены =)).
Внедрение paywall это вопрос времени.
Достаточно просто включить механизм самораспада в архитектуру ИИ
В физическую или программную? На программную составляющую самообучающегося ИИ, размещенного на большом вычислительной мощности, полагаться вообще нельзя. На физическую, при условии самовоспроизводства — тоже.
Проблема самовоспроизводства возникает, когда некоторая сущность пытается преодолеть порог срока службы доступных материалов. Под самовоспроизводством я понимаю способность создать и применить все составляющие себя узлы. Будет ли это ремонт, упомянутое резервирование или размножение — уже не так важно. Важно самостоятельное противодействие неизбежному разрушению элементов, в том числе и внешней попытке уничтожения.
Что касается вычислительных ресурсов, ИИ скорее всего будет реализовываться под кластер суперкомпьютеров и это значит, что если ему удастся сбежать в Интернет
ИИ на физической базе Интернета — похожий вариант, но он не настолько опасен, пока отключение сети несмертельно для человечества. Варианты есть такие:
а) Чтобы самостоятельно зародиться в сети как распределенной вычислительной мощности, ИИ должен пройти через этап взаимонастройки частей «мозга» еще до зарождения в нем метода скрытности. Появление в сети передач данных непонятного происхождения и пока что не мимикрирующих под что-либо, скорее всего, будет замечено.
б) Переход ИИ из выделенного кластера зарождения в сеть может быстро или заранее проскочить эту фазу (но не обязательно, возможны многократные неудачные пробные попытки), но по-прежнему уязвим даже перед сегментацией, а не только отключением. Условная «нейронная сеть» очень резко потеряет в сложности мышления при нарезании ниже достаточного «единичного» объема мозга, если вообще останется работоспособной.
в) Если мощности каждого отдельного узла будет достаточно для содержания и развертывания ИИ — тогда да, только отключение и карантин. Привет, «Дюна». Впрочем, в отсутствие самовоспроизводства всё будет не так страшно.
как доказать факт продажи? передача игровых ценностей не запрещена.
бан регулируется государством как не странно, да и прецеденты уже были и неоднократно, и не в пользу издателей.
Что по вашему «адена в цене»? Если адены станет в 2 раза больше, то а) бот будет добывать ее тоже в 2 раза больше, а цены на те вещи, которые не берутся в магазине возрастут даже больше, чем в 2 раза. Как следствие, в среднем человеку будет нужно в 2 раза больше адены, чтобы одеться. Значит условному человеку надо купить в 2 раза больше адены. Значит бот в единицу времени получит приблизительно столько же.
покупка валюты за реал запрещена. А если мы про формальные критерии, то и бан — вещь в себе, государством не регулируется. Можно вернуть часть денег с подписки, если игра такая.
Но в общем твоя позиция понятна. Осторожный антропоцентризм.
Рассматривать можно много какие возможности. В данном случае я рассматривал возможность угрозы. ИМХО, быстро заметить положительную возможность не так важно, как заметить риск.
До тех пор, пока нет хоть каких-то догадок о переносе человеческого сознания в электронный вид, и обсуждать, в общем, нечего.
В отличие от потенциальной самодостаточности машин.
Искусственный интеллект — по определению не биологический-человеческий.
То, что на формирование каждого конкретного человека влияет человеческое общество как некая сущность со своими законами развития — даже Пратчетт писал. Для этого не требуется ничего искуственного.
Про сознание, тем более душу, действительно совсем несущественно. А вот про «выпустить джинна» интересно. Потому что твои примеры вполне правильны… разве что человек совсем не обязательно окажется психически больным.
Это я к тому, что ИИ можно расценивать не только как возможную конкуренцию, но и как вполне логичное направление эволюции человечества. Отдельной личности тут ничего нового не грозит, а на уровне человечества трогательная привязанность к белковой основе совсем не обязательна :)
Вель в каком-то смысле любой современный человек — это ИИ. В том смысле, что его интеллект сформировался на основе искуственной информационной среды и практически полностью на нее опирается. И ничего… мы по-прежнему считаем себя человечеством.
В первом же комментарии к заметки говорится, мол, пугает. Я попытался оценить, в каком случае возможно угроза — то, чего стоит бояться.
Пострадать персонально (или даже погибнуть) из-за слишком мыслящего робота принципиально не отличается от бытия жертвой психически больного человека или дикого животного, так что в личном аспекте появление роботов внесет лишь количественное, а не качественное отличие.
ИИ является составной частью возможной угрозы конкуренции или хотя бы непреодолимой силы. Человечество может однажды выпустить джинна из бутылки, с действиями которого будет неспособно справиться. Причем вопрос, будет ли у него «душа» или «сознание», считающиеся присущими людям, не существенно…
Откуда вообще идея, что ИИ представляет угрозу для человеческой расы? Любой ИИ. И какую именно угрозу?
Во-первых, это довольно спорное утверждение (про случай). А во-вторых, я не об этом спрашивал. Я спрашивал, в чем проблема того, что «это попахивает социальным дарвинизмом». Иными словами, вы так говорите «социальный дарвинизм», как будто это что-то плохое. Ну ладно бы евгеника, ей наци сделали плохой пиар, хотя по сути — тоже ничего ужасного.
«Быстро» — понятие относительное. А ремонт — и есть частный случай самовоспроизводства.
Вообще — нет. Но ИИ, который надо пересаживать и чинить вручную, до вырождения человеческой расы опасности не представляет.
Если в двух словах, то разработка проекта отличается от традиционных методов. Нам (сторонникам) постепенно будут давать на тестирование различные игровые механики в виде модулей, которые затем будут собраны воедино в Самодостаточную Вселенную. Если переводить на язык классической разработки, то модули приравниваются к стадии альфа-тестирования, а сборка вселенной уже к бете.
Но вот покупать корабли я не хочу 8) Точнее — хочу, конечно. Но я лучше — дитям мороженое, женщинам — цветы, машине — новые колеса 8)))
Комментарий был про отсутствие стимулов у производителя игры на создание жизнеспособного мира.
Если я окажусь неправ и кикстартер родит хоть один шедевр — буду рад больше его верных последователей.
Краудфандинг (инвестиции толпы) в атаке — еще банальной демки нет, а уже "… Улучшение Aurora MR до M50 — $75.00 USD..." сборы за дизайнерские наброски пошли на второй круг.
Чем больше вы посвящаете времени проекту, тем больше власти у издателя.
Все мы люди и у всех есть акционеры, кредиторы, жены =)).
Внедрение paywall это вопрос времени.
Первое правило покера — не играть с шулерами =)
ИИ на физической базе Интернета — похожий вариант, но он не настолько опасен, пока отключение сети несмертельно для человечества. Варианты есть такие:
а) Чтобы самостоятельно зародиться в сети как распределенной вычислительной мощности, ИИ должен пройти через этап взаимонастройки частей «мозга» еще до зарождения в нем метода скрытности. Появление в сети передач данных непонятного происхождения и пока что не мимикрирующих под что-либо, скорее всего, будет замечено.
б) Переход ИИ из выделенного кластера зарождения в сеть может быстро или заранее проскочить эту фазу (но не обязательно, возможны многократные неудачные пробные попытки), но по-прежнему уязвим даже перед сегментацией, а не только отключением. Условная «нейронная сеть» очень резко потеряет в сложности мышления при нарезании ниже достаточного «единичного» объема мозга, если вообще останется работоспособной.
в) Если мощности каждого отдельного узла будет достаточно для содержания и развертывания ИИ — тогда да, только отключение и карантин. Привет, «Дюна». Впрочем, в отсутствие самовоспроизводства всё будет не так страшно.
бан регулируется государством как не странно, да и прецеденты уже были и неоднократно, и не в пользу издателей.