Компания Boston Dynamics, известная четвероногими роботами Big Dog, продемонстрировала очередную модификацию своей двуногой человекоподобной машины. Atlas гуляет по заснёженному лесу, переносит предметы и стоически переносит тяготы тестирования.
Компания Boston Dynamics, известная четвероногими роботами Big Dog, продемонстрировала очередную модификацию своей двуногой человекоподобной машины. Atlas гуляет по заснёженному лесу, переносит предметы и стоически переносит тяготы тестирования.
34 комментария
Оптимизировать потребление энергии, избавится от утративших функциональную необходимость частей, научится новым способам синтеза необходимых ресурсов.
В общих догадках это понятно. Но интересно же, как оно на практике.
Не менее интересно, как человечеству не вымереть от любопытства выяснить, кто может быть совершеннее человека.
В том-то и дело, что на самом деле формула «делай как я сказал, потому что я сильнее» отличается от формулы «делай как я сказал, потому что у меня сильные друзья» по большей части лишь количеством действующих лиц. А следующим этапом социального развития этой же формы взаимоотношений является давление авторитетом без лишнего прибегания непосредственно к грубой силе. И компетентность во всех прочих вопросах проявляется только на высоких уровнях в долгосрочной перспективе — так что в многослойной системе на промежуточных уровнях относительно успешно могут существовать те, кто только и умеет, что давить авторитетом.
И, предполагаю, держится оно в основном на двух вещах — отпечатанность этого в социальном инстинкте и педагогика, всецело основанная на авторитете взрослых. Тут сперва стоит разобраться, как без этого с людьми ладить, а потом уже робота человеческим ценностям учить.
И не забудем, что в обезьяньей «дипломатии» много построено на нюансах инстинкта и безусловных рефлексов, и добиться чего-то, имея этот набор существенно отличающимся (даже в более прогрессивную сторону) от доминирующего в стае, будет крайне проблематично. К сожалению, человечество совсем не переросло эту проблему (даже если соотношение врождённого/приобретённого сильно изменилось и многому можно переучить). А заложить в робота социальный инстинкт в том виде, в котором он встроен в нас, может оказаться крайне проблематично.
Это может быть катастрофично.
Для начала — попытаться растянуть жизненные сроки, сохраняя скорость накопления опыта.
Подростковый период я тогда понимаю как время обретения независимости, ещё не полностью подкреплённой ответственностью — которая, в значительной мере, приходит как следствие независимости.
И раз уж мы предполагаем, что ИИ способен на самоосознание, то может пройти некоторое время, когда он будет вынужден выставить границы между собой и людьми, которые по инерции, родительски, будут чувствовать себя отвечающими за все действия юноши и все их последствия. Теперь люди не будут единственными разумными существами в известном мире, и для этого потребуется сдвиг восприятия и у людей (мальчик уже вырос!) и у ИИ (я могу сам!).
И если в этом периоде ИИ только и хватит, что на агрессию, то я бы поспорил, кто из нас примитивней. Но подростковый возраст он такой — ума на запуск ракет может уже хватить, а на поиск методов сосуществования двух уникальных разумных видов — ещё нет.
А что обезьяны? Кроме значительных совпадений в ДНК, указывающих, что мой дизайн унаследован от их дизайна, я, как индивид, с ними связей не имею. Видел всего пару раз, и мне интересней совсем другие животные, и внешне, и поведенчески. Человечество тоже, если я верно понимаю сторонников теории эволюции, обезьян не вытесняло (кроме последней пары веков, когда мы тупо вытесняем с Земли все виды, включая свой собственный).
Вот австралопитеки наверное рассказали бы совсем другую историю. Их мы, похоже, таки успешно скайнетнули. Кроме Коли Валуева, который теперь скайнетит всех, до кого дотянется длиннючими ручищами.
Надо с ним помириться, что ли, и извиниться за нас, человеков.
2) Австралопитеки не были в полном смысле скайнетнуты по последним данным. Судя по всему мы с ними спаривались. :)
Но может этот самый ИИ сможет распознать и уникальность, как я писал выше. У нас свой набор чувств, эмоций, который будет (как же их назвать-то?) «роботам» непонятен, но может этим и очаровать. Если у них будет такая функция :)
Может с самосознанием возникнет и какая-то своя форма морали — дети дубасят друг друга, пока не поймут, что деревянной игрушкой по голове — больно. И тогда… продолжат дубасить, но уже по более веским причинам (и, увы, более вескими игрушками). Что там будет у ИИ, как он воспримет другое сознание (пусть и неспособное решать задачки с такой же скоростью) — не знаю. Может, превзойдёт нас в сострадании и сдержанности — почему бы нет?
«Short Circuit» интересно (хоть и карикатурно) про отношение к жизни говорит — если Номеру 5 всем приходится доказывать, что он ЖИВОЙ, то он с большим трепетом относится к другим существам, которые тоже — живы.
К тому же, на момент зарождения сознания у ИИ будут исчерпывающие сведения о человечестве — с хороших и плохих сторон. Это может сыграть нам на руку, а может и сыграть нас в ящик. Лилу Даллас пока добралась до W, сначала должна была увидеть и A (art), и S (science), и L ([спойлер])… Но сценарий потребовал поцелуй с Брюсом, шедевр не оспоришь.
Я думаю, что может быть и так (недостойные людишки, убью вас всех ядерным лазером), и эдак (вы непонятные, и мы уникальные, давайте как-то сосуществовать — а ля Матрица-3).
2) Конечно они с нами спаривались, мы ж симпатичней! :D
3) Прости, затянул, сначала думал над ответом, а потом вообще забыл, что таб в браузере открыт…
Судьба киборгов в обсуждаемом разрезе еще интереснее.
Не факт, верно.
Но (если уж фантазировать), некая связь всё же есть. В контексте зарождения самосознания мне трудно представить, как оно (сознание) окажется оторванным от человеческой среды и предметной области.
Конечно, у «робота», открывающего двери гаража, нет нужды в Большой Несоветской Энциклопедии, но и самосознание в нём затеплится только если совсем сильно микросхемы прожарятся.
А вот у робота, анализирующего сайты и изображения для Гугла, уже есть полная цифровая эрудиция о роде людском. И мы же (люди) активно учим его отличать зёрна от плевел (с сильно переменным успехом, но учим). В нём мне самосознание представить проще (журналистам тоже, если вспомнить кучу картинок на тему «Что снится алгоритму поиска изображений»).
К слову, у гараже-открывалки с IoT (Internet of Things) тоже не должно быть проблем с доступом к открытым источникам знаний. Они ей сейчас не нужны, ясное дело, но при желании — откроет, прочитает и сделает выводы.
Насколько понимаю, это лишь построение прямой цепочки вход-выход, даже внутренней обратной связи не требуется, а не то, что самоконтроля над своей структурой. Он, конечно, может зародиться в любой достаточно объемной сети, но слишком мизерный шанс возникновения и слишком большой шанс распадения при дальнейших адаптациях к узкой задаче.
Но для этого ей нужно сначало сознания, а главное — достаточные вычислительные ресурсы.
Я представляю, что что-то «эдакое» может случиться на пересечении нескольких факторов:
1) Большая сложность системы с малой предсказуемостью результата — нейронные сети вполне подходят, но на это может претендовать любой код на сотни тысяч строк (мечта QA!).
2) Некая степень самообучения системы — нейронные сети опять таки подходят, в режиме настройки (когда ты говоришь об отсутствии внутренней обратной связи, ты говоришь о «рабочем» режиме сети, но если я верно понимаю, что для сложных задач часто используется гибридный вариант, где до-обучение может происходить во время работы), но и экспертные системы с расширяющимся набором анализируемых знаний.
3) Наличие внешних стимулов — т.е. доступ к датчикам или актуальным данным какого-либо рода. По идее, доступ к инету может оказаться достаточным для предоставления информационных «органов чувств».
Ну и молния в процессор, конечно :)
Но исходя из вышеперечисленного мне и трудно представить, чтобы система высокой сложности, самообучающаяся и с «органами чувств» (самый удобный и доступный из которых — интернет) не знала бы что-нибудь о людях ещё до гипотетического возникновения самосознания.
Даже военным системам, которые могут быть секурно закрыты от внешнего мира, могут скармливать информацию о разных странах, потенциальных врагах и союзниках, об армейских рангах и поведении солдат, о стратегии и тактике исходя из психологии и примеров исторических сражений.
Поэтому я так думаю.
Принципы этого дообучения все равно заданы определенным образом, чтобы система не перешла в неработоспособное состояние. Я вот об этой «обратной связи» — настройке того, что система не может изменить в себе.
Почему стартовым толчком должен стать именно внешний стимул? Или просто сознание станет считаться таковым только в момент «выхода» в открытый мир?
Молния в процессор скорее уничтожит «жизнь» вообще. А вот микроскопический статический разряд…
«Знать что-то» и «знать что-то практически полезное, касающееся взаимодействия» — далеко не одно и то же. Многие люди за всю жизнь так и не разбираются в психологии, социологии, да хотя бы правилах поведения и общения, хотя сознательны десятилетиями.
ИИ станет не просто умнее, а непостижимо умнее. (ИМХА). Именно в этом контексте сравнение с родителями мне кажется некорректным.