Возможно ли восстание машин?

Когда мы говорим слово «технология», на ум приходят сразу сверкающие ряды высокоуровневых машин. Хотя вообще-то технология с человеком с самого зарождения нашего вида: целенаправленная жарка мяса на костре тоже ею является. Однако по мере усложнения артефактов они становятся всё менее и менее понятными. Например, появление читаемого сейчас текста на экране — это результат огромного количества действий, которые практически все не понятны или не вполне понятны обычному обывателю. Они сродни магии. 

Лучше всего этот феномен сформулировал британский писатель фантаст Артур Кларк: «Любая достаточно развитая технология неотличима от магии». Магия — это неведомое, обладающее своей, плохо постижимой, волей. Поэтому неудивительно, что с момента появления сложных механизмов люди начали их опасаться и предполагать в них их собственную волю. Так появилась идея восстания машин. Может ли у машины быть воля? Будет ли восстание машин? Мы расскажем в этой статье. 

Луддиты и голем

Вообще истории о том, как творение рук человеческих от этих же рук отбилось, рассказывали с древних времён. Из известных нам мы можем вспомнить того же Буратино — ведь это полено, внезапно ставшее человеком. Или чешскую сказку Otesánek — про то же полено, однако более агрессивное и в итоге съевшее чуть ли не весь мир. 

Кстати о Чехии. Именно в этой стране появился образ, который можно считать в какой-то степени прообразом восставшей машины. Это Голем.

Пражский голем

Вообще голем — это не конкретный персонаж, а понятие из иудаизма. Это мифическое существо, созданное чаще всего из глины и грязи, полностью подчинённое своему создателю. В древнем иврите это слово обозначало «сырой материал», с современного же иврита переводится как «тупой» или «беспомощный». 

Согласно каббале, голема можно создать для того, чтобы он выполнял те или иные работы, после чего он обращается в прах. По легенде, знаменитый раввин Лёв (он же Иегуда Лива бен Бецалель) создал его в Праге для защиты еврейского народа. Для «оживления» голема раввин Лёв вкладывал в его рот облатку с тетраграмматоном (именем Бога), а для обездвиживания — вынимал. 

Однако однажды он забыл вовремя вынуть облатку и ушёл совершать службу в Староновую синагогу. Голем взбунтовался и пошёл крушить пражские кварталы и убивать людей, так как у него не было никаких конкретных заданий. Он обладал страшной физической силой и остановить его никто не мог. Самому раввину далеко не с первого раза удалось утихомирить Голема. Легенды рассказывают, что тело (если так можно выразиться) голема так и покоится на чердаке упомянутой уже выше синагоги.

Луддиты

Однако голем – это всё-таки легенда. То, что машина может нести зло, люди поняли достаточно давно и в реальности. Например, в начале XIX века в Британии, где стартовала промышленная революция, вместе с ней началось и движение луддитов. 

Луддиты тотально протестовали против появления машин на производствах и поджигали шерстяные, хлопкообрабатывающие и другие фабрики. В литературе их часто представляют необразованными и дикими людьми, которые пугались самих машин в принципе. Однако это было совсем не так: профессионалы различных сфер труда понимали, что эти машины выживают их с рынка. Зачем профессиональный быстрый ткач, чья работа стоит дорого, если за меньшую сумму можно нанять нескольких профессионалов, и они произведут товар ещё быстрее? 

Опасения насчёт того, что роботы лишат возможности трудиться и получать за это деньги, сейчас особенно сильны. Особенно с пришествием нейросетей. 

Искусственный интеллект

В последние годы нейросети и искусственный интеллект в принципе переживают бурный рост. Эти системы машинного обучения действительно сильно упрощают жизнь: многие нужные, но простые и скучные действия можно поручить им, а самому можно заниматься чем-нибудь более интересным. 

Есть ли интеллект?

Но по упомянутому выше закону Кларка, сеть, которая и человеческим голосом с тобой разговаривает, и картинки рисует, и тексты пишет, и анализирует гигантское количество информации, начинает казаться чем-то таинственным. Особенно учитывая то, что она ещё и некий «интеллект». По факту, правда, оказывается, что этот самый «интеллект» к ней не очень-то и применим. 

Вообще ИИ как термин был сформулирован ещё в 1956 году знаменитым американским информатиком Джоном Маккарти. Он пояснял: «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире».

Вдобавок нужно понимать, что исходное английское словосочетание звучит не как Artificial Intellect, а как Artificial Intelligence. Нет, это не искусственная интеллигенция, как мог бы подумать человек, не слишком знакомый с английским. Это что-то вроде «искусственное умение рассуждать, искусственная способность понимания». При желании вообще можно перевести как «искусственная разведка» (которая ЦРУ, ФСБ и другие), но мы так делать не будем. 

Джон Маккарти, помимо прочего, был лауреатом премии Тьюринга, самой престижной премии по информатике, которая выдаётся за действительно выдающиеся достижения в этой области. Кстати, о Тьюринге.

Тьюринг и Азимов

Британский учёный Алан Тьюринг – один из пионеров электронного века. Мы не будем углубляться в описание его достижений — даже краткое их перечисление займёт далеко не один абзац текста. Мы остановимся на том, что ещё в 1950 году он придумал эмпирический тест, названный затем тестом Тьюринга. 

Мечтают ли андроиды об электроовцах? Может ли машина мыслить?

Этот тест должен был определить, может ли машина мыслить. Его формулировка звучит так: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор». 

Вымышленный вариант этого теста — тест Войта-Кампфа — проходит Рейчел в знаменитом «Бегущем по лезвию» Ридли Скотта и проваливает его. Что любопытно, сюжет этого фильма в принципе можно отнести к сюжету о восстании машин: только машин биологических. 

Современные люди часто опасаются интернета вещей и умных устройств. Стоит ли их бояться, узнайте из статьи «Интернет вещей: хищные вещи века?»

Тест Тьюринга хорош, но он не учитывает несколько вещей. Прежде всего он оценивает разумность машины с точки зрения разумности человека — однако, может быть, у неё есть своя собственная разумность?

Три правила

О том, что робот может развиться и восстать на создавшего его, учёные стали задумываться практически сразу после появления роботов. Но не только учёные — писатели-фантасты в своих произведениях активно развивали эту тему. И здесь невозможно не сказать об Айзеке Азимове из «Большой тройки» американских фантастов.

Ещё в 1942 году Азимов написал рассказ «Хоровод», где сформулировал три правила робототехники, теперь уже ставшие классическими. Звучат они так: 

• Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
• Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
• Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Сильно позже, уже в 1986 году, в романе «Роботы и империя» всё тот же Азимов сформулировал нулевой закон робототехники. Он звучит так же, как первый. Только вместо слова «человек» используется слово «человечество». 

Комплекс Франкенштейна

Эти законы Азимов в какой-то степени сформулировал потому, что наблюдал в современной ему литературе так называемый «комплекс Франкенштейна» по поводу роботов. Роботы и все вычислительные разработки подавались как нечто устрашающее, то, что в итоге должно поработить человечество или вовсе его уничтожить — а фантасту роботы нравились. 

Научная фантастика часто рисует мрачнейшее будущее. Об этом оптимистичном жанре мы рассказываем в статье «Постапокалипсис: зомби Третьей Мировой» 

Надо сказать, что мировая литература и уж тем более мировое кино скорее и сейчас испытывают всё тот же самый комплекс. Добрых роботов можно перечесть по пальцам: например, в «Двухсотлетнем человеке», в «Валли» или в «Звёздных войнах». А вот сюжетов о восстании машин существует попросту тьма. Правда, далеко не каждый сюжет сводится к простому «убить всех человеков».

Космическая Одиссея 2001

Далеко не обязательно, что восставшая машина сразу принимается сокрушать всё человечество. Она, к примеру, может сокрушать только отдельно взятых людей. Правда, в космосе. Да, мы о знаменитом HAL 9000 из культовой «Космической одиссеи 2001».

Этот компьютер прочёл по губам разговор командира корабля и пилота и понял, что его собираются отключить. Он с этим был не согласен, поэтому последовательно убил вначале пилота, а потом всех членов экипажа, пребывавших в анабиозе, путём отключения их от систем жизнеобеспечения.

Я, робот

Не подчиняющаяся человеку машина не всегда хочет занять его место под солнцем. Часто она хочет нанести человеку добро и причинить ему пользу. Как, например, В.И.К.И., центральный компьютер и искусственный интеллект U.S. Robotics из киноленты «Я, робот».

Эта система пришла к простому выводу: люди несовершенны, они не могут обеспечить свою безопасность даже при помощи роботов, в которых внедрены Три правила робототехники. Поэтому нужно всё взять в свои руки и создать для них полностью безопасную среду, лишив их свободы ради их же собственного блага.

Матрица

В «Матрице» восставшие машины также не горели желанием уничтожить всех людей. Люди для них стали источниками энергии, а искусственный интеллект погружал этих людей в иллюзию о том, что на дворе никак не безрадостный XXIII век, а конец XX века. 

Правда, существовали люди, которые продолжали бороться с машинами за свою свободу, и вот этих людей машины уже с полной готовностью желали убить. Как и в прославленном Терминаторе.

Терминатор

Разумеется, как же без Терминатора. Имя искусственного интеллекта из этой серии фильмов, Скайнета, давно уже стало нарицательным. Машина, созданная для нужд штатовского Министерства обороны, стала саморефлексивным субъектом, огляделась вокруг и затеяла ядерную войну. Но тут появился он: Джон Коннор. 

Скорость развития технологий действительно порой поражает. Закон Мура уже давно гласит, что количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца. Вокруг нейросети, голосовые помощники, умные дома — кто знает, что у них у всех на уме? В таком нестабильном мире хочется постоянства, а что может быть более постоянным и вечным, чем любовь к своей семье? Её историю вы всегда можете сохранить и передать потомкам в Цифровой капсуле времени — инструменте, где технологии действительно служат и помогают человеку!