Сегодняшней статьей мы завершаем цикл обсуждений дискуссионного клуба на тему искусственного интеллекта в будущем человечества. И сегодня мы поговорим об очень непростой теме — об использовании ИИ на войне.
Сегодняшней статьей мы завершаем цикл обсуждений дискуссионного клуба на тему искусственного интеллекта в будущем человечества. И сегодня мы поговорим об очень непростой теме — об использовании ИИ на войне.
Будет ли человечество применять ИИ в военных действиях,насколько этично доверять принятие решений о жизни других людей искусственному интеллекту и почему в конечном итоге разговор не про боевых роботов, а про человека. Сегодня на эти вопросы постараются ответить Дмитрий Третьяков и Данил Бабинов. Оппонирует им бессменная ведущая нашего клуба, эксперт и Автор нашего проекта — Виктория Агранович.
Боевые роботы и нравственный выбор человека
Сегодня технологии ИИ активно применяются во всех сферах жизни человека. В том числе и в военной сфере. Сейчас мы не можем представить, как это повлияет на людей и на наше общество в будущем, но мы можем задать некоторые вопросы этического и философского характера, которые помогут приблизится к истине.
Источник auvsi.org//Боевой робот Mutt
В наших рассуждениях мы будем исходить из допущения того, что в мире уже появились некие автоматизированные боевые единицы, которые могут заменить на поле боя живых солдат. В каждую такую единицу внедрен ИИ, который принимает решения о действиях на поле боя. И теперь от людей зависят только стратегические решения.
Виктория Агранович, эксперт
Это очень непростая тема, потому что речь идет о жизни людей. С одной стороны, использование искусственного интеллекта в военных действиях минимизирует влияние человеческого фактора на принятие решения. С другой стороны, никто не отменял нравственный выбор человека. Для робота любой противник – это то, с чем нужно бороться и что нужно уничтожать. А для человека противники – это всё-таки люди. А люди могут ошибаться, принимать неверные решения, с людьми можно договариваться. То есть даже в условиях войны, есть шанс договориться. И это всегда лучше, чем пресловутая борьба до последней капли крови, потому что есть шанс сохранить человеческие жизни. Договориться же с роботом невозможно, потому что ценность человеческой жизни для него не очевидна. И потому что он запрограммирован, прежде всего, на решение задачи. Хотя, в рамках нашего дискуссионного клуба мы уже рассуждали о моральном кодексе искусственного интеллекта и поняли, что мораль роботов – это важный и сложный вопрос. В этом отношении интересно рассуждение о морали роботов из книги Айзека Азимова «Я робот»: «А разве психология роботов так отличается от человеческой? — Огромная разница. — Она позволила себе холодно улыбнуться, — Прежде всего, роботы глубоко порядочны».
Роботы в разрешении конфликтов. Дмитрий Третьяков
(1)(1).png)
Если допустить что сегодня в армии появились автоматизированные боевые единицы, то большинство людей этого даже не заметит. Обыватель мало интересуется подобной тематикой. И даже если обычный человек об этом узнает, то не предаст новости особого значения. В конце концов, у обычных людей в большинстве своем другие интересы.
К тому же наше представление о войне строится, как правило, на прошлых значимых конфликтах, как например Великая Отечественная война. И даже если станет широко известно о применении ИИ в войсках, при слове война все будут вспоминать уроки истории, и хроники, а не представлять фантастические сцены с роботами.
Читайте о предыдущем заседании клуба в статье «Идеальная социальная сеть будущего»
Кроме того, процессы автоматизации, как правило, идут постепенно, от чего они почти не бросаются в глаза. Да и правительству это будет выгодно. А это означает, что такие решения будут преподноситься исключительно с положительной стороны в официальных СМИ.
Как итог можно сказать, что наше представление о войне не поменяется, даже при использовании в армии искусственного интеллекта.
Виктория Агранович, эксперт
На мой взгляд, речь идет не о нашем представлении о войне, а об отношении к участию в ней роботов. И в этом контексте вопрос о нравственном выборе снова становится ключевым. У робота нет сомнений и переживаний, но у него нет и такого ресурса как боевой дух и любовь к своей земле. Об этом стихотворение «Ясная, тихая сила любви» Евгения Евтушенко: Тёмные силы орут и грохочут — Хочется им человечьих костей. Ясная, тихая сила не хочет, Чтобы напрасно будили детей. Ангелом атомного столетья Танки и бомбы останови И объясни им, что спят наши дети, Ясная, тихая сила любви.
Боевые роботы: зло или благо?
.jpg)
У внедрения ИИ существует множество рисков. Основные из них:
- Этические – представляют собой возможность нарушения человеческого права о защите мирных жителей и частной жизни людей, которым могут угрожать действия боевого ИИ. Но реальность такова, что, как правило, на войне права человека, различные конвенции и в целом мораль весьма мало стоит. Даже без внедрения ИИ. Как пример, в 2013 году, правительство США приняло решение нанести бомбовый удар с помощью беспилотника, по свадебному кортежу, так как в нем могли быть лидеры террористической организации «Аль-Каида». Террористов там не оказалось, пострадали лишь мирные жители.
- Эксплуатационные риски – возможность взлома и вероятные ошибки. Если рассматривать надежность, то нужно сравнить с человеком, а не с недостижимым идеалом, и тогда выясниться, что вообще-то человек тоже не очень-то надежен. Человека можно подкупить, ему можно угрожать или промыть мозги. Тогда машине достаточно быть хотя-бы чуть-чуть эффективнее человека, чтобы его заменить. Что мы сейчас и наблюдаем в других сферах жизни. Например, работу кассира уже сейчас местами заменяют автоматические кассы.
Как робототехника влияет на политику. Данил Бабинов
Скорее всего, поставки оружия с искусственным интеллектом будут запрещены международными соглашениями. Дело в том, что такому оружию может и не понадобиться человек. Тогда, по сути, поставки подобного оружия будут равносильны вводу войск. Ведь это оружие сможет заменять людей. И такие локальные войны как Корейская война, или война во Вьетнаме, где крупные государства оказывали поддержку сторонам конфликта, приобретут совершенно другой вид. Такая война будет равносильна прямому конфликту между этими странами.
Не ясно, сложнее или проще в таком мире будет начать конфликт. С одной стороны не придётся жертвовать живыми солдатами. Но с другой стороны экономические затраты будут такими же…
Проблема, скорее, в том, что даже при изменении средств ведения войны, сами причины этих войн никуда не денутся. А значит и войны продолжатся в том или ином виде.
(2)(1).png){kind=link}
Виктория Агранович, эксперт
На мой взгляд, использование роботов в вооруженных конфликтах, отнюдь не снимает с политиков ответственности за их действия. Если дело дошло до открытого противостояния, то это уже политический просчет. Это значит, что договориться, используя дипломатические средства, не удалось. Тогда как человек может менять — «прогибать» под себя окружающий мир при помощи своей изобретательности и творческих способностей: « Человек, в отличие от животных или роботов, наделен творческими способностями — стремлением экспериментировать, «прогибать» под себя окружающий мир » — Виктор Степанович Бирюков российский предприниматель и политик «О мире. О животных».
Роботы как средство разрешения вооруженных конфликтов
Конфликты с участием роботов станут гораздо более разрушительными, потому как машина не отступит, не посочувствует и не устанет. Например, недостаточно будет просто заставить военную силу сдаться, придется каждый раз ее полностью уничтожать. А это дополнительные разрушения и жертвы.
Как итог, можно сказать, что с одной стороны, ИИ — это лишь инструмент. Как его использовать, все равно будет решать человек. И если человеку уже сейчас нет дела до потерь среди гражданских, то как мы можем рассчитывать на то, что ИИ, который мы делаем по своему подобию, будет о них волноваться? Чтобы ИИ не убивал людей, для начала нам нужно прекратить самим это делать.
Виктория Агранович, эксперт
Я согласна с такой позицией. Как ни крути, все зависит, прежде всего, от человека, потому что человек роботов создает, он их программирует на достижение определенных целей, и он же несет ответственность за последствия своих действий. И это очень хорошо, потому что есть шанс, что мир не утратит такие качества как сострадание и человечность. Хотя уже сейчас есть люди, которые считают, как герой фильма «Статус: Свободен», что «Роботы классные. Они не плачут, не страдают. Они ничего не чувствуют. И никто не может причинить им боль. Быть роботом круче, чем человеком».
С другой стороны, ИИ — это зарождающийся ребенок человеческой цивилизации, который может изменить или заменить нас в отдаленном или не очень будущем. И как гласит известная пословица: «Не пытайтесь поменять ребенка, все — равно он будет как вы, меняйте себя».
Рубрики: Люди будущего о будущем и Футурология
Ранее по теме
Комментариев: 0 обсудить?