Смертельный ИИ

В мире не прекращаются споры о том — может ли искусственный разум причинить вред человеку, или же его создание приведет к прорыву и новым возможностям. Однако до сих пор эти споры носили скорее гипотетический характер. Ведь доказать ту или иную точку зрения было невозможно.

О том, какой апокалиптическое будущее может ожидать человечество, читайте в статье «Будущее в багровых тонах»

Однако теперь сторонники версии, согласно которой искусственный интеллект может истребить человечество, могут торжествовать. Потому что теперь экспериментально доказано, что да, может. Хотя, конечно, повод для торжества сомнительный. 

Дело в том, что частная фармацевтическая компания Collaborations Pharmaceuticals провела эксперимент, который должен был выявить опасности злоупотребления при использовании ИИ. Для исследования ученые выбрали нейросеть MegaSyn. Результаты шокировали —  буквально за пару минут и несколько команд искусственный интеллект превратился из помощника и компаньона в безжалостного убийцу. 

Во время эксперимента нейросети, которая выявляла токсичные вещества в лекарствах, просто заменили цель на противоположную. После этого ИИ начал придумывать формулы биологического и химического оружия. В результате за 6 часов работы было создано более 40 тысяч различных формул ядов и опасных химических соединений. А когда машину попросили создать аналог нервно-паралитического газа VX, ИИ решил эту задачу молниеносно.

Исследователей так испугали результаты их опытов, что они засекретили все результаты своей работы. Но с другой стороны хорошо, что о таких «убийственных» возможностях искусственного интеллекта стало известно до того, как этой лазейкой успели воспользоваться настоящие злодеи.