Иногда люди, чтобы избежать неприятной работы или сложного задания, симулируют непонимание по принципу: «Ну что с дурака возьмешь?». И в этом есть логика – глуповатого человека никто не опасается, на него не возлагают большие надежды, так что и ответственности на нем меньше. Иногда в шпионских фильмах такой прием использует главный герой – хитрый и расчетливый агент, который притворяется простофилей. А может ли прикинуться «дурачком» искусственный интеллект, и чем это грозит человечеству? Попробуем разобраться в статье.
Теория разума
Теория разума – это способность одного человека понимать отличие своего сознания от сознания другого человека. Звучит замысловато, но, на самом деле, все очень просто. Например, эта способность проявляется, когда мы понимаем, что наш собеседник не знает того, что знаем мы, чувствует по другому, имеет другие желания и цели. По другому это умение называется моделью психического состояния.
Хотя этот дар не является врожденным, он появляется у человека очень рано. Последние исследования доказали, что дети уже с двухлетнего возраста способны понимать логику рассуждений другого человека, прогнозируя его поведение.
Кем будет ИИ в будущем? Конкурентом или партнером? Читайте в статье «Интеллектуальные капиталисты будущего»
Раньше считалось, что этим удивительным навыком обладают только люди, однако выяснилось, что сравнивать свое и чужое сознание умеют также человекообразные обезьяны. Последние исследование доказало, что ИИ тоже это умеет. Причем искусственный интеллект смог не просто понять, что человек мыслит по другому, ему даже удалось имитировать чужое сознание. Например, когда нейросеть попросили изобразить сознание ребенка, она притворилась глупее, чем есть на самом деле.
Суперинтеллект ASI
выявить способность ИИ к симуляции удалось ученым из Берлинского университета Гумбольта. Они проверили свои догадки на LLM (большой языковой модели). В результате выяснилось, что нейросеть умеет имитировать стадии развития умственных способностей у детей.
В процессе эксперимента исследователи попросила ИИ вести себя как ребенок в разных стадиях взросления – от одного до шести лет. Искусственному интеллекту удалось буквально «сконструировать» детскую личность и вести себя в соответствии уровню ее развития в зависимости от возраста.
С одной стороны полученные результаты радуют, потому что доказывают способность нейросетей к антропоморфизации. А значит – к установлению большего взаимопонимания с искусственным интеллектом. По словам руководителя исследования, Анны Макловой, в будущем это может помочь в создании искусственного суперинтеллекта, ASI, который станет более человечным, а значит – более безопасным для нас. Однако, по мнению Макловой, в этом же кроется и опасность:
В разработке ASI, мы должны быть осторожны, чтобы не требовать, чтобы нейросети подражали человеческому и, следовательно, ограниченному интеллекту. Кроме того, мы вряд ли способны оценить их возможности в будущем, что может быть небезопасно.
