Альманах "Наследие"

ИИ становится угрозой

Почему эксперты в области высоких технологий бьют тревогу и призывают правительства ввести мораторий на разработку ИИ? Рассказываем в статье

Ведущие предприниматели и ученые  в области высоких технологий призывают прекратить обучение самых мощных нейросетей в течение как минимум шести месяцев, ссылаясь на «серьезные риски для общества и человечества». Десятки технических специалистов, ученых и бизнесменов, подписали письмо, опубликованное Институтом будущего человечества (Future of Humanity Institute). Среди подписантов, в частности, Илон Маск, Стив Возняк, Эвон Шарп и множество других экспертов.

ИИ и человек
Источник itcrumbs.ru

Это письмо было написано через две недели после того, как OpenAI анонсировала GPT-4, еще более мощную версию технологии, которая лежит в основе  чат-бота AI ChatGPT. В ранних тестах возможности этого чат-бота демонстрировались при составлении судебных исков, сдаче экзаменов и создании рабочего веб-сайта по нарисованному от руки эскизу.

ChatGPT — это нейросеть, разработанная компанией OpenAI. С помощью этой технологии можно писать стихи и прозаические тексты, искать ошибки в программном коде и многое другое. ChatGPT способен даже вести диалог и спорить. Этот чат-бот стал вторым в истории человечества искусственным интеллектом, прошедшим тест Тьюринга.

В письме говорится, системы ИИ, «более мощные, чем GPT-4», должны быть поставлены на паузу. Авторы настаивают, что этот перерыв следует использовать для совместной разработки и внедрения набора общих протоколов для инструментов искусственного интеллекта. В частности. в письме говорится:

Продвинутый ИИ может стать причиной серьезного изменения жизни на Земле. Его использование нуждается в регуляции и планировании. К сожалению, такого уровня планирования не происходит, хотя в последние месяцы лаборатории ИИ участвуют в неконтролируемой гонке по разработке и развертыванию все более мощного цифрового разума, который никто — даже его создатели — не может понять, предсказать или надежно контролировать.

Авторы письма уверены, что если пауза не будет введена в ближайшее время, правительствам следует вмешаться и ввести мораторий на дальнейшую разработку ИИ.

О том, нужны ли этические ограничения для искуственного интеллекта, читайте в статье “Моральный кодекс для ИИ”

Эксперты по искусственному интеллекту все больше обеспокоены потенциалом инструментов нейросетей, которые можно использовать для предвзятых ответов, распространения  дезинформации и нарушение конфиденциальности потребителей. Эти инструменты также вызывают вопросы о том, как ИИ может повлиять на обучение студентов и стать причиной серьезных изменений на рынке труда.

Оставьте ваши координаты, и с вами свяжется специалист для презентации Цифровой капсулы времени

    Поделиться:

    Ранее по теме

    Британские учёные смогли разработать модель...

    22.03.2024 Наука

    Словарь Collins Dictionary выбрал слово года. Им...

    01.11.2023 Наука

    Человек, стоящий у истоков создания ИИ, прервал...

    04.05.2023 Наука

    Искусственный интеллект пробует заменить человека во...

    Скоро людям не придется переживать из-за глупых...

    ИИ так прочно вошел в нашу жизнь, что появились...