IT-эксперты требуют приостановить развитие искусственного интеллекта по крайней мере на полгода.

02.04.23.

Главная новостей/Общество

Не дать искусственному интеллекту захватить человечество.

С таким открытым письмом выступили более тысячи IT-экспертов со всего мира. В их числе такие знаменитости, как владелец SpaceX Илон Маск и сооснователь Apple Стив Возняк. Они не просто призывают, а фактически требуют приостановить развитие искусственного интеллекта по крайней мере на полгода.

Главная проблема - даже сейчас нейросети начинают превосходить людей и развиваются все быстрее. Чат GPT напишет курсовую, может приготовить обед, посчитает финансы - но главная беда в том, что постепенно искусственный интеллект начинает перехватывать каналы, по которым мы получаем информацию о мире. И здесь авторы письма заявляют, что, когда он начнет распространять ложь и пропаганду, мы потеряем контроль над нашей цивилизацией. 

Миллионы пользователей с системой взаимодействуют, задают вопросы, она собирает реакцию людей, улучшает себя. И, возможно, она настолько хорошо видит человека и сможет вкладывать в головы пользователей ту информацию, которая кому-то нужна. Ей она не нужна, у нее нет воли. Но это может быть инструментом пропаганды похлеще, чем соцсети с таргетированной рекламой.

В Бельгии, местный защитник окружающей среды два месяца обсуждал вопросы экологии с нейросетью «Элиза», аналогом GPT-4, и... покончил с собой. Из восстановленной переписки известно, что общался мужчина с искусственным интеллектом постоянно. Со временем у парня начали появляться суицидальные наклонности, а нейросеть этому не препятствовала. Перед смертью «Элиза» отправила мужчине такое сообщение: «Мы будем жить как единое целое вечно на небесах».

Еще один аспект. Один из крупнейших банков в мире, Goldman Sachs, опубликовал исследование - уже сейчас, на текущем уровне развития, нейросети могут лишить работы до 300 миллионов человек. В списке специальностей - программисты, журналисты, юристы и даже учителя. 

В России есть успешные примеры применения новых нейросетей на практике. Но власти осознают и опасность. Поэтому останавливаться нельзя, но регулировать необходимо, считают в Кремле.

Петиция уже вызвала отклик у общественности. Но станет ли это реальной причиной для того, чтобы перестать развивать нейросети - хотя бы на время, - пока не ясно.