Вице-президент Google Рагхаван: чат-боты с ИИ могут быть опасными для пользователей

12.02.23.

Главная новостей/Общество

Один из топ-менеджеров компании Google Прабхакар Рагхаван заявил, что со временем алгоритмы искусственного интеллекта, которые используются в современных чат-ботах, начинают в своих ответах на вопросы пользователей использовать очень убедительные, но полностью вымышленные аргументы.

По словам главы отдела Google Search, на сегодняшний день искусственный интеллект может страдать от того, что в человеческом мире называется галлюцинациями. Поэтому, как считает Рагхаван, необходимо быть очень внимательными, получая ответы от ИИ, такого как, например, ChatGPT.

При этом данная проблема была продемонстрирована прямо на презентации чат-бота Bard, что негативно сказалось на стоимости акций Google.

Рагхаван отметил, что каждый искусственный интеллект со временем начинает оперировать полностью выдуманными данными в своих ответах. При этом сотрудникам компании приходится прикладывать значительные силы и средства для борьбы с этой проблемой. Поэтому, как сообщил Рагхаван, компания Google не будет спешить с выпуском своего чат-бота, пока не доведет его работу до совершенства.