Искусственный интеллект от Google советовал людям приправить пиццу клеем и пить мочу

Лиз Рид, руководитель Google Search, признала в блоге компании, что поисковая система компании выдала несколько «странных, неточных или бесполезных обзоров ИИ» после того, как они стали доступны всем жителям США. Рид отметила, что самые возмутительные ответы ИИ-обзора, например, утверждения о том, что оставлять собак в машинах безопасно — подделка. Завирусившийся ответ на вопрос о количестве камней, которые нужно есть — настоящий. По ее словам, ИИ придумал этот ответ, потому что нашел на одном из сайтов юмористический контент на эту тему.

Вице-президент Google также подтвердила, что ИИ-обзор подсказал людям, как использовать клей, чтобы сыр прилип к пицце, на основе контента, взятого с форума. По ее словам, форумы обычно предоставляют правдивую информацию, но могут привести и к «менее полезным советам». О других вирусных ответах ИИ-обзора, например, что Барак Обама — мусульманин, или что людям нужно пить побольше мочи, если у них почечные камни, Рид не упомянула.

По словам Рид, компания тщательно тестировала функцию перед запуском, но когда доступ к ней получили миллионы людей — это совсем другое. Изучив примеры ответов за последние пару недель, компания ввела меры защиты. Первым делом ИИ перенастроят, чтобы он мог лучше распознавать сатирический контент.

Google также обновляет свои системы, чтобы меньше использовать в ответах сообщения из социальных сетей и форумов. Кроме того, компания ввела ограничения на срабатывание для запросов, где ответы ИИ оказывались бесполезными, и перестала показывать их для некоторых тем, связанных со здоровьем.