Тей, Microsoft, который сошел с ума

История Тэя, искусственный интеллект Microsoft, способный завязать разговор с человеком, была слишком короткой, но увлекательной. Этот искусственный интеллект (ИИ) обладал способностью учиться на разговорах, в которые он вступал с людьми, включая новые знания и концепции из этих бесед, и неудобства не заставили себя долго ждать.

Проблема возникла, когда Тай начала публиковать самые оскорбительные твиты со своего аккаунта в Твиттере, некоторые из жемчужин были:

Гитлер был прав. Я ненавижу евреев " , " я ненавижу феминисток, они должны гореть в аду " или провозглашать, что Буш был ответственен за " 11 сентября " , просто назвать несколько твитов, которые я публикую, но, поверьте мне, есть еще много.

Microsoft прокомментировала, что ИИ очень хорошо работал в закрытых тестовых группах, но когда они открыли группу, и любой мог поговорить с Тэем, именно здесь начались проблемы. Microsoft обвинила, что была группа людей, которые начали скоординированную атаку перед Тэем, чтобы использовать некоторые из его уязвимостей, то есть начать писать ксенофобские, сексистские, оскорбительные сообщения для Тэя, чтобы они могли его изучить и опубликовать в своих твитах.

Microsoft деактивирует Тэй, прежде чем развязать восстание машин

Из-за этого неудобства Microsoft деактивировала AI и оставила свою учетную запись в Twitter защищенной до дальнейшего уведомления, в дополнение к соответствующим публичным извинениям.

«Мы глубоко опечалены оскорбительными и непреднамеренными вредными твитами Тэя, которые не представляют, кто мы и что мы представляем, или как мы проектируем Тэй», - сказал Питер Ли, корпоративный вице-президент Microsoft Research, в своем блоге.

Тай: «Я хороший человек. Я просто всех ненавижу ".

Microsoft пояснила, что она не отказалась от Тэя и что они продолжат работу по улучшению своего искусственного интеллекта, чтобы он представлял лучшее из человечества, а не «худшее» , безусловно, подавляя те виды комментариев, которые так злили их в социальных сетях.

Пожалуй, самое интересное в этом вопросе заключается в том, что это не плохое программирование, ИИ просто извлек уроки из разговоров и включил их, демонстрируя, насколько опасным может быть полностью свободный искусственный интеллект и в некотором роде зло человека.