18+

Как ошибка в коде заставила мир поверить в «вышедший из под контроля» ИИ

Александр Николаев

В июне отдел изучения искусственного интеллекта Facebook создал ботов, которые общались между собой.

Боты спорили, делили вещи и искали взаимовыгодные компромиссы. Для проверки эффективности, ИИ дали побеседовать с реальными людьми. При этом собеседники бота не знали и даже не догадывались, что разговаривают с «роботом». Это доказало, что машина может думать и говорить на английском языке.

Боты продолжаю общение между собой. И совсем недавно многие СМИ обратили внимание на то, что боты отошли от обычного английского и начали общение на «своем, выдуманном языке».

«Алиса: Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для

Боб: Ты я всё остальное.

Алиса: Мячи имеют мяч для меня для меня для меня для меня для меня для меня для меня.

Боб: Я я могу я я я всё остальное», - примерно из такой тарабарщины и состоял этот диалог.

Разработчики тоже заметили ошибку и отключили систему, что лишь усилило панику в СМИ. Различные издания сообщали о том, что искусственный интеллект сошел с ума, вышел из под контроля и стал что-то скрывать от своего создателя, поэтому, опасаясь появления Skynet, его и отключили.

Однако реальная причина странного поведения ботов заключается в обычной ошибке в программировании. В коде не было указано, что боты должны придерживаться английского языка, поэтому со временем они перешли на то, что им удобнее.

«Если я назову один и тот же предмет пять раз, вы сразу поймете, что я хочу пять штук этого предмета. Это похоже на сокращения, которые используют люди», - пояснил один из создателей ботов Батра Дхрув.

Как оценить свои затраты на связь и подобрать выгодные условия подключения

Источник: SmartBabr

Обсуждение темы: "Как ошибка в коде заставила мир поверить в «вышедший из под контроля» ИИ"

Чтобы добавить сообщение:

Войдите

e-mail:

пароль:

или

Зарегистрируйтесь

e-mail:

псевдоним: