18+

Google разработает «большую красную кнопку», чтобы остановить сверх интеллектуальные машины

Виктория Судакова

Искусственный интеллект не стоит на месте, он постоянно развивается, самосовершенствуется. Происходит автоматизация человеческого труда, машины окружают нас повсюду.

А что, если однажды начнется роботоапокалипсис? И искусственный интеллект решит покорить мир? Фантастика – фантастикой, однако ученные всерьез озадачились вопросом создания определенного механизма остановки работы машины, если какая-нибудь система искусственного интеллекта выйдет из-под контроля и начнет действовать во вред окружающим людям.

Компания Google совместно со специалистами Института будущего человечества провели исследования в области остановки работы систем искусственного интеллекта в случае начала их неправильного функционирования. Как выяснилось, решением проблем стала «большая красная кнопка», которая полностью отключит машину.

Итак, ученые предлагают установить разработчикам систем искусственного интеллекта «правила прерывания», спусковой механизм, который позволит временно или на постоянной основе изменить поведение машины насильственным образом.

Проще говоря, это сигнал, кодовое слово, которое должно заставить искусственный интеллект думать, что пора остановиться.

Исследователи отмечают, что сигналами к прерыванию деятельности машин должны распоряжаться только люди, владеющие этими системами. Реализация всего этого должна быть максимально простой, находиться на дистанционном управлении. Для чего, собственно говоря и подойдет «большая красная кнопка».

forums.yabloko.ru

Источник: SmartBabr

723

0

Обсуждение темы: "Google разработает «большую красную кнопку», чтобы остановить сверх интеллектуальные машины"

Чтобы добавить сообщение:

Войдите

e-mail:

пароль:

или

Зарегистрируйтесь

e-mail:

псевдоним:

Новые материалы

Самое популярное

Обсуждения

«Время танков» в иркутском Ледовом дворце. Фоторепортаж SmartBabr

Ну что же, теперь будем ждать турнир по Ксу, с такими же призовыми. И я надеюсь конечно же на то, что организаторы анонсируют новую кску https://csmaxi.ru/sborka-cs16-ot-lama от наших сургутских разра

Studio 38 преобразована в группу компаний ADICT

shulyga-n@mail.ru Обращались ранее в эту компанию, когда она ещё называлась «Студия 38», сейчас она называется «ADICT Group». Заказывали разработку сайта, продвижение и техподдержку. На генера

В чем секрет сервиса бесплатных объявлений «Юла»?

Все отлично продумано! Вот только подавать с компьютера многим гораздо удобнее. Нашел вот сервис, позволяющий это сделать inzerto.ru Теперь вообще все плюшки в сборе. Если что inzerto.ru может пригоди

Десять секретов «Юлы»

Отличная доска объявлений! Продал несколько ненужных вещей. Искал возможность подавать с компьютера, думал не найду. Есть сервис inzerto.ru Другу показал он продает всякую мелочь и надо много объявлен

Studio 38 преобразована в группу компаний ADICT

Обращались ранее в эту компанию, тогда она ещё называлась «Студия 38», сейчас она называется «ADICT Group». Заказывали разработку сайта, продвижение и техподдержку. На генеральном совете решили н

«Группы смерти»: миф на фоне истерии

Автор статьи молодец. Как всегда, расставил всё по своим местам.

Игра эволюционирует, амбиции растут: как в Иркутске создают космический варгейм

Так держать, Snowforged!!! Курс на релиз! С уважением, Константин aka DIEHARD25

Выбираем лучший мобильный Wi-Fi-роутер

Я брал роутер на http://happynet.com.ua/ там и выбор большой и цены разные и консультанты толковые.