Специалисты опасаются выхода роботов из под контроля

Британская компания DeepMind от Google, работающая над созданием искусственного интеллекта (ИИ), приступила к разработке мер безопасности, которые могут пригодиться в случае выхода роботов из под контроля, что может привести к ужасным последствиям.

Этот важный вопрос поднят в статье, которая появилась в результате совместной работы DeepMind и Института будущего человечества, входящего в состав Оксфордского университета. Его директор Ник Бостром уже несколько десятилетий предупреждает об угрозе человечеству, исходящей от искусственного интеллекта. Им написано несколько книг на эту тему. Одна из них переведена на русский язык.

Опубликованная статья называется "Безопасные средства для отключения" и посвящена она способам отключения искусственного интеллекта при совершении им опасных для человека действий. Документ на 99 процентов представляет собой математический анализ, который описывает методы построения "большой красной кнопки" для ИИ.

4 Июня 2016
Комментарии: 2

Возврат к списку

Комментарии пользователей:

Это нравится:0 Да/0 Нет

Ser Master 5 Июня 2016

Цитата
программа никогда не сделает того, что не предусмотрено программистом

искусственный интеллект это не простая программа. Такая хрень может учиться и принимать решения, а при стечении обстоятельств никто не знает, что может произойти. Перепрошьет себя самописным кодом и всем хана smile:D

Это нравится:0 Да/0 Нет

Дивергент 4 Июня 2016

Цитата
Британская компания

Опять? Опять британские ученые? smile:D

Давайте будем объективны: программа никогда не сделает того, что не предусмотрено программистом (ну сдулать-то она конечно, теоретически может, но это только если программер - лох, ну мы то знаем, что любая стоящая программа пишется знающими людьми).

Новые темы	Объявления	Свободное общение
16:23 Golden Goose - WAP Click партнерка с inhouse офферами 16:12 Откуда мейл берет адрес компании? 15:02 Adtrafico - Правильная партнёрская сеть под бурж трафик 12:40 Новый яндекс Y1 (на основе YaTI и YaLM нейросетей) 08:06 Kokos.click - народная тизерная сеть! 20:30 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 20:25 DreamCash.tl - заработок на онлайн-видео. До 95% отчислений, отличный конверт!	14:20 Комплексный прогон по трастовым сайтам, статейное размещение. Рост НЧ-СЧ, Тиц-пр. 13:57 24ATM - Мультивалютная платформа обмена цифровой валюты 13:33 Качественные ссылки Outreach 13:32 SERM - улучшение репутации вашего продукта 11:45 Индивидуальные IPv4 прокси Европа. 30 р./месяц за 1 штуку 11:14 Obama.ru - безопасный обмен криптовалют и электронных денежных средств 02:08 Myxa.cc - Обмен электронных валют	14:46 Обсуждение нового сервиса Revalin.com 02:09 Пассивный доход с Myxa.cc 18:07 3$ бездепозитный бонус от форекс брокера 23:43 Правильное питание а какое оно? 22:46 Alfaleads - твоя любимая CPA-сеть! 20:46 Мошенница Ксения Гущина ksugushinak8@gmail.com ks.guschina@gmail.com ksygushinak 8 911 855 60 37 10:59 Кто работал с данной биржей proflinks?