Специалисты опасаются выхода роботов из под контроля

Британская компания DeepMind от Google, работающая над созданием искусственного интеллекта (ИИ), приступила к разработке мер безопасности, которые могут пригодиться в случае выхода роботов из под контроля, что может привести к ужасным последствиям.

Этот важный вопрос поднят в статье, которая появилась в результате совместной работы DeepMind и Института будущего человечества, входящего в состав Оксфордского университета. Его директор Ник Бостром уже несколько десятилетий предупреждает об угрозе человечеству, исходящей от искусственного интеллекта. Им написано несколько книг на эту тему. Одна из них переведена на русский язык.

Опубликованная статья называется "Безопасные средства для отключения" и посвящена она способам отключения искусственного интеллекта при совершении им опасных для человека действий. Документ на 99 процентов представляет собой математический анализ, который описывает методы построения "большой красной кнопки" для ИИ.

Цитата

программа никогда не сделает того, что не предусмотрено программистом

Цитата

Британская компания

Новые темы	Объявления	Свободное общение
16:03 Падение трафика после Google May 2020 Core Update, что делать-то?) 15:10 Adtrafico - Правильная партнёрская сеть под бурж трафик 13:47 Биржи ссылок и статей 2020 12:39 Накрутка ПФ - сколько может стоить? 12:14 ClickDealer- свои люди на рынке буржа! 07:41 Kokos.click - народная тизерная сеть! 06:32 Самый прибыльный запрос	14:15 Аккаунты ЭПС \| Yandex, Neteller, Skrill, Qiwi, PayPal, N26, Perfect 13:46 Базы ключевых слов с Adwords и подсказок гугла 13:33 Вакансия. SEO-автоматизатор (г. Киев) 12:39 ВК Целевая аудитория в вашу группу/живые реальные пользователи! Не офферы/боты. Без банов и списаний. Гарантия! 03:00 Профессиональное размножение текстов 23:03 Размещу ссылки/статьи на ваш сайт 20:18 Покупаю сайты!	10:41 Покупаете готовый шашлык? 19:58 [b]Webvork [/b]- международная товарная СРА сеть с сертифицированными офферами на Европу. 19:55 В/у, замена 10:04 Хотят купить сайт 13:30 Влияние лета на заработок 22:58 Партнерка UDS. Мобильное приложение для бизнеса . Программа лояльности 11:36 Private-Zone.Biz – Прорыв в монетизации файлового трафика, до 8р/инсталл, CPM от 4500

Новые темы

Объявления

Свободное общение

16:03 Падение трафика после Google May 2020 Core Update, что делать-то?)
15:10 Adtrafico - Правильная партнёрская сеть под бурж трафик
13:47 Биржи ссылок и статей 2020
12:39 Накрутка ПФ - сколько может стоить?
12:14 ClickDealer- свои люди на рынке буржа!
07:41 Kokos.click - народная тизерная сеть!
06:32 Самый прибыльный запрос

14:15 Аккаунты ЭПС | Yandex, Neteller, Skrill, Qiwi, PayPal, N26, Perfect
13:46 Базы ключевых слов с Adwords и подсказок гугла
13:33 Вакансия. SEO-автоматизатор (г. Киев)
12:39 ВК Целевая аудитория в вашу группу/живые реальные пользователи! Не офферы/боты. Без банов и списаний. Гарантия!
03:00 Профессиональное размножение текстов
23:03 Размещу ссылки/статьи на ваш сайт
20:18 Покупаю сайты!

10:41 Покупаете готовый шашлык?
19:58 [b]Webvork [/b]- международная товарная СРА сеть с сертифицированными офферами на Европу.
19:55 В/у, замена
10:04 Хотят купить сайт
13:30 Влияние лета на заработок
22:58 Партнерка UDS. Мобильное приложение для бизнеса . Программа лояльности
11:36 Private-Zone.Biz – Прорыв в монетизации файлового трафика, до 8р/инсталл, CPM от 4500

Это нравится:0 Да/0 Нет

Ser Master 5 Июня 2016

Цитата
программа никогда не сделает того, что не предусмотрено программистом

искусственный интеллект это не простая программа. Такая хрень может учиться и принимать решения, а при стечении обстоятельств никто не знает, что может произойти. Перепрошьет себя самописным кодом и всем хана smile:D

Дивергент 4 Июня 2016

Цитата
Британская компания

Опять? Опять британские ученые? smile:D

Давайте будем объективны: программа никогда не сделает того, что не предусмотрено программистом (ну сдулать-то она конечно, теоретически может, но это только если программер - лох, ну мы то знаем, что любая стоящая программа пишется знающими людьми).