Специалисты опасаются выхода роботов из под контроля

Британская компания DeepMind от Google, работающая над созданием искусственного интеллекта (ИИ), приступила к разработке мер безопасности, которые могут пригодиться в случае выхода роботов из под контроля, что может привести к ужасным последствиям.

Этот важный вопрос поднят в статье, которая появилась в результате совместной работы DeepMind и Института будущего человечества, входящего в состав Оксфордского университета. Его директор Ник Бостром уже несколько десятилетий предупреждает об угрозе человечеству, исходящей от искусственного интеллекта. Им написано несколько книг на эту тему. Одна из них переведена на русский язык.

Опубликованная статья называется "Безопасные средства для отключения" и посвящена она способам отключения искусственного интеллекта при совершении им опасных для человека действий. Документ на 99 процентов представляет собой математический анализ, который описывает методы построения "большой красной кнопки" для ИИ.

Цитата

программа никогда не сделает того, что не предусмотрено программистом

Цитата

Британская компания

Новые темы	Объявления	Свободное общение
19:59 Плохие результаты вывода в топ 18:55 Посмотрите пациента) 17:57 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 15:05 Adtrafico - Правильная партнёрская сеть под бурж трафик 15:04 Pharmcashusa.com. Есть USA фарма траф? Вам сюда! 14:38 Pharmcash.net - монстр конверта Евро траффика 13:54 WebVisitor - улучшение и накрутка поведенческих факторов ранжирования вашего сайта.	19:53 Услуги по программированию и веб дизайну 15:51 Услуги постинга в социальные сети для продвижения, индексации и увеличения социальной активности 14:48 Внешнее продвижение сайтов качественно! Быстрое выполнение, на форуме с 2009 года! 14:44 Программа для рассылки на юле - Youla Master 14:43 Продам: 2 канала Дзен на Монете с анкетой 14:22 SocksHub.net - proxy, которые подходят всем 13:31 200 открытых анкорных ссылок всего за 100 рублей	15:50 Прыг скок в ТОП 18:31 Раскрутить сайт игрушек для взрослых 17:46 Бесплатный мини-аудит юзабилити и конверсии + технический SEO-аудит в подарок 12:44 Друзья, предлагаю собраться и сходить в Москве на пикник 10:54 Как генерировать IT лиды 11:48 SEO продвижение сайтов в Яндекс, Google. Поднятие ИКС сайту, исправления ошибок, разработка стратегий 15:36 Заработок на Инстаграме. Плюс продвижение своей страницы кому нужно. годный софт для мф и рассылок

Новые темы

Объявления

Свободное общение

19:59 Плохие результаты вывода в топ
18:55 Посмотрите пациента)
17:57 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options
15:05 Adtrafico - Правильная партнёрская сеть под бурж трафик
15:04 Pharmcashusa.com. Есть USA фарма траф? Вам сюда!
14:38 Pharmcash.net - монстр конверта Евро траффика
13:54 WebVisitor - улучшение и накрутка поведенческих факторов ранжирования вашего сайта.

19:53 Услуги по программированию и веб дизайну
15:51 Услуги постинга в социальные сети для продвижения, индексации и увеличения социальной активности
14:48 Внешнее продвижение сайтов качественно! Быстрое выполнение, на форуме с 2009 года!
14:44 Программа для рассылки на юле - Youla Master
14:43 Продам: 2 канала Дзен на Монете с анкетой
14:22 SocksHub.net - proxy, которые подходят всем
13:31 200 открытых анкорных ссылок всего за 100 рублей

15:50 Прыг скок в ТОП
18:31 Раскрутить сайт игрушек для взрослых
17:46 Бесплатный мини-аудит юзабилити и конверсии + технический SEO-аудит в подарок
12:44 Друзья, предлагаю собраться и сходить в Москве на пикник
10:54 Как генерировать IT лиды
11:48 SEO продвижение сайтов в Яндекс, Google. Поднятие ИКС сайту, исправления ошибок, разработка стратегий
15:36 Заработок на Инстаграме. Плюс продвижение своей страницы кому нужно. годный софт для мф и рассылок

Это нравится:0 Да/0 Нет

Ser Master 5 Июня 2016

Цитата
программа никогда не сделает того, что не предусмотрено программистом

искусственный интеллект это не простая программа. Такая хрень может учиться и принимать решения, а при стечении обстоятельств никто не знает, что может произойти. Перепрошьет себя самописным кодом и всем хана smile:D

Дивергент 4 Июня 2016

Цитата
Британская компания

Опять? Опять британские ученые? smile:D

Давайте будем объективны: программа никогда не сделает того, что не предусмотрено программистом (ну сдулать-то она конечно, теоретически может, но это только если программер - лох, ну мы то знаем, что любая стоящая программа пишется знающими людьми).