Специалисты опасаются выхода роботов из под контроля
Специалисты опасаются выхода роботов из под контроляБританская компания DeepMind от Google, работающая над созданием искусственного интеллекта (ИИ), приступила к разработке мер безопасности, которые могут пригодиться в случае выхода роботов из под контроля, что может привести к ужасным последствиям.

Этот важный вопрос поднят в статье, которая появилась в результате совместной работы DeepMind и Института будущего человечества, входящего в состав Оксфордского университета. Его директор Ник Бостром уже несколько десятилетий предупреждает об угрозе человечеству, исходящей от искусственного интеллекта. Им написано несколько книг на эту тему. Одна из них переведена на русский язык.

Опубликованная статья называется "Безопасные средства для отключения" и посвящена она способам отключения искусственного интеллекта при совершении им опасных для человека действий. Документ на 99 процентов представляет собой математический анализ, который описывает методы построения "большой красной кнопки" для ИИ. 

4 Июня 2016
Комментарии:  2

Возврат к списку



Комментарии пользователей:


Это нравится:0Да/0Нет
Ser Master
Цитата
программа никогда не сделает того, что не предусмотрено программистом
искусственный интеллект это не простая программа. Такая хрень может учиться и принимать решения, а при стечении обстоятельств никто не знает, что может произойти. Перепрошьет себя самописным кодом и всем хана smile:D
Это нравится:0Да/0Нет
Дивергент
Цитата
Британская компания
Опять? Опять британские ученые? smile:D Давайте будем объективны: программа никогда не сделает того, что не предусмотрено программистом (ну сдулать-то она конечно, теоретически может, но это только если программер - лох, ну мы то знаем, что любая стоящая программа пишется знающими людьми).
Новые темыОбъявленияСвободное общение
13:36 АП ИКС 25.06.2019 
13:22 Упали позиции после склейки сайта 
13:18 Есть ли смысл продвигать неглавное зеркало 
12:48 Продвижение в ТОП Яндекс. Мега быстро! 
12:20 26 июня выдача 
11:37 Что такое Яндекс Икс / Как накрутить Яндекс ИКС 
10:10 Апдейт ИКС 24.05.19 
13:16 Proxywhite прокси ipv4/ipv6 индивидуальные оптом 
13:08 Прием смс на реальные номера US|Продажа ssh-tunel (не Брут) 
01:01 Продажа качесвтенных RDP (дедиков) 
22:29 Тексты премиум - качества! Доступные условия для бизнеса и удар по поисковым алгоритмам! 
22:03 Услуги постинга в социальные сети для продвижения, индексации и увеличения социальной активности 
19:46 Внешнее продвижение сайтов качественно! Быстрое выполнение, на форуме с 2009 года! 
18:58 Куплю канал Яндекс Дзен срочно 
11:33 Топик поднятия настроения. Приколы, картинки, видео и пр. 
05:02 Нужен совет 
20:27 Партнерка по торговле акциями КАНнАБИСа, получай кеш с любой сделки. 
20:26 Наши машинки 
18:36 Как восстановить удаленные файлы на компьютере? 
16:44 На какую тему создать сайт? 
12:58 Кому пришла выплата с AdSense?