Специалисты опасаются выхода роботов из под контроля
Специалисты опасаются выхода роботов из под контроляБританская компания DeepMind от Google, работающая над созданием искусственного интеллекта (ИИ), приступила к разработке мер безопасности, которые могут пригодиться в случае выхода роботов из под контроля, что может привести к ужасным последствиям.

Этот важный вопрос поднят в статье, которая появилась в результате совместной работы DeepMind и Института будущего человечества, входящего в состав Оксфордского университета. Его директор Ник Бостром уже несколько десятилетий предупреждает об угрозе человечеству, исходящей от искусственного интеллекта. Им написано несколько книг на эту тему. Одна из них переведена на русский язык.

Опубликованная статья называется "Безопасные средства для отключения" и посвящена она способам отключения искусственного интеллекта при совершении им опасных для человека действий. Документ на 99 процентов представляет собой математический анализ, который описывает методы построения "большой красной кнопки" для ИИ. 

4 Июня 2016
Комментарии:  2

Возврат к списку



Комментарии пользователей:


Ser Master
Цитата
программа никогда не сделает того, что не предусмотрено программистом
искусственный интеллект это не простая программа. Такая хрень может учиться и принимать решения, а при стечении обстоятельств никто не знает, что может произойти. Перепрошьет себя самописным кодом и всем хана smile:D
Дивергент
Цитата
Британская компания
Опять? Опять британские ученые? smile:D Давайте будем объективны: программа никогда не сделает того, что не предусмотрено программистом (ну сдулать-то она конечно, теоретически может, но это только если программер - лох, ну мы то знаем, что любая стоящая программа пишется знающими людьми).
Новые темыОбъявленияСвободное общение
15:05 Adtrafico - Правильная партнёрская сеть под бурж трафик 
14:43 Как отдыхаете от работы? АПдейт Яндекс выдача 11 июля 2024 
20:33 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
19:08 Новый «алгоритм» Яндекса 
18:20 ClickStar.me - Топовая рекламная сеть [ Монетизируем весь мир ] 
12:52 LGaming - экосистема и партнерская программа в gambling и betting вертикалях 
11:45 2Index - быстрая индексация страниц сайта и обратных ссылок 
14:26 TETChange-Обменник криптовалют 
12:35 Coin Click.cc - Быстрый и надежный обмен электронных валют в два клика 
10:26 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
09:45 SiteAnalyzer SEO Tools - бесплатное браузерное расширение для Chrome & Firefox 
02:08 Продам обменник криптовалюты, а также новый обменник под ключ с обучением. Скидки на скрипты обменника 
20:58 Sectormoney.com - быстрый и удобный обменник 
16:42 Ural-obmen.ru — выгодный сервис обмена 
15:02 Замедление скорости YouTube будет происходить по естественным причинам 
09:47 Китайцы создали себе национальный Linux, напичканный ИИ-функциями 
08:50 Блогеров с аудиторией более 1 тыс. человек могут обязать сообщить о себе в РКН 
23:20 Точные прогнозы на футбол 
08:23 Дополнительную проверку для позиционирующих себя как психологов могут ввести в сети 
23:35 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди 
22:40 У Sora появился конкурент из Китая — нейросеть Kling, которая генерирует 1080p-видеоролики по описанию