Специалисты опасаются выхода роботов из под контроля
Специалисты опасаются выхода роботов из под контроляБританская компания DeepMind от Google, работающая над созданием искусственного интеллекта (ИИ), приступила к разработке мер безопасности, которые могут пригодиться в случае выхода роботов из под контроля, что может привести к ужасным последствиям.

Этот важный вопрос поднят в статье, которая появилась в результате совместной работы DeepMind и Института будущего человечества, входящего в состав Оксфордского университета. Его директор Ник Бостром уже несколько десятилетий предупреждает об угрозе человечеству, исходящей от искусственного интеллекта. Им написано несколько книг на эту тему. Одна из них переведена на русский язык.

Опубликованная статья называется "Безопасные средства для отключения" и посвящена она способам отключения искусственного интеллекта при совершении им опасных для человека действий. Документ на 99 процентов представляет собой математический анализ, который описывает методы построения "большой красной кнопки" для ИИ. 

4 Июня 2016
Комментарии:  2

Возврат к списку



Комментарии пользователей:


Это нравится:0Да/0Нет
Ser Master
Цитата
программа никогда не сделает того, что не предусмотрено программистом
искусственный интеллект это не простая программа. Такая хрень может учиться и принимать решения, а при стечении обстоятельств никто не знает, что может произойти. Перепрошьет себя самописным кодом и всем хана smile:D
Это нравится:0Да/0Нет
Дивергент
Цитата
Британская компания
Опять? Опять британские ученые? smile:D Давайте будем объективны: программа никогда не сделает того, что не предусмотрено программистом (ну сдулать-то она конечно, теоретически может, но это только если программер - лох, ну мы то знаем, что любая стоящая программа пишется знающими людьми).
Новые темыОбъявленияСвободное общение
19:21 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
18:48 GPT-4 от ChatGPT языковая модель нового поколения 
16:23 МyLead дает советы по продвижению 
15:50 Profit Pixels - In-House Форекс, Крипто, Трейдинг CPA Офферы | Еженедельные Выплаты | CPA до $950 
14:39 XEvil - софт для разгадывания капчи. Бесплатная демо-версия. Привязка к SEO/SMM-софту. 
14:11 Как сделать свой БУРЖ прокси-сервер 
01:39 ChatGPT от Microsoft начал хамить пользователям, требовать извинений и жаловаться на жизнь 
16:16 ALTVPN.com - анонимный и безопасный VPN и Прокси сервис 
15:18 Ural-obmen.ru — выгодный сервис обмена 
13:48 Expa24.com Обмен Криптовалют. Ввод/Вывод наличные Украина/Северный Кипр/Мир 
13:38 Ручное размещение вечных статей и ссылок на хороших площадках. Опыт 15 лет! 
12:31 Дешевые просмотры YouTube с гарантией, лайки, подписчики Instagram, ВК, Facebook, ОK, Twitter - SmmPanele.Ru 
12:03 ProxyWins.com - 15% по промо-коду "venividivici" 
10:30 Obama.ru - безопасный обмен криптовалют и электронных денежных средств 
19:24 Список обновленных тем пуст... 
19:20 У кого Яндекс задерживает выплату в этом месяце? 
10:46 МТС нехорошие люди 
01:16 Как заставить себя? 
01:13 Платформа АНТИСТАВОК - ставки на события с обратным исходом! 
18:46 Сотрудники Wildberries готовят забастовку из-за штрафов за возврат товара 
22:41 Искусственный интеллект назвал профессии, которые скоро отберет у людей