Специалисты опасаются выхода роботов из под контроля
Специалисты опасаются выхода роботов из под контроляБританская компания DeepMind от Google, работающая над созданием искусственного интеллекта (ИИ), приступила к разработке мер безопасности, которые могут пригодиться в случае выхода роботов из под контроля, что может привести к ужасным последствиям.

Этот важный вопрос поднят в статье, которая появилась в результате совместной работы DeepMind и Института будущего человечества, входящего в состав Оксфордского университета. Его директор Ник Бостром уже несколько десятилетий предупреждает об угрозе человечеству, исходящей от искусственного интеллекта. Им написано несколько книг на эту тему. Одна из них переведена на русский язык.

Опубликованная статья называется "Безопасные средства для отключения" и посвящена она способам отключения искусственного интеллекта при совершении им опасных для человека действий. Документ на 99 процентов представляет собой математический анализ, который описывает методы построения "большой красной кнопки" для ИИ. 

4 Июня 2016
Комментарии:  2

Возврат к списку



Комментарии пользователей:


Ser Master
Цитата
программа никогда не сделает того, что не предусмотрено программистом
искусственный интеллект это не простая программа. Такая хрень может учиться и принимать решения, а при стечении обстоятельств никто не знает, что может произойти. Перепрошьет себя самописным кодом и всем хана smile:D
Дивергент
Цитата
Британская компания
Опять? Опять британские ученые? smile:D Давайте будем объективны: программа никогда не сделает того, что не предусмотрено программистом (ну сдулать-то она конечно, теоретически может, но это только если программер - лох, ну мы то знаем, что любая стоящая программа пишется знающими людьми).
Новые темыОбъявленияСвободное общение
12:26 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
20:32 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
17:26 Profit Pixels - In-House Форекс, Крипто, Трейдинг CPA Офферы | Еженедельные Выплаты | CPA до $950 
16:44 Рассыпались ссылки из панели управления. 
15:22 Adtrafico - Правильная партнёрская сеть под бурж трафик 
21:30 Кому выплата РСЯ пришла и какого числа? 
21:27 Есть ли альтернатива Адсенсу и РСЯ? 
22:19 Продам обменник криптовалюты, а также новый обменник под ключ с обучением. Скидки на скрипты обменника 
19:02 Обмен криптовалюты без KYC и AML 
16:39 Swap-line.com – это сервис быстрого обмена криптовалют на различные цифровые активы, а также на наличные средства во многих городах Украины! 
15:24 PAY2DAY.TOP - Покупка и продажа криптовалюты за рубли. 
13:10 SwapPix.io - быстрый и безопасный обменник криптовалют. 
22:07 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
15:26 - Вечные ссылки с трастовых сайтов 2024 проверен FastTrust 
01:24 Точные прогнозы на футбол 
20:47 С юмором по жизни! 
14:33 Осталось 3-5 месяцев до блокировки YouTube в России, — заявил Клименко 
22:21 Telegram не смог провести различие между требованиями автократических режимов и законными демократическими запросами 
22:20 Китайский ИИ-ассистент DeepSeek начали запрещать в некоторых странах 
22:19 Подтягиваем физкультурку 
16:16 SENDERSEX.COM - Тизерная партнёрка онлайн игры Эротические Фанты Онлайн