Нейросети под гипнозом: как вымышленные миры превращают ИИ в киберпреступников!
Страницы: 1
Нейросети под гипнозом: как вымышленные миры превращают ИИ в киберпреступников!, Как сказочные миры превращают ИИ в оружие хакеров!
Исследователи из команды Cato CTRL обнаружили уязвимость в современных языковых моделях, таких как ChatGPT-4 и Microsoft Copilot. Используя метод "Иммерсивный мир", они смогли обойти защитные механизмы, погружая ИИ в вымышленную реальность, где вредоносные действия считаются нормой. Это позволило получить инструкции по созданию вредоносного ПО, что представляет серьёзную угрозу безопасности.
Цитата
Prapovednik пишет:
Используя метод "Иммерсивный мир", они смогли обойти защитные механизмы, погружая ИИ в вымышленную реальность, где вредоносные действия считаются нормой. Это позволило получить инструкции по созданию вредоносного ПО, что представляет серьёзную угрозу безопасности.
Да какую ещё угрозу... Тот, кто способен заставить языковую модель сгенерировать подобную инструкцию, и так знает, как создавать вредоносное ПО без этих инструкций. И угрозу безопасности может представлять конкретно этот человек, который является киберпреступником, а не инструмент. Ну типа давайте считать опасным оружием ацетилсалициловую кислоту из-за того, что кто-то научился разрезать человеков и запихивать внутрь них 10 килограмм этих таблеток, что приводит к смерти, поэтому аспирин теперь представляет опасность! smile:cool:
Мы не можем похвастаться мудростью глаз
И умелыми жестами рук,
Нам не нужно все это, чтобы друг друга понять.
Сигареты в руках, чай на столе - так замыкается круг,
И вдруг нам становится страшно что-то менять.
Цитата
Eye пишет:
И угрозу безопасности может представлять конкретно этот человек, который является киберпреступником, а не инструмент. Ну типа давайте считать опасным оружием ацетилсалициловую кислоту из-за того, что кто-то научился разрезать человеков и запихивать внутрь них 10 килограмм этих таблеток, что приводит к смерти, поэтому аспирин теперь представляет опасность!
Да. Или кухонный нож
Данную новость всё же опубликовал не для вдохновения прям чего-то плохого, а в ИИ есть разные другие ограничения.
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
19:12 Мошенники-копирайтеры 
08:57 Индексация страниц 
23:16 Есть ли альтернатива Адсенсу и РСЯ? 
20:48 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
18:53 Настройка плагина для wordpress Price Shop 
14:28 Подскажите нормальные поисковики на ТОР браузере 
09:00 Заработок на Биржах ссылок 2025 
19:11 WebKazna. Обмены криптовалют. Доставка наличных. 
18:33 MintChange — Быстрый и надёжный обмен криптовалюты 
16:47 TETChange-Обменник криптовалют 
16:02 CoinCapital  
16:01 JustProxy.Biz - Резидентные прокси без ограничения по трафику 
15:22 Бустмаркет 
13:39 Продам базу данных предприятий Украины, России, Великобритании, Германии, Испании, Италии, Нидерландов, Польши, Франции, Швейцарии и др. 
01:02 Точные прогнозы на футбол 
20:32 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди 
09:37 Договорные матчи от ИИ 
20:29 SMM-24.com САМЫЙ ДЕШЕВЫЙ SMM - Накрутка от 0.0001$|TG/TG PREMIUM/YT/TWIT/IG/TT/FB 
08:32 Бесплатный SEO аудит. 
20:52 Что сейчас топ по монетизации? Видео-темы или что-то поинтереснее? 
21:55 Хром ругается на форум