Нейросети под гипнозом: как вымышленные миры превращают ИИ в киберпреступников!
Страницы: 1
Нейросети под гипнозом: как вымышленные миры превращают ИИ в киберпреступников!, Как сказочные миры превращают ИИ в оружие хакеров!
Исследователи из команды Cato CTRL обнаружили уязвимость в современных языковых моделях, таких как ChatGPT-4 и Microsoft Copilot. Используя метод "Иммерсивный мир", они смогли обойти защитные механизмы, погружая ИИ в вымышленную реальность, где вредоносные действия считаются нормой. Это позволило получить инструкции по созданию вредоносного ПО, что представляет серьёзную угрозу безопасности.
Цитата
Prapovednik пишет:
Используя метод "Иммерсивный мир", они смогли обойти защитные механизмы, погружая ИИ в вымышленную реальность, где вредоносные действия считаются нормой. Это позволило получить инструкции по созданию вредоносного ПО, что представляет серьёзную угрозу безопасности.
Да какую ещё угрозу... Тот, кто способен заставить языковую модель сгенерировать подобную инструкцию, и так знает, как создавать вредоносное ПО без этих инструкций. И угрозу безопасности может представлять конкретно этот человек, который является киберпреступником, а не инструмент. Ну типа давайте считать опасным оружием ацетилсалициловую кислоту из-за того, что кто-то научился разрезать человеков и запихивать внутрь них 10 килограмм этих таблеток, что приводит к смерти, поэтому аспирин теперь представляет опасность! smile:cool:
Мы не можем похвастаться мудростью глаз
И умелыми жестами рук,
Нам не нужно все это, чтобы друг друга понять.
Сигареты в руках, чай на столе - так замыкается круг,
И вдруг нам становится страшно что-то менять.
Цитата
Eye пишет:
И угрозу безопасности может представлять конкретно этот человек, который является киберпреступником, а не инструмент. Ну типа давайте считать опасным оружием ацетилсалициловую кислоту из-за того, что кто-то научился разрезать человеков и запихивать внутрь них 10 килограмм этих таблеток, что приводит к смерти, поэтому аспирин теперь представляет опасность!
Да. Или кухонный нож
Данную новость всё же опубликовал не для вдохновения прям чего-то плохого, а в ИИ есть разные другие ограничения.
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
15:22 Настройка плагина для wordpress Price Shop 
13:11 Индексация страниц 
09:00 Заработок на Биржах ссылок 2025 
18:21 Открыть Adsense в другой стране 
18:16 Значок от РКН в Telegram: теперь все официально! 
18:15 Мошенники-копирайтеры 
18:14 Подскажите нормальный сервис накрутки ПФ 
18:17 Создам под вашу нишу сетку сайтов-сателлитов для привлечения целевого трафика 
17:53 ВЫВОД В ТОП ЯНДЕКС 
16:37 Продажа баз доменов на различных эксклюзивных CMS 
16:27 4G/LTE Mobile Proxy 30+ geo  
16:02 Продам аккаунты Gmail USA IP | Gmail MIX IP | Outlook Old 
12:25 SpaceSwap.cc - Быстрый и надежный обменник криптовалют 
12:01 Coin Click.cc - Быстрый и надежный обмен электронных валют в два клика 
00:46 Что сейчас топ по монетизации? Видео-темы или что-то поинтереснее? 
08:50 Хром ругается на форум 
02:43 Точные прогнозы на футбол 
22:10 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди 
17:55 Добро пожаловать в цифровой мир... 
14:59 150+ хакерских поисковых систем и инструментов 
20:14 Installs.Pro - Лучшее решение для файлового трафика