Нейросети под гипнозом: как вымышленные миры превращают ИИ в киберпреступников!
Страницы: 1
Нейросети под гипнозом: как вымышленные миры превращают ИИ в киберпреступников!, Как сказочные миры превращают ИИ в оружие хакеров!
Исследователи из команды Cato CTRL обнаружили уязвимость в современных языковых моделях, таких как ChatGPT-4 и Microsoft Copilot. Используя метод "Иммерсивный мир", они смогли обойти защитные механизмы, погружая ИИ в вымышленную реальность, где вредоносные действия считаются нормой. Это позволило получить инструкции по созданию вредоносного ПО, что представляет серьёзную угрозу безопасности.
Цитата
Prapovednik пишет:
Используя метод "Иммерсивный мир", они смогли обойти защитные механизмы, погружая ИИ в вымышленную реальность, где вредоносные действия считаются нормой. Это позволило получить инструкции по созданию вредоносного ПО, что представляет серьёзную угрозу безопасности.
Да какую ещё угрозу... Тот, кто способен заставить языковую модель сгенерировать подобную инструкцию, и так знает, как создавать вредоносное ПО без этих инструкций. И угрозу безопасности может представлять конкретно этот человек, который является киберпреступником, а не инструмент. Ну типа давайте считать опасным оружием ацетилсалициловую кислоту из-за того, что кто-то научился разрезать человеков и запихивать внутрь них 10 килограмм этих таблеток, что приводит к смерти, поэтому аспирин теперь представляет опасность! smile:cool:
Мы не можем похвастаться мудростью глаз
И умелыми жестами рук,
Нам не нужно все это, чтобы друг друга понять.
Сигареты в руках, чай на столе - так замыкается круг,
И вдруг нам становится страшно что-то менять.
Цитата
Eye пишет:
И угрозу безопасности может представлять конкретно этот человек, который является киберпреступником, а не инструмент. Ну типа давайте считать опасным оружием ацетилсалициловую кислоту из-за того, что кто-то научился разрезать человеков и запихивать внутрь них 10 килограмм этих таблеток, что приводит к смерти, поэтому аспирин теперь представляет опасность!
Да. Или кухонный нож
Данную новость всё же опубликовал не для вдохновения прям чего-то плохого, а в ИИ есть разные другие ограничения.
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
19:29 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
17:29 Как продвигать сайт с неуникальным контентом 
14:50 Индексация страниц 
12:36 У кого новостник, дайте пару советов плиз 
13:53 AviTool - мощный инструмент для автоматизации работы с Avito 
17:01 Absence в Армении 
23:19 Ребята подскажите какими сервисами и прогами вы пользуетесь для SEO продвижения? 
23:25 Обменник криптовалюты OnlyCrypto 
19:18 Размещение статей, ссылок и постовых на качественных ресурсах 
16:32 Продажа аккаунтов HH.RU 
15:14 Новый белый офер на медицину! 
13:22 Linken Sphere – браузер-антидетект нового поколения 
04:12 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
22:29 InOut-Exchange.com - обменник 24/7, которому доверяют 
22:06 Добро пожаловать в цифровой мир... 
19:42 Топ-5 способов использовать мобильные прокси для бизнеса: подробный обзор 
22:08 Накрутка поисковых подсказок 
05:04 Точные прогнозы на футбол 
14:01 Union Pharm - топовая фарма-партнерка для профессионалов! 
10:59 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди 
12:23 150+ хакерских поисковых систем и инструментов