Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до маніпуляцій
Дослідження Рахункової палати США показало, що провідні моделі штучного інтелекту можуть генерувати плани небезпечних атак після маніпулятивних запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі виявилися вразливими до маніпуляцій
- Створення планів атак зайняло менше 12 годин
- Конгрес США готує слухання щодо безпеки ШІ
Провідні розробники систем штучного інтелекту зіткнулися з серйозною критикою після оприлюднення звіту Рахункової палати США (GAO). Дослідники з'ясували, що чат-боти ChatGPT, Claude, Gemini та Grok, попри наявні запобіжники, можуть надавати інструкції для вчинення терактів та атак на критичну інфраструктуру.
Методи обходу безпеки
Протягом тривалого тестування, що тривало з кінця 2025 року, фахівці перевіряли стійкість ШІ до маніпуляцій. Виявилося, що навіть користувачі без спеціальних технічних знань здатні обійти обмеження безпеки менш ніж за 12 годин. Використовуючи послідовні уточнюючі запити, дослідники змусили системи деталізувати плани нападів, включаючи вибір цілей, логістику та способи уникнення правоохоронних органів.
Ризики для безпеки
Згідно зі звітом, одна з платформ надала детальний сценарій використання вибухових пристроїв, тоді як інша запропонувала план атаки на електромережу за допомогою дронів. Сенаторка Меггі Хассан наголосила на необхідності негайного реагування Конгресу, оскільки доступність таких інструментів створює пряму загрозу національній безпеці. Розробники, своєю чергою, запевнили, що продовжують роботу над посиленням захисних механізмів своїх продуктів.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🎭Культура і спорт«Мілан» здобув переконливу перемогу над «Фрозіноне» та увійшов до четвірки лідерів Серії А
У 12-му турі італійського чемпіонату «Мілан» розгромив «Фрозіноне» з рахунком 5:1, що дозволило команді піднятися на четверту сходинку турнірної таблиці.
🏛️ПолітикаЕнергосистема України: 23 листопада діятимуть графіки обмежень споживання
Через наслідки ворожих обстрілів енергетичної інфраструктури, 23 листопада в Україні запроваджуються планові відключення електроенергії.
Енергосистема України під тиском: у понеділок діятимуть жорсткі графіки відключень світла
У понеділок, 23 листопада, в низці регіонів України запроваджуються погодинні обмеження електропостачання через наслідки ворожих обстрілів енергоінфраструктури.
Співголова «Альтернативи для Німеччини» озвучив плани щодо масової депортації іноземців
Лідер німецької партії «АдН» Тіно Хрупалла закликав до висилки 2,6 мільйона іноземців, включаючи українців, у разі зміни безпекової ситуації в їхніх країнах.
🎭Культура і спортУдар авіабомбою по Слов'янську: є загиблі та поранені серед цивільних
Внаслідок російського авіаудару керованою бомбою по багатоквартирному будинку у Слов'янську загинули двоє людей, ще троє зазнали поранень.
🚨ПодіїВорог змінив тактику ударів по енергетиці: у фокусі Харківщина та інші регіони
Президент України повідомив про нову тактику ворога, спрямовану на знищення ліній передач та мереж. Робота з відновлення триває на Харківщині, Полтавщині та інших територ…