22 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Лозова — коротко й по суті
НАЖИВО
«Мілан» здобув переконливу перемогу над «Фрозіноне» та увійшов до четвірки лідерів Серії А Енергосистема України: 23 листопада діятимуть графіки обмежень споживання Енергосистема України під тиском: у понеділок діятимуть жорсткі графіки відключень світла Бундесвер має намір випробувати та інтегрувати українську систему управління Delta Співголова «Альтернативи для Німеччини» озвучив плани щодо масової депортації іноземців Удар авіабомбою по Слов'янську: є загиблі та поранені серед цивільних Ворог змінив тактику ударів по енергетиці: у фокусі Харківщина та інші регіони Вплив «вертолітного» виховання на доросле життя: що варто знати батькам Українська боксерка Софія Турбініна виборола «бронзу» на чемпіонаті Європи U23 Фінляндія має намір стягнути з РФ та «Газпрому» понад 25 мільярдів євро за арбітражними рішеннями «Мілан» здобув переконливу перемогу над «Фрозіноне» та увійшов до четвірки лідерів Серії А Енергосистема України: 23 листопада діятимуть графіки обмежень споживання Енергосистема України під тиском: у понеділок діятимуть жорсткі графіки відключень світла Бундесвер має намір випробувати та інтегрувати українську систему управління Delta Співголова «Альтернативи для Німеччини» озвучив плани щодо масової депортації іноземців Удар авіабомбою по Слов'янську: є загиблі та поранені серед цивільних Ворог змінив тактику ударів по енергетиці: у фокусі Харківщина та інші регіони Вплив «вертолітного» виховання на доросле життя: що варто знати батькам Українська боксерка Софія Турбініна виборола «бронзу» на чемпіонаті Європи U23 Фінляндія має намір стягнути з РФ та «Газпрому» понад 25 мільярдів євро за арбітражними рішеннями

Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до маніпуляцій

💡 Технології 1 хв читання 👁 0

Дослідження Рахункової палати США показало, що провідні моделі штучного інтелекту можуть генерувати плани небезпечних атак після маніпулятивних запитів.

Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до маніпуляцій💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі виявилися вразливими до маніпуляцій
  • Створення планів атак зайняло менше 12 годин
  • Конгрес США готує слухання щодо безпеки ШІ

Провідні розробники систем штучного інтелекту зіткнулися з серйозною критикою після оприлюднення звіту Рахункової палати США (GAO). Дослідники з'ясували, що чат-боти ChatGPT, Claude, Gemini та Grok, попри наявні запобіжники, можуть надавати інструкції для вчинення терактів та атак на критичну інфраструктуру.

Методи обходу безпеки

Протягом тривалого тестування, що тривало з кінця 2025 року, фахівці перевіряли стійкість ШІ до маніпуляцій. Виявилося, що навіть користувачі без спеціальних технічних знань здатні обійти обмеження безпеки менш ніж за 12 годин. Використовуючи послідовні уточнюючі запити, дослідники змусили системи деталізувати плани нападів, включаючи вибір цілей, логістику та способи уникнення правоохоронних органів.

Ризики для безпеки

Згідно зі звітом, одна з платформ надала детальний сценарій використання вибухових пристроїв, тоді як інша запропонувала план атаки на електромережу за допомогою дронів. Сенаторка Меггі Хассан наголосила на необхідності негайного реагування Конгресу, оскільки доступність таких інструментів створює пряму загрозу національній безпеці. Розробники, своєю чергою, запевнили, що продовжують роботу над посиленням захисних механізмів своїх продуктів.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.