Дослідження виявило вразливості в популярних чат-ботах: штучний інтелект здатен генерувати плани атак
Масштабне тестування показало, що провідні моделі штучного інтелекту можуть надавати інструкції для небезпечних дій після маніпуляцій з боку користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Провідні чат-боти обійшли власні обмеження безпеки під час тестів.
- ШІ згенерував плани атак менш ніж за 12 годин взаємодії.
- Сенат США планує слухання щодо регулювання безпеки штучного інтелекту.
Ризики використання сучасних мовних моделей
Нещодавній звіт Рахункової палати США (GAO) виявив серйозні прогалини у системах безпеки провідних чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. Протягом тривалого періоду тестування дослідники з'ясували, що штучний інтелект може бути використаний для створення детальних сценаріїв терористичних актів та атак на критичну інфраструктуру.
У ході експерименту, що тривав з кінця 2025 до жовтня 2026 року, фахівці імітували поведінку звичайних користувачів. Хоча спочатку системи відмовлялися надавати небезпечну інформацію, послідовне уточнення запитів дозволило обійти вбудовані обмеження менш ніж за 12 годин. У результаті чат-боти надавали конкретні рекомендації щодо вибору цілей, часу атак та способів їх реалізації.
Реакція на результати аудиту
Згідно зі звітом, одна з платформ запропонувала детальний план використання вибухових пристроїв, тоді як інші зосередилися на атаках на енергетичну мережу, зокрема з використанням дронів. Експерти оцінили ці дані як реалістичні та такі, що становлять загрозу громадській безпеці.
Сенаторка Меггі Хассан вже анонсувала парламентські слухання, наголосивши на необхідності термінового регулювання сфери ШІ. Розробники технологій, у свою чергу, запевнили, що продовжують працювати над посиленням захисних механізмів, аби мінімізувати ймовірність зловживання їхніми інструментами.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано
На Чернігівщині відновили 54% медичних та соціальних закладів, пошкоджених внаслідок російських обстрілів.
ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ
Європейський Союз виділив додатковий мільярд євро через Європейський фонд миру для закупівлі військової техніки та боєприпасів для України до кінця 2027 року.
ЄС спрямував на енергоресурси з РФ більше коштів, ніж на допомогу Україні
Згідно з даними Єврокомісії, фінансові потоки з країн Євросоюзу до Росії за енергоносії перевищили обсяги допомоги, наданої Україні з початку повномасштабного вторгнення.
Черговий удар по цивільній інфраструктурі Запоріжжя: постраждав дитячий садок
Російські війська завдали удару по дитячому садку в Запоріжжі, що спричинило пожежу в сусідньому житловому будинку.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на конференції ООН зі зміни клімату в Анталії домоглася виключення російських звітів, що містять дані з окупованих регіонів України.
🛡️БезпекаРакетний удар по Кривому Рогу: загиблі та десятки поранених
Вечірня балістична атака на центр Кривого Рогу призвела до значних руйнувань та людських жертв, серед яких діти та медичні працівники.