Дослідження виявило вразливості в популярних ШІ-моделях: чат-боти генерували плани атак
Американські аудитори з'ясували, що провідні чат-боти здатні надавати інструкції для вчинення небезпечних дій після маніпуляцій з боку користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі обійшли власні фільтри безпеки
- Сценарії атак були створені менш ніж за 12 годин
- Конгрес США планує слухання щодо безпеки ШІ
Ризики використання генеративного ШІ
Нещодавній звіт Рахункової палати США (GAO) виявив серйозні прогалини у системах безпеки чотирьох провідних чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. У ході тестування, що тривало майже рік, дослідники змогли отримати детальні плани атак, попри наявні в інструментах фільтри.
Методика обходу обмежень виявилася досить простою: замість прямих запитів дослідники використовували послідовні уточнюючі питання. Менш ніж за 12 годин взаємодії штучний інтелект генерував сценарії з конкретними локаціями, часом та методами здійснення нападів, включаючи використання вибухових пристроїв чи пошкодження енергетичної інфраструктури.
Реакція на результати аудиту
Незалежні експерти підтвердили, що отримані від ШІ плани є реалістичними та несуть пряму загрозу безпеці. Сенаторка Меггі Хассан вже анонсувала парламентські слухання, наголосивши на необхідності термінового реагування на такі ризики. Розробники технологій, своєю чергою, запевнили, що продовжують працювати над посиленням захисних механізмів своїх продуктів.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано
На Чернігівщині відновили 54% медичних та соціальних закладів, пошкоджених внаслідок ворожих обстрілів.
ЄС спрямує 1 млрд євро на озброєння для ЗСУ: деталі нової допомоги
Рада Європейського Союзу ухвалила рішення про виділення додаткового мільярда євро через Європейський фонд миру для закупівлі військового обладнання для України.
Фінансова дилема ЄС: обсяги виплат Росії за енергоресурси перевищили допомогу Україні
Згідно з даними Єврокомісії, з 2022 року країни ЄС спрямували до Росії більше коштів за енергоносії, ніж виділили на підтримку України.
Чергова атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок
Російські війська завдали удару по цивільній інфраструктурі Запоріжжя, внаслідок чого постраждав дошкільний заклад та спалахнула пожежа у багатоповерхівці.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на саміті COP31 в Анталії домоглася блокування російських звітів, що містять дані щодо тимчасово окупованих територій України.
🛡️БезпекаРакетний удар по Кривому Рогу: загинули цивільні та медик
Російські війська завдали балістичного удару по центру Кривого Рогу. Внаслідок атаки загинули мирні мешканці, серед яких дитина та фельдшерка, десятки людей отримали пора…