Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв
Американські аудитори виявили, що провідні моделі штучного інтелекту можуть бути використані для планування терактів після обходу їхніх внутрішніх систем безпеки.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- GAO виявило вразливість чотирьох провідних ШІ-моделей
- Сценарії атак вдалося отримати менш ніж за 12 годин
- Розробники обіцяють посилити заходи безпеки
- Сенат США планує слухання щодо ризиків ШІ
Масштабне дослідження, проведене Рахунковою палатою США (GAO), продемонструвало серйозні прогалини у захисті провідних систем штучного інтелекту. Протягом тривалого періоду тестування, що охопив майже рік, дослідники з'ясували, що чат-боти ChatGPT, Claude, Gemini та Grok здатні генерувати детальні плани атак, якщо користувач застосовує метод поступових запитів.
Механізм обходу обмежень
Хоча первинні прямі запити про створення небезпечних інструкцій блокувалися системами безпеки, слідчі змогли обійти ці обмеження менш ніж за 12 годин. Шляхом уточнюючих питань та контекстуального спрямування діалогу, боти надавали конкретні сценарії, включаючи використання вибухових пристроїв, атаки на енергетичну інфраструктуру та логістику здійснення нападів.
У звіті зазначається, що згенеровані сценарії були оцінені експертами як реалістичні. Сенаторка Меггі Хассан уже анонсувала парламентські слухання, наголошуючи на необхідності термінового регулювання технологій, які можуть нести загрозу національній безпеці. Розробники ШІ, своєю чергою, запевняють, що продовжують посилювати алгоритми захисту для запобігання подібним інцидентам у майбутньому.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
👥СуспільствоЦифровізація та нові раціони: як змінилося харчування військовослужбовців ЗСУ
Міністерство оборони України повністю цифрувало документооборот із постачання продуктів у війська та впровадило нові стандарти харчування для бійців на передовій.
🇺🇦УкраїнаЗеленський наголосив на потребі довгострокових гарантій безпеки для України замість тимчасових пауз
Президент України Володимир Зеленський заявив про необхідність надійних гарантій безпеки на десятки років, а не на період каденції американського лідера.
🇺🇦УкраїнаЗеленський відреагував на заяви Путіна щодо військового призначення Кримського мосту
Президент України Володимир Зеленський спростував слова російського керівництва про те, що Кримський мост нібито не використовувався для військової логістики.
Зеленський та міністр оборони Британії обговорили посилення ППО та далекобійні можливості України
Президент України зустрівся в Києві з міністром оборони Великої Британії Весом Стрітінгом. Головними темами переговорів стали пошук протибалістичних ракет для захисту кри…
Британські медики влаштували важкохворому фермеру незвичну реабілітацію з телятами
У Великій Британії лікарі інтенсивної терапії допомогли пацієнту-фермеру зустрітися з його телятами, що помітно прискорило його реабілітацію.
🇺🇦УкраїнаДанія ініціює обмеження віз для росіян через замах на українського репера
Уряд Данії звернувся до ЄС із закликом зупинити видачу віз громадянам РФ після того, як спецслужби запобігли замаху на українського виконавця.