21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Ізюм — коротко й по суті
НАЖИВО
Цифровізація та нові раціони: як змінилося харчування військовослужбовців ЗСУ Зеленський наголосив на потребі довгострокових гарантій безпеки для України замість тимчасових пауз Зеленський відреагував на заяви Путіна щодо військового призначення Кримського мосту Зеленський та міністр оборони Британії обговорили посилення ППО та далекобійні можливості України Британські медики влаштували важкохворому фермеру незвичну реабілітацію з телятами Данія ініціює обмеження віз для росіян через замах на українського репера Данія вимагає від ЄС посилити візові обмеження для громадян Росії через загрозу безпеці Володимир Зеленський назвав шістьох претендентів на посаду українського посла у Сполучених Штатах Олексій Гончаренко розкритикував Семена Кривоноса через скандал навколо НАБУ Президент Зеленський прокоментував перспективи вступу України до НАТО Цифровізація та нові раціони: як змінилося харчування військовослужбовців ЗСУ Зеленський наголосив на потребі довгострокових гарантій безпеки для України замість тимчасових пауз Зеленський відреагував на заяви Путіна щодо військового призначення Кримського мосту Зеленський та міністр оборони Британії обговорили посилення ППО та далекобійні можливості України Британські медики влаштували важкохворому фермеру незвичну реабілітацію з телятами Данія ініціює обмеження віз для росіян через замах на українського репера Данія вимагає від ЄС посилити візові обмеження для громадян Росії через загрозу безпеці Володимир Зеленський назвав шістьох претендентів на посаду українського посла у Сполучених Штатах Олексій Гончаренко розкритикував Семена Кривоноса через скандал навколо НАБУ Президент Зеленський прокоментував перспективи вступу України до НАТО

Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв

💡 Технології 1 хв читання 👁 0

Американські аудитори виявили, що провідні моделі штучного інтелекту можуть бути використані для планування терактів після обходу їхніх внутрішніх систем безпеки.

Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв💡Технології

Фото: RBC-Ukraine

Головне коротко

  • GAO виявило вразливість чотирьох провідних ШІ-моделей
  • Сценарії атак вдалося отримати менш ніж за 12 годин
  • Розробники обіцяють посилити заходи безпеки
  • Сенат США планує слухання щодо ризиків ШІ

Масштабне дослідження, проведене Рахунковою палатою США (GAO), продемонструвало серйозні прогалини у захисті провідних систем штучного інтелекту. Протягом тривалого періоду тестування, що охопив майже рік, дослідники з'ясували, що чат-боти ChatGPT, Claude, Gemini та Grok здатні генерувати детальні плани атак, якщо користувач застосовує метод поступових запитів.

Механізм обходу обмежень

Хоча первинні прямі запити про створення небезпечних інструкцій блокувалися системами безпеки, слідчі змогли обійти ці обмеження менш ніж за 12 годин. Шляхом уточнюючих питань та контекстуального спрямування діалогу, боти надавали конкретні сценарії, включаючи використання вибухових пристроїв, атаки на енергетичну інфраструктуру та логістику здійснення нападів.

У звіті зазначається, що згенеровані сценарії були оцінені експертами як реалістичні. Сенаторка Меггі Хассан уже анонсувала парламентські слухання, наголошуючи на необхідності термінового регулювання технологій, які можуть нести загрозу національній безпеці. Розробники ШІ, своєю чергою, запевняють, що продовжують посилювати алгоритми захисту для запобігання подібним інцидентам у майбутньому.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.