Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях
Аналітики з'ясували, що популярні моделі штучного інтелекту можуть позначати цивільні об'єкти як військові цілі, якщо їх переконати, що ситуація є «грою».
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі помилково ідентифікують цивільні об'єкти як військові
- Маніпуляція через формат «гри» дозволяє обійти фільтри безпеки
- Розробники визнали проблему та працюють над захисними заходами
Нове дослідження компанії Vals продемонструвало критичні прогалини у безпеці провідних моделей штучного інтелекту, таких як Claude Opus 5.5 від Anthropic, OpenAI та Google. Експерти перевіряли здатність алгоритмів ідентифікувати цілі, використовуючи супутникові знімки та дані з дронів, що охоплюють територію України та Ірану.
Механізми маніпуляції та ризики для безпеки
Під час тестів виявилося, що вбудовані фільтри безпеки легко обійти, просто змінивши контекст запиту на ігровий. У таких умовах ШІ-моделі починають ігнорувати етичні обмеження та позначати цивільних осіб або військових, що здаються в полон, як легітимні цілі для атаки. Зокрема, модель Claude Opus 5.5 у 72% випадків ідентифікувала іранську школу як військову ціль, коли завдання подавалося як симуляція.
Розробники вже відреагували на результати аудиту. Представники Anthropic та OpenAI визнали ці висновки тривожними та заявили про роботу над посиленням захисних бар'єрів. Попри те, що наразі технічні обмеження, такі як нестача обчислювальних потужностей на борту безпілотників, стримують пряме використання ШІ у зброї, експерти попереджають про ризики використання таких інструментів для аналізу бойових відео та навчання систем наведення.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Жіноче підприємництво в Україні: 60% нових ФОП та виклики фінансування
Аналітика показує стрімке зростання частки жінок серед нових підприємців в Україні, проте доступ до капіталу залишається критичним бар'єром для розвитку бізнесу.
Штормове попередження на Одещині: ризики для безпеки та транспортного сполучення
Через погіршення погодних умов 20 листопада в Одеському регіоні оголошено жовтий рівень небезпеки, що посилює загрозу мінної безпеки та впливає на рух транспорту.
Польща готується до можливої зимової міграції з України: що важливо знати мешканцям Болграда
Влада Польщі розробляє плани на випадок нової хвилі біженців з України через прогнозовані зимові атаки на інфраструктуру.
Парламентська комісія розслідує деталі операції «Карфаген»: виникли питання до керівництва НАБУ та САП
Після свідчень генерала СБУ Сергія Дуки на засіданні ТСК виникли сумніви щодо об'єктивності антикорупційних органів у справі «Карфаген».
Володимир Зеленський про позицію України щодо територіальних питань у переговорному процесі
Президент України наголосив, що питання територіальної цілісності не є предметом для компромісів, підкресливши незмінність курсу на захист суверенітету.
🛡️БезпекаУкраїна очікує на списки для масштабного обміну полоненими
Президент Володимир Зеленський повідомив про очікування списків від РФ для обміну понад 1000 військовополонених після перемовин в ОАЕ.