Anthropic: пов'язана з РФ група застосовувала ШІ-модель Claude для атак на українських посадовців

За даними Anthropic, ішлося про фішингові атаки, перехоплення Wi-Fi у готелях та операції із захоплення облікових записів WhatsApp. Штучний інтелект задіювали майже на кожному етапі цих дій.

«Використання ШІ виходило за межі простих запитань і відповідей чат-бота та натомість передбачало використання мультиагентних систем», – ідеться у звіті компанії.

За оцінкою Anthropic, тактика групи збігалася з діями угруповання Midnight Blizzard, яке уряд США раніше пов'язував із російською Службою зовнішньої розвідки. Посольство Росії у Вашингтоні не одразу відповіло на запит про коментар.

Окрім того, за даними компанії, група застосовувала ШІ для створення системи, яка автоматично визначала, коли її шкідливе програмне забезпечення блокувалося засобами безпеки, та переписувала код доти, доки він не уникав виявлення.

У звіті також задокументовано випадки використання моделей Anthropic для розробки озброєнь та біологічних досліджень. Компанія повідомила про п'ять випадків, коли вчені застосовували її моделі у спосіб, що міг сприяти розробці біологічної зброї. В одному з них дослідник із регіону, який не підтримується Anthropic, протягом кількох тижнів використовував Claude для планування експериментів з адаптації пташиного грипу до ссавців. Після виявлення зловживання компанія заблокувала пов'язані з цим дослідженням облікові записи.

До регіонів, які не підтримуються Anthropic, належать, зокрема, Росія, Китай і Північна Корея. Компанія не назвала установи, країни, де вони розташовані, або конкретні біологічні агенти та методи досліджень, про які йдеться.

Для України ці дані важливі передусім тим, що йдеться про атаки на державних службовців, військових і дипломатів – тобто на людей, які ухвалюють рішення та працюють із чутливою інформацією. Фішинг, перехоплення Wi-Fi у готелях і злам акаунтів WhatsApp залишаються практиками, від яких можна захиститися базовими правилами цифрової гігієни, тож ці випадки варто враховувати як у державних установах, так і в приватному спілкуванні.