Штучний інтелект: як перетворити помічника на диверсанта

Ші вже повністю інтегрувався в наше життя: він дає поради, аналізує і впорядковує інформацію, пише книжки і робить фільми. І все це - на основі відкритих даних. Та водночас така відкритість несе серйозні загрози - особливо в стратегічних галузях. У чому найбільша вразливість ШІ?

Те про що ми давно говорили стає реальністю - поговоримо про кіберзагрози для ШІ, та які це несе нам загрози. Тепер детальніше.

Агентство нацбезпеки США (NSA) разом із розвідками Великої Британії, Австралії та Нової Зеландії вперше оприлюднило публічний звіт про кіберзагрози для ШІ. Документ системно пояснює, як саме можна зламати або "отруїти" штучний інтелект. Головна вразливість - отруєння даних (data poisoning).

ШІ навчається на масивах відкритої інформації. Якщо туди навмисно підмішати фейкові або викривлені дані, модель починає приймати хибні рішення. До речі, про те, що російські пропагандисти так працюють з ШІ - відомо давно. Не вірите? Тоді зробіть експеримент. Запитайте у ШІ про оборону Бахмута. А потім зробіть запит російською мовою про "асвабаждєние Артемовска". Ви будете здивовані результатом.

Вартість такої атаки від $60 до $1000. Доступно. Дешево. Ефективно. Тож не дивуйтесь, якщо вам напише ШІ, що вода кипить при 50 °C. Значить хтось йому дав такі дані. А тепер уявіть, що цей ШІ керує дронами на полі бою або відповідає за промислову безпеку. Одна хибна стрічка даних - і рій дронів може вийти з-під контролю саме під час атаки, або критичне підприємство вийде з ладу.

Замість висновків. ШІ - вже частина нашого життя. Тому треба думати про його безпеку, і це не лише про алгоритми. Це про якість даних, контроль доступу і вбудовану стійкість до маніпуляцій.

Оригінал