Штучний інтелект на війні: останнє слово завжди за людиною

Доки більшість користувачів АІ вчиться правильно ставити запитання і генерувати картинки, у військовій сфері штучний інтелект виконує безліч найскладніших завдань. І лідер у цій галузі - компанія Palantir, розробки якої допомагають нам нищити ворога з 2022 року. Як усе працює?

Останнім часом компанія Palantir постійно згадується як один із лідерів АІ у військовій сфері. Давайте розберемось, у чому їхня особливість і сильна сторона.

На днях Шьям Санкар, технічний директор Palantir і підполковник резерву армії США пояснив, як влаштована їхня мультимодельна система. Palantir не довіряє жодному AІ. Їхня система одночасно запускає кілька нейромереж, змушує їх сперечатися між собою і видає консенсус. Як це працює?

Все починається не в хмарі, а в зоні бойових дій - де немає стабільного інтернету, зате є РЕБ. Тому перший шар системи сидить прямо на дроні або супутнику. Там працюють мікромоделі комп'ютерного зору: вони не думають, тільки "дивляться" і перекладають картинку в сухі цифри. Наприклад, координати, ймовірності, мітки. Супутник зафіксував бронеколону, стиснув відео в текстовий файл і передав далі. Трафік відразу падає на 90%. Edge AI від Palantir вже працює в Україні з 2022 року.

Далі дані потрапляють в так звану Онтологію. Це не просто база даних. Це величезний архів, де кожен танк чи зразок техніки чи людина перетворюється на "об'єкт" зі зв'язками та історією. І все формується в єдиний документ. Але перш, ніж будь-яка нейромережа отримає хоча б байт, система перевіряє криптографічні допуски. Генерал бачить одне, оператор інше, союзник по НАТО третє. АІ фізично сліпий за межами того, що йому видали на одну секунду.

Ніякого спілкування з ChatGPT на тему "спитай що хочеш" тут немає. Запит потрапляє до Оркестратора, який розбиває завдання на частини і роздає їх мікроагентам. Кожен агент затиснутий у жорстку логіку кінцевого автомата: крок 1, крок 2, виклик інструменту. Все в рамках бойового статуту.

Найцікавіше відбувається в точці прийняття рішення. Коли потрібно відповісти на питання: "це ворожа колона?". У такі моменти система не вірить одній моделі. Запит йде паралельно в GPT, Claude, Llama, Groq, можливо, в засекречену власну розробку. Вони думають і генерують варіанти незалежно, не бачачи відповідей один одного. Потім Синтезатор порівнює результати, шукає консенсус і відсікає галюцинації.

При цьому за кожним агентом в реальному часі стежать Агенти-Оцінювачі, які читають логи, і, якщо модель починає марити або відходити від протоколу, процес їхнього креативу вбивається миттєво. Інженер-людина на цьому етапі може втрутитися в ланцюжок міркувань, виправити помилку руками і перезапустити конвеєр.

Людина сидить перед дашбордом. На екрані: "Виявлено ціль. Імовірність 98%. Консенсус 4 нейромереж. Пропонована дія: завдати удар. Натисніть Approve". Як бачимо, головне - що на фінальному етапі рішення лишається за людиною. Приблизно так це все поки працює.

Оригінал