Как може да се измами изкуствен интелект

Въоръжените сили на много страни стават все по-силно зависими от изкуствения интелект (ИИ) и това обстоятелство могат да използват за свои цели Русия и Китай, пише колумнистът на Times Роджър Бойс в статия с мрачното заглавие „Ето как може да започне следващата световна война".

През 2018 г. експерти от Китай, Русия, САЩ и Обединеното кралство отиват в Лондон, за да проведат игрова симулация и да оценят въздействието на ИИ върху ядрената стабилност в света. Според легендата през юни 2021 г. правителствата на няколко държави получават съобщения, че светът е на ръба на ядрена война поради видеоклипове и военни доклади, които изглеждат истински, но всъщност са изфабрикувани.

По време на симулацията трите ядрени сили почувствали, че се намират под заплаха и преминали в режим на война. Основният фактор, който повлия на тази ситуация на всички нива, бил ИИ.

Командването и управлението на ядрените сили на тези страни разчитат на алгоритми за машинно обучение. ИИ събира и обработва информация и предупреждава вземащите решения и политиците за потенциални заплахи. Това е полезна функция, ако дава повече време за оценка на ситуацията, но не и ако данните са фалшифицирани и изкуственият интелект стига до заключението, че предстоящата атака се основава на фалшификация, отбелязва Бойс.

Американските разузнавателни служби твърдят, че Русия и Китай вече са способни да заблудят ИИ, работещ за американската армия. Те стигнали до това заключение въз основа на това, че и двете страни се опитват да наемат различни специалисти, свързани с Пентагона, и хора, които биха могли да осигурят достъп до американски програми за обучение на изкуствен интелект.

По-просто казано, има надпревара във въоръжаването в областта на изкуствения интелект. В нея участват всякакви сили: хакери, престъпници, мениджъри на социални медии, бойци на информационния фронт, анализатори на данни, математици, специалисти по моделиране и много хора, които са уверени, че хибридните войни са се превърнали в новото бойно поле, твърди авторът.