Използването на изкуствен интелект от престъпници: растяща заплаха

Престъпниците са открили нов инструмент, с който да насочват жертвите си – изкуствения интелект (ИИ). Това възникващо тенденция е тревожна за експертите, които предупреждават хората да бъдат внимателни и да се защитават.

Националната агенция за сигурност (НАС) е признала сериозността на проблема и обяви създаването на център за сигурност на изкуствения интелект. Този център ще бъде включен в Центъра за киберсигурност на НАС, който сътрудничи с частния сектор и международни партньори за засилване на отбраната срещу заплахи, особено от страна на Китай и Русия.

Генерал-армии Пол Накасони, излизащият директор на НАС, подчерта важността на поддържането на предимство на Съединените щати в областта на изкуствения интелект. Той подчерта заплахата, представена от Пекин, и необходимостта да се бъде бдителен. Въпреки че не са открити доказателства за опити на Русия или Китай да повлияят на президентските избори в САЩ през 2024 г., Накасони призна риска от външна намеса в различни избори по света.

Изследователи в областта на киберсигурността съобщиха за нарастване на китайски кибероперации, насочени срещу американски и съюзни институции, включително преместването на зловреден софтуер с цел нарушаване на военната комуникация. В отговор на тези заплахи, САЩ и Япония издадоха предупреждение за китайски хакери, които нацелиха правителствени, индустриални и телекомуникационни организации, подпомагащи съответните военни сили.

Докато технологията на изкуствения интелект продължава да се развива, Накасони засегна използването на ИИ за автоматизиран анализ на заплахи и предупреждения. Той подчерта, че въпреки че ИИ може да помогне в тези процеси, окончателните решения трябва да бъдат взети от хора. Създаването на център за сигурност на изкуствения интелект произтича от изследване на НАС, което идентифицира защитата на ИИ модели като основен предизвикателство за националната сигурност поради потенциала за положителни и отрицателни последици.

Центърът няма само да се фокусира върху сигурността на ИИ, но и да допринесе за разработка на най-добри практики, насоки и рамки за риска при сигурното разработване и прилагане на ИИ в националните сигурностни системи и отбранителната промишленост. Сътрудничеството с индустрията на САЩ, национални лаборатории, академични институции и международни партньори ще бъде от съществено значение за постигането на тези цели.

Лейтенант-генерал Тимъти Хоу ще наследи Накасони като ръководител на НАС и Киберкомандването на САЩ. Тази роля включва кибер отбрана и нападение, както и сигнално разузнаване чрез наблюдение на телекомуникации.

В заключение, нарастването на престъпници, които злоупотребяват с ИИ, представлява сериозна заплаха. Създаването на център за сигурност на изкуствения интелект подчертава важността на решаването на този проблем и защитата срещу потенциални уязвимости. Бдителност, внимание и сътрудничество между различни заинтересовани страни ще бъдат ключови в ограничаването на рисковете, свързани с престъпниците, използващи изкуствения интелект.