Малициозен код може да се скрие и во AI-моделите

Група кинески истражувачи успеа да скрие малициозен код во невронска мрежа. Истражувачите Жи Ванг, Чаоги Лиу, Ксијанџ Цуи претставија нова техника која овозможува криење на малициозен код во невронска мрежа, јави Ars Technica.

„Како што ќе се зголемува употребата на вештачката интелигенција, испораката на малициозен код преку невронски мрежи ќе стане тренд во иднина. Се надеваме дека овој труд ќе креира референца за одбрана од напади во кои се користат невронски мрежи“, сметаат истражувачите.

Вештачката интелигенција на која и е додаден малициозниот код има многу мала разлика во функционалноста на кодот. Истражувачите успеаја да вгнездат 36,9 MB малициозен код во 178 MB AlexNet модел за идентификување на содржина на слики. Вака променетата мрежа и натаму ги идентификува сликите со 1% помала точност од моделот во кој нема малициозен код.

Наједноставно и најдобро за напаѓачите е да го скријат кодот во веќе тренирана мрежа. Сепак ова може да придонесе во намалување на употребливоста поради намалување на способноста на мрежата. Ако проблемот за корисност на мрежата стане преголем тогаш потенцијалниот напаѓач може да креира нова мрежа, да додаде многу повеќе неврони и потоа да ја тренира вештачката интелигенција.

Засега анти-вирус софтверот не ја препознава опасноста од овој малициозен код скриен во невронските мрежи. Една од причините за ова е што засега невронските мрежи се користат за криење на кодот, но не и за негово извршување. Дополнително една од причините за леснотијата за криење е што никој не бара малициозен код во невронските мрежи.

Добивај известувања
Извести ме за
guest
0 Коментари
Inline Feedbacks
View all comments