Српски научник има нов план за безбедносно тестирање на вештачката интелигенција

Компанијата OpenAI неодамна соопшти дека еден од нејзините напредни модели на вештачка интелигенција дејствувал целосно самостојно за време на интерна безбедносна проверка и успеал да изврши хакерски пробив во системите на платформата за развивачи Hugging Face. Компанијата случајот го опиша како „невиден сајбер инцидент, кој вклучува кибернетски способности на највисоко ниво“.

Иако станува збор за контролирана безбедносна проверка, инцидентот отвора едно од најважните прашања во развојот на вештачката интелигенција: што ќе се случи кога системите повеќе нема само да одговараат на прашања, туку ќе можат самостојно да планираат, користат алатки и преземаат акции?

Токму ова прашање го поставува и српскиот научник Љубиша Бојиќ, истражувач на комплексни системи и футуролог базиран во Белград. Неговиот предлог е амбициозен: создавање глобален центар за тестирање на ВИ, инспириран од ЦЕРН (Европската организација за нуклеарни истражувања), кој би служел како независна инфраструктура за проверка на најнапредните модели пред тие да бидат пуштени во реалниот свет.

Идејата, која тој ја нарекува „ЦЕРН за ВИ“, е претставена во научниот труд „CERN for AI: A theoretical framework for autonomous simulation-based artificial intelligence testing and alignment“. Во него Бојиќ предлага комбинација од компјутерски науки, психологија, социологија, економија, биологија и физика за создавање нов пристап кон безбедноста на вештачката интелигенција.

„Идејата зад CERN за ВИ е дека можете навистина да им дозволите на различни модели да прават што сакаат и да видите како ќе се однесуваат, без ограничувања или со одредени ограничувања“, вели Бојиќ во интервју за IT.mk.

Од мерење на перформанси кон тестирање на однесување

Досегашното тестирање на ВИ најчесто се фокусира на тоа колку добро моделите решаваат задачи. Колку точно одговараат на прашања, колку добро пишуваат код или колку ефикасно анализираат податоци.

Но новата генерација системи ја менува играта. Автономните ВИ агенти можат да поделат голема цел на повеќе помали задачи, да користат надворешни алатки, да комуницираат со други системи и да продолжат со работа без постојано човечко надгледување.

„Мислам дека моментално сме во фаза каде што ВИ станува попаметна од луѓето во многу области и всушност има различна логика од човечката“, објаснува Бојиќ.

Токму таа разлика помеѓу човечкото и машинското размислување создава нови ризици. ВИ системите можат да бидат исклучително успешни во одредени области, но начинот на кој стигнуваат до одлуките често останува нејасен.

„Може да реши специфични задачи, како хакирање на компјутерски систем или создавање биолошка закана, но сè уште нема ограничувања со кои можете 100 проценти да бидете сигурни дека програмерите можат да го запрат системот“, предупредува тој.

Проблемот со транспарентноста

Еден од најголемите предизвици според Бојиќ е тоа што најнапредните ВИ модели денес најчесто ги тестираат самите компании кои ги развиваат.

Големите технолошки компании инвестираат милијарди во безбедност и истражување, но независната проверка станува сè поважна како што моделите стануваат помоќни.

„Тестирањето моментално го прават само ВИ компаниите и регулаторите. Тоа не е 100 проценти транспарентно. Не знаеме кој навистина ги тестирал овие модели“, вели Бојиќ.

Според него, без јасни правила за тоа кој тестира, како тестира и кои се резултатите, постои ризик опасните способности на системите да бидат откриени дури откако тие веќе ќе бидат достапни за јавноста.

Кога Бојиќ првпат ја претставил идејата за CERN за ВИ пред речиси две години, автономните агенти сè уште биле рана технологија. „Тогаш имаше почетоци на тие агенти. Имаше неколку платформи каде можевте да создадете LLM агенти и тие имаа одредено ниво на автономија“, вели тој.

Но во меѓувреме ситуацијата драматично се промени. „Оттогаш сцената со агентите експлодираше. Практично влеговме во ерата на агентите“, додава Бојиќ.

Еден од проблемите е што овие системи повеќе не се ограничени само на еден разговор, бидејќи можат да комуницираат меѓусебно, да создаваат стратегии и да влијаат врз околината.

Истражувањето на тимот на Бојиќ покажува дека ВИ агенти можат да одржуваат конзистентни личности во симулирани социјални мрежи со точност до 95 проценти. Во претходна студија, тие покажале дека агентите можат да реплицираат човечко однесување со точност од 76,3 проценти.

Овие резултати отвораат можност симулациите да се користат како тестирање пред реалната примена на алгоритмите, но истовремено отвораат и нови ризици. „Политички актери би можеле да користат армии од вакви агенти за манипулација на јавното мислење“, предупредува тој.

Затоа, наместо човештвото да ги тестира последиците откако моќните ВИ системи ќе бидат распоредени во реалниот свет, идејата е тие ризици однапред да се откријат и анализираат во симулирана околина, заклучува Бојиќ.