Вештачката интелигенција (ВИ) одамна престана да биде само алатка за пишување текстови, генерирање слики или автоматизација на секојдневни задачи. Најновите агентски ВИ системи веќе можат самостојно да планираат, да носат одлуки и да извршуваат комплексни операции со минимална човечка интервенција.
Токму затоа најновиот безбедносен експеримент поврзан со Mythos, експерименталниот модел на Anthropic, предизвика силни реакции во технолошките и безбедносните кругови. Според извештаи и анализи од истражувачки организации, моделот успеал за само неколку часа да добие пристап до речиси сите симулирани американски класифицирани системи, отворајќи сериозни прашања за тоа колку се подготвени институциите за ерата на автономна ВИ.
Кога ВИ станува активен оператор
Она што го прави Mythos особено интересен не е само неговата процесорска моќ, туку начинот на кој функционира. За разлика од класичните large language models кои главно реагираат на кориснички инструкции, Mythos е дизајниран како агент. Тоа значи дека моделот не чека човек да му го дефинира секој следен чекор, туку сам си поставува цели, развива стратегии и адаптира тактики врз основа на резултатите што ги добива во реално време.
Во пракса, ова значи дека ВИ може да пристапи на проблем како искусен безбедносен инженер. Ако една стратегија не успее, моделот анализира зошто дошло до неуспех и веднаш пробува друга патека. Според истражувања на Center for AI Safety, токму оваа автономија е факторот што радикално го менува профилот на ризик кај модерните ВИ системи.
Како биле пробиени системите
Важно е да се нагласи дека не станува збор за директен напад врз реални американски воени или разузнавачки мрежи, туку за високо реалистични симулации креирани за тестирање на безбедноста. Сепак, овие симулации биле доволно блиски до реална инфраструктура за резултатите да се сметаат за сериозен индикатор.
Наместо brute force пристап, Mythos користел многу пософистицирани техники. Моделот анализирал конфигурации, логови, permission hierarchies и можни точки на privilege escalation. Потоа вршел credential harvesting, lateral movement и симулации на social engineering со цел постепено да добие повисоко ниво на пристап. Она што најмногу ги изненадило истражувачите било темпото. Процеси што традиционално бараат денови или недели рачна анализа биле скратени на само неколку часа.
Според анализи на RAND Corporation, ВИ агенти способни за multi-step reasoning би можеле драматично да ја зголемат ефикасноста на офанзивните сајбер операции, особено во сценарија каде брзината е критична.
ВИ против ВИ
Пошироката импликација не е само дали AI може да хакира системи. Поважното прашање е дали традиционалната одбрана воопшто може да држи чекор со вакви системи. Голем дел од владините и корпоративните инфраструктури и понатаму зависат од legacy architecture, стари authentication протоколи и сложени permission модели кои создаваат огромна attack surface.
Според CISA, модерната сајбер безбедност сè повеќе станува натпревар во брзина. Колку побрзо заканата може да открие ранливост, толку помалку време има одбраната за реакција. Ако ВИ модел може да тестира илјадници сценарија паралелно и без замор, класичните defensive тимови едноставно не можат да одговорат со иста динамика.
Ова води кон сценарио во кое единствениот реален одговор е одбранбена ВИ. Наместо луѓе да следат логови рачно, ВИ системи ќе мора автоматски да детектираат аномалии, предвидуваат потенцијални напади и во реално време да блокираат сомнителни активности. Со други зборови, следната фаза на сајбер безбедност можеби ќе биде ВИ против ВИ.
Поголемата слика
Случајот со Mythos е потсетник дека дискусијата за AGI и напредна вештачка интелигенција не е само академска или футуристичка дебата. Додека јавноста најчесто ја поврзува ВИ револуцијата со productivity tools и chatbot асистенти, вистинските последици можеби ќе се почувствуваат најсилно во безбедноста, геополитиката и инфраструктурната отпорност.
Прашањето повеќе не е дали ВИ ќе стане доволно способен да изведува сложени офанзивни операции. Прашањето е дали институциите ќе успеат навреме да изградат механизми за одбрана. Ако Mythos покажува нешто, тоа е дека следната генерација интелигентни агенти можеби ќе се движи побрзо од секоја традиционална безбедносна архитектура што денес ја сметаме за доволна.
Оваа содржина е генерирана со помош на вештачка интелигенција, но е внимателно проверена, уредена и дополнета од уредничкиот тим на IT.mk, со цел да обезбедиме точни, релевантни и квалитетни информации за читателите.
Стани премиум член и доби пристап до сите содржини, специјален попуст на над 2.200 производи во ИТ маркет, верификуван профил и можност за огласување на ИТ Огласник. Плус ќе го поддржиш медиумот кој го градиме цели 16 години!
Доколку веќе имаш премиум членство, најави се тука.
