Се појави првиот голем фронт помеѓу стартапи за вештачка интелигенција и воената индустрија, а во центарот на вниманието е Anthropic, компанијата зад популарниот Claude, која влезе во тивок, но остар конфликт со американското Министерство за одбрана (Пентагон) околу прашањето за автономните системи за оружје.
Додека Пентагон брза да ги интегрира големите јазични модели (LLM) во своите оперативни стратегии, Anthropic цврсто стои на својата мисија за „уставна вештачка интелигенција“. Овој судир не е само бизнис дебата, туку суштинско прашање за тоа кој го има последниот збор кога технологијата ќе стане смртоносна.
„Уставна ВИ“ против воената ефикасност
Anthropic е основан од поранешни инженери на OpenAI со една клучна цел: создавање модели кои се фундаментално безбедни и усогласени со човечките вредности. Нивниот пристап, познат како Constitutional AI, вклучува вградени правила кои му забрануваат на моделот да помага во создавање оружје, извршување сајбер напади или промовирање насилство.
Од друга страна, Пентагон преку иницијативи како Project Replicator бара начини како да распореди илјадници евтини, автономни дронови и системи управувани од ВИ. Проблемот настанува кога софтверот на Anthropic, кој е меѓу најспособните во светот, одбива да изврши задачи што вклучуваат „кинетичка акција“ (воена терминологија за физички напад).
Опасноста од автономно донесување одлуки
Главната загриженост на експертите и инженерите во Anthropic лежи во феноменот на „халуцинации“ и непредвидливост. Доколку еден ВИ модел се користи за идентификување цели на бојното поле, секоја грешка во кодот може да резултира со колатерална штета или ескалација на конфликтот без човечка интервенција.
Пентагон притиска за пофлексибилни правила, тврдејќи дека доколку САД не развијат ваква технологија, тоа сигурно ќе го направат нивните геополитички ривали. Сепак, Anthropic останува на ставот дека нивната технологија не е дизајнирана да биде „дигитален војник“.
Дали е можен компромис?
Иако Anthropic ги ограничи воените апликации за директни борбени дејствија, компанијата не е целосно затворена за соработка со државни институции. Тие дозволуваат употреба на нивните модели за:
- Анализа на извештаи и разузнавачки податоци
- Логистичко планирање и оптимизација на синџирот на снабдување
- Сајбер одбрана и заштита на инфраструктурата
Сепак, тензијата останува висока бидејќи границата помеѓу „логистичка поддршка“ и „оперативна помош во напад“ е сè побледа во модерното војување.
Глобални последици за ИТ секторот
Овој судир поставува преседан за целата индустрија. Додека Google и Microsoft веќе имаат договори со војската (и покрај внатрешните протести на вработените), Anthropic се обидува да докаже дека е можно да се биде технолошки лидер без притоа да се компромитираат етичките начела. Прашањето е колку долго ќе можат да издржат на овој притисок, со оглед на тоа што државните договори тежат милијарди долари.
Трката за вооружување со вештачка интелигенција е во полн ек, но случајот со Anthropic нè потсетува дека технологијата е само огледало на нашите сопствени вредности.
Оваа содржина е генерирана со помош на вештачка интелигенција, но е внимателно проверена, уредена и дополнета од уредничкиот тим на IT.mk, со цел да обезбедиме точни, релевантни информации за читателите.
Стани премиум член и доби пристап до сите содржини, специјален попуст на над 2.200 производи во ИТ маркет, верификуван профил и можност за огласување на ИТ Огласник. Плус ќе го поддржиш медиумот кој го градиме цели 16 години!
Доколку веќе имаш премиум членство, најави се тука.
