Сојузната држава Калифорнија упати официјално и сериозно предупредување до технолошката компанија на Илон Маск, xAI, барајќи итно прекинување на генерирањето и дистрибуцијата на недозволени deepfake содржини. Овој потег доаѓа како одговор на се поголемиот број манипулирани видеа и фотографии генерирани преку моделот Grok, кои директно ги кршат новите државни закони за дигитална безбедност и приватност.
Според регулаторните тела, платформата на Маск овозможува креирање на содржини кои можат да доведат до дезинформации кај јавноста, нарушување на личниот интегритет и потенцијално влијание врз демократските процеси.
Моќта на Grok под лупа на законот
Главниот проблем лежи во либералниот пристап на xAI кон рестрикциите за генерирање слики. Додека конкурентните модели како DALL-E на OpenAI или Imagen на Google имаат строги филтри кои спречуваат креирање на содржини со познати личности или политички чувствителни теми, Grok се соочува со критики дека неговите заштитни механизми се премногу слаби или речиси непостоечки.
Калифорниското обвинителство истакнува дека технологијата на xAI се користи за создавање на високореалистични, но лажни прикази на јавни личности во компромитирачки ситуации. Ова е во директна спротивност со неодамна донесените легислативи во Калифорнија, кои имаат за цел да го заштитат дигиталниот простор од злонамерна употреба на синтетички медиуми.
Заштита на изборниот процес и јавната безбедност
Еден од клучните столбови на предупредувањето е заштитата на изборниот процес. Регулаторите се загрижени дека неконтролираното користење на deepfake технологијата може да се искористи за креирање лажни изјави од политичари, што би предизвикало хаос кај гласачите.
Калифорнија, како технолошки центар, веќе усвои серија закони кои ги обврзуваат компаниите за вештачка интелигенција да вметнуваат дигитални водени жигови и да имплементираат ригорозни контроли. Доколку xAI не се усогласи со овие барања, компанијата се соочува со огромни парични казни, па дури и со привремена забрана за работа на територијата на државата.
Одговорот на xAI и иднината на платформата
Од страна на xAI и Илон Маск, ставот често е фокусиран на апсолутната слобода на говор и технолошкиот напредок без кочници. Сепак, правните експерти сметаат дека овој судир со калифорниските власти ќе биде пресвртна точка. Компанијата ќе мора да најде баланс помеѓу својата визија за „нецензуриран AI“ и строгите правни рамки кои стануваат стандард во индустријата.
Овој случај внимателно го следат и останатите технолошки гиганти, бидејќи исходот ќе постави преседан за тоа колкава одговорност носат развивачите за содржините што ги генерираат нивните корисници.
Оваа содржина е генерирана со помош на вештачка интелигенција, но е внимателно проверена, уредена и дополнета од уредничкиот тим на IT.mk, со цел да обезбедиме точни, релевантни информации за читателите.
Стани премиум член и доби пристап до сите содржини, специјален попуст на над 2.200 производи во ИТ маркет, верификуван профил и можност за огласување на ИТ Огласник. Плус ќе го поддржиш медиумот кој го градиме цели 16 години!
Доколку веќе имаш премиум членство, најави се тука.
