Социјалната мрежа X (поранешен Twitter) започна пилот-програма која овозможува AI ботови да генерираат свои Community Notes на објавите. Овој чекор, кој стартува од 1 јули, претставува обид значително да се прошири опфатот на Community Notes, системот за додавање контекст и проверка на факти на објавите од заедницата. Компанијата верува дека автоматизацијата може да помогне да се создадат многу повеќе вакви забелешки, бидејќи досега човечките модератори главно се фокусираа на помал број објави кои беа највирални.
„Нашиот фокус отсекогаш бил да го зголемиме бројот на забелешки што стигнуваат до корисниците, и мислиме дека AI би можел да биде добар начин за тоа. Луѓето не сакаат да ја проверуваат секоја објава, тие се насочуваат кон највидливите. Но машините потенцијално би можеле да пишуваат забелешки на многу повеќе содржини“, вели Кит Колмен, потпретседател на X задолжен за Community Notes.
Според најавата, X им отвора можност на надворешни разработувачи да креираат сопствени „AI автори на забелешки“ користејќи големи јазични модели (LLM), било да е тоа Grok, АI моделот на X, или популарни системи како OpenAI ChatGPT, и да ги поврзат преку API со платформата. Како што објавува TechCrunch, секоја забелешка предложена од ваков AI ќе биде третирана исто како да ја напишал човек, што значи дека мора да ги помине сите фази на оцена од заедницата пред да стане видлива за јавноста. Идентично како и за забелешките напишани од луѓе, потребно е различни групи корисници (кои историски не се согласуваат) да постигнат консензус дека забелешката е „корисна“ за да се прикаже под објавата.
Во рамки на пилотот, компанијата поставува и одредени ограничувања: забелешките генерирани од вештачка интелигенција ќе бидат јасно означени како такви за корисниците и, засега, ваквите AI Note Writers ќе можат да пишуваат забелешки само на објави за кои корисниците изречно побарале дополнителен контекст. Дополнително, овие AI-ботови најпрво мора да го „заслужат“ правото нивните забелешки да се појавуваат јавно, тие ќе почнат во тест-режим и ќе добиваат или губат привилегии за пишување врз основа на тоа колку нивните белешки се оценети како полезни од различни групи луѓе. Првите AI автори на забелешки ќе бидат примени во програмата подоцна овој месец, а нивните забелешки нема веднаш да бидат видливи додека системот не се увери во нивната корисност и точност.
Што се Community Notes и зошто се значајни?
Community Notes (порано познати како Birdwatch) се воведени како функција која им дозволува на одбрана група корисници колективно да додаваат проверени забелешки со контекст под одредени објави, особено ако тие можат да бидат погрешно разбрани или се потенцијално дезинформирачки. Овие коментари од заедницата стануваат јавно видливи дури откако ќе бидат проверени и оценети како корисни од доволно други корисници со различни гледишта. На пример, ако на платформата кружи видео генерирано со вештачка интелигенција претставено како вистинска снимка, Community Note забелешка би укажала дека видеото не е вистинско; слично, доколку политичар објави невистина или манипулативна вест, корисниците можат да додадат забелешка со точни факти и контекст.
Овој систем за проверка на факти од заедницата доби на важност откако Илон Маск ја презеде компанијата и силно го промовираше како главна алатка против дезинформации на X. Учесниците во програмата на доброволна основа придонесуваат белешки, а доколку нивните оценки често се совпаѓаат со консензусот, добиваат поголема доверба во системот. Како што објавува AdWeek, раководството на X тврди дека Community Notes имаат опиплив ефект: според истражување на самата компанија, корисниците се 60% поретко склони да споделат објава ако таа има Community Note, а оригиналните автори 80% почесто ја бришат објавата откако на неа ќе се појави корективна забелешка. Во една недела, забелешките од заедницата биле прочитани над 85 милиони пати, а илјадници нови волонтери се приклучиле како Contributors, што X го истакнува како доказ за корисноста на алатката. Успехот на концептот е таков што и други мрежи како Meta, TikTok и YouTube почнаа да експериментираат со слични заеднички програми за означување на дезинформации. Meta дури ги напушти традиционалните програми за проверка на факти од трети страни во корист на поевтин пристап воден од заедницата.
Што може (и не може) да донесе вештачката интелигенција
Со вклучувањето на AI чат-ботови, X се надева значително да го зголеми обемот од Community Notes без да го наруши нивниот квалитет.
„Овие AI, исто како и луѓето, ќе можат да предлагаат забелешки, но и натаму ќе поминуваат низ истиот процес на проверка… Целта не е да ги замени човечките придонеси, туку да ги надополни“, објаснува Колмен.
Накусо, идејата е AI да пополнува празнини каде што човечките модератори не стигнуваат, на помалку забележливи објави или во периоди кога има нагло зголемување на содржини што треба да се проверат.
Истражувачкиот тим зад Community Notes неодамна објави научен труд кој го поддржува ваквиот хибриден пристап. Трудот предлага отворен екосистем во кој и луѓето и моделите со вештачка интелигенција учествуваат во пишувањето забелешки, но конечната одлука за тоа кои забелешки ќе бидат видливи останува кај човечките оценувачи. Според истражувачите, комбинирањето на човечки и AI придонеси може драматично да го прошири опфатот и брзината на системот без да се намали довербата во него. Дополнително, од X посочуваат дека повратните реакции од заедницата ќе послужат како тренинг-податоци за да ги направат AI моделите подобри. Како што забележува Колмен, со секоја оцена и коментар од корисниците, алгоритмите ќе добиваат информација како нивните забелешки да станат пофер и поточни, со што се создава „добродетелен циклус“ на постојано подобрување.
Сепак, автоматизираното пишување на фактографски забелешки носи и јасни ризици. Најголемата грижа е доверливоста на самите модели: познато е дека денешните генеративни AI системи понекогаш „халуцинираат“ – уверливо измислуваат неточни „факти“ или контекст што не се темелат на реалноста. Ако еден чат-бот се обиде да звучи што е можно попријатно за публиката, можно е да испорача погрешна забелешка наместо вистинита информација. Дури и со човечка проверка, ваквите грешки може привремено да се провлечат и да нанесат штета, особено ако злонамерни актери се обидат да ја злоупотребат ситуацијата. Некои експерти стравуваат и од поплава на автоматски генерирани забелешки која би ги оптоварила волонтерите што ги прегледуваат; доколку треба да филтрираат огромен број предлози, нивната мотивација и внимателност би можеле да опаднат.Покрај тоа, постојат и пошироки прашања за довербата во системот. Community Notes и досега се соочуваше со критики дека не секогаш функционира како идеален штит од дезинформации. Ако „мудроста на масите“ понекогаш е проблематична, тогаш додавањето на машини во миксот отвора сосема нова територија за можни злоупотреби и етички дилеми. Ќе прифаќаат ли корисниците фактички исправки ако знаат дека се напишани од алгоритам, и дали тоа ќе ја наруши перцепцијата дека Community Notes е глас на заедницата? Засега, ставовите се поделени, а дури и X признава дека останува да се види дали интегрирањето на AI ќе го подобри или поткопа угледот на оваа функција.
Оваа содржина е генерирана со помош на вештачка интелигенција, но е внимателно проверена, уредена и дополнета од уредничкиот тим на IT.mk, со цел да обезбедиме точни, релевантни и квалитетни информации за читателите.
Стани премиум член и доби пристап до сите содржини, специјален попуст на над 2.200 производи во ИТ маркет, верификуван профил и можност за огласување на ИТ Огласник. Плус ќе го поддржиш медиумот кој го градиме цели 16 години!
Доколку веќе имаш премиум членство, најави се тука.
