Елон Маск, Стив Вознијак, експерти за вештачка интелигенција, се дел од групата која побара пауза на тренирањето на вештачка интелигенција која ќе биде помоќна од GPT-4. Предлогот е паузата да трае барем половина година, додека не се добијат одговори на некои отворени прашања.
Современите системи за вештачка интелигенција веќе се конкурентни на луѓето во извршување на секојдневните задачи, па мора да се запрашаме: Дали треба да дозволиме машините да ги преплават нашите информативни канали со пропаганда и невистини? Дали треба да ги автоматизираме сите работни места, вклучувајќи ги и оние што нѐ исполнуваат? Дали треба да развиеме вештачки мозоци кои на крајот би можеле да бидат побројни, помудри, кои ќе нѐ застарат и заменат? Дали треба да ризикуваме да ја загубиме контролата над нашата цивилизација?
Овие одлуки не смеат да се остават на неизбрани технолошки лидери. Моќните системи за вештачка интелигенција треба да се развијат само откако ќе бидеме уверени дека нивните ефекти ќе бидат позитивни и дека ќе може да се справиме со ризиците. Оваа доверба мора да биде добро оправдана и да се зголемува со големината на потенцијалните ефекти на системот.
Предложената пауза треба да биде искористена за развој и имплементација на безбедносен протокол кој ќе обезбеди системите да бидат целосно безбедни. Сепак веројатноста дека отвореното писмо ќе има некаков ефект не е голема, иако и Open AI и DeepMind веќе ја истакнале потребата од мерки кои ќе обезбедат поголема безбедност на овие системи.
Ова не значи целосен мораториум за развојот на вештачката интелигенција, туку единствено чекор назад од опасната трка кон сѐ поголемите непредвидливи модели на затворените системи со повеќе нови способности.
Истражувањето и развојот на вештачката интелигенција треба повторно да се фокусираат на тоа да ги направиме денешните моќни, најсовремени системи попрецизни, безбедни, јасни, транспарентни, робусни, усогласени, доверливи и лојални.
Отвореното писмо веќе има поддршка од над 1000 потписници. Она што е поголемо изненадување се имињата на поддржувачите. Покрај Елон Маск кој веќе подолг период предупредува на опасностите од самосвесна вештачка интелигенција, поддршка дадоа и повеќе експерти кои работат на вештачка интелигенција. На листата има повеќе инженери од DeepMind тимот на Googlе, но тука се и директорот на Stability AI, Емад Мостак; Џошуа Бенџио и Стјуарт Расел кој се заслужни за развојот на вештачката интелигенција.
Отвореното писмо и листата на потписници може да ги погледнете во целост на Future of Life.
Стани премиум член и доби пристап до сите содржини, специјален попуст на над 2.200 производи во ИТ маркет, верификуван профил и можност за огласување на ИТ Огласник. Плус ќе го поддржиш медиумот кој го градиме цели 16 години!
Доколку веќе имаш премиум членство, најави се тука.
