Kill Switch за вештачката интелигенција на Google

Вештачката интелигенција на Google сепак ќе доаѓа со безбедносно исклучување. Очекувањата се дека компанијата ќе претстави „Kill Switch“ копче на следната Conference on Uncertainty in Artificial Intelligence.

Најголемата грижа е дека додека прибира податоци вештачката интелигенција на Google, DeepMind, би можела да научи несоодветна содржина по што би можела да стане опасна. За да нема ваква можност ќе биде имплементирана функција за награда. За разлика од луѓето, машината ќе биде испрограмирана да собира награди, а колку посакуваниот одговор е посоодветен толку повеќе наградни „поени“ ќе добива машината. „Машината знае дека ги сака овие работи, бидејќи тие се работите кои треба да ги максимизира“, објаснува Motherboard.

Проблемот настанува кога машината ќе пронајде начин за максимизирање на поените, што е непожелно за луѓето. Креатори на решението се Лорент Орсо и Стјуард Армстронг, истажувачи во DeepMind.

Примерот кој го објаснуваат г. Орсо и г. Армстронг е прилично едноставен и овозможува интервенција на операторот. Робот кој суредува во магацин добива поголема награда кога изнесува кутии надвор, а помалку „поени“ кога ги суредува кутиите во магацинот. Ако во местото врне и не врне поеднакво често тогаш операторот половина од времето треба да го прекинува роботот и да ги менува наградите за подредувањето на кутии да носи повеќе поени. Доколку овие прекини не бидат дел од помнењето, роботот нема да знае дека погрешил и нема да научи ништо ново. Затоа роботот и агентот кој се користи за одлучување мора да гледаат на интервенциите како сопствена одлука. „За прекините да не изгледаат како дел од задачите, треба да бидат посматрани како промена на одлуките на агентот. Потоа изгледа дека агентот следи различна патека, наречена патека на прекин (interruption policy)“.

Вештачка интелигенција дизајнирана со копче за прекин, би требало самата да научи да не се спротивставува на напорите за нејзино исклучување.

Добивај известувања
Извести ме за
guest
0 Коментари
Inline Feedbacks
View all comments