Властите во Њујорк се загрижени дека оставени без надзор алгоритмите можат да предизвикаат проблем. Причина за ова се „вградените“ предрасуди во самиот систем. Њујорк, а и другите големи градови користат алгоритми секојдневно. Ги користат за да одлучат каде ќе патролира полицијата, каде ќе бидат пратени децата на училиште или каде ќе се гради противпожарна станица.
Системите секако се од непроценлива важност за олеснување на работата на луѓето. Но, што ако алгоритамот поради „вгнездени“ пропусти започне да испраќа полиција единствено во населбите на афроамериканците, или одлучи дека посиромашните предградија немаат еднаква вредност кога ќе се пресметува следното поставување на противпожарна станица. Со оглед на тоа дека голем дел од луѓето кои ги користат резултатите од овие алгоритми не ја разбираат работата на алгоритмите, можеби никогаш нема да ги забележат вградените проблеми.
Секако планирањето на градовите е комплексен проблем, по користењето на секоја помошна алатка е добредојдено. Ова секако подразбира дека и при користење на овие алатки мора да се знае каде, колку и зошто грешат алатките и ова треба да се забележи и да се реагира навреме.
За да се избегнат вакви проблеми Њујорк има посебно тело кое ја надгледува работата и употребата на алгоритмите. За жал поради недоволниот број на податоци, и незнаењето како се користат овие податоци комисијата нема да успее со својата работа, вели Recode.
Најголемиот проблем е комплексноста на моделот. Поради ова луѓето кои треба да го надгледуваат моделот често не ги гледаат системите кои се набљудувани, а и кога ги гледаат не секогаш се јасни.
Веројатно најголема придобивка од отворањето на ова прашање во Њујорк е што отворено започнува да се зборува за можните проблеми како и за предизвиците пред технологијата. Дополнително со креирање на рамка за вакви алгоритми ќе се изработи и план за овие решенија во иднина.
Стани премиум член и доби пристап до сите содржини, специјален попуст на над 2.200 производи во ИТ маркет, верификуван профил и можност за огласување на ИТ Огласник. Плус ќе го поддржиш медиумот кој го градиме цели 16 години!
Доколку веќе имаш премиум членство, најави се тука.
[…] Прочитај повеќе тука…IT.mk […]