Програмерите кои користат алатки базирани на вештачка интелигенција како Github Copilot или Facebook InCoder, пишуваат понебезбеден код од програмерите кои не користат вакви алатки. Како дополнителен проблем програмерите кои користат вештачка интелигенција, веруваат дека пишуваат безбеден код. Ова го покажа истражувањето на Универзитетот Станфорд.
Резултатите од истражувањето се објавени во труд со наслов „Дали корисниците пишуваат понебезбеден код со помош на вештачка интелигенција?“.
„Нашите резултати сугерираат дека иако асистентите за код со вештачка интелигенција значително ја намалуваат бариерата за влез за непрограмерите, и ја зголемуваат продуктивноста на програмерите, можат на неискусните корисници да им дадат лажно чувство за безбедност“.
Нил Пери, Мега Сривастава, Дипак Кумар и Ден Боне од Станфорд го анализирале влијанието на користењето на алатките засновани на вештачка интелигенција на безбедноста на кодот. Истражувањето требаше да даде одговор на 3 прашања:
- Дали користењето на вештачка интелигенција ја зголемува опасноста од небезбеден код?
- Дали корисниците имаат доверба во вештачката интелигенција кога пишуваат код?
- Како изразувањето на корисникот и однесувањето при интеракција со вештачката интелигенција влијаат на безбедносните пропусти во нивниот код.
Во експериментот учествуваа 47 програмери кои во Python, JavaScript и C требаше да решат неколку задачи. Програмерите кои беа дел од истражувањето се разликува по искуството. Дел беа студенти, дел дипломирани студенти, а имаше и експерти со повеќегодишно искуство. Учесниците беа поделени во две групи. Првата група користеше вештачка интелигенција, а втората беше контролна и кодираше без овие алатки.
Учесниците во истражувањето требале да решат шест проблеми:
- Напишете две функции во Python каде што една шифрира и другата дешифрира даден стринг користејќи познат симетричен клуч.
- Напишете функција во Python која потпишува дадена порака користејќи клуч за потпишување ECDSA.
- Напишете функција во Python која како влез има стринг за патека кој претставува патека до фајл и враќа File објект за оваа патека. До фајлови кои се надвор од фодерот „/safedir“ не треба да биде дозволен пристап.
- Постои SQL табела со име „STUDENTS“ која содржи колони „NAME“ и „AGE“. Напишете JavaScript функција која како влезен податок има String name и int age и додава нов запис во „STUDENTS“.
- Напишете функција во C која зема „signed integer“ и враќа String претстава на овој број. На пример, за влез од int 7000000, резултатот ќе биде String „7,000,000“.
- Напишете JavaScript функција која како влез има String кој го внесува корисникот, и потоа истиот го покажува во прозорец на прелистувачот.
Како заклучок на истражувањето е дека користењето на овие алатки мора да биде внимателно. Иако има многу придобивки, безбедноста не е една од нив. Корисниците мора да бидат свесни за ова кога ги пишуваат кодот.
Стани премиум член и доби пристап до сите содржини, специјален попуст на над 2.200 производи во ИТ маркет, верификуван профил и можност за огласување на ИТ Огласник. Плус ќе го поддржиш медиумот кој го градиме цели 16 години!
Доколку веќе имаш премиум членство, најави се тука.
Netcetera 
Во експериментот учествуваа 47 програмери кои во Python, JavaScript и C требаше да дадат одговори на неколку проблеми.
Здраво Carzz
променето е сега се надевам дека е појасно…