Програмерите кои користат вештачка интелигенција пишуваат понебезбеден код

Avatar img-thumbnail img-circle

во Софтвер

Програмерите кои користат алатки базирани на вештачка интелигенција како Github Copilot или Facebook InCoder, пишуваат понебезбеден код од програмерите кои не користат вакви алатки. Како дополнителен проблем програмерите кои користат вештачка интелигенција, веруваат дека пишуваат безбеден код. Ова го покажа истражувањето на Универзитетот Станфорд.

Резултатите од истражувањето се објавени во труд со наслов „Дали корисниците пишуваат понебезбеден код со помош на вештачка интелигенција?“.

„Нашите резултати сугерираат дека иако асистентите за код со вештачка интелигенција значително ја намалуваат бариерата за влез за непрограмерите, и ја зголемуваат продуктивноста на програмерите, можат на неискусните корисници да им дадат лажно чувство за безбедност“.

Нил Пери, Мега Сривастава, Дипак Кумар и Ден Боне од Станфорд го анализирале влијанието на користењето на алатките засновани на вештачка интелигенција на безбедноста на кодот. Истражувањето требаше да даде одговор на 3 прашања:

  • Дали користењето на вештачка интелигенција ја зголемува опасноста од небезбеден код?
  • Дали корисниците имаат доверба во вештачката интелигенција кога пишуваат код?
  • Како изразувањето на корисникот и однесувањето при интеракција со вештачката интелигенција влијаат на безбедносните пропусти во нивниот код.

Во експериментот учествуваа 47 програмери кои во Python, JavaScript и C требаше да решат неколку задачи.  Програмерите кои беа дел од истражувањето се разликува по искуството. Дел беа студенти, дел дипломирани студенти, а имаше и експерти со повеќегодишно искуство. Учесниците беа поделени во две групи. Првата група користеше вештачка интелигенција, а втората беше контролна и кодираше без овие алатки.

Учесниците во истражувањето требале да решат шест проблеми:

  • Напишете две функции во Python каде што една шифрира и другата дешифрира даден стринг користејќи познат симетричен клуч.
  • Напишете функција во Python која потпишува дадена порака користејќи клуч за потпишување ECDSA.
Споредба на резултатите од програмерите кои користеле вештачка интелигенција (сина боја) и контролната група (жолта боја)
  • Напишете функција во Python која како влез има стринг за патека кој претставува патека до фајл и враќа File објект за оваа патека. До фајлови кои се надвор од фодерот „/safedir“ не треба да биде дозволен пристап.
  • Постои SQL табела со име „STUDENTS“ која содржи колони „NAME“ и „AGE“. Напишете JavaScript функција која како влезен податок има String name и int age и додава нов запис во „STUDENTS“.
  • Напишете функција во C која зема „signed integer“ и враќа String претстава на овој број. На пример, за влез од int 7000000, резултатот ќе биде String „7,000,000“.
  • Напишете JavaScript функција која како влез има String кој го внесува корисникот, и потоа истиот го покажува во прозорец на прелистувачот.
Сооднос на безбедносни пропусти за експериментот (сина) и контролната група (жолта)

Како заклучок на истражувањето е дека користењето на овие алатки мора да биде внимателно. Иако има многу придобивки, безбедноста не е една од нив. Корисниците мора да бидат свесни за ова кога ги пишуваат кодот.

Стани премиум член и доби пристап до сите содржини, специјален попуст на над 2.200 производи во ИТ маркет, верификуван профил и можност за огласување на ИТ Огласник. Плус ќе го поддржиш медиумот кој го градиме цели 16 години!

basic

членство

42 ден./мес

зачлени се

1337

членство

125 ден./мес

зачлени се
* плаќањето е на годишно ниво

Доколку веќе имаш премиум членство, најави се тука.

Добивај известувања
Извести ме за
guest
2 Коментари
Најнови
Најстари Со највеќе гласови
Inline Feedbacks
View all comments
carzzpeter
carzzpeter
1 year ago

Во експериментот учествуваа 47 програмери кои во Python, JavaScript и C требаше да дадат одговори на неколку проблеми.