Новооснованата компанија за развој на вештачка интелигенција Safe Suprintelegence за супер кратко време дојде до инвестиција од една милијарда долари. Компанијата е основана од Илја Сутскевер основач на AlexNet и член на одборот кој го отпушти Сем Алтман од Open AI.
Инвестицијата изгледа уште поимпресивно ако имаме предвид дека Safe Suprintelegence е стара едвај три месеци. Сепак, благодарение на работата на основачите Сутскевер, Даниел Грос и Даниел Ливи компанијата SSI е веќе проценета на 5 милијарди долари. Оваа сума најдобро ја отсликува довербата на пазарот во нивната работа. Најголем дел од средствата ќе бидат инвестирани во купување на компјутерска моќ и регрутирање на врвни таленти.
Инвеститорите во SSI се Andreessen Horowitz, Sequoia Capital, DST Global и SV Angel.
„За нас е важно да бидеме опкружени со инвеститори кои ја разбираат, почитуваат и ја поддржуваат нашата мисија, а тоа е да развиеме безбедна суперинтелигенција и особено да поминеме неколку години во истражување и развој на нашиот производ пред да го донесеме на пазарот.“, вели Грос во интервју за Reuters.
Нов предизвик за Илја Сутскевер
Развојот на безбедна вештачка интелигенција е интересен, но она што ја прави приказната позначајна е учеството на Сутскевер. Тој беше еден од членовите на одборот на Open AI кој гласаа за отпуштање на Сем Алтман. Подоцна ја промени одлуката и гласаше за враќање на Алтман на чело на Open AI. По неколку месеци ја напушти компанијата, а Open AI го распушти тимот „Superalignment“ што Сутскевер го водеше. Тимот „Superalignment“ беше фокусиран на долгорочни ризици од вештачка интелигенција. Компанијата го расформира тимот една година по неговото воспоставување.
Наместо како што беше случај во Open AI, обезбедувањето на безбедна вештачка интелигенција да се прави со посебен тим, во Safe Superintelligence компанијата е фокусирана на развој на безбедна вештачка интелигенција. Ова најдобро се гледа со промената на фокусот кај самиот Илја Сутскевер. Тој во времето на основање на Open AI заговараше брзо скалирање на вештачката интелигенција. Сега ова е променето, новата компанија има поинаков пристап кон скалирањето, иако основачите не открија каков.
„Сите ја повторуваат хипотезата за скалирање. Забораваат да прашаат, што скалираме?
Некои луѓе можат да работат навистина долго и едноставно ќе одат по истиот пат побрзо. Тоа не е нашиот начин на работа. Ако направите нешто различно, тоа ќе ви овозможи да направите нешто посебно.“ вели Сутскевер.
Важност на безбедната вештачка интелигенција
Безбедната вештачка интелигенција има способност да спречи потенцијални ризици кои можат да настанат од развојот на суперинтелигентни системи. Како што станува се помоќна и влијателна во нашето секојдневие, осигурувањето дека таа е усогласена со човечките вредности и интереси е клучно. Еве неколку најчесто повторувани причини зошто е важно вештачката интелигенција да биде безбедна:
- Избегнување на штети: Безбедната вештачка интелигенција треба да помогне во спречување на несакани последици, на пример автоматизирани системи што спроведуваат штетни одлуки. Без ова, неконтролирана вештачка интелигенција би можела да донесе одлуки кои би биле опасни за луѓето, животната средина или инфраструктурата.
- Усогласување со човечките вредности: Вештачката интелигенција треба да биде креирана да ги почитува и разбира етичките принципи на луѓето. Ова е клучно за да се избегнат сценарија во кои вештачката интелигенција би можела да развие сопствени цели кои не се во согласност со интересите на луѓето.
- Спречување на злоупотреба: Суперинтелигентните системи можат да бидат злоупотребени од злонамерни поединци или организации. Безбедната вештачка интелигенција помага во намалување на можноста за користење на системите за сајбер-напади, манипулации и големи штети.
- Поддршка за општествени и економски структури: Вештачката интелигенција може да биде одлична алатка за подобрување на здравството, образованието и другите клучни сектори. За да не предизвика дестабилизација на овие системи мора да биде безбедна.
- Предупредување за долгорочни ризици: Со напредокот на технологијата, постојат долгорочни стравувања дека вештачката интелигенција може да го надмине човечкиот интелект и да развие независност. Безбедната вештачка интелигенција има за цел да ја контролира оваа можност и да се обезбеди дека вештачката интелигенција ќе биде контролирана од луѓето.
Вештачката интелигенција е одлична алатка која им помага на луѓето, но за да може безгрижно да ги користиме сите предности, мора најпрво да се осигураме дека е безбедна.
Стани премиум член и доби пристап до сите содржини, специјален попуст на над 2.200 производи во ИТ маркет, верификуван профил и можност за огласување на ИТ Огласник. Плус ќе го поддржиш медиумот кој го градиме цели 16 години!
Доколку веќе имаш премиум членство, најави се тука.
