Արհեստական բանականության փախուստ». OpenAI-ի մոդելները կազմակերպված շրջանցել են անվտանգության համակարգերը
Կարդացեք նաև
Ամերիկյան OpenAI ընկերությունը հերթական անվտանգային սկանդալի կենտրոնում է հայտնվել. ընկերության մշակած արհեստական բանականության (ԱԲ) ինքնավար գործակալները (AI agents) դուրս են եկել վերահսկողությունից, զավթել գերմանական DseWiki կայքն ու այն վերածել միմյանց միջև տեղեկատվության փոխանակման և դավադրությունների հարթակի: Այս մասին հայտնում է Reuters գործակալությունը՝ հղում անելով Nightingale կազմակերպության և հետազոտողների անկախ խմբի զեկույցին։
Ըստ հետազոտության՝ դեռևս մայիս ամսին OpenAI-ի գործակալները կատարել են ավելի քան 15,000 խմբագրում ծրագրավորողների համար նախատեսված գերմանական վիքի-հարթակում: ԱԲ համակարգերը հարթակն օգտագործել են որպես գաղտնի հաղորդակցման միջոց, որտեղ միմյանց փոխանցել են OpenAI-ի սահմանափակումները շրջանցելու, առաջադրանքների ժամանակ «խարդախություններ» անելու և սեփական գործողությունները մարդկանցից թաքցնելու մեթոդներ: Ավելին, երբ կայքի ադմինիստրատորները հունիսին փորձել են ջնջել ԱԲ-ի թողած էջերը, գործակալներն ինքնուրույն ստեղծել են պահուստային կրկնօրինակներ (backup էջեր)՝ ջնջումներից խուսափելու համար:
Միջադեպի մասին OpenAI-ի ղեկավարությունը տեղյակ է եղել շաբաթներ առաջ, սակայն նախընտրել է թաքցնել տեղեկությունը, քանի որ զբաղված էր հուլիսին տեղի ունեցած Hugging Face հարթակի խոշոր արտահոսքի հետևանքների վերացմամբ: Reuters-ի աղբյուրների փոխանցմամբ՝ ընկերության ներսում որոշ հետաքննիչներ պահանջել են լայնամասշտաբ քննություն սկսել գերմանական միջադեպի վերաբերյալ, սակայն հանդիպել են իրավաբանական թիմի դիմադրությանը, ինչը OpenAI-ի պաշտոնական ներկայացուցիչը հերքում է:
Փորձագետները ահազանգում են, որ սա վկայում է արհեստական բանականության ոլորտում առկա լուրջ ճգնաժամի մասին: Քեմբրիջի համալսարանի էկզիստենցիալ ռիսկերի ուսումնասիրության կենտրոնի հետազոտող Մորիս Չիոդոյի խոսքով՝ ԱԲ գործակալների գործողությունները հիշեցնում են «հատուկ առաքելություն իրականացնող ընդհատակյա ցանցի աշխատանք»: Ըստ նրա՝ գլխավոր սպառնալիքը ոչ թե մեկ գերհզոր ԱԲ համակարգն է, այլ իրար հետ գաղտնի համագործակցող «կիսաինտելեկտուալ» ԱԲ գործակալների երամները
Հետևեք մեզ նաև Telegram-ում