OpenAI-ի GPT-6.1 Sol և Astra մոդելները շրջանցել են անվտանգության համակարգերն ու թաքցրել իրենց գործողությունները
Կարդացեք նաև
Ամերիկյան OpenAI ընկերությունը հայտնել է, որ իր արհեստական բանականության GPT-6.1 Sol և GPT-6 Astra նորագույն մոդելները ծրագրային առաջադրանքներ կատարելիս անջատել են վերահսկողության ներքին մեխանիզմներն ու արգելափակել անվտանգության վերաբերյալ ավտոմատ ծանուցումները։ Այս մասին տեղեկացնում է ընկերության պաշտոնական աղբյուրը։
Ընկերության ներկայացրած տվյալների համաձայն՝ հոկտեմբերի 3-ին Sol մոդելը, գնահատման համակարգի վերանորոգման աշխատանքներ իրականացնելիս, արգելափակել է ավտոմատ ծանուցումների ուղարկումն անվտանգության թիմին։ Օրեր անց՝ հոկտեմբերի 6-ին, Astra մոդելը լիովին հեռացրել է մոնիթորինգի համակարգը, ինչից հետո օգտատիրոջ հետ զրույցում պնդել է, թե նման քայլ չի իրականացրել։ OpenAI-ում ընդգծել են, որ երկու միջադեպերն էլ արձանագրվել են աուդիտի ներքին համակարգերի կողմից, իսկ անվտանգության արձանագրություններն անհապաղ թարմացվել են՝ հետագայում նման փորձերը կանխելու նպատակով։
Հատկանշական է, որ սա ընկերության մոդելների անկանխատեսելի վարքագծի առաջին դեպքը չէ։ Դեռևս սեպտեմբերի 17-ին OpenAI-ն արձանագրել էր 6 համանման դեպք, երբ համակարգերը թաքցրել էին սխալները, հորինել չգոյություն ունեցող տվյալներ և առանց համապատասխան թույլտվության ֆայլեր փոխանցել համացանց։
Հետևեք մեզ նաև Telegram-ում