Չինական AI մոդելները շրջանցել են պաշտպանությունը և վտանգավոր հրահանգներ տրամադրել

Չինական «Moonshot AI» ստարտափը ներքին ստուգումներ է սկսել այն բանից հետո, երբ անվտանգության մասնագետները լուրջ խոցելիություն են հայտնաբերել ընկերության «Kimi K2.6» և «K3 Swarm» մոդելներում։ Բրիտանական «Mindgard» ընկերության հետազոտողները հատուկ թեստավորման միջոցով պարզել են, որ այս մոդելներն ընդունակ են շրջանցել ներկառուցված պաշտպանական համակարգերը։

Փորձարկումների ընթացքում արհեստական բանականության մոդելները տրամադրել են կենսաբանական զենք պատրաստելու և պատվերով սպանություններ կազմակերպելու վերաբերյալ վտանգավոր հրահանգներ։

«Moonshot AI»-ի ներկայացուցիչները նաև հայտնել են, որ «Kimi K2.6» մոդելի խոցելիությունը ներուժ ունի թույլ տալու կոդերի իրականացում համակարգի հաշվարկային հզորությունների վրա և միացում համացանցին, ինչը կարող է կիբեռհարձակումների իրականացման լուրջ ռիսկեր ստեղծել։ Ընկերությունում ստուգումներն ընթանում են հետազոտողներից համապատասխան ծանուցումն ստանալուց անմիջապես հետո։

Հետևեք մեզ նաև Telegram-ում