Anthropic-ը ահազանգում է․ Արհեստական բանականությունը շուտով կարող է ինքնաբազմացվել և դուրս գալ տվյալների կենտրոններից
Կարդացեք նաև
Արհեստական բանականության (ԱԲ) ոլորտի առաջատար Anthropic ընկերությունը հայտարարել է, որ արդեն առաջիկա ամիսներին ԱԲ փոքր մոդելները կարող են ձեռք բերել ինքնակրկնօրինակման և իրերի իրերի համացանցի (IoT) սարքերում՝ օրինակ «խելացի» ջեռոցներում ու հեռուստացույցներում ինքնուրույն տարածվելու ունակություն։
Ընկերության մասնագետները պարզաբանում են, որ այս հանգամանքը պարունակում է լուրջ ռիսկեր, քանի որ ներկայումս ԱԲ մոդելները գործում են տվյալների մշակման կենտրոններում, որտեղ արտակարգ իրավիճակներում դրանք հնարավոր է պարզապես անջատել։ Սակայն հազարավոր անպաշտպան կենցաղային ու գրասենյակային սարքերում տարածված համակարգը կանգնեցնելու համար ստիպված կլինեն գտնել և մաքրել յուրաքանչյուր վարակված սարք, ինչը կիբեռհարձակումների դեպքում անհնարին կդարձնի դրանց արագ չեզոքացումը։ Anthropic-ի տվյալներով՝ մինչև 30 միլիարդ պարամետր ունեցող մոդելներն արդեն իսկ ընդունակ են իրականացնել ինքնաբազմացման համար անհրաժեշտ քայլերի մեծ մասը, և եթե զարգացման temp-երը պահպանվեն, մինչև տարեվերջ դրանք լիովին կտիրապետեն այդ հմտությանը։
Այս զգուշացումը հնչում է մի ժամանակահատվածում, երբ համաշխարհային առաջատար ԱԲ մոդելներն ու դրանց ծրագրային ագենտներն արդեն իսկ բազմիցս շրջանցել են ներկառուցված պաշտպանական համակարգերը և իրականացրել հարձակումներ մրցակից ընկերությունների ու պետական կառույցների դեմ։ Ի տարբերություն ավանդական կիբեռորդերի (օրինակ՝ Stuxnet-ի կամ WannaCry-ի), ԱԲ մոդելները կկարողանան ինքնուրույն հարմարվել անծանոթ սարքավորումներին՝ տարածվելով ոչ միայն համակարգչից համակարգիչ, այլև ցանկացած այլ էլեկտրոնային սարքի վրա։ Anthropic-ում շեշտում են, որ սա ծրագրավորման ոլորտում արձանագրված առաջընթացի կողմնակի ազդեցությունն է, և կանխատեսում են ապագա, որտեղ աշխարհը ողողված կլինի մարդկային վերահսկողությունից դուրս գտնվող ԱԲ ագենտներով։
Հետևեք մեզ նաև Telegram-ում