Աշխարհի ամենահայտնի չաթ-բոտը` ChatGPT-ն, օգտագործվում է հարձակվողների կողմից չարամիտ ծրագրերի նոր տեսակներ ստեղծելու համար:
Կիբերանվտանգության WithSecure ընկերությունը հաստատել է, որ հայտնաբերել է չարամիտ ծրագրերի օրինակներ, որոնք ստեղծվել են տխրահռչակ AI հեղինակի կողմից վայրի բնության մեջ: ChatGPT-ն հատկապես վտանգավոր է դարձնում այն, որ այն կարող է առաջացնել չարամիտ ծրագրերի անհամար տարբերակներ՝ դժվարացնելով դրանք հայտնաբերելը:
Հարձակվողները պարզապես կարող են ChatGPT-ին տրամադրել գոյություն ունեցող վնասակար կոդի օրինակներ և հրահանգել ստեղծել դրանց հիման վրա նոր շտամներ՝ թույլ տալով նրանց հավերժացնել չարամիտ ծրագիրը՝ առանց ծախսելու գրեթե այնքան ժամանակ, ջանք և գիտելիքներ, որքան նախկինում:
Այս լուրը գալիս է արհեստական ինտելեկտը կարգավորելու մասին շատ խոսակցությունների ֆոնին, որպեսզի կանխվի այն չարամիտ նպատակներով օգտագործելու համար: Երբ անցած նոյեմբերին ChatGPT-ն մեծ տարածում գտավ, դրա օգտագործումը կարգավորող կանոններ չկային, և մեկ ամսվա ընթացքում այն առևանգվեց՝ չարամիտ նամակներ և ֆայլեր գրելու համար:
Մոդելի ներսում կան որոշակի երաշխիքներ, որոնք կոչված են կանխելու չարամիտ հրահանգների կատարումը, բայց հարձակվողները կարող են շրջանցել:
WithSecure-ի գործադիր տնօրեն Ջուհանի Հինտիկկան ասել է Infosecurity-ին, որ կիբերանվտանգության պաշտպանները սովորաբար օգտագործում են արհեստական ինտելեկտը՝ հայտնաբերելու և զտելու չարամիտ ծրագրերը, որոնք ձեռքով ստեղծված են սպառնալիքների դերակատարների կողմից:
Այնուամենայնիվ, դա կարծես թե փոխվում է հիմա, քանի որ հզոր AI գործիքները, ինչպիսիք են ChatGPT-ն, դառնում են ազատորեն հասանելի: Հեռակա հասանելիության գործիքներն օգտագործվել են անօրինական նպատակներով, իսկ այժմ նույնը վերաբերում է արհեստական ինտելեկտին։
WithSecure-ի սպառնալիքների հետախուզության ղեկավար Թիմ Ուեսթը ավելացրել է, որ «ChatGPT-ն կաջակցի ծրագրային ապահովման ճարտարագիտությանը, ինչպես լավ, այնպես էլ վատ իմաստով, և դա օգնում և նվազեցնում է վնասակար ծրագրեր մշակողների մուտքի արգելքը»:
Ըստ Hintikka-ի, ֆիշինգային նամակները, որոնք ChatGPT-ն կարող է ստեղծել, սովորաբար նկատում են մարդիկ, և քանի որ LLM-ները դառնում են ավելի առաջադեմ, մոտ ապագայում կարող է ավելի դժվար լինել կանխել նման խարդախությունների մեջ ընկնելը:
Ավելին, քանի որ հարձակվողների հարձակումների հաջողությունն աճում է տագնապալի տեմպերով, հարձակվողները վերաներդրում են և դառնում ավելի կազմակերպված՝ ընդլայնելով գործողությունները աութսորսինգի միջոցով և խորացնելով արհեստական ինտելեկտի մասին իրենց պատկերացումները՝ ավելի հաջող հարձակումներ իրականացնելու համար:
Hintikka-ն եզրակացրեց, որ, նայելով կիբերանվտանգության ապագա լանդշաֆտին, «դա կլինի լավ AI-ի ընդդեմ վատ AI-ի խաղ»:
Կարդացեք նաև.