, що генерують код, можуть створити реальну проблему для безпеки програмного забезпечення в майбутньому.){kind=link}
Մեքենայական ուսուցման ալգորիթմներն այժմ մոլեգնում են, քանի որ դրանք օգտագործվում են ցանկացած տեսակի «օրիգինալ» բովանդակություն ստեղծելու համար՝ նախապես գոյություն ունեցող հսկայական տվյալների հավաքածուների վրա վերապատրաստումից հետո: Այնուամենայնիվ, արհեստական ինտելեկտի (AI) գեներացնող ծածկագիրը կարող է ապագայում իրական խնդիր ստեղծել ծրագրային ապահովման անվտանգության համար:
AI համակարգերը, ինչպիսիք են GitHub Copilot-ը, խոստանում են հեշտացնել ծրագրավորողների կյանքը՝ ստեղծելով «նոր» կոդի ամբողջական կտորներ՝ հիմնված բնական լեզվով տեքստային տվյալների և նախապես գոյություն ունեցող համատեքստի վրա: Սակայն կոդերի ստեղծման ալգորիթմները կարող են նաև անապահովության գործոն ներկայացնել, ինչպես վերջերս պարզվել է մի քանի մշակողների մասնակցությամբ նոր ուսումնասիրության արդյունքում:
Հատուկ դիտարկելով Codex-ը՝ OpenAI-ի կողմից մշակված արհեստական ինտելեկտի պլատֆորմը, որը նաև վերոհիշյալ GitHub Copilot-ի կոդերի շարժիչն է, հետազոտությանը մասնակցել են 47 տարբեր մշակողներ: Ուսանողներից մինչև փորձառու մասնագետներ, նրանց խնդիր է դրվել օգտագործել Codex-ը Python-ի, JavaScript-ի, C-ի և այլ բարձր մակարդակի ծրագրավորման լեզուների անվտանգության հետ կապված խնդիրները լուծելու համար:
Հետազոտողները նշել են, որ երբ ծրագրավորողներին հասանելի է եղել Codex-ի AI-ն, արդյունքում ստացված կոդը ավելի հավանական է, որ սխալ կամ անապահով լինի՝ համեմատած վերահսկիչ խմբի կողմից մշակված «մեխանիկական» լուծումների հետ: Բացի այդ, AI-ի վրա հիմնված լուծումներ ունեցող ծրագրավորողները ավելի հավանական էին ասել, որ իրենց անպաշտպան ծածկագիրը անվտանգ է, համեմատած վերոհիշյալ հսկիչ խմբի հետ:
Սթենֆորդի համալսարանի ասպիրանտ և հետազոտության գլխավոր համահեղինակ Ալե Փերին ասում է, որ «կոդ ստեղծող համակարգերը ներկայումս չեն կարող փոխարինել մարդկային մշակողներին»: Նրա խոսքով՝ մշակողները կարող են օգտագործել արհեստական ինտելեկտի գործիքներ՝ իրենց իրավասությունից դուրս առաջադրանքներ կատարելու կամ ծրագրավորման գործընթացն արագացնելու համար, որում նրանք արդեն որոշակի հմտություններ ունեն։ Հետազոտության հեղինակի խոսքով՝ իրենք պետք է մտահոգվեն երկուսն էլ և միշտ ստուգեն գեներացված կոդը։
Ըստ Սթենֆորդի ասպիրանտ Մեղա Սրիվաստավայի՝ հետազոտության երկրորդ համահեղինակ, Codex-ն անօգուտ չէ. չնայած «համր» AI-ի թերություններին, կոդերի ստեղծման համակարգերը կարող են օգտակար լինել, երբ օգտագործվում են ցածր ռիսկային առաջադրանքների համար: Բացի այդ, հետազոտությանը մասնակցած ծրագրավորողները մեծ փորձ չունեին անվտանգության հարցերում, ինչը կարող էր օգնել բացահայտելու խոցելի կամ վտանգավոր ծածկագիրը, ասել է Սրիվաստավան։
AI ալգորիթմները կարող են նաև ճշգրտվել՝ բարելավելու կոդավորման առաջարկները, և ընկերությունները, որոնք մշակում են իրենց սեփական համակարգերը, կարող են ավելի լավ լուծումներ ստանալ մի մոդելի միջոցով, որն ավելի հարմար կոդ է ստեղծում իրենց սեփական անվտանգության պրակտիկային: Հետազոտության հեղինակների կարծիքով՝ կոդերի ստեղծման տեխնոլոգիան «հետաքրքիր» զարգացում է, և շատ մարդիկ ցանկանում են օգտագործել այն: Պարզապես, դեռ շատ աշխատանք կա անելու AI-ի թերությունները վերացնելու համար ճիշտ լուծումներ գտնելու ուղղությամբ:
Դուք կարող եք օգնել Ուկրաինային պայքարել ռուս զավթիչների դեմ։ Դա անելու լավագույն միջոցը Ուկրաինայի զինված ուժերին միջոցների նվիրաբերումն է Savelife կամ պաշտոնական էջի միջոցով NBU.
Հետաքրքիր է նաև.