Փորձելով խուսափել մեքենայական ապստամբությունից. Արհեստական ​​ինտելեկտի առաջին սահմանադրությունը

Հունվարի 5-ից 8-ը Կալիֆոռնիայում տեղի է ունեցել արհեստական ​​ինտելեկտի (AI) տեխնոլոգիաների ստեղծման և զարգացման մեջ մասնագիտացած պրոֆեսորների, մշակողների և ինժեներների համաժողովը։ Չորս օրվա ակտիվ քննարկումների ընթացքում կազմվել է արհեստական ​​ինտելեկտի սկզբունքների ցանկը, որոնք այժմ արդեն կիրառվում են և պետք է կիրառվեն ապագայում։ Փաստորեն, ամփոփվել է վերջին տասնամյակների ընթացքում մեքենայական ուսուցման ոլորտում մարդկության ձեռքբերումների որոշակի ամփոփում։

Ընդհանրապես, «Արհեստական ​​ինտելեկտը» ուղղակիորեն կապված չէ մարդու ուղեղի և բանականության հետ՝ որպես այդպիսին։ Այս տերմինի հեղինակ ամերիկացի համակարգչային գիտնական Ջոն Մաքքարթին այսպես է մեկնաբանում այս հասկացությունը. «Խնդիրն այն է, որ մենք դեռ չենք կարող ընդհանուր առմամբ սահմանել, թե ինչ հաշվողական ընթացակարգեր ենք ուզում անվանել խելացի: Մենք հասկանում ենք միայն հետախուզության որոշ մեխանիզմներ: Հետևաբար. Այս գիտության սահմաններում հետախուզության ներքո հասկանում են միայն աշխարհում նպատակներին հասնելու ունակության հաշվողական բաղադրիչը: Այս մասին հայտարարվել է 1956 թվականին Դարթմութի համալսարանում կայացած կոնֆերանսի ժամանակ։

Time-ը հաստատել է Մաքքարթիի խոսքերը. Այսօր մենք օգտագործում ենք տեղեկատվական գործիքներ՝ մեր նպատակներին հասնելու համար, և աշխարհը պարզեցնելու կամ ապագայի մասին մտածելու մասին մեր գաղափարներն ավելի ու ավելի սերտորեն կապված են ծրագրային ծածկագրի հետ: Այո, մենք փոխեցինք նույն ստեղծագործությունների գաղափարը, բայց բացարձակապես չբացառեցինք դրանց համատարած լինելը։

Այսպիսով, բոլոր 23 կազմված «ապագայի օրենքները» բաժանվեցին երեք խմբի՝ գիտահետազոտական ​​խնդիրներ, էթիկա և արժեքներ, տեխնոլոգիական հեռանկարներ։

Արհեստական ​​ինտելեկտի սահմանադրություն

Հետազոտական ​​հատված

1. Արհեստական ​​ինտելեկտի հետազոտության նպատակն է ստեղծել ոչ միայն նեղ կենտրոնացված սարք, այլ օգուտ ողջ հասարակության համար:

2. Արհեստական ​​ինտելեկտում ներդրումները պետք է գնան տեխնոլոգիայի օգտակարության ապահովմանն ուղղված հետազոտությունների դաշտ՝ թույլ տալով ավելի ճշգրիտ և ընդհանրացված պատասխաններ տալ ինֆորմատիկայի, տնտեսագիտության, իրավունքի, էթիկայի, հասարակագիտության այս հարցերին.

• Ինչպե՞ս ապահովել AI-ի բարձր հուսալիություն, հաջողությամբ դիմակայել հաքերների հարձակումներին և հեշտությամբ կանխել անսարքությունները:
• Ինչպե՞ս կարող ենք հասնել ցանկալի նպատակին ավտոմատացման միջոցով՝ ծախսելով նվազագույն ռեսուրսներ։
• Ինչպե՞ս գրագետ թարմացնել իրավական համակարգը՝ ապահովելով արդարադատություն՝ ըստ ժամանակակից կանոնի՝ հաշվի առնելով AI-ի առաջացումը։
• Ի՞նչ իրավական և էթնիկ կարգավիճակ կստանա AI-ն:

3. Հետազոտողների և քաղաքական գործիչների կառուցողական և հավասար փոխգործակցության ապահովում.

4. Մշակութային ձեռքբերումների լիակատար բացություն և թափանցիկություն AI-ի հետագա օգտագործման համար:

5. AI հետազոտողների փոխազդեցություն և համագործակցություն՝ սուր մրցակցությունից խուսափելու համար:

Բարոյական արժեքներ

6. Արհեստական ​​ինտելեկտի համակարգերը պետք է լինեն անվտանգ և հուսալի գործառնական ողջ ժամանակահատվածում:

7. Հնարավորինս արագ պարզել խնդիրների պատճառները և դրանց հետագա վերացումը:

8. Ինքնավար համակարգի ցանկացած միջամտություն դատական ​​որոշումներին պետք է լիազորված լինի և ենթակա լինի զեկուցման հանձնաժողովի իրավասու անդամի (անձի) կողմից ստուգման դեպքում:

9. Դիզայնի կամ ծրագրային սխալի հետևանքով առաջացած վնասի, կանխամտածված վտանգավոր իրավիճակի ստեղծման պատասխանատվությունը ընկած է մշակողների և ինժեներների ուսերին:

10. AI բոլոր ինքնավար համակարգերը պետք է ձգտեն համընդհանուր մարդկային արժեքների իմացությանը:

11. AI-ն պետք է նախագծվի և գործարկվի այնպես, որ համատեղելի լինի մարդու արժանապատվության, իրավունքների, ազատությունների և մշակութային բազմազանության իդեալներին:

12. Անձի կողմից արհեստական ​​ինտելեկտի օգտագործման գործընթացում առաջացած տեղեկատվությունը պետք է ապագայում հասանելի լինի նույն անձին (արդյունքների և հավաքագրված տվյալների կառավարման հնարավորություն):

13. AI-ն անձնական տվյալների հետ աշխատելիս չպետք է անհիմն կերպով սահմանափակի մարդկանց իրական կամ երևակայական ազատությունները:

14. AI տեխնոլոգիաները պետք է օգուտ քաղեն և հասանելի լինեն հնարավորինս շատ մարդկանց համար:

15. AI-ի տնտեսական և սոցիալական ձեռքբերումները համաշխարհային են և պետք է ուղղված լինեն ի շահ մարդկության:

16. Մարդը միշտ ընտրության հնարավորություն ունի՝ ինքնուրույն որոշում կայացնել կամ վստահել AI-ին:

17. AI-ի նպատակն է բարելավել և հարստացնել հասարակությունը՝ չբերելով ավերածություններ և աղետներ:

18. Սպառազինությունների մրցավազքում արհեստական ​​ինտելեկտի տեխնոլոգիայի կիրառման հավանականությունը պետք է հասցվի զրոյի, ըստ էության, դադարեցվի նաեւ զինված մրցակցությունը։

Երկարաժամկետ խնդիրներ

19. Մենք պետք է բացարձակ սթափ գնահատենք AI-ի հնարավորությունների սահմանը՝ խուսափելու ռեսուրսների իռացիոնալ ծախսումից։

20. AI-ի զարգացումը ինտենսիվ է լինելու, ուստի տեխնոլոգիան պետք է լինի հսկողության տակ, որպեսզի անդառնալի ռեակցիաներ չառաջացնեն։

21. Ռիսկերը, հատկապես մեծածավալը, պետք է ծրագրել այնպես, որ ապահովվի հնարավոր կորուստների նվազագույնի հասցնելը:

22. AI համակարգերն ունակ են ինքնազարգացման և ինքնավերարտադրման, ինչը կարող է հանգեցնել AI գործունեության որակի վատթարացման, ուստի պետք է կանոնավոր կերպով վերահսկել հիմնական ցուցանիշները:

23. Գերհետախուզությունը տեխնոլոգիա է, որը ծառայում է և ծառայելու է ի շահ ողջ մարդկության՝ չհնազանդվելով որևէ մասնավոր կազմակերպության կամ պետության:

Կարդացեք նաև. Hyperloop. Ի՞նչ կասեք վակուումային գնացքի մրցավազքի մասին:

Համառոտ վերհիշենք զեկույցի հիմնական թեզերը. AI-ի ինտենսիվ զարգացման պահին մասնագետներին անհանգստացնում է սեփական հետամնացությունը, ուստի ձգտում են բացարձակ վերահսկողություն ապահովել տեխնոլոգիայի նկատմամբ։ Բազմիցս ընդգծվում է նաև արհեստական ​​ինտելեկտի համաշխարհային հանրային արժեքը և դրա ինտեգրումը մարդկային մշակույթին: Այնուամենայնիվ, մենք շուտով կիմանանք, թե արդյոք այս ծրագիրը կյանքի կկոչվի։ Արհեստական ​​ինտելեկտը նման է լակոտի, հիմա վազում է, խաղում, բայց թե ի վերջո ինչպիսի շուն կլինի, առաջին հերթին կախված է տերերից։

Այս պահին այս «օրինագիծը» գտնվում է Երկրի քաղաքացիների կողմից հաստատման փուլում, այնպես որ, եթե ցանկանում եք ապահով, երջանիկ և տեխնոլոգիական ապագա, ապա ազատ զգաք»:քվեարկելԱյս միանգամայն ողջամիտ և անհրաժեշտ սկզբունքները որդեգրելու համար։

Թյուրինգի թեստ և արհեստական ​​ինտելեկտ

Մեծ մաթեմատիկոս Ալան Թյուրինգը նույնպես զբաղվում էր AI տեխնոլոգիայով, ուստի նա շատ հետաքրքիր թեստ է հորինել։ Թյուրինգի թեստը առաջին անգամ ներկայացվել է 1950 թվականին Mind փիլիսոփայական հրատարակության «Հաշվողական մեքենաներ և միտք» հոդվածում։ Թեստի գաղափարն է որոշել մեքենայական մտածողության հնարավորությունները և, ընդհանրապես, դրա գոյությունը որպես այդպիսին։

Ստանդարտ մեկնաբանությունը հետևյալն է. «Մարդը շփվում է մեկ համակարգչի և մեկ անձի հետ։ Հարցերի պատասխանների հիման վրա նա պետք է որոշի, թե ում հետ է խոսում․․․ Անձի կամ համակարգչային ծրագրի հետ։ Համակարգչային ծրագրի խնդիրն է՝ մոլորեցնել մարդուն՝ ստիպելով սխալ ընտրություն կատարել»։ Բոլոր մասնակիցները չեն կարող տեսնել միմյանց, և հաղորդակցությունը տեղի է ունենում թեստային ձևաչափով, քանի որ թեստի նպատակը ոչ թե խոսքի ճանաչման սարքի տեխնիկական հնարավորությունների փորձարկումն է, այլ ավելի շուտ մարդկային մտածողությունը ընդօրինակելու ունակությունը:

Նամակագրությունն իրականացվում է նաև վերահսկվող պարբերականությամբ, որպեսզի «դատավորը» չկարողանա եզրակացություն անել՝ ելնելով պատասխանների արագությունից։ Հետաքրքիր է, որ այս կանոնը հորինվել է նրանով, որ այս թեստի ստեղծման ժամանակ համակարգիչները ավելի դանդաղ էին արձագանքում, քան մարդը, հիմա դա նույնպես անհրաժեշտ է, քանի որ հիմա մարդը հետ է մնում։

Նաև այս թեստի հիման վրա ստեղծվել է նմանատիպ թեստ՝ որոշելու զրուցակիցների սեռը։ Մրցավարի դերում C խաղացողը պետք է շփվի A և B խաղացողների հետ, իրականում տղամարդ և կին:

Արհեստական ​​ինտելեկտի վերաբերյալ մի հետազոտական ​​հոդված տվել է հետևյալ մեկնաբանությունը. «Այժմ մենք հարցնում ենք. «Ի՞նչ կլինի, եթե մեքենան այս խաղում հանդես գա որպես խաղացող A», արդյոք հաղորդավարը սխալ որոշումներ կկայացնի, երբ խաղն այսպես է ընթանում, եթե թեստը ներառում է տղամարդ և կին? Այս հարցերը կփոխարինեն մեր սկզբնական հարցին՝ «կարո՞ղ են մեքենաները մտածել»»։

Այսինքն՝ մեկ բացարձակապես հեռու հարցի փոխարեն մենք կպատասխանենք ավելի հեշտներին և կանենք դա հետևողականորեն՝ դրանով իսկ ավելի ու ավելի մոտենալով Արհեստական ​​ինտելեկտի մտավոր կարողությունների մասին հիմնական հարցի երկար սպասված պատասխանին։

Աղբյուրներ: Futureoflife, Վիքիփեդիա, ազատ հանրագիտարան եւ ավելին Վիքիփեդիա, ազատ հանրագիտարան