Google-ը «շտկել է» ռասիստական ​​պատկերների ճանաչման ալգորիթմները... անջատելով դրանք

Դեռևս 2015 թվականին ծրագրային ապահովման ինժեներ Ջեքի Ալսինը հանրությանը ասաց, որ Google Photos-ում պատկերների ճանաչման ալգորիթմները սխալ են աշխատում և աֆրոամերիկացիներին դասակարգում են որպես «գորիլլաներ»: Google-ն իր հերթին ներողություն է խնդրել օգտատերերի վիրավորված զգացմունքների համար և խոստացել ուղղել սխալը։ Բայց գործնականում պարզվեց, որ Google-ը երեք տարի ոչինչ չի արել։ Ընկերությունը պարզապես անջատել է գորիլաների ճանաչման ալգորիթմը, որպեսզի չվտանգի իր հեղինակությունը։

Քիչ անց Wired-ից հաղորդագրություն եկավ. Նրանց ջանքերով Google Photo ալգորիթմների փորձարկում է իրականացվել՝ ծառայության մեջ վերբեռնելով տարբեր պրիմատների տասնյակ հազարավոր լուսանկարներ։ Դրանցից էին բաբունները, գիբոնները, կապիկները, գորիլաները և շիմպանզեները։ Կենդանիների առաջին երեք կատեգորիաները ճիշտ էին նույնականացվել, սակայն ինչ վերաբերում է գորիլաներին և շիմպանզեներին, ապա նրանց նույնականացումը բացակայում էր։ Նաև թեստի ընթացքում պարզվել է, որ Google-ը ճշգրտել է AI-ն ռասիստական ​​հարցումների համար: Օրինակ՝ «սև տղամարդ» կամ «սև կին» փնտրելիս ցուցադրվում էին սև և սպիտակ հագուստով մարդկանց լուսանկարներ՝ դասավորված ըստ սեռի։

Google-ի ներկայացուցիչը հաստատել է Wired-ի կողմից արված թեստերի արդյունքները, որոնք վերաբերում էին պրիմատների կատեգորիաներին, և հայտնել, որ դրանք արգելափակված են։ Ըստ ներկայացուցչի՝ պարզ է դառնում, որ պատկերների ճանաչման տեխնոլոգիան հեռու է կատարյալ լինելուց։ Իսկ արգելափակված կատեգորիաները դեռ հասանելի են Google-ի ծառայություններում, ինչպիսիք են Cloud Vision API-ն և Google Assistant-ը:

Կարող է զարմանալի թվալ, որ Google առևտրային հսկան այս խնդրին ավելի լավ լուծում չի գտել: Բայց այս սխալը լավ հիշեցում է այն մասին, թե որքան դժվար է AI ուսուցանելը, երբ այն դեռ մշակման փուլում է և չի փորձարկվել փորձագետների խմբի կողմից:

Դեռևս պարզ չէ, թե ինչ է անելու Google-ն ապագայում իր ալգորիթմները բարելավելու համար, քանի որ դրանցում կան ավելի քան բավարար թերություններ, և դրանք վերացնելու համար անհապաղ միջոցներ են պահանջում։

Աղբյուր. Theverge.com