Ուրբաթ օրը Koko-ի համահիմնադիր Ռոբ Մորիսը հայտարարեց Twitter, որ իր ընկերությունն անցկացրել է փորձ՝ առանց նախնական ծանուցման 4 մարդու AI-ով գրված հոգեկան առողջության խորհրդատվություն տրամադրելու համար, հայտնում է The Verge-ը։ Քննադատները փորձն անվանեցին խորապես ոչ էթիկական, քանի որ Կոկոն տեղեկացված համաձայնություն չէր ստացել այն մարդկանցից, ովքեր խորհուրդ էին փնտրում: Koko-ն հոգեկան առողջության շահույթ չհետապնդող հարթակ է, որը կապում է հոգեկան առողջության պահպանման կարիք ունեցող դեռահասներին և մեծահասակներին կամավորների հետ հաղորդագրությունների հավելվածների միջոցով, ինչպիսիք են. Telegram և Տարաձայնություն:
Discord-ում օգտատերերը մուտք են գործում Koko Cares սերվեր և ուղիղ հաղորդագրություններ են ուղարկում Koko բոտին, որը տալիս է մի շարք բազմակի ընտրության հարցեր (օրինակ՝ «Ո՞րն է ձեր ամենամութ միտքը այս մասին»: Այնուհետև այն անանուն կերպով կիսում է անձի մտահոգությունը, որը գրանցված է որպես տեքստի մի քանի նախադասություն, սերվերում գտնվող մեկ ուրիշի հետ, ով կարող է անանուն պատասխանել սեփական կարճ հաղորդագրությամբ:
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Արհեստական ինտելեկտի (AI) փորձի ժամանակ, որը ներառում էր մոտ 30 հաղորդագրություն, Մորիսը ասաց, որ կամավորները, ովքեր օգնում էին ուրիշներին, հնարավորություն ունեին օգտագործելու պատասխանը, որն ավտոմատ կերպով ստեղծվում է OpenAI-ի GPT-3 մեծ լեզվական մոդելի կողմից՝ ինքնուրույն գրելու փոխարեն (GPT-3-ն այն տեխնոլոգիան է, որը հետևում է վերջերս հայտնի ChatGPT չաթբոտը): Իր թվիթում Մորիսը նշում է, որ մարդիկ գովաբանում էին AI-ի կողմից ստեղծված պատասխանները, մինչև որ իմացան, որ դրանք գրված են AI-ի կողմից, ինչը ենթադրում է գիտափորձի առնվազն մեկ փուլում տեղեկացված համաձայնության հիմնական բացակայությունը.
«AI-ի կողմից կազմված հաղորդագրությունները (և մարդկանց կողմից վերահսկվող) գնահատվել են զգալիորեն ավելի բարձր, քան իրենք՝ մարդկանց կողմից գրվածները: Արձագանքման ժամանակը կրճատվել է 50%-ով՝ մեկ րոպեից պակաս: Եվ այնուամենայնիվ… մենք բավականին արագ հեռացրինք այս հնարավորությունը մեր հարթակից: Ինչո՞ւ։ Երբ մարդիկ իմացան, որ հաղորդագրությունները ստեղծվել են մեքենայով, այն դադարեց աշխատել: Նմանակված համակրանքը տարօրինակ է թվում, դատարկ»:
Սերվերի ներածության մեջ ադմինիստրատորները գրում են. «Կոկոն ձեզ կապում է իրական մարդկանց հետ, ովքեր իսկապես հասկանում են ձեզ: Ոչ թերապևտներ, ոչ խորհրդատուներ, պարզապես ձեզ նման մարդիկ»: Մորիսը հաղորդագրությունը տեղադրելուց անմիջապես հետո նա բազմաթիվ պատասխաններ ստացավ, որոնք քննադատում էին փորձը որպես ոչ էթիկական՝ պատճառաբանելով տեղեկացված համաձայնության բացակայության մասին մտահոգությունները և կասկածի տակ դնելով, թե արդյոք փորձը հաստատվել է Ինստիտուցիոնալ վերանայման խորհրդի (IRB) կողմից: Միացյալ Նահանգներում անօրինական է առանց օրինական արդյունավետ իրազեկված համաձայնության հետազոտություններ կատարել մարդկային առարկաների վրա, քանի դեռ IRB-ն չի որոշել, որ համաձայնությունը կարող է հրաժարվել:
Ի պատասխան Twitter-ում Մորիսն ասաց, որ փորձը «ազատված է» տեղեկացված համաձայնության պահանջներից, քանի որ նա չի պլանավորում հրապարակել արդյունքները՝ առաջացնելով վրդովմունքի շքերթ:
Արհեստական ինտելեկտը որպես թերապևտ օգտագործելու գաղափարը հեռու է նորությունից, բայց Կոկոյի փորձը տարբերվում է տիպիկ AI թերապիայի մոտեցումներից այն է, որ հիվանդները հակված են իմանալու, որ չեն խոսում կենդանի մարդու հետ: Կոկոյի դեպքում հարթակը ներառում էր հիբրիդային մոտեցում, որտեղ մարդկային միջնորդը կարող էր վերանայել հաղորդագրությունը նախքան այն ուղարկելը, ուղիղ զրույցի ձևաչափի փոխարեն: Այնուամենայնիվ, առանց տեղեկացված համաձայնության, քննադատներն ասում են, որ Կոկոն խախտել է էթիկական կանոնները, որոնք նախատեսված են խոցելի մարդկանց վնասակար կամ դաժան հետազոտական գործողություններից պաշտպանելու համար:
Ելույթ ունենալով որպես IRB-ի նախկին անդամ և նախագահ, դուք իրականացրել եք մարդկային առարկայական հետազոտություններ խոցելի բնակչության վերաբերյալ՝ առանց IRB-ի հավանության կամ բացառման (ԴՈՒ չեք կարող որոշել): Միգուցե MGH IRB pro-նcess-ն այնքան դանդաղ է, քանի որ այն վերաբերում է նման բաներին: Չպահանջված խորհուրդ՝ փաստաբանը
— Դանիել Շոսկես (@dshoskes) Հունվար 7, 2023
Երկուշաբթի օրը Մորիսը հրապարակեց մի գրառում՝ արձագանքելով հակասություններին և բացատրելով Կոկոյի ճանապարհորդությունը դեպի GPT-3 և AI ընդհանրապես. Մենք հավատարիմ ենք ապահովելու, որ AI-ի ցանկացած օգտագործում զգայուն է, խորը մտահոգություն ունենալով գաղտնիության, թափանցիկության և ռիսկերի նվազեցման համար: Մեր Կլինիկական Խորհրդատվական Խորհուրդը հանդիպում է քննարկելու ապագա աշխատանքի ուղեցույցները, ներառյալ IRB-ի հաստատումը»:
Դուք կարող եք օգնել Ուկրաինային պայքարել ռուս զավթիչների դեմ։ Դա անելու լավագույն միջոցը Ուկրաինայի զինված ուժերին միջոցների նվիրաբերումն է Savelife կամ պաշտոնական էջի միջոցով NBU.
Կարդացեք նաև.