Ուրբաթ օրը Koko-ի համահիմնադիր Ռոբ Մորիսը հայտարարեց Twitter, որ իր ընկերությունն անցկացրել է փորձ՝ առանց նախնական ծանուցման 4 մարդու AI-ով գրված հոգեկան առողջության խորհրդատվություն տրամադրելու համար, հայտնում է The Verge-ը։ Քննադատները փորձն անվանեցին խորապես ոչ էթիկական, քանի որ Կոկոն տեղեկացված համաձայնություն չէր ստացել այն մարդկանցից, ովքեր խորհուրդ էին փնտրում: Koko-ն հոգեկան առողջության շահույթ չհետապնդող հարթակ է, որը կապում է հոգեկան առողջության պահպանման կարիք ունեցող դեռահասներին և մեծահասակներին կամավորների հետ հաղորդագրությունների հավելվածների միջոցով, ինչպիսիք են. Telegram և Տարաձայնություն:
Discord-ում օգտատերերը մուտք են գործում Koko Cares սերվեր և ուղիղ հաղորդագրություններ են ուղարկում Koko բոտին, որը տալիս է մի շարք բազմակի ընտրության հարցեր (օրինակ՝ «Ո՞րն է ձեր ամենամութ միտքը այս մասին»: Այնուհետև այն անանուն կերպով կիսում է անձի մտահոգությունը, որը գրանցված է որպես տեքստի մի քանի նախադասություն, սերվերում գտնվող մեկ ուրիշի հետ, ով կարող է անանուն պատասխանել սեփական կարճ հաղորդագրությամբ:
Արհեստական ինտելեկտի (AI) փորձի ժամանակ, որը ներառում էր մոտ 30 հաղորդագրություն, Մորիսը ասաց, որ կամավորները, ովքեր օգնում էին ուրիշներին, հնարավորություն ունեին օգտագործելու պատասխանը, որն ավտոմատ կերպով ստեղծվում է OpenAI-ի GPT-3 մեծ լեզվական մոդելի կողմից՝ ինքնուրույն գրելու փոխարեն (GPT-3-ն այն տեխնոլոգիան է, որը հետևում է վերջերս հայտնի ChatGPT չաթբոտը): Իր թվիթում Մորիսը նշում է, որ մարդիկ գովաբանում էին AI-ի կողմից ստեղծված պատասխանները, մինչև որ իմացան, որ դրանք գրված են AI-ի կողմից, ինչը ենթադրում է գիտափորձի առնվազն մեկ փուլում տեղեկացված համաձայնության հիմնական բացակայությունը.
«AI-ի կողմից կազմված հաղորդագրությունները (և մարդկանց կողմից վերահսկվող) գնահատվել են զգալիորեն ավելի բարձր, քան իրենք՝ մարդկանց կողմից գրվածները: Արձագանքման ժամանակը կրճատվել է 50%-ով՝ մեկ րոպեից պակաս: Եվ այնուամենայնիվ… մենք բավականին արագ հեռացրինք այս հնարավորությունը մեր հարթակից: Ինչո՞ւ։ Երբ մարդիկ իմացան, որ հաղորդագրությունները ստեղծվել են մեքենայով, այն դադարեց աշխատել: Նմանակված համակրանքը տարօրինակ է թվում, դատարկ»:
Սերվերի ներածության մեջ ադմինիստրատորները գրում են. «Կոկոն ձեզ կապում է իրական մարդկանց հետ, ովքեր իսկապես հասկանում են ձեզ: Ոչ թերապևտներ, ոչ խորհրդատուներ, պարզապես ձեզ նման մարդիկ»: Մորիսը հաղորդագրությունը տեղադրելուց անմիջապես հետո նա բազմաթիվ պատասխաններ ստացավ, որոնք քննադատում էին փորձը որպես ոչ էթիկական՝ պատճառաբանելով տեղեկացված համաձայնության բացակայության մասին մտահոգությունները և կասկածի տակ դնելով, թե արդյոք փորձը հաստատվել է Ինստիտուցիոնալ վերանայման խորհրդի (IRB) կողմից: Միացյալ Նահանգներում անօրինական է առանց օրինական արդյունավետ իրազեկված համաձայնության հետազոտություններ կատարել մարդկային առարկաների վրա, քանի դեռ IRB-ն չի որոշել, որ համաձայնությունը կարող է հրաժարվել:
Ի պատասխան Twitter-ում Մորիսն ասաց, որ փորձը «ազատված է» տեղեկացված համաձայնության պահանջներից, քանի որ նա չի պլանավորում հրապարակել արդյունքները՝ առաջացնելով վրդովմունքի շքերթ:
Արհեստական ինտելեկտը որպես թերապևտ օգտագործելու գաղափարը հեռու է նորությունից, բայց Կոկոյի փորձը տարբերվում է տիպիկ AI թերապիայի մոտեցումներից այն է, որ հիվանդները հակված են իմանալու, որ չեն խոսում կենդանի մարդու հետ: Կոկոյի դեպքում հարթակը ներառում էր հիբրիդային մոտեցում, որտեղ մարդկային միջնորդը կարող էր վերանայել հաղորդագրությունը նախքան այն ուղարկելը, ուղիղ զրույցի ձևաչափի փոխարեն: Այնուամենայնիվ, առանց տեղեկացված համաձայնության, քննադատներն ասում են, որ Կոկոն խախտել է էթիկական կանոնները, որոնք նախատեսված են խոցելի մարդկանց վնասակար կամ դաժան հետազոտական գործողություններից պաշտպանելու համար:
Երկուշաբթի օրը Մորիսը հրապարակեց մի գրառում՝ արձագանքելով հակասություններին և բացատրելով Կոկոյի ճանապարհորդությունը դեպի GPT-3 և AI ընդհանրապես. Մենք հավատարիմ ենք ապահովելու, որ AI-ի ցանկացած օգտագործում զգայուն է, խորը մտահոգություն ունենալով գաղտնիության, թափանցիկության և ռիսկերի նվազեցման համար: Մեր Կլինիկական Խորհրդատվական Խորհուրդը հանդիպում է քննարկելու ապագա աշխատանքի ուղեցույցները, ներառյալ IRB-ի հաստատումը»:
Դուք կարող եք օգնել Ուկրաինային պայքարել ռուս զավթիչների դեմ։ Դա անելու լավագույն միջոցը Ուկրաինայի զինված ուժերին միջոցների նվիրաբերումն է Savelife կամ պաշտոնական էջի միջոցով NBU.
Կարդացեք նաև.
Թողնել գրառում