Վիրուսային տարածում է գտել Պենտագոնի մոտ տեղի ունեցած «պայթյունի» լուսանկարը, որը ստեղծվել է AI-ի կողմից Twitter

Վերջերս ներս Twitter հայտնվեց մի լուսանկար, որը, ինչպես ասվում էր նկարագրության մեջ, պատկերում էր Պենտագոնի մոտ տեղի ունեցած պայթյունը։ Սրա պատճառով շուկայում նույնիսկ կարճաժամկետ անկում եղավ՝ S&P 500 ինդեքսն ընկավ 0,29%-ով, սակայն այն բանից հետո, երբ պարզվեց, որ լուսանկարը կեղծ է, ինդեքսը վերականգնվեց։ Պատկերը տեղադրվել է ստուգված Bloomberg Feed աքաունթի կողմից, որը, չնայած իր կապույտ նշագծին, փոխկապակցված չէ Bloomberg մեդիա ընկերության հետ:

Լուսանկարն արագ ճանաչվել է կեղծ։ Այն, ըստ երեւույթին, ստեղծվել է արհեստական ​​ինտելեկտի օգնությամբ: Բայց մինչ այս մանրամասները կհայտնվեին, արդեն ապատեղեկատվություն էր տարածվել տարբեր աքաունթներով, այդ թվում՝ «Ռուսաստանն այսօր» տականքով (դե, ով կկասկածեր):

Կեղծ պատկերը ցույց է տալիս սև ծխի մի մեծ շյուղ մի շենքի կողքին, որը անորոշ կերպով հիշեցնում է Պենտագոնը՝ ուղեկցող տեքստով: Ավելի ուշադիր զննելուց հետո տեղական իշխանությունները հաստատեցին, որ պատկերը Պենտագոնի ճշգրիտ ներկայացումը չէ, և ցանկապատի մշուշոտ սյուները և շենքի սյուները նման են բավականին անփույթ պատկերի, որը ստեղծվել է AI մոդելի միջոցով, ինչպիսին Stable Diffusion-ն է:

Bloomberg-ի կեղծ հաշիվը նախկինում Twitter արգելափակել է այն, ուներ տասնյակ հազարավոր թվիթներ, բայց ընդհանուր առմամբ 1-ից պակաս հետևորդներ, և պարզ չէ, թե ով է ղեկավարել այն կամ որն է կեղծ պատկերի շարժառիթը: Բացի Bloomberg Feed-ից, կեղծ հաղորդագրություն տարածող այլ հաշիվներ են Walter Bloomberg-ը և Breaking Market News-ը, որոնք նույնպես կապված չեն իրական Bloomberg ընկերության հետ:

Միջադեպը ընդգծեց պոտենցիալ վտանգները, որոնք կարող են առաջացնել AI-ի ստեղծած պատկերները սոցիալական ցանցերում, որտեղ չստուգված տեղեկատվությունը հապճեպ տարածվում է, և վճարովի ստուգման համակարգը Twitter. Մարտին Դոնալդ Թրամփի ձերբակալության կեղծ պատկերները, որոնք ստեղծվել էին Midjourney-ի միջոցով, տարածվեցին, և թեև դրանք անմիջապես կեղծ էին կոչվում, դրանք չափազանց իրատեսական տեսք ունեին: Բացի այդ, շատերին մոլորեցրել են արհեստական ​​ինտելեկտի միջոցով ստեղծված Հռոմի պապ Ֆրանցիսկոսը սպիտակ բաճկոնով:

«BloombergFeed» հաշիվն այժմ արգելվել է։

Բայց սա պարզապես պատրաստվում է վերածվել խլուրդի հարվածի:

Կեղծ AI պատկերներ + ստուգված կեղծ լուրեր Twitter հաշիվը + հիմնական լրատվամիջոցները չեն ստուգում իրենց թթվայնությունըces = աղետի բաղադրատոմս մեր թվային հասարակության մեջ:

Սա չի դանդաղի: նկարtwitter.com/ZeboVgVm4Z

— Լորենցո Գրին 〰️ (@mrgreen) Թող 23, 2023

Բաճկոնով Հռոմի պապը մի բան է, իսկ ԱՄՆ պաշտպանության նախարարության շտաբ-բնակարանում պայթյունը բոլորովին այլ բան: Հետևանքները կարող են լուրջ լինել, ինչի մասին վկայում է նույն ֆոնդային շուկան։ Dow Jones Industrial Average-ն ընկել է 85 կետով թվիթերի տարածումից հետո չորս րոպեի ընթացքում, բայց արագ վերականգնվել է:

Կեղծ թվիթերի շուրջ խառնաշփոթի մեծ մասը հնարավոր է դարձել փոփոխություններով Twitter Իլոն Մասկի օրոք։ Նա աշխատանքից ազատեց բազմաթիվ բովանդակության մոդերատորների և հիմնականում ավտոմատացրեց հաշվի ստուգման գործընթացը՝ տեղափոխելով այն համակարգ, որտեղ յուրաքանչյուրը կարող է վճարել կապույտ չեկի համար: Քննադատներն ասում են, որ պրակտիկան հարթակն ավելի խոցելի է դարձնում ապատեղեկատվության համար:

Թեև իշխանությունները համեմատաբար արագ ճանաչեցին պայթյունի լուսանկարը որպես կեղծ, պատկերների սինթեզման մոդելների առկայությունը, ինչպիսիք են Midjourney-ը և Stable Diffusion-ը, նշանակում է, որ համոզիչ կեղծիքներն այլևս չեն պահանջում արտիստիզմ՝ որոշակի տեղ թողնելով ապատեղեկատվության համար: Կեղծիքներ ստեղծելու հեշտությունը զուգորդվում է նման հարթակների վիրուսային բնույթի հետ Twitter, նշանակում է, որ կեղծ տեղեկատվությունը կարող է տարածվել ավելի արագ, քան հնարավոր է ստուգել:

Այս դեպքում պարտադիր չէ, որ պատկերը լինի բարձր որակ՝ բացասական ազդեցություն ստեղծելու համար։ Մասնագետները նշում են, որ երբ մարդիկ ցանկանում են հավատալ ինչ-որ բանի, կորցնում են զգոնությունը և չեն ստուգում տեղեկատվության իսկությունը։

Կարդացեք նաև.

• Meta-ի լեզուն AI-ն ճանաչում է ավելի քան 4 լեզու
• Adobe-ն Photoshop-ին ավելացնում է AI-ով աշխատող Generative Fill խմբագրումը