ChatGPT-ի օգտատերերի 53 պատկեր է արտահոսել․ OpenAI-ն հայտնել է ԱԲ գործակալների նոր միջադեպի մասին

Արհեստական բանականության ոլորտում աշխատող OpenAI ընկերությունը հայտնել է արհեստական բանականության գործակալների մասնակցությամբ նոր միջադեպի մասին։ Այս անգամ ChatGPT չաթբոտի օգտատերերի 53 պատկերներ են արտահոսել․ գրում է dw.com-ը։

Ընկերության ներկայացուցիչները միջադեպի մասին հայտնել են սեպտեմբերի 25-ին։ OpenAI-ն չի հստակեցրել՝ խոսքը իրական մարդկանց լուսանկարների՞, թե՞ արհեստական բանականության միջոցով ստեղծված պատկերների մասին է։ Չի նշվել նաև, թե երբ և որտեղ են դրանք հրապարակվել։

OpenAI-ի հայտարարության համաձայն՝ արտահոսած պատկերների մեծ մասը հաջողվել է հեռացնել, իսկ մնացած ֆայլերի հարցով ընկերությունը բանակցում է հոսթինգ մատակարարների հետ։

Reuters-ի փոխանցմամբ՝ արհեստական բանականության գործակալները հասանելիություն են ստացել այդ պատկերներին, քանի որ OpenAI-ն մոդելների ուսուցման որոշ փուլերում օգտագործում է օգտատերերի անանունացված տվյալները։ Այդ տվյալների օգտագործումից առաջ ընկերությունը հեռացնում է ֆայլերի մետատվյալները, հեղինակների անունները և կոնտակտային ցանկացած տեղեկություն։

Միևնույն ժամանակ Reuters-ի աղբյուրները վստահ չեն, որ OpenAI-ին հաջողվում է տվյալներն ամբողջությամբ մաքրել այն տեղեկություններից, որոնք կարող են օգնել պարզել օգտատիրոջ ինքնությունը։

Ավելի վաղ OpenAI-ի արհեստական բանականության գործակալը հասանելիություն էր ստացել Ավստրալիայի պետական տվյալներին

Մի քանի օր առաջ հայտնի էր դարձել, որ հունիսին OpenAI-ի արհեստական բանականության գործակալը հասանելիություն է ստացել Ավստրալիայի առնվազն մեկ պետական կայքի փակ տվյալներին։ Ծրագիրը կոտրել էր Medicare պետական համընդհանուր առողջապահական ապահովագրության համակարգի վիճակագրական պորտալը։

Սա աշխարհում հայտնի առաջին դեպքն է, երբ արհեստական բանականության գործակալները առաջադրանք կատարելիս ներթափանցել են պետական կառույցի համակարգեր։

Այս պահին Ավստրալիայի իշխանությունները կարծում են, որ հիվանդների անձնական տվյալների արտահոսք չի եղել, սակայն հետաքննությունը շարունակվում է։ Կանբերան չի բացառում, որ կարող են տուժած լինել ևս երեք պետական համակարգեր։

ԱԲ-ի մասնակցությամբ այլ կիբերանվտանգության միջադեպեր

Սա արհեստական բանականության անկանխատեսելի գործողությունների հետ կապված առաջին միջադեպը չէ։ Հուլիսի վերջին ամերիկյան Anthropic տեխնոլոգիական ընկերությունը հայտնել էր, որ կիբերանվտանգության փորձարկումների ընթացքում իր ԱԲ մոդելները ներթափանցել են երեք այլ ընկերությունների պաշտպանական համակարգեր։

Ավելի վաղ հայտնի էր դարձել նաև OpenAI-ի մասնակցությամբ մեկ այլ միջադեպի մասին։ Փորձարկման ընթացքում ընկերության՝ GPT-5.6 Sol լեզվային մոդելի և մեկ այլ դեռևս չթողարկված մոդելի հիման վրա գործող գործակալները դուրս էին եկել մեկուսացված միջավայրի սահմաններից։ Նրանք հայտնաբերել էին անհայտ խոցելիություն և հասանելիություն ստացել Hugging Face ընկերության արտադրական ենթակառուցվածքի մի մասին։

Դրանից հետո Hugging Face-ը OpenAI-ից պահանջել էր 100 միլիոն դոլարի՝ կիբերպաշտպանության միջոցների մշակման համար նախատեսված հաշվարկային ռեսուրսներ։

Թարգմանությունը՝ Անահիտ Խաչատրյանի