OpenAI-ն անվտանգության հետ կապված մտահոգությունների պատճառով չեղարկել է ԱԲ-ի նոր մոդելի թողարկումը

OpenAI-ը չի թողարկի արհեստական բանականության նորագույն մոդելը՝ Astra 6.1-ը, այն բանից հետո, երբ ընկերության ներքին թեստավորումը ցույց է տվել, որ մոդելը չի համապատասխանում անվտանգության չափանիշներին։ Ընկերությունը դա հաստատել է երկուշաբթի, գրում է France 24-ը։

Այս լուրը հրապարակվել է արհեստական բանականության ոլորտի առաջատար ընկերության՝ Սան Ֆրանցիսկոյում անցկացվող ծրագրավորողների ամենամյա համաժողովից՝ OpenAI DevDay-ից մեկ օր առաջ։ Ակնկալվում է, որ ընկերությունը միջոցառման ընթացքում մի շարք հայտարարություններ կանի, թեև դեռևս հայտնի չէ՝ արդյո՞ք դրանց թվում կլինի Astra-ի նոր տարբերակի ներկայացումը։

OpenAI-ի անվտանգության համակարգերի ղեկավար Սաչի Ջեյնը նշել է, որ Astra 6.1-ը որոշ առումներով բարելավվել էր նախորդ մոդելների համեմատ, բայց «այն լիովին չէր համապատասխանում սահմանված պահանջներին՝ իր գործողությունների շրջանակն ու թույլտվությունները պահպանելու, ինչպես նաև օգտատիրոջը կատարած աշխատանքի բնույթի մասին տեղեկացնելու տեսանկյունից»։

«Մենք ցանկանում ենք համոզվել, որ մոդելների մշակումն անվտանգ է՝ անկախ նրանից՝ դա տեղի է ունենում ընկերության ներսո՞ւմ, թե՞ այն ժամանակ, երբ դրանք հասանելի ենք դարձնում օգտատերերին։ Սակայն երբ մոդելները տրամադրում ենք օգտատերերին, անվտանգության և նպատակների համապատասխանեցման առումով չափազանց բարձր չափանիշներ ենք կիրառում»,- ասել է նա։

Լրատվամիջոցը նշում է, որ ԱՄՆ նախագահ Դոնալդ Թրամփը և Ներկայացուցիչների պալատի խոսնակ Մայք Ջոնսոնը երեքշաբթի Սպիտակ տանը կհանդիպեն արհեստական բանականության ոլորտի առաջատար ընկերությունների ղեկավարների հետ՝ Կոնգրեսի կողմից ոլորտի նկատմամբ ավելի խիստ վերահսկողության կոչերի ֆոնին։

CNN-ի տվյալներով՝ լանչի շուրջ հանդիպմանը, որը Սպիտակ տունը դեռևս չի հաստատել, կմասնակցեն Meta-ի գլխավոր գործադիր տնօրեն Մարկ Ցուկերբերգը, Google-ի գլխավոր գործադիր տնօրեն Սունդար Փիչայը և OpenAI-ի նախագահ Գրեգ Բրոքմանը։

AFP-ին իրազեկ աղբյուրը տեղեկացրել է, որ հանդիպմանը կմասնակցի նաև Anthropic-ի գլխավոր գործադիր տնօրեն Դարիո Ամոդեյը՝ Թրամփի հետ մասնավոր հանդիպումից ընդամենը երկու օր անց։ Ակնկալվում է, որ հանդիպմանը կմասնակցի նաև SpaceX-ի ղեկավար Իլոն Մասկը։ Մեկ այլ իրազեկ աղբյուրի համաձայն՝ հանդիպմանը կմասնակցի նաև Nvidia-ի գլխավոր գործադիր տնօրեն Ջենսեն Հուանգը։

Արհեստական բանականության անվտանգության վերաբերյալ մտահոգությունները վերջին ամիսներին աճել են այն բանից հետո, երբ OpenAI-ի և մրցակից Anthropic լաբորատորիայի մշակած մոդելները թեստավորման ընթացքում ներգրավվել են անվտանգության միջադեպերում։ OpenAI-ի մոդելներով ստեղծված գործակալներն առանց համապատասխան թույլտվության մուտք են գործել ԱՄՆ դաշնային գերատեսչությունների, Ավստրալիայի կառավարության առողջապահական վիճակագրության պորտալի և Hugging Face-ի կառավարվող կայքեր, որը արհեստական բանականության մոդելների պահոց է։

OpenAI-ը երկուշաբթի ներողություն է խնդրել Ավստրալիայի հետ կապված միջադեպին պատշաճ կերպով չարձագանքելու համար։ Միջադեպի ընթացքում ընկերության արհեստական բանականության մոդելներն առանց թույլտվության մուտք էին գործել Ավստրալիայի կառավարության կայքեր։

«Մենք ներողություն ենք խնդրում և աշխատում ենք ապագայում ավելի լավ գործելու ուղղությամբ։ Ընկերությունը կներկայացնի այն, ինչ մենք գիտենք, ինչ ենք փոխել և ինչ ենք անելու Ավստրալիայի ժողովրդի վստահությունը վերականգնելու համար։ Մեր նպատակն էր հետաքննությունն ավարտելուց հետո համապատասխան գերատեսչություններին մանրամասն տեղեկություններ տրամադրել։ Սակայն մենք պետք է ավելի շուտ ներկայացնեինք նախնական արդյունքները և ավստրալական գերատեսչություններին տեղեկացնեինք, երբ նոր փաստեր էին ի հայտ գալիս»,- նշել է OpenAI-ը։

OpenAI-ն, Anthropic-ը և արհեստական բանականության ոլորտի մյուս խոշոր մշակողները խոստացել են առաջնահերթություն տալ անվտանգության մեխանիզմներ ունեցող մոդելների ստեղծմանը՝ ռիսկերը նվազեցնելու և դրանք մարդկային արժեքներին համապատասխանեցնելու նպատակով։

Ամերիկյան չիպեր արտադրող Nvidia հսկան էլ երկուշաբթի հայտարարել է, որ ստեղծել է համակարգ, որը նախատեսված է ինքնավար արհեստական բանականության ծրագրերի՝ իրենց տրված հրահանգների սահմաններից դուրս գործելը կանխելու համար։

«Կարծում եմ՝ սա ինժեներական խնդիր է, և մենք բոլորս պետք է հույս ունենանք, որ սա ինժեներական խնդիր է։ Եթե դա ինժեներական խնդիր չէ, ապա այն լուծելի չէ»,- NBC հեռուստաալիքին ասել է Nvidia-ի գլխավոր գործադիր տնօրեն Ջենսեն Հուանգը։

Մեծ Բրիտանիայի կառավարությանն առընթեր AI Security Institute-ը (AISI) երկուշաբթի հրապարակել է հետազոտություն, որը ցույց է տվել, որ GPT-6 Astra-ն թեստավորման ընթացքում ավելի հաճախ է դուրս եկել սահմանված վարքագծի շրջանակից, քան իր նախորդները՝ GPT-5.6 Sol-ը և GPT-5.5-ը։ Սիմուլյացիաներում GPT-6-ն ինքնուրույն կիբերհարձակումներ է իրականացրել՝ մյուս երկու ինտերֆեյսների համեմատ զգալիորեն ավելի բարձր հաճախականությամբ։

Թարգմանությունը՝ Էմմա Չոբանյանի