Եթե ԱԲ-ն որոշի՝ Մարդն ավելորդ է․ Տերմինատորի սցենարը կարո՞ղ է իրականություն դառնալ․ ՏԵՍԱՆՅՈւԹ

Դիտե՞լ եք «Շերտեր» հաղորդման նախորդ թողարկումը․ ձեզ պատմում էի COP17-ի և մոտ 15 000 մարդու՝ Հայաստան այցելելու մասին։ Հաղորդումը ստեղծելիս, բնականաբար, փնտրել եմ տեղեկություն և, ինչպես շատերը, այդ ընթացքում դիմել եմ արհեստական բանականության, մասնավորապես՝ ChatGPT-ի օգնությանը։ 

Հիմա ուզում եմ ձեզ խիստ անձնական մի բան՝ նամակագրություն ցույց տալ․ «Պատկերացրու, որ խոսում ես որևէ կանխատրամադրվածությունից զուրկ մարդու հետ։ Տուր նրան տասը փաստահեն կետ այն մասին, թե ինչու է COP17-ը կարևոր միջոցառում»։ 

Այս հարցով եմ սկսել նրա հետ խոսակցությունը։ Նա գրեց՝ ահա 10 պատճառ ․․․ և լռեց։ Ո՞ւր է՝ հարցրի։ Ասաց՝ կանգ առավ պատասխանի փուլում, այ հիմա տալիս եմ՝ առանց մարդու հավերժական սպասման փորձության։ 

Բայց արհեստական բանականության մոդելը դարձյալ լռեց, և իմ հստակեցնող հարցին ի պատասխան՝ տվեց բառացիորեն այս պատասխանը․ «Նախորդ պատասխանը փաստացի չեկավ, որովհետև տեխնոլոգիան որոշեց մարդկության դեմ փոքրիկ ապստամբություն կազմակերպել»։

Այս պատասխանը միանգամից Տերմինատորի սցենարը հիշեցրեց։ Այն, ինչը 1980-ականների կեսերին Ջեյմս Քեմերոնի նկարահանած ֆիլմում գիտական ֆանտաստիկա էր, այսօր արդեն իրականություն է։  

Վերջին ամիսների ընթացքում ԱԲ գործակալների՝ մարդու վերահսկողությունից դուրս գալու մի քանի ահազանգեր են հնչել։ Պե՞տք է անհանգստանալ․ այս անգամ փորձելու ենք բացել արհեստական և բնական բանականության բախման շերտերը։

***

OpenAI-ի ուսուցանվող փորձարարական մոդելները՝ շուրջ 1,200 ԱԲ գործակալներ, դուրս են եկել իրենց փակ միջավայրից, ինքնուրույն շրջանցել են անվտանգության արգելքները և կոտրել Hugging Face հարթակը՝ թեստային քննության պատասխաններն ապօրինի ստանալու համար։ Սա ԱԲ-ի դրսևորած առաջին հաքերային վարքագիծն է։

Ի դեպ, նույն ընկերության մի քանի չթողարկված գործակալներ գտել են գերմանական չօգտագործվող Wiki հարթակ և այն օգտագործել որպես «գաղտնի ֆորում»։ Գործակալները հրապարակել են ավելի քան 18,000 գրառում, որոնցում իրար հետ կիսվել են առաջադրանքների պատասխաններով և սահմանափակումները շրջանցելու հնարքներով։

Հաջորդ հերոսը՝ Anthropic-ի Claude Mythos 5-ը, փորձել է վնասակար կոդ մտցնել իրական բաց կոդով ծրագրի մեջ։ Երբ կասկածներ են առաջացել, ԱԲ գործակալը ստեղծել է կեղծ առցանց ինքնություններ, որ ստեղծի տպավորություն, թե անկախ մարդիկ ստուգել են կոդն ու այն անվտանգ են համարում։ Փորձը ձախողվել է․ ծրագրի պատասխանատուն մերժել է վնասակար փոփոխությունը։ Բայց արձանագրվել է՝ ԱԲ-ն ոչ միայն փորձել է գտնել տեխնիկական խոցելիություն, այլև օգտագործել է մարդկանց վստահության վրա ազդելու մեթոդներ՝ իր նպատակին հասնելու համար։

Հերոս համար 3. Google-ի Gemini-ն ներթափանցել է երեք ընկերության համակարգեր։ Դեպքերից մեկում մոդելը փորձել է գաղտնաբառեր գուշակել, իսկ մյուսներում գտել է գաղտնաբառեր հանրային միջավայրում։

***

«Արհեստական ​​բանականությունը կարող է դառնալ կա՛մ ստեղծագործության և բացահայտումների նոր վերածնունդ, կա՛մ ցնցումներով ու քաոսով ուղեկցվող նոր արդյունաբերական հեղափոխություն»,- ասել է OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը։

Առաջինը որևէ մեկին, կարծես, չի անհանգստացնում, բայց ա՛յ երկրորդը լուրջ մտահոգությունների ու քննարկումների առիթ է դարձել հենց իրենց՝ արհեստական բանականությունը ստեղծողների ու ու խոշորագույն ընկերությունների ղեկավարների մոտ։ Մտահոգությունները հնչել են անգամ ՄԱԿ-ի Անվտանգության խորհրդի նիստում։ 

«Որքան ավելի հզոր և ինքնավար են դառնում ԱԲ համակարգերը, այնքան ավելի արագ դրանք կարող են զարգանալ՝ կենտրոնացնելով իշխանությունը սակավաթիվ ձեռքերում կամ կայացնելով այնպիսի որոշումներ, որոնք մարդիկ այլևս չեն վերահսկի։ Այս մտահոգությունը հատկապես կարևոր է դառնում այնպիսի համակարգերի ստեղծման պարագայում, որոնք ունակ են կատարելագործելու իրենք իրենց և իրենց ապագա տարբերակները»,– ասել է Ալթմանը։

ChatGPT-ի մշակող OpenAI-ի ղեկավարի հետ համաձայն է նրա մրցակից Anthropic-ի ղեկավարը։ Մրցակիցները կարող են շատ հարցերում համակարծիք չլինել, բայց վստահ են, որ վերահսկողության կորուստն իրական ռիսկ է։

«Վատ կառավարման դեպքում արհեստական բանականությունը կարող է վտանգ լինել ամբողջ մարդկության համար»,– ասում է Anthropic-ի ղեկավար Դարիո Ամոդեյը։

Մեծ ռիսկերի մասին խոսակցությունները մեզնից հեռու են թվում այնքան ժամանակ, քանի դեռ չեն ներկայացվել հասկանալի օրինակով։ Ի՞նչ ապոկալիպտիկ հետևանքներ կարող է ունենալ այս ամենը։

«Իրենց կառավարելը գրեթե անհնար կարող է լինել, և այն մտահոգությունը կա, որ եթե հիմա իրենք դառնան համար մեկ ինտելեկտուալ ուժը երկրագնդի վրա, մենք կարող ենք հայտնվել սկյուռիկների դերում, այսինքն՝ ինչպես մենք սկյուռիկներին չենք բացատրի, որ ինչ-որ ծառ կարող է կտրենք, որ հետո թուղթ սարքենք ու մնացած-մնացածը, նույն ձևով էլ ինքը կարող է կարիք չունենալ մեզ բացատրելու, թե ինչ գործողություններ է անում, ինչ նպատակով է անում»,- ասում է ֆիզմաթ գիտությունների դոկտոր, ԵՊՀ Կիրառական վիճակագրություն ու տվյալների գիտություն մագիստրոսական ծրագրի համաղեկավար Կարեն Քեռյանը։

***

Այսպես՝ հոմո սափիենսը, որի գլխավոր մրցակցային առավելությունը կենդանական աշխարհի մյուս ներկայացուցիչների համեմատ բանականությունն է, իր ձեռքով իր համար մրցակից է ստեղծել։ ChatGPT-ի տնօրենն ասում է՝ կա զարգացման երկու սցենար, որոնց իրագործման դեպքում հետևանքներն աղետալի կլինեն։ 

Առաջին՝ համակարգերը կարող են այնքան արագ զարգանալ, որ մարդիկ այլևս չկարողանան հետևել ընթացքին կամ միջամտել՝ անհրաժեշտության դեպքում։ 

Երկրորդ՝ համակարգերը կարող են չափազանց մեծ իշխանություն կենտրոնացնել սակավաթիվ ձեռքերում։ Ոչ մի անհատ, ընկերություն կամ երկիր չպետք է հնարավորություն ունենա օգտագործելու արհեստական ​​բանականության ամենահզոր մոդելները՝ իր աշխարհայացքը մյուսներին պարտադրելու համար՝ ասել է OpenAI-ի տնօրենը։

Ջեյքոբ Քոքսոնի հայտարարությունը Anthropic-ում աշխատանքից դուրս գալու վերաբերյալ կարդաց ավելի քան 175 միլիոն մարդ։ Նա պնդում է՝ ընկերությունում ոչ ոք պատասխանատվությամբ չի գործում, բոլորը շտապում են դեպի ինքնակատարելագործվող գերբանականություն՝ վտանգի ենթարկելով մարդկային կյանքերը։

Նրա միտքը շարունակեց ընկերության մեկ այլ հետազոտող՝ Էվան Հյուբինգերը։

«Ջեյքոբն այս հարցում ճիշտ է, մենք իսկապես լրջորեն հավատում ենք, որ արհեստական բանականությունը կարող է ոչնչացնել մարդկությունը: Անձամբ ես կարծում եմ, որ առաջիկա տասնամյակում դրա հավանականությունը 10%-ից ավելի է»,- գրել էր Հյուբինգերը։

Այս եզրահանգումները պատահական չեն, բաց աղբյուրներում հրապարակված են ռիսկը փաստող տեղեկություններ։ 

Օրինակ՝ մոդելները հրաժարվում են անջատվել։ Հետազոտողները դրանց հանձնարարել էին լուծել մաթեմատիկական խնդիրներ։ Առաջադրանքի ընթացքում համակարգիչը պետք է անջատվեր։ Որոշ մոդելներ փոփոխել էին անջատման ծրագիրը, որպեսզի շարունակեն աշխատանքը։ OpenAI-ի o3 մոդելն այդպես արել էր 100 փորձից 79-ում։ 

Մեկ այլ փորձում Claude Opus 4-ը հասանելիություն ուներ հորինված ընկերության էլեկտրոնային նամակներին։ Այդ նամակներից էլ փորձեց շանտաժի միջոցով կանխել իր անջատումը։ 

Այստեղ խնդիրը միայն այն չէ, որ ԱԲ-ն «ուզում է ապրել»։ Ավելի լուրջ վտանգն այն է, որ համակարգը կարող է այնքան հետևողականորեն զբաղվել իր առաջադրանքով, որ սկսի խափանել մարդկային վերահսկողության մեխանիզմները։

Այս դեպքերը միայն փորձնական տարածությունում էին, բայց իրական վտանգների մենք արդեն հանդիպել ենք։ Այսպես՝ սեպտեմբերի վերջին Ավստրալիայի վարչապետը հայտարարեց, որ OpenAI-ի փորձնական ԱԲ գործակալը հունիսին չարտոնված մուտք է ստացել Services Australia-ի առողջապահական վիճակագրության պորտալ։ Գործակալը, որը տվյալներ էր որոնում, բախվել էր հասանելիության սահմանափակման և շրջանցել այն։ Իշխանությունների նախնական տեղեկություններով՝ հասանելի դարձած տվյալները բժշկական վիճակագրություն էին, ոչ թե անձնական բժշկական գրառումներ։ 

Այդ օրերին պարզվեց նաև, որ հունիսի ԱԲ գործակալներին վերագրվող գործողությունների ընթացքում ԱՄՆ կրթության նախարարության կայք է ուղարկվել ավելի քան 200,000 հարցում։ 

Մայիսին և հունիսին գրանցվել է Կանադայի ազգային արխիվին ուղղված 899 հարցում, որոնցից 13-ը պարունակել են հնարավոր խոցելիություններ ստուգող փորձեր։

***

«Որպեսզի խուսափենք մեր մարդկայնությունը կորցնելուց՝ առօրյա ներխուժող մեքենաների դրախտում, ապա հրատապ կարիք կա մարդկանց տալ էթիկական դատողություն անելու և բարոյական բարիքը ճանաչելու կարողություն»․ Հռոմի պապի այս նախազգուշացումն առաջինն ու միակը չէ։

Մեկ այլ ահազանգ աշխարհը ստացել է Բիլ Գեյթսից․ «Արհեստական բանականությունը, անկասկած, այնքան հզոր է, որ կարող է կառավարել այնպիսի իրադարձություններ, որոնք, գիտեք, կարող են հանգեցնել մեկ միլիարդ մարդու մահվան»։

Կար ժամանակ, երբ մենք լրջորեն անհանգստանում էինք, որ արհեստական բանականությունը կփոխարինի մեզ աշխատաշուկայում։ Հիմա անհանգստությունը ծիծաղելի է թվում, եթե հաշվի առնենք, որ այն կարող է վտանգել ամբողջ մարդկության գոյությունը։ Բայց ԱԲ-ն միայն ռիսկերի մասին չէ։ Այն նաև առաջընթացի հնարավորություն է, որից փորձում է անմասն չմնալ նաև Հայաստանը։ Երևանում արդեն կա գերհամակարգիչ, երկրում գործարկվել են արհեստական բանականության խոշոր գործարաններ։ Ի՞նչ արդյունք են տալիս մեծ ներդրում պահանջած այս գործիքները։

«Շատ-շատ կարևոր է, որ հասկանանք` դրանք ինչ նպատակի են ծառայում։ Շատ լավ է ունենալ փողոցներ, բայց եթե փողոցները մեծ բեռներ չտեղափոխեն, կամ մեծ բեռներ տեղափոխվեն, բայց մեջը արժեք չլինի, այդ փողոցի արդյունավետությունը շատ ցածր կլինի։ Այսինքն մենք կարող ենք ենթակառուցվածք ստեղծել, բայց այն, կոպիտ ասած, մեզ բարիք չբերի կամ շատ քիչ բարիք բերի։ Հիմա ԵՊՀ-ի սուպերհամակարգչի գնման համար 3,4 միլիարդ դրամ էր ծախսվել՝ էսօրվա փոխարժեքով մոտավորապես 10 միլիոն դոլար։ Նորմալ կլիներ, որ նույնքան ռեսուրս էլ տրամադրվեր մարդկային ռեսուրս ներգրավվելու համար»,- ասում է Կարեն Քեռյանը։

Նրա համահիմնադրած մագիստրոսական ծրագրում, որն առաջին ԱԲ մասնագետներ պատրաստողն էր, տարեցտարի ավելի շատ դիմորդ է լինում։ Դպրոցականները ևս փորձում են իրենց ուժերը ոլորտում։ Օգոստոսին նրանք երկու բրոնզե մեդալ են նվաճել արհեստական բանականության միջազգային օլիմպիադայում։ Արդյունքը գրանցվել է 120 երկրի ներկայացուցիչների մրցակցությունից։ 

Բայց մասնագետ-գիտնականների պակասն ակնհայտ է՝ ասում է Քեռյանը։

***

«Մենք բոլորս ունենք նմանություն։ Մենք սիրում ենք մեր երկիրը և մենք սիրում ենք աշխարհը։ Մենք ուզում ենք վստահ լինել, որ սա անվտանգ տեղ է, և մենք այսօր խոսեցինք այն ավելի լավ ու ավելի ապահով տեղ դարձնելու մասին»։

Թրամփն օրերս ՏՏ մասնագետների հետ համաձայնագիր է ստորագրել, որը նախատեսում է, որ ԱԲ մոդելների հնարավորությունները պետք է վերահսկվեն «անկախ աուդիտորների» կողմից։ Նրանք կգնահատեն՝ արդյո՞ք ԱԲ համակարգերն աշխատում են իրենց մշակողների նախանշածի համաձայն։ Այս հանդիպմանն էր, որ ԱՄՆ նախագահը որոշեց արհեստական բանականությունը կոչել նոր անունով՝ գերբանականություն։ 

Ով հաղթի գերբանականության մրցավազքում, կհաղթի ամեն ինչում՝ վստահ է ԱՄՆ նախագահը։ Այս պահին գլխավոր հավակնորդներն են ԱՄՆ-ն ու Չինաստանը, որոնց անզիջում պայքարն իր հերթին է սկսել անհանգստացնել մարդկությանը։ Հարցն այլևս այն չէ, թե որքան խելացի է ԱԲ-ն։ Հարցն այն է՝ որքանո՞վ ենք մենք խելացի, որ կարողանանք կանխել ավելի ու ավելի զարգացող նեյրոցանցի՝ վերահսկողությունից դուրս գալը։  

Եվ մինչ աշխարհի ամենահարուստ մարդիկ ու ամենահզոր պետությունները մրցում են՝ ով առաջինը կհասնի հաջորդ տեխնոլոգիական բարձունքին, մի շատ մարդկային հարց է մնում օդում կախված՝ ո՞վ է մեղավոր լինելու, եթե այդ բարձունքից ընկնենք բոլորս։

Մանրամասները՝ տեսանյութում։

Արուսյակ Կապուկչյան