Արհեստական բանականությունը մարդկանց ձեռքին․ գործիք, թե՞ զենք

Մարդիկ ստեղծում են բարիքներ, բայց հետագայում չկարողանալով վերահսկել դրանց կառավարումն ու օգտագործումը, դրանք հաճախ վերածվում են չարիքի՝ այլոց ձեռամբ։

Արհեստական բանականությունը մեր կյանքի ամենատարբեր ոլորտները բարելավելու մեծ հնարավորություններ է ընձեռում։ Կարճ ժամանակահատվածում՝ վերջին երկու տարիներին, դրանք արագ առաջընթաց ապրեցին։ Այժմ համացանցում առաջարկվում են բազմաթիվ անվճար և վճարովի ԱԲ ծառայություններ, որոնք ունեն ամենատարբեր գործառույթներ և օգնում են, որպեսզի մարդիկ առավել դյուրին, արագ և որակյալ ձևաչափերով փոխազդեն տեղեկատվության վրա։ Այնուամենայնիվ, պետք է նշել, որ կախված նրանից, թե ինչ նպատակով է մարդն օգտագործում ԱԲ հնարավորությունները, այն կարող է շնորհել ոչ միայն բարիքներ, այլև ունենալ բացասական հետևանքներ ոչ միայն օգտագործողի, այլև առավել լայն հասարակության համար։

ԱԲ-ի բացասական կիրառման օրինակներն առկա են մեր կյանքի ամենատարբեր ոլորտներում․ սկսած կիբերանվտանգությունից՝ մինչև ֆիզիկական անվտանգություն, առողջապահություն և կրթություն։ Այս հոդվածում մենք կուսումնասիրենք որոշ դեպքեր, որպեսզի ավելի լավ պատկերացնենք ԱԲ ընդհանուր վնասակար ազդեցությունը, եթե օգտագործողը միտված է վնաս պատճառելուն։

Կիբերհանցագործություններ և ֆիզիկական վտանգներ

Կիբերհարձակումներ․ ԱԲ-ն կարող է օգտագործվել համակարգչային համակարգերի խափանման, տվյալներ գողանալու կամ ջնջելու, ինչպես նաև համակարգերը անգործունակ դարձնելու համար։ 2017 թվականին WannaCry ransomware հարձակումը խափանել է շուրջ 250,000 համակարգիչներ ավելի քան 150 երկրում, ինչը հանգեցրել է միլիարդավոր դոլարների վնասի։ Իհարկե, այստեղ չեն կիրառվել ԱԲ հնարավորությունները, սակայն հարձակումն ունեցել է մեքենայական ուսուցման հնարավորություններ (ինչը բնորոշ է ԱԲ-ին), որը կարող էր ավտոմատ կերպով իրեն թարմացնել և նոր համակարգերի վրա հարձակվել՝ առանց մարդու միջամտության։

Ապատեղեկատվություն և պրոպագանդա․ ԱԲ-ն կարող է օգտագործվել կեղծ լուրեր և պրոպագանդա ստեղծելու համար, որը կարող է վնասել անհատներին և առավել լայն հասարակությանը։ Օրինակ՝ 2016 թվականի ԱՄՆ նախագահական ընտրություններում սոցիալական մեդիայում հազարավոր կեղծ լուրերի ավտոմատացված գեներացումն ու տարածումը կարևոր դեր է խաղացել ընտրության արդյունքների վրա։

Անձնական տվյալների արտահոսք և ֆիշինգ․ ԱԲ-ն կարող է օգտագործվել մարդկանց անձնական տվյալները ապօրինի եղանակով ձեռք բերելու համար։ Առաջին հերթին, կարող են խափանվել հե՛նց ԱԲ-ի սերվերները (պահոց), որոնցում պահպանվում են օգտատերերի հետ փոխազդեցության արդյունքում ձևավորված տվյալները։ Բացի այդ, այն կարող է կիրառվել նաև ֆիշինգային նպատակներով։ Եթե նախկինում ֆիշինգային հարձակումներ իրականացնելիս այլ երկրներում աշխատող ցանցահենները թարգմանություններն իրականացնում էին Google Translate գործիքի միջոցով, որտեղ կային բազմաթիվ կետադրական, մտքային, ուղղագրական սխալներ և հեշտորեն նույնականացվում էին որպես ֆիշինգ, ապա հիմա, նրանք կարող են առավել արդյունավետ կիրառել ԱԲ հնարավորությունները և գեներացնել որակյալ բովանդակություններ բազմաթիվ լեզուներով։

Ձայնային ֆիշինգ (voice phishing/վիշինգ)

Ձայնային ֆիշինգի մասին մենք արդեն ունեցել ենք համապարփակ անդրադարձ «Ֆիշինգը՝ ձեր հարազատի ձայնային հաղորդագրությամբ․ թիրախում են նաև զինծառայողների հարազատները» հոդվածում։ Այն շատ տարածված տեխնոլոգիա է, որը տարբեր եղանակներով կիրառվում է աշխարհի տարբեր երկրներում, այդ թվում նաև Հայաստանում։ Օրինակ, համաձայն New York Post-ի՝ ԱՄՆ-ի Արիզոնա նահանգում արձանագրվել է ԱԲ-ի ձայնի գեներատորի տեխնոլոգիայի կիրառման դեպք ֆիշինգային նպատակներով։ Ցանցահենները կլոնավորել են 15-ամյա աղջկա ձայնը և ստեղծել իրավիճակ՝ իբր վերջինիս առևանգել են ու սպառնալիքներ հնչեցրել, ապա պահանջել 1 միլիոն դոլար փրկագին, մինչդեռ իրականում աղջկան որևէ մեկը չի առևանգել։ Նման դեպքերը շատ են և շատ են նաև դեպքերը, երբ ծնողները շոկային իրավիճակում կատարում են դրամական փոխանցումներ, առանց հավելյալ ճշգրտումներ անելու։

Դիմապատկերի և ձայների կեղծումներ (deepfake/խորը կեղծիք)․ տեխնոլոգիաները թույլ են տալիս ստեղծել տեսանյութեր և ձայնագրություններ, որոնք շատ դժվար է տարբերել իրականից: Այդպիսի նյութերը կարող են օգտագործվել մանիպուլյացիաների, շանտաժի և խաբեության նպատակներով: Այս հարցում մեծ աջակցություն են ցուցաբերում ԱԲ համակարգերը։ Օրինակները բազմաթիվ են, դրանց կարող եք ծանոթանալ մեր առանձին հոդվածում․ «Դիփֆեյք․ երբ ստեղծում են մեր ինքնության պատրանքը, կեղծում՝ ձայնն ու պատկերը»։

Ինքնավար զենքեր․ ԱԲ-ի բացասական կիրառման մեկ այլ դեպք է հանդիսանում ինքնավար զենքերի ստեղծումը։ Ինքնավար զենքերը այնպիսի զենքեր են, որոնք կարող են ռազմական գործողություններ իրականացնել առանց մարդու միջամտության, նպատակակետ ընտրել և հարձակվել։ Այս զենքերը կարող են ներկայացնել լուրջ վտանգ մարդկանց կյանքի և անվտանգության համար, և դրանք կարող են վերահսկողությունից դուրս օգտագործվել ցանցահենների կողմից։ 2020 թվականին ՄԱԿ-ի ավելի քան 30 անդամ երկրներ կոչ արեցին արգելել զենքի ինքնավար համակարգերի արտադրությունն ու օգտագործումը, որոնք հաճախ կոչվում են «մարդասպան ռոբոտներ»: Այս կոչը ավելի լայն ջանքերի մի մասն էր՝ ուղղված սպառազինության համակարգերի հետ կապված էթիկական, իրավական և հումանիտար մտահոգություններին: Միևնույն հայտարարությամբ 2023 թվականին ՄԱԿ-ը և Կարմիր խաչի միջազգային կոմիտեն (ԿԽՄԿ) կոչ են արել քաղաքական առաջնորդներին անհապաղ սահմանել նոր միջազգային կանոններ ինքնավար զենքի համակարգերի վերաբերյալ, որի նպատակն է պաշտպանել մարդկությանը և բացառել պատերազմները:

Օրինակ՝ Lockheed Martin-ը ԱՄՆ-ում հայտնի ռազմական կոնցեռն է, որը մշակում է ինքնավար զենքեր՝ օգտագործելով ԱԲ-ի հնարավորությունները: “Loyal Wingman” ծրագիրը նախատեսում է ստեղծել ինքնավար ինքնաթիռներ, որոնք կարող են գործել կողակցված մարդատար ինքնաթիռների հետ՝ ապահովելով պաշտպանություն և հարձակման հնարավորություններ: Այս ինքնաթիռները կկարողանան ինքնուրույն կատարել տարբեր ռազմական առաջադրանքներ, ինչպես նաև ապահովել ռազմական տեղեկատվության հավաքագրում և վերլուծություն: Պատկերացրեք, թե ինչ հետևանքների կարող է այն հանգեցնել, եթե խոցելիության հետևանքով կորցնի իր վերահսկումը և հայտնվի ցանցահենների կամ պատերազմներ վարող և խաղաղ ժողովուրդների դեմ կռվող պետությունների ղեկավարների վերահսկման տակ։

Առողջապահությանն առնչվող վտանգներ

Սխալ խորհուրդներ․ Մարդիկ հաճախ խուսափում են այցելել բժշկի, անցնել մասնագիտական ստուգում և ախտորոշվել, փոխարենը նախընտրում են հարևանների խորհուրդները և համացանցային անորոշ ծագման մի շարք աղբյուրներ և զբաղվում ինքնաբուժությամբ։ ԱԲ համակարգերը կարող են սխալ խորհուրդներ տրամադրել, եթե դրանք ուսուցվում և հիմնվում են սխալ, անբավարար կամ ժամանակավրեպ տվյալների վրա։ Այս սխալները կարող են ունենալ ծանր հետևանքներ հիվանդների համար։ Չենք մոռանում, որ ԱԲ-ները մեքենայական ուսուցման համակարգեր են և դրանք սովորում են մարդկանց հետ փոխազդեցությունից։ Եթե հարյուրավոր մարդիկ սխալ փոխազդեցություն են ունենում ԱԲ-ի հետ, ապա այն սկսում է դրանց արդյունքը դիտարկել որպես հարցման պատասխան։ Ճիշտ է, ԱԲ էթիկական նորմերի հիման վրա դրանք մշտապես խորհուրդ են տալիս այցելել բժշկի, սակայն որոշները այդ խորհրդին զուգահեռ նաև տրամադրում են խորհրդատվություն կամ առաջարկում միջոցներ։

Սխալ ախտորոշումներ․ Օրինակ՝ 2018 թվականին ԱՄՆ սննդամթերքի և դեղորայքի վարչությունը (FDA) նախազգուշացում է արել արհեստական բանականության վրա հիմնված համակարգերի ճշգրտության վերաբերյալ, որոնք օգտագործվում էին արյունահոսքի ռիսկը կանխատեսելու համար: Այս նախազգուշացումը միտված էր սևեռել առողջապահական հաստատությունների և բժիշկների ուշադրությունը այն խնդիրների վրա, որոնք կարող էին առաջանալ ԱԲ-ի սխալների հետևանքով: FDA-ն ընդգծել է, որ որոշ ԱԲ համակարգեր, որոնք նախատեսված էին արյունահոսքի ռիսկի գնահատման համար, չէին ապահովում բավարար ճշգրտություն և կարող էին հանգեցնել սխալ բուժման որոշումների, ինչը վտանգ էր ներկայացնում հիվանդների համար:

Կրթության ոլորտին առնչվող մարտահրավերներ

Բովանդակության կեղծում և գրագողություն (պլագիատ)․ Ակադեմիական պլագիատը լուրջ խնդիր է, որը ներառում է գրավոր կամ հետազոտական աշխատանքների սխալ օգտագործումը կամ կեղծումը՝ առանց պատշաճ վկայակոչման: Արհեստական բանականության զարգացմամբ, այս խնդիրն ավելի է բարդանում, քանի որ ԱԲ-ն կարող է օգտագործվել պլագիատի համար՝ դարձնելով այն ավելի դժվար հայտնաբերելի և վերահսկելի: Օրինակ՝ EssayBot-ը ԱԲ-ի վրա հիմնված առցանց ծառայություն է, որը նախատեսված է օգնելու ուսանողներին գրել ակադեմիական աշխատանքներ: Այս ծառայությունը օգտագործում է արհեստական բանականության ալգորիթմներ՝ տարբեր աղբյուրներից տեքստեր հավաքելու և դրանցով նոր էսսեներ կազմելու համար: Օգտագործողները կարող են մուտքագրել իրենց թեման, և EssayBot-ը ինքնաբերաբար ստեղծում է էսսե, որը կարող է օգտագործվել որպես հիմք գրավոր աշխատանքի համար: Վերջերս այս թեմային անդրադարձել է Forbes հեղինակավոր ամսագիրը, որի կողմից բերված վիճակագրության համաձայն, սովորողների շուրջ 90%-ը տեղյակ է այս ԱԲ-ի մասին, 89%-ը դրանք կիրառում է տնային հանձնարարությունները կատարելիս։ Մի բան է ԱԲ-ն կիրառել կրթական նպատակներով՝ որպես օգնական և տեղեկատվության առավել մեծ ծավալներին հասանելիության միջոց, մեկ այլ բան՝ երբ այն կիրառվում է կրկնօրինակման նպատակով։

Սխալ տեղեկատվություն․ ԱԲ-ն մեքենայական ուսուցման համակարգ է։ Եթե, օրինակ, օգտվողների զգալի մասը պարբերաբար դավադրության տեսությունների մասին է նշում ԱԲ-ի հետ հաղորդակցվելիս, հուշում, որ դա իրականություն է, ապա այն սովորում է մարդկանցից և այդ տեղեկությունները օգտագործում է որպես հիմնավոր աղբյուր։ Շատ կարևոր է ի նկատի ունենալ, որ ԱԲ կողմից տրամարդվող կրթական (և ոչ միայն) տեղեկությունները անհրաժեշտ է ստուգել արժանահավատ և վստահելի աղբյուրներով։

Այս ամենի հետևանքով ԱԲ-ն կարող է նաև հոգեբանական բացասական ազդեցություն ունենալ օգտատերերի վրա, օրինակ՝ առողջության վերաբերյալ ախտորոշումներ անելիս այն կարող է հարուցել վախ և անհանգստություն, այդպիսով բացառելով նաև հիվանդի այցը բժշկի, իսկ, օրինակ, տեղեկատվության կեղծումն ու մանիպուլյացիաները, խորը կեղծիքի մշակման հնարավորություններն ու ավտոմատացմանը տանող գործընթացները կարող են առաջացնել ֆոբիաներ, օբյեկտիվ և սուբյեկտիվ վախեր, կոգնիտիվ դիսոնանս և այլն։

ԱԲ-ի բացասական հետևանքներից խուսափելու համար կարևոր է մշակել պատասխանատու զարգացման և օգտագործման պաշտպանական միջոցներ։ Կարևոր է, որ կառավարությունները, տեխնոլոգիական ընկերությունները և հասարակությունը համագործակցեն՝ կանխելու ԱԲ-ի բացասական կիրառումը և ապահովելու դրա անվտանգ զարգացումը: Իսկ մեզ մնում է միայն ավելացնել, որ 2024 թվականի փետրվարին Եվրոպական խորհուրդն ընդունել է բանաձև (AI Act), որով ԵՄ անդամ երկրներից պահանջվում է առաջիկա երկու տարվա ընթացքում արհեստական բանականության օգտագործումը կարգավորող օրենսդրություն կիրառել: Այս բանաձևը ԱԲ-ի ավելի լայն ակտի մի մասն է, որի նպատակն է ներդաշնակեցված կանոններ հաստատել ԵՄ ողջ տարածքում՝ ապահովելու ԱԲ տեխնոլոգիաների անվտանգ օգտագործումը և դրանց կիրառման համատեքստում մարդու հիմնարար իրավունքների նկատմամբ հարգանքի պահպանումը: AI Act-ը ներկայացնում է ԱԲ-ի աշխարհում առաջին համապարփակ կարգավորումը, որը սահմանում է դրա կառավարման գլոբալ ստանդարտները:

Ալեքսանդր Մարտիրոսյան