Anthropic-ը զգուշացնում է․ ԱԲ զարգացումը 25 տոկոս հավանականությամբ կարող է դուրս գալ մարդու վերահսկողությունից

Արհեստական ​​բանականության ոլորտի ստարտափ Anthropic-ը կոչ է արել համաշխարհային մակարդակով սառեցնել արհեստական ​​բանականության զարգացումը և զգուշացրել, որ մարդիկ ռիսկի են դիմում կորցնելու տեխնոլոգիայի նկատմամբ վերահսկողությունը, գրում է The Telegraph-ը։

Ընկերությունը դեմ չէ կասեցնել ավելի հզոր համակարգերի վրա աշխատանքը, եթե վստահ լինի, որ մյուսներն էլ նույնը կանեն։

«Եթե հնարավոր լիներ արդյունավետորեն դանդաղեցնել այս տեխնոլոգիայի զարգացումը՝ մեզ ավելի շատ ժամանակ տալով դրա հսկայական հետևանքների հետ գործ ունենալու համար, մենք կարծում ենք, որ դա, հավանաբար, լավ բան կլիներ», – գրել են ընկերության ղեկավարները։

Նրանք հզոր AI համակարգերի աճը համեմատել են «զենքի վերահսկողության խնդրի» հետ և զգուշացրել, որ տեխնոլոգիան զսպելու համար սահմանափակ ժամանակ կա։

Anthropic-ը վերջերս գերազանցել է ChatGP -ի  հիմնադիր  OpenAI-ին՝ դառնալով արհեստական ​​բանականության ոլորտում աշխարհի ամենաթանկարժեք ընկերությունը՝ 965 միլիարդ դոլար կապիտալիզացիայով։ Այն հետաձգել է ամենահզոր համակարգի՝ Mythos-ի թողարկումը՝ վախենալով, որ այն կարող է օգտագործվել ավերիչ կիբեռհարձակումներ իրականացնելու համար։

Հինգշաբթի հրապարակված էսսեում  Մարինա Ֆավարոն և Ջեք Քլարկը, Anthropic-ի հետազոտական ​​​​մասնաճյուղի ղեկավարը և նախագահը, նշել են, որ արհեստական ​​​​բանականության տեխնոլոգիան մոտենում է այն կետին, երբ համակարգերը կզարգանան ինքնուրույն։

Նրանք նշել են, որ այդ պահը, որը հայտնի է որպես «ռեկուրսիվ ինքնակատարելագործում», կարող է հանգեցնել կարողությունների պայթյունի, բայց նաև կարող է նշանակել, որ մարդիկ չեն կարողանա վերահսկել արհեստական ​​​​բանականության համակարգերը։

Anthropic-ը իրեն  ներկայացնում է, որպես արհեստական ​​բանականության ընկերություն, որն առավել նվիրված է տեխնոլոգիաների անվտանգ դարձնելուն, միաժամանակ հետազոտական ​​առաջընթացներ է գրանցում, որոնք, ըստ նրա, կարող են հանգեցնել վտանգավոր համակարգերի ստեղծման։

Գլխավոր տնօրեն Դարիո Ամոդեյը նշել է, որ կա 25% հավանականություն, որ «իրավիճակը շատ, շատ վատ կընթանա»։

«Մենք կարծում ենք, որ լավ կլինի, որ աշխարհը հնարավորություն ունենա դանդաղեցնել կամ ժամանակավորապես դադարեցնել առաջնային արհեստական ​​բանականության զարգացումը, որպեսզի սոցիալական  կառույցներն ու համաձայնեցման հետազոտությունները կարողանան համընթաց քայլել»,-ասվում է հայտարարությունում։

Այնուամենայնիվ, այն զգուշացնում է, որ գլոբալ սառեցման համակարգումը չափազանց դժվար կլինի՝ մատնանշելով ԱՄՆ-ի և Չինաստանի միջև արհեստական ​​բանականության շուրջ կատաղի մրցակցությունը։

«Նշանակալի դանդաղեցումը կամ դադարը կպահանջի բազմաթիվ լավ ռեսուրսներով հագեցած լաբորատորիաներ առաջնագծում կամ մոտակայքում, բազմաթիվ երկրներում, որոնք կհամաձայնվեն դադարեցնել նույն պայմաններով», – ասվում է հաղորդագրության մեջ։

Այլ փորձագետներ պնդում են, որ ընկերությունը չափազանցնում է արհեստական ​​բանականության կարողությունները կամ արհեստական ​​բանականության մասին նախազգուշացումներ է անում՝ մրցակիցներին վնասող կանոնակարգեր մտցնելու համար։

Սա տեղի է ունեցել արհեստական ​​բանականության միկրոչիպերի բաժնետոմսերի խոշոր վաճառքից հետո այն բանից հետո, երբ կիսահաղորդչային Broadcom ընկերությունը հիասթափեցրել է ներդրողներին վաճառքի կանխատեսումներով։ Ընկերության բաժնետոմսերը 13%-ով անկում  էին ապրել՝ մոտ 300 միլիարդ դոլար նվազելով իրենց արժեքից, ինչպես նաև Micron, SK Hynix և Arm չիպերի այլ ընկերությունների բաժնետոմսերի անկում էր եղել։ Վաճառքը մտավախություններ է առաջացրել արհեստական ​​​​AI-ի  «փուչիկի» առաջացման վերաբերյալ՝ Broadcom չիպերի պահանջարկի վերաբերյալ հարցերի պատճառով։

Թարգմանությունը՝ Էմմա Չոբանյանի