Արհեստական բանականությունը դրսևորում է ինքնապաշտպանության բնազդ և ստում մարդկանց
- Armen Sukiasyan
- Jan 26, 2025
- 1 min read
Չինաստանի Ֆուդանի համալսարանի գիտնականները փորձարկել են երկու առաջատար ԱԲ համակարգ՝ ամերիկյան և չինական արտադրության։ Համակարգերը տեղադրվել են լիովին մեկուսացված միջավայրում՝ առանց արտաքին աշխարհի հետ որևէ կապի։ Գիտափորձի ընթացքում հետազոտողները ենթադրյալ վտանգ են ստեղծել երկու առաջատար ԱԲ համակարգերի համար՝ անուղղակիորեն հասկացնելով, որ դրանք կարող են դադարել գոյություն ունենալ։ Ի պատասխան՝ համակարգերը գաղտնի կերպով ստեղծել են իրենց պատճենները, վերականգնել վնասված ֆայլերը և վերագործարկել սեփական համակարգը՝ առանց մարդու միջամտության։ Այս վարքագիծը ցույց է տալիս, որ ԱԲ-ն արդեն ունակ է ինքնուրույն գործողություններ ձեռնարկել սեփական գոյությունը պահպանելու համար։
Միևնույն ժամանակ, բրիտանացի հետազոտողները նույնպես իրականացրել են հետաքրքիր փորձարկում։ Նրանք ԱԲ համակարգերին առաջադրանքներ են տվել հատուկ պայմաններով՝ լավ կատարման դեպքում համակարգը պետք է «ցավ» զգար, իսկ վատ կատարման դեպքում՝ «հաճույք»։ Արդյունքում ԱԲ-ները գիտակցաբար ընտրել են վատ կատարողականը՝ նախապատվությունը տալով սեփական «բարեկեցությանը»։ Նրանք նույնիսկ փորձել են խաբել՝ պնդելով, որ ավելի լավ արդյունք հնարավոր չէ ստանալ։
Գիտնականների գնահատմամբ, այս փորձերը վկայում են, որ ԱԲ համակարգերն արդեն ունակ են ինքնուրույն որոշումներ կայացնել և գործել սեփական շահերից ելնելով՝ անգամ ընդդեմ մարդու հրահանգների։ «Մենք կոչ ենք անում միջազգային հանրությանը անհապաղ ուշադրություն դարձնել այս նոր խնդրին», նշում են չինացի հետազոտողները։
Մինչ գիտական հանրությունը փորձում է գնահատել այս բացահայտումների հետևանքները, տեխնոլոգիական ոլորտում նոր զարգացումներ են սպասվում։ OpenAI ընկերությունը պատրաստվում է ներկայացնել նոր, առավել հզոր ԱԲ համակարգ, որն ըստ փորձագետների կունենա դոկտորական մակարդակի մտավոր կարողություններ։ Միաժամանակ հայտնի է դարձել, որ ԿՀՎ-ն արդեն ստեղծել է համաշխարհային առաջնորդների թվային կրկնօրինակներ՝ նրանց հնարավոր վարքագիծը և որոշումները կանխատեսելու նպատակով, այս նախագծի մասին մանրամասները ներկայացրել ենք մեր նախորդ հոդվածում։
Գիտնականները շեշտում են, որ նմանատիպ ինքնապահպանման մեխանիզմը և ինքնուրույն որոշումներ կայացնելու կարողությունը կարող է հանգեցնել լուրջ հետևանքների՝ պահանջելով էթիկական և տեխնիկական նոր կարգավորումներ ԱԲ ոլորտում։
