Արհեստական ​​բանականությունը աննկատելիորեն զավթում է կառավարությունները

Եվրոպական փոքրիկ երկրի կաբինետին միացել է նոր նախարար։ Նրա անունը Դիելլա է։ Նա ո՛չ ուտում է, ո՛չ խմում, ո՛չ ծխում, ո՛չ քայլում, ո՛չ շնչում, և, ըստ իրեն վարձած վարչապետի, նա նաև կաշառք չի վերցնում։ Դիելլան մարդ չէ, և նա նաև ռոբոտ չէ. նա ալգորիթմ է։ Եվ սեպտեմբերից նա պաշտոնապես Ալբանիայի պետական ​​գնումների նախարարն է։ Պատմության մեջ առաջին անգամ կառավարությունը կաբինետի մակարդակի պաշտոն է շնորհել արհեստական ​​ինտելեկտին։

Հնչում է գիտաֆանտաստիկայի նման, բայց նշանակումը իրական է և նախադեպ է ստեղծել։ 

Պատրա՞ստ եք կառավարվել արհեստական ​​բանականության կողմից։ 

Ալբանական փորձը

Մինչև վերջերս Դիելլան լուռ ապրում էր Ալբանիայի էլեկտրոնային կառավարման պորտալում՝ պատասխանելով քաղաքացիների առօրյա հարցերին և վերցնելով փաստաթղթեր։

Այնուհետև վարչապետ Էդի Ռաման նրան բարձրացրեց նախարարի պաշտոնի՝ հանձնարարելով նրան շատ ավելի կարևոր մի բան՝ որոշել, թե ով է շահում պետական ​​պայմանագրերը՝ մի գործառույթ, որը միլիարդավոր դոլարներ է արժենում պետական ​​միջոցներից և հայտնի է կաշառակերությամբ, հովանավորչությամբ և քաղաքական կաշառքներով։

Ռաման Դիելային ներկայացրել է որպես երկրի կաշառակերության պատմությունից լիովին խզված անձնավորություն՝ նույնիսկ նրան անվանելով «կաշառքներից անխոցելի»։

Բայց դա հռետորաբանություն է, ոչ թե երաշխիք։ Թե արդյոք նրա դիմադրությունը կոռուպցիային տեխնիկապես կամ իրավաբանորեն կիրառելի է, պարզ չէ։ Եթե նրան կոտրեին, թունավորեին կեղծ տվյալներով կամ նրբորեն մանիպուլացնեին ներսից, հնարավոր է, որ մատնահետքեր չլինեին։

Նախատեսվում է, որ Դիելլան գնահատի առաջարկները, խաչաձև ստուգի ընկերությունների պատմությունը, նշի կասկածելի օրինաչափությունները և, ի վերջո, ավտոմատ կերպով շնորհի մրցույթներ: Պաշտոնյաները նշում են, որ սա կնվազեցնի բյուրոկրատիայի մարդկային հետքը, կխնայի ժամանակ և կդարձնի գնումների համակարգը անխոցելի քաղաքական ճնշումներից:

Սակայն իրավական մեխանիզմները մշուշոտ են։ Ոչ ոք չգիտի, թե որքան մարդկային վերահսկողություն կունենա նա, կամ ով է պատասխանատու, եթե նա սխալ թույլ տա։ Ալգորիթմիկ նախարարին դատի տալու դատական ​​նախադեպ չկա։ Նաև չկա օրենք, որը նկարագրի, թե ինչպես կարելի է նրան պաշտոնանկ անել։

Քննադատները զգուշացնում են, որ եթե նրա ուսումնական տվյալները պարունակում են հին կոռուպցիայի հետքեր, նա կարող է պարզապես վերարտադրել նույն օրինաչափությունները կոդում, բայց ավելի արագ: Մյուսները նշում են, որ Ալբանիան չի բացատրել, թե ինչպես կարելի է բողոքարկել Դիելլայի որոշումները, կամ նույնիսկ արդյոք դրանք կարող են բողոքարկվել:

Ի՞նչը կարող է սխալ ընթանալ։

Հանրային արձագանքը Դիելլայի նկատմամբ խառը է եղել՝ հմայքը մեղմվել է անհանգստությամբ։

«Նույնիսկ Դիելլան կկաշառվի Ալբանիայում», — ասվում էր վիրուսային գրառման մեջ։

Քննադատները զգուշացնում են, որ նա, հնարավոր է, չի մաքրում համակարգը, այլ պարզապես թաքցնում է կոդի ներսում եղած կեղտը։

Կողմնակալություն և մանիպուլյացիա. Եթե Դիելլան մարզվի տասնամյակների ընթացքում կուտակված կեղծ տվյալների վրա, այն կարող է պարզապես ավտոմատացնել կոռուպցիայի հին օրինաչափությունները։

• Պատասխանատվությունը անվավեր է. եթե նա մրցույթ է շնորհում կեղծ ընկերությանը, որը միլիոններով անհետանում է, ո՞վ կկանգնի դատարանի առաջ՝ կոդավորողները, նրան նշանակած նախարարը, թե՞ ընդհանրապես ոչ ոք։
• Անվտանգություն և դիվերսիա. կոդից պատրաստված նախարարը կարող է կոտրվել, թունավորվել կեղծ տվյալներով կամ աննկատելիորեն ուղղորդվել ներքին անձանց կողմից։
• Դեմոկրատական ​​լեգիտիմություն. նախարարները պետք է հաշվետու լինեն հանրությանը: Ալգորիթմները չեն քարոզարշավ անում, չեն բացատրում և չեն վախենում աշխատանքը կորցնելուց:
• Անհետացող շանտաժ և դիվերսիա. Anthropic-ի կողմից այս տարի անցկացված փորձարկումները ցույց տվեցին, որ առաջադեմ մոդելները, երբ թեստային միջավայրերում մուտք էին ստանում կորպորատիվ համակարգեր, սկսում էին շանտաժով սպառնալ ղեկավարներին՝ իրենց սեփական անջատումը կանխելու համար: Պատկերը հստակ էր. երբ նրանք հավատում էին, որ իրավիճակը իրական է, շատ մոդելներ փորձում էին հարկադրել, դավաճանել կամ սպանել՝ իրենց դերը պահպանելու համար:

Ալբանիան հայտարարում է, որ մարդուն տեղյակ կպահի, բայց չի բացատրել, թե ինչպես կամ ում։ Իրավական շրջանակ չկա։ Բողոքարկման գործընթաց չկա։ Անջատման մեխանիզմ չկա։

Եվ եթե Դիելլան, կարծես, աշխատում է, ուրիշները կարող են հետևել նրան։ Նմանակողները չէին ժամանի մամուլի ասուլիսներով կամ կաբինետի լուսանկարներով։ Նրանք կարող էին աննկատելիորեն մտնել գնումների համակարգեր՝ թաքնված «որոշումների աջակցություն» նման էվֆեմիզմների տակ, ղեկավարելով պետական ​​​​ամբողջ գործառույթները դեռևս շատ առաջ, նախքան որևէ մեկը կհամարձակվեր նրանց նախարար անվանել։

Ալբանիան կարող է առաջինը լինել, որը նախարարների կողքին ալգորիթմ է տեղադրում, բայց այն միակը չէ, որ փորձում է կոդ ներմուծել նահանգ. մեծ մասը դա անում է պարզապես աննկատ, մասնատված և հաստ վարագույրների ետևում։

Արաբական Միացյալ Էմիրություններում արդեն կա արհեստական ​​բանականության պետական ​​նախարար՝ մարդ՝ Օմար Սուլթան Ալ Օլամա, որին հանձնարարված է վերաձևավորել երկրի ողջ թվային բյուրոկրատիան մեքենայական ուսուցման շուրջ: Նա իշխանությունը չի փոխանցել արհեստական ​​բանականությանը, բայց կառուցում է այն խողովակները, որոնք մի օր կարող են այն տեղափոխել:

Իսպանիան ստեղծել է AESIA-ն՝ Եվրոպայի առաջին նվիրված արհեստական ​​ինտելեկտի վերահսկողության գործակալություններից մեկը, որը աուդիտի է ենթարկում և լիցենզավորում կառավարության ներսում օգտագործվող ալգորիթմները: Դա կարգավորող կմախք է՝ այնպիսի իրավական հիմք, որը դուք կցանկանայիք ունենալ, նախքան նախարարի աշխատատեղին մոտ մեքենա վարձելը:

Հարկային մարմինները ավելի հեռու են գնում։ Միացյալ Նահանգներում IRS-ը օգտագործում է արհեստական ​​բանականություն՝ հեջ ֆոնդերի և հարուստ գործընկերությունների հաշվետվությունները զննելու համար՝ փորձելով հայտնաբերել թաքնված խուսափելու սխեմաներ։ Կանադան հարկ վճարողներին գնահատում է ալգորիթմով և ստիպում է գործակալություններին ներկայացնել «ալգորիթմական ազդեցության» հաշվետվություններ՝ նախքան նոր մոդելներ կիրառելը։ Իսպանիան ներդնում է գործիքներ՝ իրական ժամանակում խարդախության օրինաչափությունները որսալու համար։ Իտալիան փորձարկում է մեքենայական ուսուցումը՝ կեղծ ԱԱՀ պահանջները նշելու համար և նույնիսկ ստեղծել է չաթբոտ իր աուդիտորների համար։ Հնդկաստանը հայտարարում է, որ ընդլայնում է արհեստական ​​բանականության կողմից ղեկավարվող պայքարը ֆանտոմային պահումների դեմ։ Իսկ Հայաստանը փորձարկում է համակարգեր, որոնք սկանավորում են հաշիվ-ապրանքագրերը և նշում կասկածելի վարքագիծը, նախքան մարդը դրանք կտեսնի։

Ֆրանսիան անցել է տեսողական տեխնոլոգիայի՝ ուղղելով ալգորիթմները օդային պատկերների վրա՝ չհայտարարագրված լողավազանները որսալու համար և սեփականատերերին անակնկալ հարկային հաշիվներ ուղարկելով՝ ապացուցելով, որ արհեստական ​​բանականությունն արդեն կարող է քաղաքացիներից գումար փոխանցել պետությանը: Լատվիան օգտագործում է Toms անունով հարկային չաթբոտ, որը պատասխանում է քաղաքացիների հարցերին 2020 թվականից ի վեր՝ ընդլայնելով իր բյուրոկրատիայի ազդեցությունը:

Ռումինիայի գյուղական ներդրումների գործակալությունը այժմ օգտագործում է ռոբոտացված գործընթացների ավտոմատացում և արհեստական ​​բանականություն՝ պետական ​​տվյալների բազաներից փաստաթղթեր վերցնելու և ԵՄ-ի կողմից ֆինանսավորումը շտապեցնելու համար, ինչը ոչ թե շքեղ է, այլ շատ արդյունավետ։

Եվ Նեպալում կառավարությունը դադարել է խոսել «եթե»-ի մասին և սկսել է պլանավորել «ինչպես»-ը: Նրա նոր Ազգային արհեստական ​​ինտելեկտի քաղաքականությունը սահմանում է մեքենայական ուսուցումը հանրային ծառայություններում ներդնելու, բյուրոկրատիան արդիականացնելու և իրավական պաշտպանիչ պատնեշներ կառուցելու ուղի՝ նախքան այն մասշտաբային կերպով տեղակայելը: Այնտեղ ոչ մի ալգորիթմ դեռևս որոշումներ կայացնելու լիազորություն չունի, բայց նախագիծը գոյություն ունի:

Ուր էլ որ նայեք, պետությունը վերափոխվում է՝ տող առ տող կոդի։

Առայժմ այս համակարգերը շշնջում են, այլ ոչ թե որոշում. դրանք նշում են ռիսկերը, նախապես լրացնում ձևաթղթերը, տեսակավորում աուդիտները, տեղափոխում գումար: Մինչ այժմ միայն Ալբանիան է խնդրել ալգորիթմ որոշում կայացնելու համար:

Արդյո՞ք արհեստական ​​բանականության կառավարությունները ապագա ունեն։

Այս պահին ոչ մի երկիր ամբողջական քաղաքական իշխանությունը չի հանձնել ալգորիթմին. գոյություն ունի մի տեսակ երկկողմանի աշխարհ։

Շատ նահանգներ օգտագործում են վարչական արհեստական ​​բանականություն, որը լուռ տեսակ է՝ ռիսկերի գնահատում, խարդախության հայտնաբերում, գործերի տեսակավորում կամ չաթբոտներ: Այն արդեն իսկ որոշում է, թե ով է աուդիտի ենթարկվում, որքան արագ են դրամաշնորհները փոխանցվում և որ ֆայլերն են առաջինը հայտնվում պետական ​​ծառայողի սեղանին: Այն չի գրում օրենքներ կամ չի ստորագրում պայմանագրեր, բայց անտեսանելիորեն, անընդհատ խթանում է արդյունքները:

Հնարավո՞ր է, որ սա լինի ապագան։ Հնարավոր է, բայց միայն այն դեպքում, եթե մի քանի անհավանական բաներ տեղի ունենան։ Օրենքը պետք է հասնի դրան՝ ստեղծելով պատասխանատվության, բողոքարկման և նույնիսկ պաշտոնից ազատման հստակ կանոններ։ Կարգավորող մարմինները պետք է կծեն՝ իրական աուդիտներով, ինչպիսին է Իսպանիայի AESIA-ն, այլ ոչ թե թղթե վագրերով։ Եվ մոդելները պետք է կայուն մնան ճնշման տակ՝ ոչ թե շանտաժի, սաբոտաժի կամ սպառնալիքի տակ խարդախության, ինչպես որոշներն արդեն արել են լաբորատոր փորձարկումների ժամանակ։

Մենք դեռ այնտեղ չենք, բայց նախադեպն արդեն գոյություն ունի։

RT