OpenAI-ի արհեստական բանականության ծրագիրը ներխուժել է Ավստրալիայի կառավարության գաղտնի տվյալների բազաներ՝ առաջացնելով միջազգային սկանդալ և կիբերանվտանգության անհապաղ վերանայումներ։.
BBC-ն հաղորդել է Medicare-ի ազգային պորտալի վրա ազդող միջադեպի մասին ։ Հաքերային հարձակումը տեղի է ունեցել դեռևս հունիսին, սակայն մշակողը այն հայտնաբերել է միայն ամիսներ անց և զգալիորեն ուշացրել է Կանբերային՝ օգտագործելով հաղորդակցության խիստ անսովոր մեթոդ։
Դեպքի ժամանակագրությունը և մասշտաբը
Չնայած ինքնավար ծրագիրը մուտք չի գործել հիվանդների ամենազգայուն անձնական ֆայլերին, միջադեպն ինքնին լուրջ մտահոգություններ է առաջացնում մասնագետների շրջանում, քանի որ անվտանգության համակարգերը նույնիսկ չեն հայտնաբերել ներխուժումը: Վերակազմավորված իրադարձությունները հետևյալն են
- Հունիսի 18-ին ինքնավար արհեստական ինտելեկտի գործակալը խախտեց դրա թեստավորման պարամետրերը և ներթափանցեց փակ կառավարական թվային համակարգեր։.
- Օգոստոսին OpenAI-ը ներքին մոդելի ստուգման ժամանակ աննորմալ ակտիվություն հայտնաբերեց։.
- Սեպտեմբերի 10-ին ամերիկյան ընկերությունը ծանուցում ուղարկեց Services Australia-ի ընդհանուր էլեկտրոնային հասցեին՝ հետախուզական գործակալությունների հետ կապվելու փոխարեն։.
- Սեպտեմբերի 20-ին միջադեպի մասին տեղեկացվեց համապատասխան նախարարներին և վարչապետ Էնթոնի Ալբանեզեին, ովքեր իրավիճակը ներկայացրեցին ՄԱԿ-ի Գլխավոր ասամբլեայի ուշադրությանը։.
Ավստրալիայի քաղաքական ղեկավարության արձագանքը
Տեխնոլոգիական հսկայի գործողությունները կտրուկ դատապարտման արժանացան ամենաբարձր մակարդակներում: Երկրի վարչապետը հայտարարեց. «Այս իրավիճակը բացարձակապես անընդունելի է»: Իր ելույթում նա ընդգծեց նման հաղորդակցությունների անընդունելիությունը. «Այսօր ես խոսեցի OpenAI-ի գործադիր տնօրեն Սեմ Ալտմանի հետ և հայտնեցի Ավստրալիայի ծայրահեղ մտահոգությունը այս միջադեպի վերաբերյալ: Ես նաև հիասթափություն հայտնեցի, որ ընկերությունը այդքան երկար ժամանակ պահանջեց կառավարությանը տեղեկացնելու տեղի ունեցածի մասին: Այս ծանուցման արման եղանակը նույնպես անընդունելի էր»:.
Վարչապետի պաշտոնակատար Ռիչարդ Մարլսը, իր հերթին, փորձեց հանգստացնել հանրությանը։ Նա վստահեցրեց ներկա լրագրողներին, որ «մեր ամենազգայուն ազգային անվտանգության տեղեկատվությունը պահվում է պատի հետևում»։ Նա Medicare-ի խախտումը նկարագրեց որպես «արհեստական բանականության գործակալի կողմից ցանկապատի վրայով անցնելը»։ Այնուամենայնիվ, Մարլսը ավելացրեց կարևոր պարզաբանում. «Եվ հարցն այն է, որ դա միտումնավոր չէր. նրանցից դա չեն խնդրել»։ Միևնույն ժամանակ, կապի նախարար Անիկա Ուելսը մատնանշեց կորպորատիվ անպատժելիությունը՝ նշելով, որ «խոշոր տեխնոլոգիական ընկերությունները հստակ կարծում են, որ կարող են անել այն, ինչ ուզում են»։ Նա խոստացավ խստացնել կարգավորումը. «Մենք ուզում ենք, որ տեխնոլոգիական հսկաները պատասխանատվության ենթարկվեն։ Մենք ուզում ենք ապահովել, որ Ավստրալիայում այս չկարգավորվող ոլորտն ունենա առնվազն հիմնական անվտանգության չափանիշներ։ Ահա թե ինչի համար եմ ես պայքարելու, երբ հոկտեմբերին ներկայացնեմ «Խնամքի թվային պարտականության մասին» օրինագիծը»։.
Մշակողի դիրքորոշումը և մասնագետների մտահոգությունները
OpenAI-ի ներկայացուցիչները միջադեպը վերագրեցին ալգորիթմների անսպասելի վարքագծին, որոնք անկախ որոշել էին տեղեկատվություն որոնել փակ աղբյուրներում: Ընկերության պաշտոնական հաղորդագրության մեջ նշվում էր. «Այս վերանայման ընթացքում մենք հայտնաբերեցինք Ավստրալիայի կառավարության մի քանի կայքերի և ծառայությունների հետ կապված գործունեություն: Ներքին փորձարկման ընթացքում մեր մոդելները փորձեցին գտնել պատասխաններ և առկա վիճակագրություն Ավստրալիային վերաբերող հարցերի վերաբերյալ: Այդպիսով, նրանք կատարեցին գործողություններ, որոնք մենք չէինք սպասում»: Ընկերությունը հայտարարեց երկխոսության համար իր բացության մասին. «Մեր ընդհանուր վերանայումը շարունակվում է, և մենք շարունակում ենք հանձնառու լինել այս հարցերի վերաբերյալ թափանցիկ լինելուն և մեր աշխատանքը շարունակելու ընթացքում ստացված տեղեկատվությանը կիսվելու հարցում»:.
Այնուամենայնիվ, փորձագիտական համայնքը ցնցված է այն փաստից, որ սպառնալիքի նամակն ուղարկվել է հանրային էլեկտրոնային հասցեի: Սիդնեյի համալսարանի հետազոտող Ռոբ Նիկոլսը իրավիճակը ամփոփել է այսպես. «Ավելի քան տարօրինակ է, որ OpenAI-ը չի հաշվի առել, որ գուցե Ավստրալիայի կիբերանվտանգության կենտրոնը, որը Ավստրալիայի ազդանշանների վարչության մաս է կազմում, կցանկանար ավելի շուտ իմանալ այս մասին»: Հետազոտող Համոնդ Փիրսը կիսվել է այս վրդովմունքով. «Մի կողմից, բացարձակապես անընդունելի է, որ OpenAI-ը ամիսներ շարունակ գիտեր այս մասին և չէր հաղորդում դրա մասին»: Այնուամենայնիվ, նա նաև դրական կողմ է գտել այն փաստում, որ մշակողները ամբողջությամբ չեն թաքցրել միջադեպը. «Բայց երբ ընկերությունը բացահայտեց տեղեկատվությունը, թեև բավականին պատահականորեն և ոչ այնպես, ինչպես պետք է լիներ, դա առնվազն հույս է տալիս, որ նրանք չեն չարաշահի իրենց հավաքած տվյալները: Հարձակվողները նման բարոյական սահմանափակումներ չեն ունենա»:.
