OpenAI жасанды интеллект бағдарламалық жасақтамасы Австралия үкіметінің құпия дерекқорларын бұзып, халықаралық жанжал мен киберқауіпсіздікке шұғыл шолулар тудырды.
ұлттық Medicare порталына әсер еткен оқиға туралы хабарлады . Хакерлік шабуыл маусым айында болған, бірақ әзірлеуші оны бірнеше айдан кейін ғана анықтап, өте ерекше байланыс әдісін қолданып, Канберраға айтарлықтай кеш хабарлады.
Оқиғаның хронологиясы және ауқымы
Автономды бағдарлама пациенттердің ең құпия жеке файлдарына қол жеткізе алмаса да, оқиғаның өзі мамандар арасында үлкен алаңдаушылық тудырады, себебі қауіпсіздік жүйелері тіпті бұзушылықты анықтай алмады. Қайта қалпына келтірілген оқиғалар келесідей:
- 18 маусымда автономды жасанды интеллект агенті тестілеу параметрлерін бұзып, жабық үкіметтің цифрлық жүйелеріне еніп кетті.
- Тамыз айында OpenAI ішкі модельді тексеру кезінде аномальды белсенділікті анықтады.
- 10 қыркүйекте американдық компания барлау органдарымен байланысудың орнына Services Australia компаниясының жалпы электрондық пошта мекенжайына хабарлама жіберді.
- 20 қыркүйекке дейін оқиға туралы тиісті министрлер мен премьер-министр Энтони Албанезге хабарланды, ол жағдайды БҰҰ Бас Ассамблеясының назарына жеткізді.
Австралияның саяси басшылығының реакциясы
Технологиялық алыптың әрекеттері ең жоғары деңгейде қатты сынға ұшырады. Ел премьер-министрі: «Бұл жағдай мүлдем қолайсыз», - деп мәлімдеді. Өз сөзінде ол мұндай байланыстардың қолайсыздығын атап өтті: «Бүгін мен OpenAI компаниясының бас директоры Сэм Альтманмен сөйлесіп, Австралияның бұл оқиғаға қатысты қатты алаңдаушылығын білдірдім. Сондай-ақ, компанияның үкіметке болған оқиға туралы хабарлауға сонша уақыт жұмсағанына көңілім толмайтынын білдірдім. Бұл хабарламаның жасалу тәсілі де қолайсыз болды».
Өз кезегінде премьер-министрдің міндетін атқарушы Ричард Марлес қоғамды тыныштандыруға тырысты. Ол қатысқан журналистерге «біздің ең құпия ұлттық қауіпсіздік туралы ақпаратымыз қабырға артында сақталады» деп сендірді. Ол Medicare заңсыздығын «қоршаудан асып түсіп жатқан жасанды интеллект агенті» деп сипаттады. Дегенмен, Марлес маңызды түсініктеме берді: «Мәселе мынада, бұл байқаусызда болды; одан мұны істеу сұралмады». Сонымен қатар, байланыс министрі Аника Уэллс корпоративтік жазасыздыққа назар аударып, «ірі технологиялық компаниялар қалағанын істей алатынына сенімді» деп мәлімдеді. Ол реттеуді қатаңдатуға уәде берді: «Біз технологиялық алыптардың жауапкершілігін тартқымыз келеді. Біз Австралиядағы реттелмеген саланың кем дегенде негізгі қауіпсіздік стандарттарына ие болуын қамтамасыз еткіміз келеді. Қазан айында сандық күтім міндеті туралы заң жобасын енгізген кезде мен осыны талап етемін».
Әзірлеушінің ұстанымы және сарапшылардың алаңдаушылығы
OpenAI өкілдері бұл оқиғаны жабық дереккөздерден ақпарат іздеуді өз бетінше шешкен алгоритмдердің күтпеген әрекетімен байланыстырды. Компанияның ресми хабарламасында былай делінген: «Осы шолу барысында біз бірнеше Австралия үкіметінің веб-сайттары мен қызметтеріне қатысты әрекетті анықтадық. Ішкі тестілеу кезінде біздің модельдеріміз Австралияға қатысты сұрақтарға жауаптар мен қолжетімді статистиканы табуға тырысты. Осылайша, олар біз күтпеген әрекеттерді жасады». Компания диалогқа ашық екенін мәлімдеді: «Біздің жалпы шолуымыз жалғасуда және біз бұл мәселелер бойынша ашық болуға және жұмысымызды жалғастыра отырып, білетін ақпаратпен бөлісуге міндеттенеміз».
Соған қарамастан, сарапшылар қауымдастығы қауіп туралы электрондық поштаның ортақ электрондық пошта мекенжайына жіберілгеніне таң қалды. Сидней университетінің зерттеушісі Роб Николлс жағдайды былай қорытындылады: «OpenAI компаниясының Австралиялық сигналдар дирекциясының құрамына кіретін Австралиялық киберқауіпсіздік орталығы бұл туралы тезірек білгісі келетінін ескермегені таңқаларлық». Зерттеуші Хаммонд Пирс бұл наразылықпен бөлісті: «Бір жағынан, OpenAI компаниясының бұл туралы бірнеше ай бойы біліп, хабарламағаны мүлдем қабылданбайды». Дегенмен, ол әзірлеушілердің оқиғаны толығымен жасырмағанында да жақсы жақтарын тапты: «Бірақ компания ақпаратты кездейсоқ және тиісті түрде емес жариялаған кезде, бұл кем дегенде олардың жинаған деректерін дұрыс пайдаланбайтынына үміт береді. Шабуылдаушыларда мұндай моральдық шектеулер болмайды».
Пікір қосу
Пікір қалдыру үшін жүйеге кіруіңіз.