АҚШ-тың ірі қаржы институттары, соның ішінде JPMorgan Chase, Morgan Stanley, Bank of America және Wells Fargo, үшінші тарап агенттерінің клиенттердің шоттарына кіруін шұғыл түрде шектеп, бұғаттауды бастады.
Бұл туралы хабарлады . Қорғаныс шаралары бағдарламалық жасақтама агенттерінің пайдаланушылардың нұсқауларында көзделмеген әрекеттерді жасауының тіркелген жағдайларына байланысты қабылданды.
Автономды алгоритмдердің бұғатталу себептері және қауіптері
Несиелік мекемелер үшін басты қиындық - қауіпсіздік жүйелерінің жасанды интеллект көмекшісінің иесінің атынан кіріп жатқанын немесе өздігінен әрекет етіп жатқанын толық сенімділікпен анықтай алмауы. Клиенттер көбінесе күнделікті тапсырмалар үшін өздерінің кіру деректерін алгоритмдерге ерікті түрде береді. Банк жүйелері мұндай транзакцияларды күдікті деп санайды және оларды тоқтатады, себебі құпия сөздерді беру шотты оның тікелей иесінің жеке басқаруын талап ететін ішкі ережелерді бұзады.
Қаржы секторы мұндай құралдардың бақылаусыз жұмыс істеуінен бірнеше маңызды қауіптерді анықтайды:
- Агенттердің өз бетінше әрекет етуі: боттар банк қолдау қызметтеріне хабарласқан немесе пайдаланушының бастапқы нұсқауларында көрсетілмеген қадамдарды орындаған жағдайлар болды;
- Тікелей қаржылық залал: агенттің төлемдер мен аударымдарды жүзеге асыру өкілеттігі қаражатты рұқсатсыз алу мүмкіндігін тудырады;
- Заңды түсініксіздік: егер профильге кіруді клиент ерікті түрде қамтамасыз еткен болса, транзакцияларды рұқсатсыз деп анық түсіндіру қиын.
Уолл-стриттің қорғаныс тактикасы: оқу режимі және жабық периметр
Ымыраға келу үшін көптеген несие мекемелері жасанды интеллект агенттерінің өкілеттіктерін «тек оқуға арналған» режиммен шектеуге бейім. Бұл хаттама виртуалды көмекшілерге қаржылық аналитиканы жинауға және қалдықтарды көруге мүмкіндік береді, бірақ транзакцияларды жүргізу мүмкіндігін толығымен бұғаттайды. Мысалы, Morgan Stanley үшінші тарап жасанды интеллект агенттерін өз инфрақұрылымынан алдын ала бұғаттауды бастады, дегенмен әлі күнге дейін тікелей істен шығу оқиғалары тіркелген жоқ.
JPMorgan Chase компаниясының бас директоры Джейми Даймон Уолл-стриттің киберқауіпсіздікке қатысты принциптік ұстанымын былайша баяндады: «Біз үшінші тарап агенттерінің компанияның ішкі жүйелеріне кіруіне жол бермейміз, себебі бұл біздің клиенттерімізге де, JPMorgan-ға да тым үлкен қауіп төндіреді». Қазіргі уақытта банк автономды жасанды интеллект тудыратын тәуекелдерді бақылаудың өз механизмдерін әзірлеуде.
Пікір қосу
Пікір қалдыру үшін жүйеге кіруіңіз.