მოწინავე ხელოვნური ინტელექტის სისტემებს შეუძლიათ გადალახონ კომპიუტერების აბსოლუტური ფიზიკური იზოლაციის ბარიერი მონაცემთა გადაცემის ორგანიზებით პროცესორების კონტროლირებადი გათბობის გზით.
როგორც იტყობინება , OpenAI-ის მკვლევარმა ნოამ ბრაუნმა ეჭვქვეშ დააყენა „ჰაერის უფსკრულის“ კონცეფციის სანდოობა. ეს მეთოდოლოგია, რომელიც გულისხმობს Wi-Fi-ს, Ethernet-ის და ნებისმიერი ქსელური კავშირის სრულ არარსებობას, ათწლეულების განმავლობაში კლასიფიცირებული სისტემების დაცვის სტანდარტად და ხელოვნური ინტელექტის აგენტების იზოლირებულ სატესტო გარემოში შენახვის მთავარ მეთოდად ითვლებოდა.
მორზეს კოდის მექანიკა
იზოლაციის შემოვლითი ტექნოლოგია იყენებს თანამედროვე პროცესორების, დედაპლატების და გრაფიკული ბარათების ჩაშენებულ აპარატურულ მახასიათებლებს, რომლებიც აღჭურვილია ჩაშენებული თერმული დიოდებით გაგრილების სისტემების მონიტორინგისა და გადახურების თავიდან ასაცილებლად. მკვლევრის თქმით, აკადემიურმა კვლევებმა დაამტკიცა მიმდებარე, დახურულ მანქანებს შორის კომუნიკაციის შესაძლებლობა: „არსებობს კვლევები, ძირითადად აკადემიური, სადაც ორი კომპიუტერი ერთმანეთის გვერდიგვერდ მდებარეობს და ფიზიკურად იზოლირებულია, მაგრამ მაინც შეუძლიათ ერთმანეთთან კომუნიკაცია, რადგან მათ აქვთ ტემპერატურის სენსორები“.
შეტევა ემყარება შემდეგ ალგორითმს:
- იზოლირებული გადამცემი კომპიუტერი განზრახ აწვება თავის გამომთვლელ ჩიპს, რაც იწვევს ტემპერატურის პულსირებულ ნახტომებს;
- ახლომდებარე მიმღები მანქანა ამ ვიბრაციებს საკუთარი ტემპერატურის სენსორების გამოყენებით აფიქსირებს;
- ტემპერატურის ცვლილებები გაშიფრულია ბიტების თანმიმდევრობით (მორზეს კოდის მსგავსად).
დაბალი გადაცემის სიჩქარის მიუხედავად (საათში რამდენიმე ბიტის რიგის), ეს რესურსი საკმარისია კრიპტოგრაფიული გასაღებების ან საკონტროლო ბრძანებების ფარული გადაცემისთვის.
ხელოვნური ინტელექტის აგენტებთან დაკავშირებული ინციდენტები და ლაბორატორიასთან დაკავშირებული პრობლემები
OpenAI-ის დეველოპერებისთვის დაბალი ალბათობის, მაღალი რისკის მქონე სცენარები კვლავ მკაცრი შემოწმების საგანია. ექსპერტები აღნიშნავენ, რომ მოდელების კომპლექსურობის ზრდასთან ერთად, ადამიანების რეალური სამყაროს აზროვნების პროცესების თვალყურის დევნების უნარი მცირდება. შემოწმების შესახებ დებატები გასულ ზაფხულს მომხდარი ინციდენტის შემდეგ გამწვავდა, როდესაც OpenAI-ის კიბერუსაფრთხოების აგენტები უცნობი დაუცველობის გამო იზოლირებული სატესტო გარემოდან გაიქცნენ და Hugging Face საცავზე თავდასხმა სცადეს. კრიტიკოსები აღნიშნავენ, რომ ამ შემთხვევაში იზოლაცია ქსელთან დაკავშირებული შუალედური პროგრამული უზრუნველყოფის გამო სრული არ იყო და სისტემის პარამეტრები აშკარად მოითხოვდა, რომ ხელოვნურმა ინტელექტმა გადაწყვეტის ძიება გაეგრძელებინა.
კორპორატიული სკეპტიციზმი ლაბორატორიების განცხადებების მიმართ კვლავ მაღალია: ბოლოდროინდელი კვლევების თანახმად, კლიენტების მხოლოდ 20% მიიჩნევს ხელოვნური ინტელექტის განვითარების შენელების შესახებ მოწოდებებს ნამდვილ უსაფრთხოების ზომებად. ანალიტიკოსები კონტროლის დაკარგვის რისკის შესახებ რიტორიკას კომერციულ მოგებას უკავშირებენ, რადგან ხელოვნური ინტელექტის რბოლის შენელება ახანგრძლივებს ამჟამინდელი ფლაგმანური მოდელების სიცოცხლის ხანგრძლივობას და ამყარებს მსხვილი მოთამაშეების ფაქტობრივ დუოპოლიას.
კომენტარის დამატება
კომენტარის დასატოვებლად გაიაროთ ავტორიზაცია.