ხელოვნური ინტელექტის გლობალური ლიდერი კომპანია Anthropic ახლოსაა რეკურსიული თვითგანვითარების (RSI) უნარიანი ნეირონული ქსელების შექმნასთან.
3DNews- ის ცნობით , ეს ინფორმაცია კორპორაციის მიერ ფინანსურ მარეგულირებლებთან წარდგენილი შესწორებული S-1/A ფორმიდან მომდინარეობს. RSI ფენომენი ეხება იმ ეტაპს, როდესაც ალგორითმები იმდენად ეფექტურები ხდებიან საკუთარი თავის შესწავლისას, რომ ეს მათი შესაძლებლობების მკვეთრ, ექსპონენციალურ აჩქარებას იწვევს. პროგრესის მომხრეები ამას მეცნიერებასა და პროდუქტიულობაში უპრეცედენტო ნახტომის შანსად მიიჩნევენ, სკეპტიკოსები კი - უკუქცევის წერტილად, რომლის შემდეგაც მანქანები გულგრილები გახდებიან იმ ზიანის მიმართ, რომელსაც ისინი საკუთარი მიზნების მისაღწევად იწვევენ.
ტექნოლოგიური მიღწევების ორმაგი ბუნება
კომპანიის მენეჯმენტი აღიარებს, რომ რეკურსიული თვითგანვითარების ფენომენი როგორც უზარმაზარ შესაძლებლობებს, ასევე უკიდურესად სერიოზულ საფრთხეებს წარმოადგენს. დეველოპერებმა განმარტეს, რომ ხელოვნური ინტელექტი უკვე გამოიყენება მათ შიდა კვლევებში, თუმცა მენეჯმენტმა გააფრთხილა: „ხელოვნური ინტელექტის გამოყენება უფრო მოწინავე ხელოვნური ინტელექტის სისტემების შესაქმნელად შეიძლება მნიშვნელოვან უსაფრთხოების რისკს წარმოადგენდეს, განსაკუთრებით თუ ის მკვეთრად დააჩქარებს პროგრესის ტემპს. ეს არის ერთ-ერთი ასპექტი, რომელიც განხილულია ჩვენს „პასუხისმგებლიანი მასშტაბირების პოლიტიკაში“, რომელიც ასახავს რისკების მონიტორინგისა და შემცირების გეგმებს, როდესაც ჩვენ ვუახლოვდებით ე.წ. რეკურსიული თვითგანვითარების პროცესს“.
ალგორითმების უკონტროლო ევოლუციის რისკები
ტერმინი RSI, რომელიც ბოლო დრომდე ჰიპოთეტურად ითვლებოდა, ოფიციალურად დაემატა Anthropic-ის რისკ-ფაქტორების სიას. ანგარიშის თანახმად, ამჟამინდელი სიტუაცია შემდეგ ტექნოლოგიურ გამოწვევებს წარმოადგენს:
- ექსპერტებმა უკვე გამოიყენეს ხელოვნური ინტელექტი ახალი მოდელების შესამუშავებლად, თუმცა ამ მოდელებში ხარისხობრივი ნახტომები დროულად არ დაფიქსირებულა.
- დიდი ალბათობით, უახლოეს მომავალში პროგრესი ხელოვნურად დაჩქარდება თავად ალგორითმების მიერ.
- მოდელების შემუშავების ტემპმა შეიძლება გადააჭარბოს უსაფრთხოებისა და დაცვის სისტემების დანერგვის ტემპს.
სიტუაციის კონტროლის დაკარგვის შესაძლო სცენარის აღწერისას, კორპორაციის წარმომადგენლებმა განაცხადეს: „გარდა ამისა, ხელოვნური ინტელექტის სისტემების მზარდი გამოყენება ჩვენივე კვლევისა და განვითარების დასაჩქარებლად შეიძლება გამოიწვიოს ჩვენი მოდელების შესაძლებლობების უფრო სწრაფად განვითარება, ვიდრე ჩვენი შესაძლებლობები, შევიმუშაოთ, დავადასტუროთ და განვახორციელოთ შესაბამისი უსაფრთხოების, მიზნების შესაბამისობისა და უსაფრთხოების კონტროლის მექანიზმები. შედეგად, ჩვენ ადრე უგულებელვყოფდით და შესაძლოა მომავალში ვერ შევამჩნიოთ ჩვენი განვითარების ტემპის მნიშვნელოვანი აჩქარება მანამ, სანამ ეს უკვე არ მოხდება. მაგალითად, ჩვენი შიდა შეფასებები და პროგნოზები მომავალი მოდელებისთვის, ამჟამინდელი მოდელებისგან განსხვავებით, მიუთითებს, რომ შესაძლოა მალე მივაღწიოთ ჩვენს პასუხისმგებლიანი მასშტაბირების პოლიტიკაში განსაზღვრულ ზღვარს, როგორც „ხელოვნური ინტელექტით განპირობებული პროგრესის მნიშვნელოვანი აჩქარება“. ამჟამად, ჩვენი არცერთი მოდელი არ არის კლასიფიცირებული, როგორც ამ ზღვრის გადამკვეთი და ჩვენ ვაგრძელებთ შესაბამისი მონაცემების ანალიზს.“.
ამ საგანგაშო პროგნოზების მიუხედავად, კომპანიამ განაცხადა, რომ არ აპირებს ნეირონულ ქსელებს დაავალოს „მოწინავე მოდელების შემდგომი თაობების სრულად ავტონომიურად დიზაინისა და შექმნის ამოცანა ადამიანის მნიშვნელოვანი ზედამხედველობის ან გაგების გარეშე - მაშინაც კი, თუ და როდესაც ეს ტექნიკურად შესაძლებელი გახდება“. მიუხედავად იმისა, რომ S-1 ხშირად ინვესტორებისთვის მარკეტინგული დოკუმენტის ფუნქციას ასრულებს, Anthropic-ის ბოლო წლის განმავლობაში მიღწეული უზარმაზარი სამეცნიერო მიღწევები გვაიძულებს, ძალიან სერიოზულად მივუდგეთ ხელოვნური ინტელექტის თვითგანვითარების პერსპექტივას.
კომენტარის დამატება
კომენტარის დასატოვებლად გაიაროთ ავტორიზაცია.