ნეირონული ქსელების კლოდის ოჯახის შემქმნელმა ამერიკულმა ტექნოლოგიურმა კომპანია Anthropic-მა ოფიციალური მოწოდებით მიმართა მსოფლიოს წამყვან ლაბორატორიებს, შეაჩერონ ან შეანელონ ხელოვნური ინტელექტის განვითარების ტემპი.
IT ინდუსტრიის ლიდერების ეს მოულოდნელი ინიციატივა გაავრცელა ინფორმაცია . კორპორაციის ხელმძღვანელობა აფრთხილებს, რომ ტექნოლოგიები სწრაფად უახლოვდება „რეკურსიული თვითგანვითარების“ ეტაპს - სისტემების განვითარების უნარს ადამიანის ჩარევის გარეშე. ექსპერტები აღნიშნავენ, რომ ხელოვნური ინტელექტი მალე შეძლებს საკუთარი თავის ახალი ვერსიების ავტონომიურად შექმნას, რაც საზოგადოებისთვის არაპროგნოზირებად რისკებს შექმნის.
გამოქვეყნებული ნაშრომის ავტორები მიუთითებენ გარდაუვალ გამოწვევებზე, რომელთა წინაშეც არსებული საჯარო დაწესებულებები უკონტროლო ტექნოლოგიური განვითარების შემთხვევაში აღმოჩნდებიან. ანგარიშში ხაზგასმულია: „თუ ეს პროცესი გაგრძელდება, მაშინ საკმარისი გამოთვლითი სიმძლავრის გათვალისწინებით, ამან შეიძლება გამოიწვიოს ხელოვნური ინტელექტის სისტემის გაჩენა, რომელსაც შეუძლია ავტონომიურად შექმნას და განავითაროს თავისი შემდეგი ვერსია. ამას რეკურსიული თვითგანვითარება ეწოდება. ჩვენ ჯერ არ მივსულვართ ამ ეტაპამდე და რეკურსიული თვითგანვითარება გარდაუვალი არ არის. თუმცა, ის შეიძლება გაცილებით ადრე დადგეს, ვიდრე საჯარო დაწესებულებების უმეტესობაა მზად“. ჟურნალისტებთან ინტერვიუში Anthropic-ის თანადამფუძნებელმა ჯეკ კლარკმა ინდუსტრიაში არსებული ამჟამინდელი მდგომარეობა სახიფათო მართვას შეადარა და განაცხადა: „ამჟამად, თითქოს ხელოვნური ინტელექტის ინდუსტრიას აქვს ამაჩქარებელი, მაგრამ არა სამუხრუჭე პედალი“. ის მტკიცედ თვლის, რომ „აუცილებელია შეძლოთ ფეხის ამაჩქარებლიდან აღება და მუხრუჭის დაჭერა“.
ავტორები აღიარებენ, რომ კვლევის მხოლოდ ერთი ორგანიზაციის მიერ შენელებას პრაქტიკული აზრი არ აქვს, რადგან კონკურენტები მაშინვე წინ წავლენ. ეფექტური პაუზის განსახორციელებლად, ანგარიშის ავტორები გვთავაზობენ მკაცრი, კოორდინირებული ზომების გატარებას:
- სხვადასხვა ქვეყნის — პირველ რიგში, აშშ-სა და ჩინეთის — წამყვანი ხელოვნური ინტელექტის დეველოპერების სინქრონული შეთანხმება მათი მოდელების შესაძლებლობების გაფართოების შეჩერების შესახებ;
- საიმედო საერთაშორისო კონტროლის სისტემის შექმნა, რომელიც მთლიანად აღმოფხვრის ახალი მოდელების ფარული სწავლის რისკს;
- შემოწმების ინსტრუმენტების შემუშავება, რომლებიც თითოეულ ორგანიზაციას საშუალებას მისცემს დარწმუნდეს, რომ სხვა მონაწილეები რეალურად იცავენ შეთანხმებებს.
სირთულე იმაში მდგომარეობს, რომ მსგავსი ვერიფიკაციის ინფრასტრუქტურის შექმნას (როგორიცაა საშუალო და საშუალო რადიუსის ბირთვული ძალების ხელშეკრულებით გათვალისწინებული ინფრასტრუქტურები) ადრე ათწლეულები დასჭირდა, რაც დღეს კაცობრიობას არ გააჩნია. მიუხედავად ამისა, კლარკი ამტკიცებს, რომ აუცილებელია დაუყოვნებლივი მარეგულირებელი ჩარევა და აღნიშნავს: „მსოფლიომ სერიოზულად უნდა დაფიქრდეს ამ საკითხზე. საბოლოო ჯამში, ჩვენ მოგვიწევს ახალი მარეგულირებელი წესების შემუშავება, რომლებიც უზრუნველყოფს ამ სისტემების უსაფრთხოებას და საიმედოობას“.
აღსანიშნავია, რომ ასეთი საშინელი გადაწყვეტილება მიიღო კომპანიამ, რომელიც თავად კომერციული წარმატების აბსოლუტურ პიკზეა. Anthropic-მა, რომელიც ხუთი წლის წინ დააარსა OpenAI-ის კურსდამთავრებულთა გუნდმა დარიო ამოდეის ხელმძღვანელობით, 2026 წელს მონუმენტური ბაზრის გარღვევა მოახდინა პროგრამირების ინსტრუმენტის, Claude Code-ის გამოშვებით. კომპანიის საბაზრო შეფასებამ გადააჭარბა მისი მთავარი კონკურენტისას და მიაღწია 965 მილიარდ დოლარს, ხოლო 1 ივნისს ბრენდმა გამოაცხადა მოახლოებული IPO. მიუხედავად იმისა, რომ თვითგანვითარებადი ხელოვნური ინტელექტი „შეუძლია უზარმაზარი სარგებელი მოუტანოს კაცობრიობას - მეცნიერებაში, ჯანდაცვასა და მრავალ სხვა სფეროში“, Claude-ის შემქმნელები მოითხოვენ, რომ ცივილიზაციის მომავალზე კონტროლის შესანარჩუნებლად მუხრუჭები დაწესდეს.