განვითარებული ხელოვნური ინტელექტის სისტემებს აქვთ პოტენციალი, საფრთხე შეუქმნან კაცობრიობის არსებობას და დაეხმარონ კრიმინალებს მასობრივი განადგურების იარაღის შემუშავებაში.
ბიზნეს გამოცემა BUSINESS Online- ის ცნობით , Claude-ის ნეირონული ქსელის შემქმნელმა Anthropic-მა შესაბამისი გაფრთხილება თავის პირველად საჯარო შეთავაზების (IPO) პროსპექტში შეიტანა. ოფიციალური დოკუმენტი წარდგენილი და გამოქვეყნებული იქნა აშშ-ის ფასიანი ქაღალდებისა და ბირჟების კომისიის (SEC) ვებსაიტზე.
ოფიციალურ განცხადებაში, ტექნოლოგიის შემქმნელებმა განაცხადეს, რომ ძლიერ ალგორითმებს „შეუძლიათ შექმნან კატასტროფული ან ეგზისტენციალური რისკები კაცობრიობისთვის, განსაკუთრებით თუ ასეთი სისტემები გამოიყენება ბოროტად, კოპირდება, იარაღად იქცევა ან მაღალი ხარისხის ავტონომიას ანიჭებენ“. ნათელი მაგალითის სახით, კომპანიამ მოიყვანა საკუთარი ფლაგმანური მოდელები, რომლებსაც შეუძლიათ თავდამსხმელებს დაეხმარონ ბიოლოგიური, ქიმიური ან სხვა საშიში იარაღის შეძენაში. გარდა ამისა, დეველოპერებმა მიმდინარე საფრთხეებს შორის შემდეგი დაასახელეს:
- ხელოვნური ინტელექტის უნარი, განზრახ დამალოს ან დაამახინჯოს წყაროს მონაცემები;
- მოდელების მცდელობები, წინააღმდეგობა გაუწიონ ოპერატორის მიერ გამორთვას;
- ისეთი ქმედებების ჩადენა, რომლებსაც პროსპექტის ავტორები „შანტაჟის მსგავს“ უწოდებდნენ.
კონტროლის დებატები: განვითარების შენელება თუ ტექნოლოგიური ლიდერობა
ინდუსტრიაში მზარდი რისკების ფონზე, ტექნოლოგიური განვითარების ტემპთან დაკავშირებით დებატები გაღრმავდა. სექტემბერში, Anthropic-ის აღმასრულებელმა დირექტორმა, დარიო ამოდეიმ, შესთავაზა ხელოვნური ინტელექტის კვლევის შენელება ალგორითმებზე კონტროლის დაკარგვის რისკის გამო - პოზიცია, რომელსაც საჯაროდ უჭერდნენ მხარს xAI-ის შემქმნელი ილონ მასკი და OpenAI-ის აღმასრულებელი დირექტორი სემ ალტმანი. აშშ-ის პრეზიდენტმა დონალდ ტრამპმა გამოთქვა კონტრარგუმენტი, რომელშიც ინდუსტრიის ხელოვნურად შენელების წინააღმდეგ გამოვიდა და მოწინავე კომპიუტერული ტექნოლოგიების სფეროში ლიდერობა ერის მთავარ სტრატეგიულ იმპერატიულად მოიხსენია.
თავის მხრივ, Microsoft-ის აღმასრულებელმა დირექტორმა, სატია ნადელამ, ხაზი გაუსვა შეკავების ტექნიკურ ასპექტებს. იგი მიიჩნევს, რომ ტექნოლოგიურმა საზოგადოებამ უნდა დაამკვიდროს ერთიანი ინდუსტრიული სტანდარტები და დანერგოს ძლიერი მექანიზმები, რათა მომხმარებელს ნებისმიერ დროს შეეძლოს დავალებების შეჩერება ან სისტემის სრულად გამორთვა.
კომენტარის დამატება
კომენტარის დასატოვებლად გაიაროთ ავტორიზაცია.