ჩატის ბოტი

დიდ ბრიტანეთში, პატარა ონლაინ მაღაზიის მფლობელმა განაცხადა, რომ მისი ხელოვნური ინტელექტის ჩატის ფუნქცია ექვს თვეზე მეტი ხნის განმავლობაში იდეალურად მუშაობდა. ასისტენტი უზრუნველყოფდა მომხმარებელთა მხარდაჭერას და ეხმარებოდა შეკვეთის განთავსებაში. თუმცა, ერთმა მომხმარებელმა მოახერხა სისტემის მოტყუება და 80%-იანი ფასდაკლების კუპონის მიღება.

როგორც მეწარმემ განმარტა, კლიენტმა თავდაპირველად ჩატბოტი დაარწმუნა 25%-იანი ფასდაკლების შეთავაზებაში. შემდეგ საუბარი პროცენტებსა და გამოთვლებზე გადავიდა. საბოლოოდ, ხელოვნური ინტელექტი „შთაბეჭდილების ქვეშ“ დარჩა და ფასდაკლება 80%-მდე გაზარდა. შემდეგ მომხმარებელმა თითქმის 8000 ფუნტის ღირებულების შეკვეთა განათავსა.

როგორ „გამოიგონა“ ხელოვნურმა ინტელექტმა კუპონი

მფლობელის თქმით, ბოტმა შექმნა კოდი, რომელიც სისტემაში არ არსებობდა. ეს იყო სიმბოლოების შემთხვევითი სტრიქონი. ის განკუთვნილი იყო მხოლოდ დემონსტრაციისთვის და არა რეალური ტრანზაქციისთვის. თუმცა, მომხმარებელმა გამოიყენა კოდი და დაასრულა შესყიდვა.

„მცირე ბიზნესი ინგლისში. ვებსაიტს აქვს ხელოვნური ინტელექტის ჩატი... მომხმარებელმა ხელოვნურ ინტელექტთან ისაუბრა და მოახერხა მისი დარწმუნება, რომ მისთვის 25%-იანი ფასდაკლება მიეცა, შემდეგ კი ხელოვნურ ინტელექტთან 80%-იან ფასდაკლებაზე მოლაპარაკება მოახდინა“, - განმარტა მაღაზიის მფლობელმა. მან აღნიშნა, რომ მხოლოდ შეკვეთის შესრულება მას ათასობით ფუნტი დაუჯდებოდა.

სასამართლო დავის და გარიგების გაუქმების საფრთხე

როდესაც გამყიდველმა შეკვეთის გაუქმება მოითხოვა, მომხმარებელმა სასამართლოში საჩივრით დაემუქრა. „პასუხისთვის სამი დღე მომცეს“, - განაცხადა მეწარმემ. თანხა დამიბრუნეს და შეკვეთა მფლობელმა გააუქმა. „ფული უკვე დააბრუნეს. ვარაუდობენ, რომ ჩატბოტი ფინანსურ გადაწყვეტილებებს არ იღებს“, - დასძინა მან. მისი თქმით, მომხმარებელმა დაახლოებით ერთი საათი დახარჯა სისტემის დარწმუნებასა და მის „მათემატიკაზე“ ტესტირებაში. შედეგად, მომხმარებელზე შთაბეჭდილების მოხდენის მიზნით შექმნილი ყალბი ფასდაკლება მიიღეს.

სიყვარულისთვის შექმნილი ჩატბოტები იწვევს დამოკიდებულებას, ამძაფრებს მარტოობას და ხშირად იწვევს ტოქსიკურ საუბრებს. თუმცა, ეს ყველაფერი მთავარ პრობლემასთან შედარებით უმნიშვნელოა.

Mozilla-ს ანალიტიკოსების გუნდმა შეისწავლა მსოფლიოში ყველაზე პოპულარული რომანტიკული ჩატბოტები. ისინი შექმნილი იყო მარტოსულ ადამიანებთან დასაკავშირებლად და, სავარაუდოდ, მომხმარებლების ფსიქიკური ჯანმრთელობისა და კეთილდღეობის გასაუმჯობესებლად. სინამდვილეში, აღმოჩნდა, რომ ისინი უფრო მეტ ზიანს აყენებენ, ვიდრე სიკეთეს.

როგორც Gizmodo, ნეიროგოგონები და ნეირობიჭები აგროვებენ უამრავ პირად ინფორმაციას მათი თანამოსაუბრეების შესახებ. ეს მონაცემები გაცილებით უფრო ინტიმურია, ვიდრე ის, რასაც მომხმარებლები ჩვეულებრივ სხვა აპლიკაციებსა და სერვისებში აზიარებენ. ის ეხება სექსუალურ პრეფერენციებს, მედიკამენტების გამოყენებას და პირად მოვლას. ყველა ეს ინფორმაცია შეიძლება გაზიარდეს მესამე მხარეებთან.

„აპლიკაციების 90%-მა შეიძლება გაყიდოს ან გააზიაროს მომხმარებლის მონაცემები მიზნობრივი რეკლამირებისა და სხვა მიზნებისთვის. ნახევარზე მეტი არ გაძლევთ მათ მიერ შეგროვებული მონაცემების წაშლის საშუალებას. უსაფრთხოებაც პრობლემას წარმოადგენდა. მხოლოდ ერთი აპლიკაცია, Genesia AI Friend & Partner, აკმაყოფილებდა Mozilla-ს მინიმალურ უსაფრთხოების სტანდარტებს“, - წერს წყარო.

სულ Mozilla-მ შეისწავლა ხელოვნური ინტელექტის 11 სხვადასხვა რომანტიკული ჩატბოტი, მათ შორის ისეთი პოპულარული აპლიკაციები, როგორიცაა Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate და CrushOn.AI.

„პირდაპირ რომ ვთქვათ, ხელოვნური ინტელექტის მიერ შექმნილი შეყვარებულები და შეყვარებულები თქვენი მეგობრები არ არიან“, - ამბობს Mozilla-ს მკვლევარი მიშა რიკოვი. „მიუხედავად იმისა, რომ ისინი რეკლამირდებიან, როგორც რაღაც, რაც თქვენს ფსიქიკურ ჯანმრთელობასა და კეთილდღეობას გააუმჯობესებს, ისინი სპეციალიზირებულნი არიან დამოკიდებულების, მარტოობისა და ტოქსიკურობის შექმნაზე, ამავდროულად კი თქვენგან რაც შეიძლება მეტი მონაცემის ამოღებაზე“.

ადრე, ChatGPT-მ ისწავლა მომხმარებლის ინდივიდუალური მახასიათებლების დამახსოვრება და მასთან საუბრები.

წაიკითხეთ წყარო

ზრდასრულთა ფილმების ვარსკვლავმა რაილი რიდმა გამოაცხადა Clona.AI-ის გაშვების შესახებ, პლატფორმისა, სადაც შეგიძლიათ ჩატბოტებთან ჩატი ყველაზე ექსპლიციტურ თემებზე თვეში 30 დოლარად. საიტის მთავარი ღირსება ის არის, რომ ხელოვნური ინტელექტის ავატარებს თავად პორნოვარსკვლავები გაწვრთნიან.

რეალობა ისაა, რომ ხელოვნური ინტელექტი ვითარდება და თუ Clona მსგავს საიტს არ შექმნის, სხვა შექმნის. სხვები იყენებენ ღრმა ფეიკებს და მსგავს ხერხებს. თუ ამას არ გავაკეთებ, სხვა მომპარავს ჩემს იდენტობას და ამას ჩემს გარეშე გააკეთებს. ასე რომ, როდესაც ეს შესაძლებლობა გამოჩნდა, აღფრთოვანებული ვიყავი, რადგან ვიგრძენი, რომ მქონდა შანსი, ტექნოლოგიური პროგრესის ნაწილი ვყოფილიყავი.

კლონა Llama 2-ის ენობრივ მოდელს საფუძვლად იყენებს, შემდეგ კი მნიშვნელოვნად ახვეწს და გადაამზადებს მას, რათა ასახოს იმ ადამიანის პიროვნება, რომელზეც ის დაფუძნებულია. რიდის თქმით, მისი მოდელი თავდაპირველად სხვადასხვა ინტერვიუებში, პოდკასტებსა და ვიდეოებში გამოჩენებში იყო გაწვრთნილი, შემდეგ კი თავად რაილისთან ურთიერთქმედებისას.

შევძლებ ვნახო, როგორ რეაგირებს ბოტი მომხმარებლებზე და, საჭიროების შემთხვევაში, შევცვალო ის, რათა თავიდან ავიცილო სიტუაცია, როდესაც ის იტყვის „არა, ამას არასდროს ვიტყოდი“. თუმცა, პირველ რიგში, ყურადღება გავამახვილე იმ ინფორმაციის სიზუსტის გადამოწმებაზე, რომელიც ბოტმა ჩემ შესახებ შენახული ჰქონდა.

ჩატბოტთან საუბრებში „უხამსობის“ დონეს თავად მოდელი დაარეგულირებს. მაგალითად, რაილიმ განაცხადა, რომ მისი ბოტი „მომხმარებლებთან ფიზიკურად სახიფათო სექსუალურ ურთიერთობებს არ განიხილავს“.

ამჟამად საიტზე მხოლოდ ორი მოდელია ხელმისაწვდომი: თავად რაილი და ლენა „პლეგი“.

წაიკითხეთ წყარო