სიყვარულისთვის შექმნილი ჩატბოტები იწვევს დამოკიდებულებას, ამძაფრებს მარტოობას და ხშირად იწვევს ტოქსიკურ საუბრებს. თუმცა, ეს ყველაფერი მთავარ პრობლემასთან შედარებით უმნიშვნელოა.
Mozilla-ს ანალიტიკოსების გუნდმა შეისწავლა მსოფლიოში ყველაზე პოპულარული რომანტიკული ჩატბოტები. ისინი შექმნილი იყო მარტოსულ ადამიანებთან დასაკავშირებლად და, სავარაუდოდ, მომხმარებლების ფსიქიკური ჯანმრთელობისა და კეთილდღეობის გასაუმჯობესებლად. სინამდვილეში, აღმოჩნდა, რომ ისინი უფრო მეტ ზიანს აყენებენ, ვიდრე სიკეთეს.
როგორც Gizmodo , ნეიროგოგონები და ნეირობიჭები აგროვებენ უამრავ პირად ინფორმაციას მათი თანამოსაუბრეების შესახებ. ეს მონაცემები გაცილებით უფრო ინტიმურია, ვიდრე ის, რასაც მომხმარებლები ჩვეულებრივ სხვა აპლიკაციებსა და სერვისებში აზიარებენ. ის ეხება სექსუალურ პრეფერენციებს, მედიკამენტების გამოყენებას და პირად მოვლას. ყველა ეს ინფორმაცია შეიძლება გაზიარდეს მესამე მხარეებთან.
„აპლიკაციების 90%-მა შეიძლება გაყიდოს ან გააზიაროს მომხმარებლის მონაცემები მიზნობრივი რეკლამირებისა და სხვა მიზნებისთვის. ნახევარზე მეტი არ გაძლევთ მათ მიერ შეგროვებული მონაცემების წაშლის საშუალებას. უსაფრთხოებაც პრობლემას წარმოადგენდა. მხოლოდ ერთი აპლიკაცია, Genesia AI Friend & Partner, აკმაყოფილებდა Mozilla-ს მინიმალურ უსაფრთხოების სტანდარტებს“, - წერს წყარო.
სულ Mozilla-მ შეისწავლა ხელოვნური ინტელექტის 11 სხვადასხვა რომანტიკული ჩატბოტი, მათ შორის ისეთი პოპულარული აპლიკაციები, როგორიცაა Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate და CrushOn.AI.
„პირდაპირ რომ ვთქვათ, ხელოვნური ინტელექტის მიერ შექმნილი შეყვარებულები და შეყვარებულები თქვენი მეგობრები არ არიან“, - ამბობს Mozilla-ს მკვლევარი მიშა რიკოვი. „მიუხედავად იმისა, რომ ისინი რეკლამირდებიან, როგორც რაღაც, რაც თქვენს ფსიქიკურ ჯანმრთელობასა და კეთილდღეობას გააუმჯობესებს, ისინი სპეციალიზირებულნი არიან დამოკიდებულების, მარტოობისა და ტოქსიკურობის შექმნაზე, ამავდროულად კი თქვენგან რაც შეიძლება მეტი მონაცემის ამოღებაზე“.
ადრე, ChatGPT-მ ისწავლა მომხმარებლის ინდივიდუალური მახასიათებლების დამახსოვრება და მასთან საუბრები.
