OpenAI-ის უახლესი გამოსახულების მოდელი რეალისტური ყალბი დოკუმენტების წამებში შექმნის შესაძლებლობას იძლევა.
როგორც იტყობინება , მომხმარებელმა, რომელსაც მეტსახელად „სწრაფვის ღმერთი“ აქვს, ნათლად აჩვენა, თუ როგორ შეუძლია GPT-4o-ს გაუქმებული ფრენების, საბანკო გადარიცხვების, დიპლომებისა და სამედიცინო რეცეპტების ყალბი ფოტოების გენერირება. ახლა კი, გაყალბება ყველასთვის ხელმისაწვდომია!
ხელოვნური ინტელექტით გაყალბების ავტომატიზაცია არსებულ უსაფრთხოების სისტემებს საფრთხეს უქმნის. მიუხედავად იმისა, რომ ყალბი დოკუმენტების შექმნა ადრე საათობით შრომას და სპეციალიზებულ უნარებს მოითხოვდა, ახლა ნებისმიერს შეუძლია თითქმის მყისიერად შექმნას რეალისტური გამოსახულება. ეს სერიოზულ შეშფოთებას იწვევს ფართოდ გავრცელებული გაყალბების პოტენციალის შესახებ.
განსაკუთრებით საგანგაშოა ის ფაქტი, რომ ბევრი ორგანიზაცია ხშირად მხოლოდ ზედაპირულ შემოწმებებს ატარებს. ასეთ ვითარებაში, მცირე კომპენსაციის მოთხოვნები ან სამუშაოზე განაცხადები შეიძლება შეუმჩნეველი დარჩეს. არსებული კონტროლის მექანიზმები, მათ შორის კომპანიებსა და სამთავრობო უწყებებში არსებული, შეიძლება გადატვირთული იყოს ყალბი დოკუმენტების რაოდენობით.
OpenAI-მ, პოტენციური რისკების გათვალისწინებით, GPT-4o-ში უსაფრთხოების ფუნქციები ჩაამატა: თითოეული სურათი შეიცავს სპეციალურ C2PA მეტამონაცემებს, რომლებიც მის ხელოვნურ წარმოშობას მიუთითებს. თუმცა, ამ მეტამონაცემების დადასტურება მხოლოდ სპეციალური ხელსაწყოს გამოყენებით არის შესაძლებელი, რაც მნიშვნელოვნად ამცირებს დაცვის ეფექტურობას. გარდა ამისა, გამოცდილმა მომხმარებლებმა შეიძლება სცადონ ამ ციფრული ეტიკეტების წაშლა.
OpenAI-მ ასევე შეიმუშავა საკუთარი ინსტრუმენტი გენერირებული სურათების თვალყურის დევნებისთვის, თუმცა ჯერ კიდევ გაურკვეველია, თუ როგორ ან ვინ იყენებს მას. GPT-40 სისტემის რუკაზე კომპანია აცხადებს, რომ ის ცდილობს „მაქსიმალურად გაზარდოს სარგებლიანობა და შემოქმედებითი თავისუფლება ზიანის მინიმიზაციის პარალელურად“, აღიარებს რა უსაფრთხოების მექანიზმების უწყვეტი გაუმჯობესების აუცილებლობას.
