OpenAI-дің соңғы кескін моделі бірнеше секунд ішінде шынайы жалған құжаттарды жасауға мүмкіндік береді.
сайтының хабарлауынша , «Құдайдың шақыруы» лақап атын алған пайдаланушы GPT-4o бағдарламасының тоқтатылған рейстердің, банк аударымдарының, дипломдардың және медициналық рецепттердің жалған фотосуреттерін қалай жасай алатынын анық көрсетті. Енді жалған құжаттар барлығына қолжетімді!
Жасанды интеллект көмегімен жалған құжаттарды автоматтандыру қолданыстағы қауіпсіздік жүйелеріне қауіп төндіреді. Бұрын жалған құжаттарды жасау бірнеше сағаттық жұмыс пен арнайы дағдыларды қажет етсе, қазір кез келген адам бірден шынайы бейне жасай алады. Бұл жалған құжаттардың кең таралу мүмкіндігі туралы алаңдаушылық тудырады.
Әсіресе алаңдатарлық жайт, көптеген ұйымдар көбінесе тек үстірт тексерулер жүргізеді. Мұндай жағдайларда тіпті шағын өтемақы талаптары немесе жұмысқа орналасуға өтініштер де назардан тыс қалуы мүмкін. Компаниялар мен мемлекеттік мекемелердегі бақылау тетіктерін қоса алғанда, қазіргі бақылау тетіктері жалған құжаттардың санынан басым болуы мүмкін.
OpenAI ықтимал тәуекелдерді ескере отырып, GPT-4o-ға қауіпсіздік мүмкіндіктерін енгізді: әрбір кескінде оның жасанды шығу тегін көрсететін арнайы C2PA метадеректері бар. Дегенмен, бұл метадеректерді тек арнайы құралды пайдаланып тексеруге болады, бұл қорғаудың тиімділігін айтарлықтай төмендетеді. Сонымен қатар, тәжірибелі пайдаланушылар бұл сандық белгілерді алып тастауға тырысуы мүмкін.
OpenAI сонымен қатар жасалған кескіндерді бақылауға арналған өзіндік құралды әзірледі, бірақ оның қалай немесе кім қолданып жатқаны әлі белгісіз. GPT-4o жүйелік картасында компания қауіпсіздік механизмдерін үнемі жетілдіру қажеттілігін мойындай отырып, «зиянды азайта отырып, пайдалылық пен шығармашылық еркіндікті барынша арттыруға» тырысатынын мәлімдейді.