„უსარგებლო ხელოვნური ინტელექტი“: როგორ იცავენ დეველოპერები თავს ცრუ ცნობებისგან

„უსარგებლო ხელოვნური ინტელექტი“: როგორ იცავენ დეველოპერები თავს ცრუ ცნობებისგან

როგორც იუწყება , ღია კოდის პროგრამული უზრუნველყოფის შემქმნელებს პრობლემა შეექმნათ: ნეირონული ქსელები ქმნიან ცრუ შეცდომის ანგარიშებს, რომლებიც ერთი შეხედვით ლეგიტიმურია, მაგრამ გადამოწმებას დრო სჭირდება.

ექსპერტები აღნიშნავენ, რომ ეს ტენდენცია ქმნის „უსაფრთხოების შესახებ არასაკმარისი ანგარიშგების ახალ ერას“.

Python Software Foundation-ის ექსპერტმა სეთ ლარსონმა შეცდომების მაძიებლებს მოუწოდა, თავი აარიდონ ხელოვნური ინტელექტის გამოყენებას, რადგან ეს მხოლოდ დეველოპერებზე ტვირთს ზრდის. მსგავსი პრობლემა აღინიშნა Curl პროექტში, სადაც შემნახველები დროს ხარჯავენ ცრუ ინფორმაციის უარყოფაზე.

ღია კოდის მოხალისეები ხაზს უსვამენ ფუნდამენტური ცვლილებების საჭიროებას, მათ შორის დაფინანსების გაზრდას და უფრო სანდო კონტრიბუტორების ჩართვას. ამასობაში, დეველოპერები ითხოვენ, რომ ნეირონული ქსელები არ იქნას გამოყენებული მათი ანგარიშების ადამიანის მიერ განხილვის გარეშე.