Μελέτη του MIT: Οι εικόνες τεχνητής νοημοσύνης συχνά δεν μπορούν να συνδεθούν με τα δεδομένα εκπαίδευσης

Μια νέα μελέτη από το Εργαστήριο Επιστήμης Υπολογιστών και Τεχνητής Νοημοσύνης του MIT εντόπισε ένα φαινόμενο που οι ερευνητές ονομάζουν "απόσβεση απόδοσης" (attribution decay), διαπιστώνοντας ότι καθώς οι γεννήτριες εικόνων AI εκπαιδεύονται σε μεγαλύτερα σύνολα δεδομένων, η επιρροή οποιασδήποτε μεμονωμένης εικόνας εκπαίδευσης γίνεται όλο και πιο δύσκολο ή αδύνατο να ανιχνευθεί. Η εργασία, που δημοσιεύθηκε την Τρίτη στο Nature Communications, έχει επιπτώσεις για το συνεχιζόμενο κύμα δικαστικών αγωγών για πνευματικά δικαιώματα κατά εταιρειών AI.news.mit

Ο εξαφανιζόμενος σύνδεσμος

Οι ερευνητές Zheng Dai και David Gifford ανέπτυξαν μια αρχιτεκτονική που ονομάζεται "σύνολο διάχυσης" για να απαντήσουν σε ένα φαινομενικά απλό ερώτημα: τι θα παρήγαγε ένα μοντέλο αν δεν είχε δει ποτέ μια συγκεκριμένη εικόνα εκπαίδευσης; Αντί να επανεκπαιδεύουν μοντέλα από το μηδέν εκατομμύρια φορές, το σύστημά τους εκπαιδεύει πολλαπλά στοιχεία σε επικαλυπτόμενα τμήματα δεδομένων, επιτρέποντας την απενεργοποίηση συγκεκριμένων επιρροών χωρίς προσεγγίσεις.news.mit

Δοκιμάζοντας 24 σύνολα σε δεδομένα που κυμαίνονταν από 256 έως περισσότερες από 160.000 εικόνες, διαπίστωσαν ένα σταθερό μοτίβο: όσο μεγαλύτερο είναι το σύνολο εκπαίδευσης, τόσο λιγότερο μετράει οποιαδήποτε μεμονωμένη εικόνα. Σε ορισμένες περιπτώσεις, η αφαίρεση ολόκληρου του έργου ενός καλλιτέχνη ή κάθε φωτογραφίας ενός συγκεκριμένου προσώπου δεν παρήγαγε καμία μετρήσιμη αλλαγή στο παραγόμενο αποτέλεσμα.digitaltrends+1

"Αν αφαιρέσετε ένα κομμάτι δεδομένων και το αποτέλεσμα του μοντέλου δεν αλλάξει, τότε αυτό το κομμάτι δεδομένων δεν επηρέασε το αποτέλεσμα", δήλωσε ο Dai στην ανακοίνωση του MIT. "Επομένως, δεν έχει πολύ νόημα να αποδίδεται το αποτέλεσμα σε αυτό το κομμάτι δεδομένων".news.mit

Νομικές επιπτώσεις

Τα ευρήματα έρχονται καθώς οι εταιρείες AI αντιμετωπίζουν αυξανόμενες αξιώσεις για πνευματικά δικαιώματα. Η Disney The Walt Disney Company ↗ 0.43%, η NBCUniversal Comcast Corporation ↗ 1.63% και η DreamWorks κατέθεσαν πέρυσι αγωγή για πνευματική ιδιοκτησία κατά της γεννήτριας εικόνων AI Midjourney, ενώ οι New York Times ↗ 0.60% μήνυσαν την OpenAI και τη Microsoft ↗ 0.43% το 2023. Στην εν εξελίξει υπόθεση Andersen κατά Stability AI, οι ενάγοντες ζήτησαν πρόσβαση στα σύνολα δεδομένων εκπαίδευσης της Midjourney, ισχυριζόμενοι ότι η εταιρεία αντέγραψε εικόνες για να μιμηθεί τα στυλ συγκεκριμένων καλλιτεχνών.tech.yahoo+1

"Ίσως χρειαστεί να επανεξετάσουμε τι σημαίνει πνευματική ιδιοκτησία", δήλωσε ο Dai στο Semafor. "Δεν μπορείς απλώς να το υποθέτεις, και ο σύνδεσμος απόδοσης κάπως εξαφανίζεται".tech.yahoo

Όχι ελεύθερη διέλευση

Οι ερευνητές προειδοποιούν ότι τα ευρήματά τους δεν σημαίνουν ότι τα μοντέλα δεν αντιγράφουν ποτέ, καθώς η απομνημόνευση και η αναπαραγωγή συγκεκριμένων παραδειγμάτων εκπαίδευσης μπορεί ακόμα να συμβεί. Η μελέτη εξέτασε επίσης μόνο μοντέλα διάχυσης. Το αν η ίδια απόσβεση ισχύει για μεγάλα γλωσσικά μοντέλα παραμένει ένα ανοιχτό ερώτημα.news.mit

Ο James Grimmelmann, καθηγητής νομικής στη Νομική Σχολή του Cornell και στο Cornell Tech, δήλωσε ότι η εργασία "παρέχει λόγους να πιστεύουμε ότι η απόδοση θα αποτύχει για ενδιαφέροντα μοντέλα. Αντίθετα, οι τεχνολόγοι και τα δικαστήρια θα πρέπει να καταφύγουν σε άλλες μεθόδους για την αξιολόγηση της αντιγραφής".theregister+1