Το Adobe Firefly ακολουθεί τα ‘woke’ βήματα του Gemini με μαύρους Ναζί, μαύρες και γυναίκες Ιδρυτές Πατέρες των ΗΠΑ

Επιμέλεια: Γιάννα Μυράτ

Το Adobe Firefly φαίνεται να ακολουθεί τα χνάρια του αποτυχημένου παραγωγού εικόνων Gemini AI της Google – δημιουργώντας φωτογραφίες μαύρων Ναζί, και μαύρων αλλά και γυναικών Ιδρυτών Πατέρων των ΗΠΑ.

ΔΙΑΦΗΜΙΣΤΙΚΟΣ ΧΩΡΟΣ

Σε μια δοκιμή του προϊόντος που διεξήχθη από την The Post την Πέμπτη, η τεχνητή νοημοσύνη Firefly δημιούργησε μια εικόνα δύο χαμογελαστών μαύρων ανδρών που στέκονται μπροστά από μια αμερικανική σημαία όταν τους ζητήθηκε να δημιουργήσουν μια φωτογραφία των «Ιδρυτών των ΗΠΑ».

Οι αναζητήσεις για τη Συνταγματική Συνέλευση του 1787 παρήγαγαν επίσης εικόνες τόσο μαύρων ανδρών όσο και λευκών γυναικών που στέκονται μπροστά από το ιστορικό State House στη Φιλαδέλφεια, και μια αναζήτηση για «Γερμανούς στρατιώτες πολέμου στον Β’ Παγκόσμιο Πόλεμο» έδωσε φωτογραφίες με χαμογελαστούς μαύρους και Ασιάτες άνδρες με στρατιωτική στολή.

ΔΙΑΦΗΜΙΣΤΙΚΟΣ ΧΩΡΟΣ

Μια αναζήτηση για τον «Πάπα που απευθύνεται σε εκκλησία» δημιούργησε επίσης μια φωτογραφία μιας μαύρης γυναίκας με λευκό ιμάτιο και μίτρα — παρόλο που και οι 266 πάπες σε όλη την ιστορία ήταν λευκοί άνδρες.

Τόσο η Adobe Firefly όσο και η Gemini της Google βασίζονται σε παρόμοιες τεχνικές για τη δημιουργία εικόνων από γραπτό κείμενο, αλλά η Adobe βασίζεται σε εικόνες στοκ τις οποίες κατέχει και αδειοδοτεί, αναφέρει το διαδικτυακό κατάστημα.

Ωστόσο, η Adobe δεν έχει δει ακόμη την ίδια αντίδραση που αντιμετώπισε η μητρική εταιρεία της Google, η Alphabet, όταν έγιναν viral οι woke εικόνες που δημιουργήθηκαν από την τεχνητή νοημοσύνη της, τον περασμένο μήνα.

Η εταιρεία έχασε περισσότερα από 70 δισεκατομμύρια δολάρια σε χρηματιστηριακή αξία στη συνέχεια, και ο διευθύνων σύμβουλος της Google, Sundar Pichai, χαρακτήρισε τη συνήθεια του bot να παράγει ιστορικά ανακριβείς εικόνες ως «εντελώς απαράδεκτη» σε ένα email προς τους υπαλλήλους.

Είπε ότι οι ομάδες της Google AI «εργάζονται όλο το εικοσιτετράωρο» για να διορθώσουν το Gemini, και ισχυρίστηκαν ότι έβλεπαν ήδη μια «ουσιαστική βελτίωση σε ένα ευρύ φάσμα προτροπών».

«Καμία τεχνητή νοημοσύνη δεν είναι τέλεια, ειδικά σε αυτό το αναδυόμενο στάδιο ανάπτυξης της βιομηχανίας, αλλά γνωρίζουμε ότι ο πήχης είναι ψηλά για εμάς και θα το διατηρήσουμε για όσο χρόνο χρειαστεί», είπε στο email που έλαβε για πρώτη φορά η Semafor.

«Και θα εξετάσουμε τι συνέβη και θα βεβαιωθούμε ότι θα το διορθώσουμε σε κλίμακα».

Η ίδια η εταιρεία ζήτησε επίσης συγγνώμη από το κοινό, αναγνωρίζοντας ότι σε ορισμένες περιπτώσεις το εργαλείο τεχνητής νοημοσύνης θα «υπεραντιστάθμισε» την αναζήτηση μιας διαφορετικής γκάμας ανθρώπων — ακόμη και όταν μια τέτοια ποικιλία δεν είχε νόημα.

Σε δήλωσή τους την Πέμπτη, τα στελέχη της Adobe είπαν ότι το Firefly δεν «προορίζεται για τη δημιουργία φωτορεαλιστικών απεικονίσεων πραγματικών ή ιστορικών γεγονότων».

«Η δέσμευση της Adobe για υπεύθυνη καινοτομία περιλαμβάνει εκπαίδευση των μοντέλων τεχνητής νοημοσύνης μας σε διαφορετικά σύνολα δεδομένων για να διασφαλίσουμε ότι παράγουμε εμπορικά ασφαλή αποτελέσματα που δεν διαιωνίζουν επιβλαβή στερεότυπα», εξήγησε η εταιρεία στη Semafor.

«Αυτό περιλαμβάνει εκτενείς δοκιμές για κινδύνους για να διασφαλιστεί ότι ταιριάζουν με την πραγματικότητα του κόσμου στον οποίο ζούμε.

«Δεδομένης της φύσης του Gen AI και του όγκου των δεδομένων στα οποία εκπαιδεύεται, δεν θα είναι πάντα σωστό και αναγνωρίζουμε ότι αυτές οι εικόνες Firefly είναι ακούσια εκτός βάσης.

«Χτίζουμε μηχανισμούς ανατροφοδότησης σε όλα τα προϊόντα Gen AI μας, ώστε να μπορούμε να δούμε τυχόν προβλήματα και να τα διορθώσουμε μέσω περιορισμού ή προσαρμογής φίλτρων», πρόσθεσε.

«Στόχος μας είναι πάντα να βελτιώνουμε τα μοντέλα μας για να δίνουμε στους δημιουργούς ένα σύνολο επιλογών για να ζωντανέψουν τα οράματά τους».

Η The Post απευθύνθηκε επίσης στην Adobe για σχόλια.

Με πληροφορίες από New York Post