Το Gemini AI παρήγαγε….μαύρους στρατιώτες Ναζί και η Google απολογείται

Η Google ανέστειλε την ικανότητα του εργαλείου Gemini AI (πρώην Bard) να δημιουργεί εικόνες ανθρώπων. Η εταιρεία προχώρησε επίσης σε απολογία μετά τη διαπίστωση ότι το εργαλείο δημιουργούσε ιστορικά ανακριβείς απεικονίσεις, συμπεριλαμβανομένων απεικονίσεων στρατιωτών των Ναζί ως έγχρωμων ανθρώπων.

Όπως αναφέρει το The Verge, μια σειρά από διαφορετικές προτροπές οδήγησαν την AI να ανταποκριθεί με ιστορικές ανακρίβειες. Σύμφωνα με πληροφορίες, έγχρωμοι άνθρωποι εμφανίστηκαν σε απεικονίσεις που δόθηκαν για αιτήματα σχετικά με Γερμανούς στρατιώτες το 1943, καθώς και σε αιτήματα που έδειχναν Αμερικανούς γερουσιαστές το 1800.

“Εργαζόμαστε ήδη για την αντιμετώπιση των πρόσφατων προβλημάτων με τη λειτουργία δημιουργίας εικόνων του Gemini“, δήλωσε η Google στο X (πρώην Twitter). “Ενώ το κάνουμε αυτό, θα διακόψουμε τη διαδικασία παραγωγής εικόνων ανθρώπων και θα επανακυκλοφορήσουμε σύντομα μια βελτιωμένη έκδοση“.

Σε προηγούμενη δήλωσή της, η Google είχε επιβεβαιώσει ότι η Τεχνητή Νοημοσύνη του Gemini δημιουργεί ένα ευρύ φάσμα ανθρώπων. “Αυτό είναι γενικά καλό, επειδή το χρησιμοποιούν άνθρωποι σε όλο τον κόσμο”, δήλωσε η Google. “Αλλά εδώ υπάρχει εμφανής αστοχία“.

Έχει διαπιστωθεί ότι οι AI που παράγουν εικόνες διαιωνίζουν ρατσιστικά στερεότυπα, και μία από τις αρχές της Google για την δική της τεχνολογία είναι να “αποφεύγεται η δημιουργία ή η ενίσχυση αθέμιτων προκαταλήψεων“. Αλλά όπως επεσήμανε ο Jack Krawczyk, ο οποίος εργάζεται επάνω στο Gemini “τα ιστορικά συμφραζόμενα έχουν περισσότερες αποχρώσεις“.

“Στο πλαίσιο των αρχών μας για την Τεχνητή Νοημοσύνη, σχεδιάζουμε τις δυνατότητες παραγωγής εικόνων έτσι ώστε να αντικατοπτρίζουν την παγκόσμια βάση χρηστών μας και λαμβάνουμε σοβαρά υπόψη την εκπροσώπηση και την προκατάληψη“.

[via]