Η Meta ετοιμάζει μέτρα προστασίας για το περιεχόμενο που δημιουργείται με AI

Η Meta θα αρχίσει να επισημαίνει τις φωτογραφίες που δημιουργούνται με Τεχνητή Νοημοσύνη και ανεβαίνουν στο Facebook, το Instagram και το Threads κατά τους επόμενους μήνες, καθώς η προεκλογική περίοδος κορυφώνεται σε όλο τον κόσμο. Η εταιρεία θα αρχίσει επίσης να τιμωρεί τους χρήστες που δεν αποκαλύπτουν αν ένα ρεαλιστικό βίντεο ή ένα κομμάτι ήχου δημιουργήθηκε με AI.

Ο Nick Clegg, πρόεδρος της Meta για τις διεθνείς υποθέσεις, δήλωσε σε συνέντευξή του ότι αυτά τα βήματα έχουν ως στόχο να “κινητοποιήσουν” τη βιομηχανία τεχνολογίας, καθώς τα μέσα ενημέρωσης που δημιουργούνται από την Τεχνητή Νοημοσύνη είναι όλο και πιο δύσκολο να διακριθούν από την πραγματικότητα. Ο Λευκός Οίκος έχει πιέσει έντονα τις εταιρείες να βάζουν υδατογραφήματα στο περιεχόμενο που παράγεται από την Τεχνητή Νοημοσύνη. Εν τω μεταξύ, η Meta αναπτύσσει εργαλεία για τον εντοπισμό συνθετικών μέσων, ακόμη και αν τα μεταδεδομένα τους έχουν τροποποιηθεί για να αποκρύψουν το ρόλο της Τεχνητής Νοημοσύνης στη δημιουργία τους, σύμφωνα με τον Clegg.

Η Meta εφαρμόζει ήδη ένα υδατογράφημα “Imagined with AI” σε εικόνες που δημιουργήθηκαν με το δικό της εργαλείο Imagine AI, και η εταιρεία θα αρχίσει να κάνει το ίδιο και σε φωτογραφίες που δημιουργήθηκαν με τεχνητή νοημοσύνη με εργαλεία των Google, OpenAI, Microsoft, Adobe, Midjourney και Shutterstock. Ο Clegg δήλωσε ότι ο κλάδος έχει μείνει πιο πίσω στη δημιουργία προτύπων για τον εντοπισμό βίντεο και ήχου που δημιουργούνται από Τεχνητή Νοημοσύνη και ότι, ενώ η Meta βρίσκεται σε εγρήγορση για το πώς μπορούν να χρησιμοποιηθούν αυτά τα μέσα για εξαπάτηση, η εταιρεία δεν πρόκειται να είναι σε θέση να πιάσει τα πάντα μόνη της.

Για όσους ανησυχούν για το αν το περιεχόμενο βίντεο ή ήχου έχει σχεδιαστεί για να παραπλανήσει ουσιαστικά το κοινό σε ένα θέμα πολιτικής σημασίας ενόψει των εκλογών, θα είμαστε αρκετά προσεκτικοί. Νομίζω ότι υπάρχει η πιθανότητα να συμβεί κάτι όπου, όσο γρήγορα και αν εντοπιστεί ή επισημανθεί γρήγορα, παρ’ όλα αυτά θα κατηγορηθούμε με κάποιο τρόπο ότι χάσαμε τη μπάλα; Ναι, νομίζω ότι αυτό είναι πιθανό, αν όχι πιθανό.

Η Meta συνεργάζεται με ομάδες όπως η Partnership on AI για την ανάπτυξη των υφιστάμενων πρωτοβουλιών για την αυθεντικότητα του περιεχομένου. Η Adobe κυκλοφόρησε πρόσφατα το σύστημα Content Credentials που τοποθετεί πληροφορίες προέλευσης περιεχομένου στα μεταδεδομένα των εικόνων. Η Google χρησιμοποιεί το υδατογράφημα SynthID και για τα αρχεία ήχου, αφότου το λάνσαρε σε beta έκδοση για τις εικόνες.

Ο Clegg δήλωσε ότι η Meta θα αρχίσει σύντομα να απαιτεί από τους χρήστες της να αποκαλύπτουν πότε οι ρεαλιστικές αναρτήσεις βίντεο ή ήχου γίνονται με Τεχνητή Νοημοσύνη. Εάν δεν το κάνουν, «το εύρος των κυρώσεων που θα εφαρμόζονται θα καλύπτει όλη την κλίμακα από προειδοποιήσεις μέχρι την αφαίρεση της παραβατικής ανάρτησης».

[via]