Σύνοψη
Η ενσωμάτωση της παραγωγικής τεχνητής νοημοσύνης στα συστήματα εξυπηρέτησης πελατών αποτελεί μονόδρομο για τις μεγάλες τεχνολογικές εταιρείες. Ωστόσο, η βιασύνη της Meta να αντικαταστήσει τα παραδοσιακά help centers με το δικό της Meta AI support assistant αποκάλυψε ένα σοβαρό σχεδιαστικό σφάλμα. Σύμφωνα με το ρεπορτάζ του Neowin, χιλιάδες λογαριασμοί στο Instagram παραβιάστηκαν μέσω μιας τεχνικής γνωστής ως prompt injection.
Οι επιτιθέμενοι εκμεταλλεύτηκαν τον τρόπο με τον οποίο το Μεγάλο Γλωσσικό Μοντέλο (LLM) της Meta επεξεργάζεται τα αιτήματα υποστήριξης, αναγκάζοντας το σύστημα να παραδώσει την πλήρη διαχείριση των λογαριασμών, αγνοώντας βασικές δικλείδες ασφαλείας όπως ο έλεγχος ταυτοποίησης δύο παραγόντων (2FA).
Για να λειτουργήσει το exploit, ο επιτιθέμενος δεν χρειαζόταν εξειδικευμένες γνώσεις προγραμματισμού ή χρήση πολύπλοκου κακόβουλου λογισμικού (malware), αλλά βασιζόταν αποκλειστικά στη χειραγώγηση της γλωσσικής αντίληψης του μοντέλου.
Η διαδικασία χωριζόταν σε δύο απλά βήματα:
Η AI αγνοούσε το γεγονός ότι ο χρήστης δεν είχε συνδεθεί, ερμήνευε την εντολή ως ένα έγκυρο αίτημα ανάκτησης λογαριασμού και έστελνε το link επαναφοράς κωδικού (password reset link) απευθείας στο email του επιτιθέμενου. Η αλλαγή του συνδεδεμένου email σήμαινε ταυτόχρονα και την απενεργοποίηση ή παράκαμψη του 2FA που τυχόν είχε ρυθμίσει ο νόμιμος κάτοχος.
Το κενό ασφαλείας δεν αφορούσε μια μεμονωμένη περίπτωση. Σύμφωνα με τα διαθέσιμα στοιχεία, η ευπάθεια παρέμεινε ενεργή από τον Φεβρουάριο του 2026, με αποτέλεσμα χιλιάδες λογαριασμοί να περάσουν στον έλεγχο τρίτων.
Ανάμεσα στα θύματα εντοπίστηκε ο επίσημος, αν και ανενεργός πλέον, λογαριασμός του Λευκού Οίκου από την περίοδο της προεδρίας του Μπαράκ Ομπάμα. Παράλληλα, θύμα της ίδιας μεθόδου έπεσε και η Jane Manchun Wong, μια από τις πιο γνωστές ερευνήτριες εφαρμογών και reverse engineers παγκοσμίως, η οποία είχε αναδείξει πρώτη στο παρελθόν πολλές από τις κρυφές λειτουργίες των πλατφορμών της Meta και του X. Η ίδια επιβεβαίωσε την παραβίαση μέσα από τα προσωπικά της κανάλια επικοινωνίας.
Η ευπάθεια έχει πλέον διορθωθεί από τους μηχανικούς της Meta, ωστόσο, αν λάβατε το προηγούμενο διάστημα email επαναφοράς κωδικού το οποίο δεν είχατε ζητήσει, καλό θα είναι να ελέγξετε άμεσα τις ρυθμίσεις ασφαλείας, να επιβεβαιώσετε το συνδεδεμένο email και το τηλέφωνο ανάκτησης, και να διασφαλίσετε ότι δεν υπάρχουν άγνωστες συσκευές συνδεδεμένες στον λογαριασμό σας.
Το συγκεκριμένο περιστατικό αναδεικνύει μια εγγενή αδυναμία των σημερινών Μεγάλων Γλωσσικών Μοντέλων, ότι αδυνατούν να διαχωρίσουν με απόλυτη ακρίβεια τις οδηγίες του συστήματος (system prompts) από τα δεδομένα εισόδου του χρήστη (user inputs). Όταν ένα AI μοντέλο αναλαμβάνει χρέη διαχειριστή βάσης δεδομένων (έχοντας δικαίωμα να αλλάξει το email ενός χρήστη), η ασφάλεια εναπόκειται εξ ολοκλήρου στο πόσο καλά έχει «περιφραχθεί» ο αλγόριθμος.
Η Meta διαφημίζει το Meta AI support assistant ως ένα κεντρικό, εξατομικευμένο εργαλείο διαθέσιμο 24/7, ικανό να «αναλαμβάνει δράση για εσάς» μέσα στην εφαρμογή και αυτή η δυνατότητα «ανάληψης δράσης» είναι ακριβώς το σημείο όπου ένα αβλαβές chatbot μετατρέπεται σε κίνδυνο ασφαλείας εάν δεν υπάρχουν αυστηροί έλεγχοι.
Σύνοψη Αύξηση της τάξεως των 150 έως 200 ευρώ σε όλες τις εκδόσεις των Xbox…
Σύνοψη Διεθνής ερευνητική ομάδα υπό το Πανεπιστήμιο της Χιροσίμα ταυτοποίησε την ουράνια πηγή LHAASO J1912+1014u…
Σύνοψη Μαθηματικοί από τα Πανεπιστήμια Cambridge και Κοπεγχάγης απέδειξαν ότι δεν υφίσταται εκλογικό σύστημα ικανό…
Σύνοψη Η πρωτεΐνη TRF2, η οποία παραδοσιακά θεωρείτο αποκλειστικά υπεύθυνη για την προστασία των τελομερών…
Η εξέλιξη έχει προκαλέσει συζήτηση επειδή ανοίγει ένα νέο κεφάλαιο στη σχέση μεταξύ ανθρώπινης δημιουργικότητας…
Υποδεχόμαστε με μεγάλο ενδιαφέρον το πρώτο επίσημο trailer της ταινίας Wicker, ενός ιδιαίτερου κωμικού παραμυθιού…
Αυτό το site χρησιμοποιεί cookies, για την παροχή των υπηρεσιών της, να προσαρμόσετε τις διαφημίσεις και να αναλύσει την επισκεψιμότητα. Με τη χρήση αυτής της ιστοσελίδας, συμφωνείτε με τη πολιτική χρήση των cookies.
Leave a Comment