Meta και Broadcom συνεργάζονται για την ανάπτυξη custom AI επεξεργαστών

Σύνοψη

• Η Meta ανακοίνωσε την επέκταση της στρατηγικής της συνεργασίας με την Broadcom έως το 2029 για τη συν-ανάπτυξη προσαρμοσμένων επεξεργαστών τεχνητής νοημοσύνης (MTIA) πολλαπλών γενεών.
• Το αρχικό πλάνο προβλέπει την εγκατάσταση υποδομών τεχνητής νοημοσύνης (clusters) συνολικής ισχύος 1 Gigawatt, σηματοδοτώντας μια τεράστια επένδυση σε data centers.
• Ο διευθύνων σύμβουλος της Broadcom, Hock Tan, αποχωρεί από το Διοικητικό Συμβούλιο της Meta για να αναλάβει ρόλο τεχνικού συμβούλου στη χαρτογράφηση του silicon roadmap.
• Η κίνηση αποτελεί σαφή στρατηγική απεξάρτησης από τις ακριβές λύσεις της NVIDIA, με στόχο την παροχή «προσωπικής υπερ-νοημοσύνης» δωρεάν στις πλατφόρμες του οικοσυστήματος (Facebook, Instagram, WhatsApp) σε παγκόσμιο επίπεδο.

Η Meta και η Broadcom προχώρησαν στην υπογραφή μιας πολυετούς συμφωνίας για την αποκλειστική ανάπτυξη προσαρμοσμένων επεξεργαστών τεχνητής νοημοσύνης (AI accelerators) και εξοπλισμού δικτύωσης, με ορίζοντα υλοποίησης το 2029. Απαντώντας στις ραγδαία αυξανόμενες απαιτήσεις των μεγάλων γλωσσικών μοντέλων (LLMs) και της παραγωγικής AI (GenAI), η Meta εγκαταλείπει τη λογική των έτοιμων λύσεων για να χτίσει τη δική της in-house αρχιτεκτονική σιλικόνης με την ονομασία MTIA (Meta Training and Inference Accelerator).

Ακριβώς στο πλαίσιο αυτής της συμφωνίας, η Meta δεσμεύεται να αναπτύξει υποδομές που θα ξεπερνούν το 1 Gigawatt υπολογιστικής ισχύος —μέγεθος που θεωρητικά επαρκεί για την ηλεκτροδότηση περίπου 750.000 κατοικιών. Η Broadcom θα παρέχει τόσο την τεχνογνωσία της στον σχεδιασμό των chips όσο και το κρίσιμο τεχνολογικό υπόβαθρο δικτύωσης Ethernet, το οποίο απαιτείται για τη διασύνδεση εκατοντάδων χιλιάδων επεξεργαστών στα AI clusters της Meta. Παράλληλα, ανακοινώθηκε η αποχώρηση του CEO της Broadcom, Hock Tan, από το Διοικητικό Συμβούλιο της Meta. Ο Tan, ο οποίος βρισκόταν στο Δ.Σ. από το 2024, μετακινείται σε ρόλο ειδικού συμβούλου για να αποφευχθούν συγκρούσεις συμφερόντων (conflict of interest) εξαιτίας του μεγέθους της νέας σύμβασης. Μαζί του αποχωρεί και η Tracy Travis (πρώην CFO της Estée Lauder).

Η έμφαση της Meta δίνεται στην ανάπτυξη των επόμενων γενεών επεξεργαστών MTIA, οι οποίοι αντικαθιστούν σταδιακά τις παραδοσιακές GPU στα data centers της εταιρείας για συγκεκριμένα workloads.

• MTIA 300 και MTIA 500: Το τρέχον οικοσύστημα βασίζεται σε XPU (επεξεργαστές με πολλαπλά IP blocks). Ο επεξεργαστής MTIA 300 διαθέτει χωρητικότητα μνήμης HBM 216 GB και αποδίδει 1.2 PFLOPs σε υπολογισμούς FP8/MX8, με εύρος ζώνης κλίμακας που αγγίζει το 1 TB/s.
• Επόμενες Γενιές: Το χρονοδιάγραμμα περιλαμβάνει τέσσερις νέες γενιές έως το 2027. Στόχος είναι η δημιουργία επεξεργαστών με χωρητικότητα HBM που θα κυμαίνεται μεταξύ 384-512 GB και απόδοση που θα φτάνει τα 10 PFLOPs (FP8/MX8).
• Τεχνολογία Δικτύωσης: Η ενσωμάτωση της τεχνολογίας δικτύωσης της Broadcom επιτρέπει εξωπραγματικές ταχύτητες διαμεταγωγής δεδομένων. Η ταχύτητα δικτύου κλίμακας-απόδοσης αναμένεται να αγγίξει τα 200 GB/s ανά κατεύθυνση, εξασφαλίζοντας μηδενικό bottleneck κατά την εκπαίδευση παραμέτρων πολλών τρισεκατομμυρίων.

Η διαφοροποίηση αυτών των προσαρμοσμένων λύσεων σε σχέση με τους επεξεργαστές γενικής χρήσης είναι ότι σχεδιάζονται αποκλειστικά για τους αλγόριθμους κατάταξης και συστάσεων του Facebook και του Instagram, καθώς και για την επιτάχυνση των μοντέλων Llama που τρέχουν στο Meta AI.