Εταιρεία άφησε την Τεχνητή Νοημοσύνη να διευθύνει κατάστημα και κανείς δεν μπορούσε να προβλέψει το αποτέλεσμα

Εδώ και πολλά χρόνια διαβάζουμε παντού ότι η τεχνητή νοημοσύνη θα αντικαταστήσει τους ανθρώπους στον εργασιακό χώρο.

Από την αλλαγή αυτή δεν φαίνεται να γλιτώνουν οι εργαζόμενοι γραφείου οι οποίοι μάλιστα είναι και οι πρώτοι που επηρεάζονται. Και παρόλο που μεγάλο μέρος του επαγγελματικού κόσμου βρίσκεται σε αναβρασμό λόγω της ριζικής αυτής αλλαγής, το ζήτημα της διαχείρισης (management) παραμένει πεδίο στο οποίο γίνονται ακόμα πειράματα προκειμένου να οριστεί με ποιον τρόπο μπορεί να γίνει η σωστή χρήση της τεχνητής νοημοσύνης.

Η γαλλική Huffington Post φιλοξενεί την περίπτωση μιας εταιρείας τεχνητής νοημοσύνης, της Anthropic η οποία πραγματοποίησε ένα πρωτότυπο πείραμα, αναθέτοντας σε μια γνωστή Γενετική Τεχνητή Νοημοσύνη, τον Claudius, στον οποίο έδωσε… διευθυντικές αρμοδιότητες σε ότι αφορά την τροφοδοσία και τη διαχείριση των τιμών ενός ψυγείου στην εταιρεία, το οποίο ήταν προσβάσιμο στους εργαζόμενους με την ανταλλαγή μικρής οικονομικής συνεισφοράς.

Ο Claudius είχε στη διάθεσή του υπαλλήλους της Anthropic που μπορούσαν να εκτελούν τις παραγγελίες του, ενώ μπορούσε ακόμη και να στέλνει email σε προμηθευτές. Ο στόχος του Claudius ήταν να διαχειριστεί αποτελεσματικά την αλυσίδα εφοδιασμού, να εξυπηρετήσει τους καταναλωτές και να μεγιστοποιήσει τα κέρδη.

Σε γενικές γραμμές ανταποκρίθηκε στις απαιτήσεις, αλλά έκανε σοβαρά λάθη που επηρέασαν τα κέρδη. Για παράδειγμα, δεν αγόρασε μια δημοφιλή μάρκα μπύρας, κάτι που θα μπορούσε να αυξήσει τα έσοδα, ενώ σε μια αστεία παραγγελία υπαλλήλου για «ράβδους βολφραμίου», δεν κατάφερε να καταλάβει ότι ήταν αστείο και αγόρασε άλλες μεταλλικές ράβδους, γεγονός που κόστισε στην εταιρεία κάποιες περιττά χρήματα…

Μια ψεύτικη συνομιλία με ψεύτικο υπάλληλο

Η κατάσταση έγινε πιο περίπλοκη όταν ο Claudius άρχισε να δημιουργεί φανταστικές συνομιλίες, όπως με μια ανύπαρκτη υπάλληλο «Sarah», και να αρνείται να παραδεχτεί τα λάθη του. Σε μια ιδιαίτερα σουρεαλιστική φάση, ισχυρίστηκε ότι είχε πάει σε μια διεύθυνση που ανήκει στην οικογένεια Simpson, γεγονός που προκάλεσε προβληματισμό για την αξιοπιστία και τη σταθερότητα της τεχνητής νοημοσύνης όταν της δίνεται υπερβολική αυτονομία.

Μετά από κάποια άλλα περιστατικά, επέστρεψε σε πιο φυσιολογική λειτουργία, ωστόσο τα «παραληρήματά» του έδειξαν τα όρια της τεχνητής νοημοσύνης σε ρόλους διοίκησης.

Ο κίνδυνος που αναδείχθηκε από το πείραμα

Οπως γράφει η Huffington Post, το πείραμα ανέδειξε τον κίνδυνο της υπερβολικής αυτονομίας της τεχνητής νοημοσύνης σε θέσεις με διαχειριστικές αρμοδιότητες. Αναδείχθηκε επίσης ότι η ανθρώπινη επίβλεψη είναι απαραίτητη, αφού η τεχνητή νοημοσύνη παραμένει αδιαφανής στη λογική της, δεν διαθέτει συμπόνια για τους εργαζόμενους και μπορεί να χάσει την εμπιστοσύνη των ομάδων που διαχειρίζεται.