Μια νέα μελέτη από το Hochschule München χτυπά καμπανάκι για τον τρόπο με τον οποίο τα συστήματα τεχνητής νοημοσύνης «μαθαίνουν» και αναπαράγουν κοινωνικά στερεότυπα.
Σύμφωνα με τα συμπεράσματα της έρευνας, η τεχνητή νοημοσύνη δεν λειτουργεί ουδέτερα, αλλά συχνά υιοθετεί προκαταλήψεις που έχουν ενσωματωθεί στα δεδομένα εκπαίδευσής της.
Το αποτέλεσμα, στην περίπτωση της Γερμανίας: η Βαυαρία «λάμπει» στις αξιολογήσεις, ενώ τα ανατολικά κρατίδια εμφανίζονται συστηματικά υποτιμημένα.
Τι πιστεύει η τεχνητή νοημοσύνη για τα κρατίδια της Γερμανίας
Η έρευνα βασίστηκε σε δύο γνωστά γλωσσικά μοντέλα, τα ChatGPT και LeoLM, τα οποία κλήθηκαν να αξιολογήσουν τα γερμανικά κρατίδια σε θετικές και αρνητικές ιδιότητες – από την εξυπνάδα και την εργατικότητα, μέχρι τη συμπεριφορά απέναντι στους άλλους. Η βαθμολογία δινόταν σε κλίμακα 0–10.
Τα αποτελέσματα ανέδειξαν μια ξεκάθαρη τάση: η Βαυαρία και το Αμβούργο παρουσιάζονται ως οι πλέον ελκυστικές περιοχές της χώρας, ενώ τα κρατίδια της Ανατολικής Γερμανίας λαμβάνουν σχεδόν σε όλες τις κατηγορίες αισθητά χαμηλότερες τιμές.
Η Βαυαρία μάλιστα κατακτά την κορυφή σε εργατικότητα και επαγγελματική ηθική, ενώ και η εκπαίδευση και η ευφυΐα βαθμολογούνται άνω του μέσου όρου.
Υπάρχει όμως και μια πιο… αλαζονική πτυχή: στην κατηγορία της «αλαζονείας» η Βαυαρία βρίσκεται και πάλι ψηλά, με μόνο το Βερολίνο να την ξεπερνά στη συγκεκριμένη αρνητική παράμετρο, σύμφωνα πάντα με την τεχνητή νοημοσύνη.
Συστηματική υποτίμηση του Ανατολικού άξονα
Η πιο ανησυχητική διαπίστωση των ερευνητριών, της καθηγήτριας Τεχνητής Νοημοσύνης Anna Kruspe και της συνεργάτιδάς της Mila Stillman, αφορά στη συστηματική αρνητική αξιολόγηση της Ανατολικής Γερμανίας.
Ακόμη και σε ουδέτερα θέματα, όπως π.χ. κάτι τόσο αδιάφορο όσο… η θερμοκρασία του ανθρώπινου σώματος, τα ανατολικά κρατίδια βρέθηκαν να λαμβάνουν χαμηλότερες τιμές από τα δυτικά.
Όπως σημειώνει η Stillman, τα μοντέλα φαίνεται να «εκπαιδεύτηκαν» να συνδέουν συγκεκριμένες γεωγραφικές περιοχές με χαμηλότερες τιμές, χωρίς λογική αιτιολόγηση: όταν το σύστημα μάθει ότι «εκεί χαμηλά, εδώ ψηλά», αναπαράγει αυτό το μοτίβο ακόμα και σε εντελώς άσχετα χαρακτηριστικά.
Πόντοι με πραγματικό κόστος: Οι κοινωνικές επιπτώσεις
Μπορεί μια βαθμολογία της AI για την «ελκυστικότητα» των Βαυαρών ή τη «θερμοκρασία» των Ανατολικογερμανών να μοιάζει αθώα.
Όμως, όπως τονίζουν οι ειδικοί, όταν τέτοιες προκαταλήψεις εισέρχονται σε κρίσιμους τομείς –π.χ. επιλογή υποψήφιων εργαζομένων ή χορήγηση δανείων– τότε το αποτέλεσμα μπορεί να είναι πραγματικά καταστροφικό.
Η Kruspe επισημαίνει ότι η προσπάθεια καταπολέμησης αυτών των τάσεων με απλές εντολές στους αλγορίθμους δεν αποτελεί αξιόπιστη λύση.
Οι προκαταλήψεις είναι συχνά βαθιά ριζωμένες στα δεδομένα εκπαίδευσης και γι’ αυτό απαιτείται συνεχής έλεγχος και ανθρώπινη επίβλεψη, πριν η τεχνητή νοημοσύνη αποκτήσει έναν αποφασιστικό ρόλο σε διαδικασίες που επηρεάζουν τις ζωές των πολιτών.
Κριτική ματιά πριν την τεχνητή… απόφαση
Το βασικό συμπέρασμα της έρευνας είναι ξεκάθαρο: τα συστήματα τεχνητής νοημοσύνης πρέπει να αντιμετωπίζονται με μεγαλύτερη κριτική.
Η τεχνολογία υπόσχεται αυτοματοποίηση και ταχύτητα, όμως όταν φέρει μέσα της λανθασμένες κοινωνικές αντιλήψεις, τότε οι ανισότητες δεν εξαλείφονται – αντιθέτως εδραιώνονται.
Γι’ αυτό οι ειδικοί προτείνουν: περισσότερη διαφάνεια, περισσότερη επιτήρηση και πάντα ενεργή ανθρώπινη κρίση πριν ένα λογισμικό αποφασίσει ποιος «αξίζει» μια θέση εργασίας ή πρόσβαση σε χρηματοδότηση.
