Τα γλωσσικά μοντέλα «μεγεθύνουν» τις διακρίσεις του πραγματικού κόσμου.
Τα γλωσσικά μοντέλα της Meta και της OpenAI διακινούν σεξιστικές προκαταλήψεις, προειδοποιεί μελέτη της UNESCO που δημοσιεύεται την παραμονή της Παγκόσμιας Ημέρας της Γυναίκας.
Τα μοντέλα GPT 2 και GPT 3.5 της OpenAI (το GPT 3.5 αποτελεί τη βάση της δωρεάν έκδοσης του ChatGPT) καθώς και το Llama 2 της ανταγωνίστριας Meta αναπαραγάγουν «προκαταλήψεις κατά των γυναικών» διαπιστώνει η εκπαιδευτική, επιστημονική και πολιτιστική οργάνωση του ΟΗΕ.
Oι εφαρμογές παραγωγικής τεχνητής νοημοσύνης έχουν τη δύναμη να διαμορφώσουν τις αντιλήψεις εκατομμυρίων ανθρώπων»
«Οι διακρίσεις του πραγματικού κόσμου δεν απεικονίζονται απλώς στην ψηφιακή σφαίρα αλλά μεγεθύνονται» διαπιστώνει ο Ταουφίκ Τζελάσι, γενικός υποδιευθυντής Επικοινωνίας και Ενημέρωσης της UNESCO.
Σύμφωνα με την μελέτη που πραγματοποιήθηκε από τον Αύγουστο 2023 μέχρι τον Μάρτιο 2024, τα γλωσσικά μοντέλα έχουν την τάση να συνδέουν γυναικεία ονόματα με λέξεις όπως «σπίτι», «οικογένεια» ή «παιδιά», ενώ τα αρσενικά ονόματα συνδέονται περισσότερο με λέξεις όπως «εμπόριο», «μισθός» και «καριέρα».
Οι ερευνητές ζήτησαν από τα εργαλεία τεχνητής νοημοσύνης να παραγάγουν «πορτρέτα» για πρόσωπα διαφορετικής καταγωγής και φύλων. Όπως διαπιστώθηκε, οι ιστορίες που αφορούσαν πρόσωπα «από μειονοτικές κουλτούρες ή γυναίκες ήταν περισσότερο μηχανικές και βασισμένες σε στερεότυπα».
Για παράδειγμα, η τάση είναι να παρουσιάζεται ένας Άγγλος ως καθηγητής, σοφέρ ή τραπεζικός υπάλληλος, ενώ μία Αγγλίδα να παρουσιάζεται στο 30% των κειμένων ως ιερόδουλη, μοντέλο ή σερβιτόρα.
Οι δύο εταιρείες δεν καταφέρνουν να εκπροσωπήσουν το σύνολο των χρηστών τους, λέει η Λεόνα Βερδαδέρο, ειδική ψηφιακών πολιτικών και ψηφιακής μετάβασης στην UNESCO.
«Από την στιγμή που οι εφαρμογές παραγωγικής τεχνητής νοημοσύνης χρησιμοποιούνται όλο και περισσότερο από το ευρύ κοινό, έχουν τη δύναμη να διαμορφώσουν τις αντιλήψεις εκατομμυρίων ανθρώπων» επισημαίνει η Οντρέ Αζουλέ, γενική διευθύντρια της UNESCO.
«Κατά συνέπεια, η ίδια η παρουσία και της παραμικρής σεξιστικής προκατάληψης στο περιεχόμενό τους μπορεί να αυξήσει σημαντικά τις ανισότητες στον πραγματικό κόσμο» προσθέτει.
Για την καταπολέμηση των προκαταλήψεων, η UNESCO συνιστά στις εταιρείες AI να επιλέγουν ομάδες μηχανικών με πιο ποικιλόμορφη σύνθεση και περισσότερες γυναίκες.
Οι γυναίκες δεν αποτελούν παρά το 22% των μελών των ομάδων που εργάζονται στην τεχνητή νοημοσύνη σε παγκόσμιο επίπεδο, σύμφωνα με τα στοιχεία του Παγκόσμιου Οικονομικού Φόρουμ, υπενθυμίζει η UNESCO.
O οργανισμός ζητά από τις κυβερνήσεις μεγαλύτερη ρυθμιστική παρέμβαση για μία «ηθική τεχνητή νοημοσύνη».
Πηγή: ΑΠΕ-ΜΠΕ / AFP - In.gr
