Η αποκάλυψη έγινε το 2015 από την Amazon
Το 2015, όταν δεν μπορούσαμε ακόμη να διανοηθούμε τη δυνατότητα ύπαρξης του «ChatGPT», η τεχνητή νοημοσύνη είχε ήδη επηρεάσει σε μεγάλο βαθμό τα άτομα που αναζητούσαν εργασία.
Εκείνη τη χρονιά, η Amazon συνειδητοποίησε ότι οι αλγόριθμοι της μηχανικής μάθησης, που είχαν σκοπό να επιταχύνουν τη διαδικασία πρόσληψης, ήταν προκατειλημμένοι κατά των γυναικών.
Συγκεκριμένα, κατά λάθος διέγραψαν βιογραφικά που εμπεριείχαν τη λέξη «γυναικεία». Για παράδειγμα, εάν μια υποψήφια είχε συμμετάσχει σε «γυναικείο σκακιστικό κλαμπ», σύμφωνα με δημοσίευμα του Reuters.
Οι αλγόριθμοι εκπαιδεύτηκαν για να αναζητούν υποψηφίους με χαρακτηριστικά παρόμοια με αυτών που είχε προσλάβει προηγουμένως η Amazon, αναπαράγοντας προϋπάρχουσες ανισότητες μεταξύ των φύλων.
Αντίστοιχες περιπτώσεις διάκρισης αφθονούν με αποτέλεσμα η Επιτροπή Ίσων Ευκαιριών Απασχόλησης των ΗΠΑ να προσφέρει καθοδήγηση στους εργοδότες ώστε να διασφαλίσουν ότι η τεχνητή νοημοσύνη δεν θέτει σε κίνδυνο τις διαδικασίες πρόσληψης αναπαράγοντας στερεότυπα.
«Το μάθημα από το περιστατικό με την Amazon είναι ότι δεν μπορείς απλώς να αναθέτεις την πρόσληψη στην τεχνητή νοημοσύνη και να πιστεύεις ότι όλα είναι εντάξει», λέει στο CNBC η Ifeoma Ajunwa, καθηγήτρια νομικής στο Πανεπιστήμιο της Βόρειας Καρολίνας.
Ο ίδιος επισημαίνει πως το παραπάνω φαινόμενο δεν είναι πρωτοφανές. Ορισμένες ομάδες αγνοούνται αδικαιολόγητα εδώ και πολύ καιρό, αλλά η τεχνητή νοημοσύνη αναπαράγει αυτή τη διάκριση «σε κλίμακα».
Οι νομοθέτες σε ορισμένες περιοχές, όπως η πόλη της Νέας Υόρκης, δημιουργούν πολιτικές για να ρυθμίσουν τα «τυφλά σημεία» της τεχνολογίας. Αλλά «η τεχνολογία είναι πάντα πολύ πιο μπροστά από τους νομοθέτες», λέει η Lindsay Greene, δικηγόρος εργατικού δικαίου.
Ακολουθούν ορισμένα λάθη που μπορεί να κάνει η τεχνητή νοημοσύνη και τι μπορείτε να κάνετε για να τα αντιμετωπίσετε.
Γιατί η τεχνητή νοημοσύνη εντείνει τις διακρίσεις αναφορικά με τις προσλήψεις
Η τεχνητή νοημοσύνη είναι τόσο αμερόληπτη όσο οι άνθρωποι που την προγραμμάτισαν.
Υπάρχουν πολλά σημεία στη διαδικασία πρόσληψης όπου οι κωδικοποιημένες προκαταλήψεις στην τεχνητή νοημοσύνη θα μπορούσαν να επηρεάσουν τις πιθανότητες ενός υποψηφίου να εξασφαλίσει τη θέση εργασίας. Μερικά από αυτά είναι:
- Όταν η τεχνητή νοημοσύνη παρεξηγεί τα χρονικά κενά ενός βιογραφικού. Τα φίλτρα της μπορεί λανθασμένα να αποκλείουν υποψηφίους με κενά στα βιογραφικά τους, λέει η Ajunwa. Είναι λιγότερο πιθανό να αποκλείουν αυτόματα τα γεμάτα βιογραφικά, ακόμα κι αν αυτό σημαίνει ότι παρέχουν μια σύντομη εξήγηση για το διάστημα χωρίς εργασία.
- Όταν η τεχνητή νοημοσύνη δεν είναι προγραμματισμένη για όλα τα πρόσωπα. Η τεχνητή νοημοσύνη δεν είναι πάντα αρκετά έξυπνη για να καταλάβει κάθε πρόσωπο σε μία φωτογραφία. Για παράδειγμα, το πιο σκούρο δέρμα δεν ερμηνεύεται πάντα σωστά από αυτήν, λέει η Ajunwa.
- Κατά τη σάρωση των μέσων κοινωνικής δικτύωσης. Οι εργοδότες χρησιμοποιούν αυτοματοποιημένη τεχνολογία για να σαρώσουν το διαδίκτυο και να δουν τα social media ενός υποψηφίου, σημειώνει η Greene.
Υπάρχει μόνο μια ασφαλής δικλείδα ασφαλείας για να μην αντιμετωπίσετε επαγγελματικές συνέπειες για τη δραστηριότητά σας στα μέσα κοινωνικής δικτύωσης: Διατηρήστε ιδιωτικούς τους προσωπικούς σας λογαριασμούς και αφαιρέστε οποιοδήποτε περιεχόμενο που μπορεί να δώσει σε έναν υπεύθυνο προσλήψεων τη λανθασμένη εντύπωση.
Πώς να διορθώσετε τα λάθη της τεχνητής νοημοσύνης
Εάν υποψιάζεστε ότι η τεχνητή νοημοσύνη είχε κάποια σχέση με την απόρριψη βιογραφικού σας, επικοινωνήστε απευθείας με την εταιρεία, λένε οι ειδικοί.
Πολλές εταιρείες προμηθεύονται τα φίλτρα πρόσληψης από τρίτους και μπορεί να μην καταλαβαίνουν πάντα πώς ακριβώς λειτουργεί η τεχνολογία.
«Συχνά οι εργοδότες δεν γνωρίζουν καν τι κάνει το σύστημα AI» σημειώνει η Ajunwa.
Τα καλά νέα είναι πως εάν ο υπεύθυνος προσλήψεων δεν έχει επικοινωνήσει μαζί σας, δεν σημαίνει απαραίτητα πως το βιογραφικό σας έχει απορριφθεί. Στην περίπτωση που δεν έχετε λάβει απάντηση, η Ajunwa συμβουλεύει να στείλετε ένα νέο email με συνημμένο το βιογραφικό σας.
Όπως λέει η στρατηγική αυτή έχει αποδειχθεί πως βοηθά τον άλλον να πάρει τη δουλειά ακόμη και εάν το βιογραφικό του απορρίφθηκε.
Η Greene επίσης συμβουλεύει να στέλνουμε follow up email.
«Η διατήρηση αυτής της ανθρώπινης σύνδεσης, είτε πρόκειται για ένα τηλεφώνημα είτε για συνοδευτική επιστολή, είναι ένας τρόπος να ξεχωρίσεις τον εαυτό σου και να διακριθείς σε αυτή τη διαδικασία» προσθέτει η ίδια.
Εάν η απευθείας επαφή με έναν άνθρωπο δεν βοηθά, μπορεί να μην έχετε επιλογές προς το παρόν. Το νομικό σύστημα των ΗΠΑ εξακολουθεί να διερευνά τρόπους να αντιμετωπίσει το ζήτημα, λέει η Greene.
«Το μάθημα από το περιστατικό με την Amazon είναι ότι δεν μπορείς απλώς να αναθέτεις την πρόσληψη στην τεχνητή νοημοσύνη και να πιστεύεις ότι όλα είναι εντάξει», λέει στο CNBC η Ifeoma Ajunwa, καθηγήτρια νομικής στο Πανεπιστήμιο της Βόρειας Καρολίνας.
Ο ίδιος επισημαίνει πως το παραπάνω φαινόμενο δεν είναι πρωτοφανές. Ορισμένες ομάδες αγνοούνται αδικαιολόγητα εδώ και πολύ καιρό, αλλά η τεχνητή νοημοσύνη αναπαράγει αυτή τη διάκριση «σε κλίμακα».
Οι νομοθέτες σε ορισμένες περιοχές, όπως η πόλη της Νέας Υόρκης, δημιουργούν πολιτικές για να ρυθμίσουν τα «τυφλά σημεία» της τεχνολογίας. Αλλά «η τεχνολογία είναι πάντα πολύ πιο μπροστά από τους νομοθέτες», λέει η Lindsay Greene, δικηγόρος εργατικού δικαίου.
Ακολουθούν ορισμένα λάθη που μπορεί να κάνει η τεχνητή νοημοσύνη και τι μπορείτε να κάνετε για να τα αντιμετωπίσετε.
Γιατί η τεχνητή νοημοσύνη εντείνει τις διακρίσεις αναφορικά με τις προσλήψεις
Η τεχνητή νοημοσύνη είναι τόσο αμερόληπτη όσο οι άνθρωποι που την προγραμμάτισαν.
Υπάρχουν πολλά σημεία στη διαδικασία πρόσληψης όπου οι κωδικοποιημένες προκαταλήψεις στην τεχνητή νοημοσύνη θα μπορούσαν να επηρεάσουν τις πιθανότητες ενός υποψηφίου να εξασφαλίσει τη θέση εργασίας. Μερικά από αυτά είναι:
- Όταν η τεχνητή νοημοσύνη παρεξηγεί τα χρονικά κενά ενός βιογραφικού. Τα φίλτρα της μπορεί λανθασμένα να αποκλείουν υποψηφίους με κενά στα βιογραφικά τους, λέει η Ajunwa. Είναι λιγότερο πιθανό να αποκλείουν αυτόματα τα γεμάτα βιογραφικά, ακόμα κι αν αυτό σημαίνει ότι παρέχουν μια σύντομη εξήγηση για το διάστημα χωρίς εργασία.
- Όταν η τεχνητή νοημοσύνη δεν είναι προγραμματισμένη για όλα τα πρόσωπα. Η τεχνητή νοημοσύνη δεν είναι πάντα αρκετά έξυπνη για να καταλάβει κάθε πρόσωπο σε μία φωτογραφία. Για παράδειγμα, το πιο σκούρο δέρμα δεν ερμηνεύεται πάντα σωστά από αυτήν, λέει η Ajunwa.
- Κατά τη σάρωση των μέσων κοινωνικής δικτύωσης. Οι εργοδότες χρησιμοποιούν αυτοματοποιημένη τεχνολογία για να σαρώσουν το διαδίκτυο και να δουν τα social media ενός υποψηφίου, σημειώνει η Greene.
Υπάρχει μόνο μια ασφαλής δικλείδα ασφαλείας για να μην αντιμετωπίσετε επαγγελματικές συνέπειες για τη δραστηριότητά σας στα μέσα κοινωνικής δικτύωσης: Διατηρήστε ιδιωτικούς τους προσωπικούς σας λογαριασμούς και αφαιρέστε οποιοδήποτε περιεχόμενο που μπορεί να δώσει σε έναν υπεύθυνο προσλήψεων τη λανθασμένη εντύπωση.
Πώς να διορθώσετε τα λάθη της τεχνητής νοημοσύνης
Εάν υποψιάζεστε ότι η τεχνητή νοημοσύνη είχε κάποια σχέση με την απόρριψη βιογραφικού σας, επικοινωνήστε απευθείας με την εταιρεία, λένε οι ειδικοί.
Πολλές εταιρείες προμηθεύονται τα φίλτρα πρόσληψης από τρίτους και μπορεί να μην καταλαβαίνουν πάντα πώς ακριβώς λειτουργεί η τεχνολογία.
«Συχνά οι εργοδότες δεν γνωρίζουν καν τι κάνει το σύστημα AI» σημειώνει η Ajunwa.
Τα καλά νέα είναι πως εάν ο υπεύθυνος προσλήψεων δεν έχει επικοινωνήσει μαζί σας, δεν σημαίνει απαραίτητα πως το βιογραφικό σας έχει απορριφθεί. Στην περίπτωση που δεν έχετε λάβει απάντηση, η Ajunwa συμβουλεύει να στείλετε ένα νέο email με συνημμένο το βιογραφικό σας.
Όπως λέει η στρατηγική αυτή έχει αποδειχθεί πως βοηθά τον άλλον να πάρει τη δουλειά ακόμη και εάν το βιογραφικό του απορρίφθηκε.
Η Greene επίσης συμβουλεύει να στέλνουμε follow up email.
«Η διατήρηση αυτής της ανθρώπινης σύνδεσης, είτε πρόκειται για ένα τηλεφώνημα είτε για συνοδευτική επιστολή, είναι ένας τρόπος να ξεχωρίσεις τον εαυτό σου και να διακριθείς σε αυτή τη διαδικασία» προσθέτει η ίδια.
Εάν η απευθείας επαφή με έναν άνθρωπο δεν βοηθά, μπορεί να μην έχετε επιλογές προς το παρόν. Το νομικό σύστημα των ΗΠΑ εξακολουθεί να διερευνά τρόπους να αντιμετωπίσει το ζήτημα, λέει η Greene.
