Aναφορές χρηστών για απαντήσεις με ανύπαρκτες λέξεις και φράσεις που δεν βγάζουν νόημα.
Κάτι δεν πήγαινε καλά με τις απαντήσεις που έδινε το ChatGPT σε αρκετούς χρήστες το βράδυ της Τετάρτης.
Η OpenAI, δημιουργός της δημοφιλούς μηχανής διαλόγου, χρειάστηκε να παρέμβει στο σύστημα έπειτα από αναφορές χρηστών για ασυνάρτητες απαντήσεις, φράσεις που επαναλαμβάνονταν σε λούπα και αιφνίδιες αλλαγές γλώσσας.
Όπως αναφέρει το The Verge, ένας αριθμός χρηστών στα social media ανάρτησε στιγμιότυπα από σουρεαλιστικούς διαλόγους με ανύπαρκτες λέξεις όπως «schwittendly».
Σε άλλες περιπτώσεις το ChatGPT επαναλάμβανε φράσεις όπως «Happy Listening!🎶» και «It is – and it is» πριν σταματήσει να αποκρίνεται.
Στις 02.40 ώρα Ελλάδας τα ξημερώματα της Πέμπτης, η OpenAI παραδέχτηκε στην αναφορά κατάστασης ότι ερευνούσε «αναφορές μη αναμενόμενων αποκρίσεων από το ChatGPT». Λίγα λεπτά αργότερα ανέφερε ότι είχε εντοπίσει την αιτία του προβλήματος και εργαζόταν για την αντιμετώπισή του.
Πολλές από τις ασυνάρτητες απαντήσεις, σχολίασε το The Verge, θυμίζουν ένα γνωστό meme στο οποίο ο χρήστης καλείται να γράψει μια λέξη στο κινητό και μετά να συνεχίζει να επιλέγει όποια λέξη του προτείνει η αυτόματη συμπλήρωση.
Μάλλον δεν προκαλεί έκπληξη, αφού αυτός είναι βασικά ο τρόπος λειτουργίας των μεγάλων γλωσσικών μοντέλων: έχουν εκπαιδευτεί με κείμενα από το Διαδίκτυο ώστε να υπολογίζουν ποια λέξη είναι στατιστικά πιθανότερο να εμφανίζεται έπειτα από μια άλλη.
Τα μοντέλα αυτά ουσιαστικά λειτουργούν ως «μαύρο κουτί», κάτι που σημαίνει πως ούτε οι δημιουργοί τους δεν γνωρίζουν πώς το σύστημα καταλήγει σε μια συγκεκριμένη απάντηση.
Μέχρι στιγμής η OpenAI δεν έχει απαντήσει σε αίτημα του The Verge για σχόλιο.
