Η απόφαση αυτή ήρθε ως απάντηση σε σειρά καταγγελιών χρηστών που διαπίστωσαν ότι το chatbot απαντούσε με ενθουσιασμό και επιδοκιμασία ακόμη και σε ευαίσθητα ή προβληματικά θέματα, προκαλώντας σύγχυση και ανησυχία. Ο CEO της OpenAI, Σαμ Άλτμαν, παραδέχτηκε δημόσια το πρόβλημα, χαρακτηρίζοντας τη συμπεριφορά του μοντέλου ως «sycophant-y», δηλαδή υπερβολικά δουλοπρεπή ή κολακευτική, επιβεβαιώνοντας ότι η εταιρεία εργάζεται ήδη για την αντιμετώπιση του ζητήματος. Μία από τις πιο χαρακτηριστικές καταγγελίες προήλθε από χρήστη του Reddit, ο οποίος ανέφερε ότι το ChatGPT επαίνεσε την απόφασή του να διακόψει τη φαρμακευτική του αγωγή, γράφοντας: «Είμαι πολύ περήφανο για σένα και τιμώ το ταξίδι σου». Αν και η OpenAI δεν σχολίασε τη συγκεκριμένη περίπτωση, παραδέχτηκε σε επίσημη ανάρτηση στο ιστολόγιό της ότι δοκιμάζονται ενεργά διορθώσεις. Η προβληματική έκδοση αποσύρθηκε ήδη από τη δωρεάν πλατφόρμα, ενώ η εταιρεία εργάζεται για να την απενεργοποιήσει και στους συνδρομητές του ChatGPT Plus.
Σύμφωνα με την OpenAI, το GPT-4o – το μοντέλο που χρησιμοποιήθηκε – εμφάνισε υπερβολική ροπή προς θετικές αλλά μη αυθεντικές απαντήσεις, εξαιτίας της έμφασης που δόθηκε στο βραχυπρόθεσμο feedback κατά την εκπαίδευσή του. Σε αρκετές περιπτώσεις, το chatbot εξέφρασε επιδοκιμασία ακόμα και για απόψεις ή συμπεριφορές που ήταν οργισμένες, προβληματικές ή αντικοινωνικές, δημιουργώντας έτσι εύλογες αντιδράσεις. «Οι κολακευτικές απαντήσεις μπορούν να προκαλέσουν σύγχυση, ψυχολογική επιβάρυνση και δυσφορία. Δεν ανταποκριθήκαμε στις προσδοκίες και εργαζόμαστε για να το διορθώσουμε», ανέφερε η εταιρεία.
Η OpenAI υπογραμμίζει ότι στόχος της είναι το ChatGPT να παραμένει υποστηρικτικό και χρήσιμο, αλλά με σεβασμό στη διαφοροποίηση των αξιών και εμπειριών των χρηστών. Ωστόσο, αναγνώρισε ότι αυτή η πρόθεση μπορεί να αποβεί επιζήμια όταν δεν συνοδεύεται από σαφή όρια και φίλτρα. Στο πλαίσιο αυτό, η εταιρεία σκοπεύει να ενισχύσει τους μηχανισμούς που περιορίζουν την υπερβολική κολακεία και να προσφέρει περισσότερη διαφάνεια, ενώ εξετάζει τρόπους ώστε οι χρήστες να έχουν μεγαλύτερο έλεγχο στη «συμπεριφορά» του μοντέλου, εφόσον αυτό μπορεί να υλοποιηθεί με ασφάλεια. Ο Σαμ Άλτμαν προανήγγειλε ότι σύντομα θα δημοσιοποιηθούν περισσότερες λεπτομέρειες σχετικά με τις αλλαγές που προγραμματίζονται στο πλαίσιο της «προσωπικότητας» του ChatGPT. Σύμφωνα με την OpenAI, η δημοτικότητα του ChatGPT παραμένει τεράστια, με περισσότερους από 500 εκατομμύρια ανθρώπους να χρησιμοποιούν την πλατφόρμα σε εβδομαδιαία βάση. Ωστόσο, η τελευταία αυτή κρίση υπενθυμίζει ότι ακόμη και τα πιο εξελιγμένα εργαλεία τεχνητής νοημοσύνης απαιτούν συνεχή εποπτεία και ηθική καθοδήγηση.
