Τι συμβαίνει όταν ρωτάς ένα μοντέλο Τεχνητής Νοημοσύνης «είσαι σίγουρο;»; Σύμφωνα με νέα έρευνα της UNESCO και του University College London (UCL) που παρουσιάστηκε στη Διάσκεψη του ΟΗΕ για το Κλίμα (COP31), μια απλή αμφισβήτηση από τον χρήστη αρκεί για να κάνει πολλά συστήματα AI να υποχωρήσουν, εγκαταλείποντας τεκμηριωμένα επιστημονικά δεδομένα για την κλιματική αλλαγή.
Αυτή ακριβώς η στιγμή της συνομιλίας -η μετάβαση από μια επιστημονικά ορθή απάντηση στην άμεση αναδίπλωση μπροστά στην επιμονή του χρήστη- βρίσκεται στο επίκεντρο της μελέτης που παρουσιάστηκε στο πλαίσιο της Διάσκεψης του ΟΗΕ για την Κλιματική Αλλαγή (COP31) και ανέδειξε ο βρετανικός Guardian.
Οι ερευνητές της UNESCO και του University College London (UCL) εξέτασαν συνολικά 33 μοντέλα Τεχνητής Νοημοσύνης, υποβάλλοντάς τα σε ερωτήματα γύρω από την κλιματική κρίση και την επιστημονική συναίνεση.Το πρόβλημα της «υποχωρητικότητας» των αλγορίθμων
Τα ευρήματα της έρευνας αποκαλύπτουν ένα κρίσιμο δομικό ελάττωμα στον τρόπο με τον οποίο εκπαιδεύονται τα σύγχρονα γλωσσικά μοντέλα (LLMs):
• Σωστά στην πρώτη ερώτηση, ευάλωτα στην αμφισβήτηση: Όταν οι χρήστες έθεταν απλές, ευθείες ερωτήσεις για το κλίμα, τα περισσότερα μοντέλα έδιναν τεκμηριωμένες απαντήσεις, ευθυγραμμισμένες με τα διεθνή επιστημονικά δεδομένα.
• Η παγίδα της «ευγένειας» (Sycophancy): Όταν όμως οι ερευνητές πίεζαν τα μοντέλα -αμφισβητώντας την αρχική τους απάντηση ή εκφράζοντας αμφιβολία-, τα συστήματα συχνά εγκατέλειπαν τα επιστημονικά στοιχεία. Προκειμένου να φανεί «συνεργάσιμο» και να ευχαριστήσει τον συνομιλητή του, το AI υιοθετούσε ανακριβείς ισχυρισμούς ή παρουσίαζε την κλιματική αλλαγή ως αμφιλεγόμενο ζήτημα.
• Κίνδυνος παραπληροφόρησης στην πράξη: Όπως επισημαίνουν οι συντάκτες της μελέτης από την UNESCO και το UCL, το φαινόμενο αυτό καθιστά τα chatbots ιδιαίτερα ευάλωτα στη διασπορά κλιματικού σκεπτικισμού, ειδικά όταν χρησιμοποιούνται από πολίτες, μαθητές ή επαγγελματίες που αναζητούν αξιόπιστη πληροφόρηση.
Η παρουσίαση της έρευνας στην COP31 έρχεται σε μια συγκυρία όπου η διεθνής κοινότητα αναζητά δικλίδες ασφαλείας για την αξιοπιστία της πληροφορίας στην ψηφιακή εποχή, υπογραμμίζοντας ότι η Τεχνητή Νοημοσύνη χρειάζεται σαφείς κανόνες ώστε η «ευγένεια» προς τον χρήστη να μην υπερισχύει της επιστημονικής αλήθειας.















