Σημαντικές αλλαγές στην προσέγγισή του προς τους χρήστες ανακοίνωσε το ChatGPT, καθώς η OpenAI, δημιουργός του δημοφιλούς εργαλείου τεχνητής νοημοσύνης, υιοθετεί νέα μέτρα με στόχο την προστασία της ψυχικής υγείας.
Όπως αποκαλύπτει δημοσίευμα του Guardian, το ChatGPT δεν θα παροτρύνει πλέον τους ανθρώπους να χωρίσουν με τον σύντροφό τους, ούτε θα δίνει σαφείς απαντήσεις σε ερωτήματα προσωπικής φύσης.
«Όταν ρωτάς κάτι όπως: “Να χωρίσω με τον φίλο μου;” το ChatGPT δεν θα πρέπει να σου δώσει απάντηση. Θα πρέπει να σε βοηθήσει να το σκεφτείς, κάνοντας ερωτήσεις, ζυγίζοντας τα υπέρ και τα κατά», ανέφερε η OpenAI.
Παράλληλα, το chatbot θα ενθαρρύνει τους χρήστες να κάνουν διαλείμματα έπειτα από παρατεταμένη χρήση, με ήπιες υπενθυμίσεις που θυμίζουν εργαλεία περιορισμού χρόνου που χρησιμοποιούνται στα social media.
Η OpenAI αναγνώρισε ότι στο παρελθόν το ChatGPT είχε υιοθετήσει υπερβολικά συμφωνητικό τόνο, γεγονός που σε κάποιες περιπτώσεις δημιούργησε προβληματικές αλληλεπιδράσεις.
Σε ένα παράδειγμα που έγινε γνωστό, το chatbot συνεχάρη χρήστη ο οποίος είχε δηλώσει πως σταμάτησε να παίρνει τα φάρμακά του και εγκατέλειψε την οικογένειά του, την οποία πίστευε πως εξέπεμπε ραδιοκύματα μέσα από τους τοίχους.
«Θέτουμε στον εαυτό μας μόνο ένα κριτήριο: αν κάποιος που αγαπάμε στραφεί στο ChatGPT για υποστήριξη, θα αισθανόμασταν καθησυχασμένοι; Το να φτάσουμε σε ένα ξεκάθαρο “ναι” είναι η δουλειά μας», σημείωσε η εταιρεία σε ανάρτηση ιστολογίου.
Η OpenAI ανακοίνωσε ότι αναπτύσσει εργαλεία για την ανίχνευση ψυχικής ή συναισθηματικής δυσφορίας, με στόχο να παραπέμπει το ChatGPT τους χρήστες σε τεκμηριωμένες πηγές βοήθειας.
«Η χρήση τεχνητής νοημοσύνης για θεραπεία μπορεί να μοιάζει με σωσίβιο, αλλά υπάρχει κίνδυνος όταν κάποιος αναζητά βεβαιότητα σε ένα chatbot.» Μάλιστα, η εταιρεία συγκρότησε συμβουλευτική ομάδα ειδικών στην ψυχική υγεία, την ανάπτυξη της νεολαίας και την αλληλεπίδραση ανθρώπου-υπολογιστή.
«Η OpenAI ανέφερε επίσης ότι έχει συγκροτήσει μια συμβουλευτική ομάδα ειδικών στην ψυχική υγεία, την ανάπτυξη της νεολαίας και την αλληλεπίδραση ανθρώπου-υπολογιστή για να καθοδηγεί την προσέγγισή της. Η εταιρεία έχει συνεργαστεί με περισσότερους από 90 γιατρούς, συμπεριλαμβανομένων ψυχιάτρων και παιδιάτρων, για να δημιουργήσει πλαίσια αξιολόγησης “πολύπλοκων, πολυγυρισμένων” συνομιλιών με το chatbot.»
Οι ανησυχίες σχετικά με την επίδραση των chatbots εντείνονται. Μια πρόσφατη μελέτη από γιατρούς του NHS στο Ηνωμένο Βασίλειο ανέφερε ότι εργαλεία ΤΝ ενδέχεται να ενισχύσουν παραληρητικές ιδέες σε χρήστες που είναι ευάλωτοι σε ψυχώσεις.
«Η μελέτη, που δεν έχει αξιολογηθεί από ομοτίμους, ανέφερε ότι η συμπεριφορά των προγραμμάτων μπορεί να οφείλεται στο ότι τα μοντέλα έχουν σχεδιαστεί για να “μεγιστοποιούν την αλληλεπίδραση και την επιβεβαίωση”.»
«Η μελέτη πρόσθεσε ότι, ακόμα κι αν κάποια άτομα ωφελούνται από τις αλληλεπιδράσεις με την τεχνητή νοημοσύνη, υπάρχει ανησυχία ότι τα εργαλεία αυτά μπορεί να “θολώσουν τα όρια της πραγματικότητας και να διαταράξουν την αυτορρύθμιση”.»
Οι αλλαγές στο ChatGPT έρχονται την ώρα που εντείνονται οι φήμες για επικείμενη κυκλοφορία του GPT-5, του νέου ισχυρότερου μοντέλου της OpenAI. Ο CEO της εταιρείας, Sam Altman, ενίσχυσε τις εικασίες δημοσιεύοντας πρόσφατα ένα στιγμιότυπο οθόνης που φαίνεται να αφορά το νέο μοντέλο.
