Μια νέα λειτουργία προστασίας ανηλίκων ετοιμάζεται να ενεργοποιήσει η Meta, η οποία θα ενημερώνει τους γονείς όταν ένας έφηβος χρήστης του Instagram πραγματοποιεί συνομιλίες με chatbot τεχνητής νοημοσύνης που σχετίζονται με αυτοκτονικό ιδεασμό ή αυτοτραυματισμό.
Σύμφωνα με το ABC News, η νέα δυνατότητα με την ονομασία «γονικές ειδοποιήσεις» (Parent Alerts) θα ξεκινήσει πιλοτικά στις Ηνωμένες Πολιτείες, το Ηνωμένο Βασίλειο, τον Καναδά και την Αυστραλία, ενώ η Meta σχεδιάζει να τη διαθέσει παγκοσμίως έως το τέλος του έτους.
Πώς θα λειτουργούν οι γονικές ειδοποιήσεις
Όταν το σύστημα εντοπίσει συνομιλία υψηλού κινδύνου μεταξύ ενός εφήβου και του Meta AI, οι γονείς θα λαμβάνουν σχετική ειδοποίηση.
Παράλληλα, η Meta θα αποστέλλει υλικό ενημέρωσης και καθοδήγησης, το οποίο έχει διαμορφωθεί με τη συμβολή ειδικών ψυχικής υγείας, ώστε οι γονείς να μπορούν να προσεγγίσουν σωστά το παιδί τους και να συζητήσουν για ζητήματα ψυχικής υγείας, αυτοτραυματισμού ή αυτοκτονίας.
Τεχνητή νοημοσύνη και ανθρώπινος έλεγχος
Η εταιρεία αναφέρει ότι ανέπτυξε ειδικό σύστημα τεχνητής νοημοσύνης για τον εντοπισμό συνομιλιών που ενδέχεται να υποδηλώνουν αυξημένο κίνδυνο.
Ωστόσο, πριν αποσταλεί οποιαδήποτε ειδοποίηση στους γονείς, κάθε συνομιλία που επισημαίνεται από το σύστημα θα εξετάζεται και από ανθρώπινο αξιολογητή, ώστε να μειωθούν τα λάθη και οι λανθασμένες ειδοποιήσεις.
Η Meta επισημαίνει ότι σε περιπτώσεις όπου δεν είναι σαφής η πρόθεση του εφήβου, θα επιλέγεται η πιο προσεκτική προσέγγιση, δίνοντας προτεραιότητα στην προστασία του ανηλίκου.
Πρόσθετα μέτρα προστασίας για τους ανήλικους χρήστες
Υπενθυμίζεται ότι το κατώτατο όριο ηλικίας για τη χρήση του Facebook και του Instagram είναι τα 13 έτη.
Οι χρήστες κάτω των 18 ετών εντάσσονται αυτόματα στους ειδικούς «Λογαριασμούς Εφήβων» (Teen Accounts), οι οποίοι διαθέτουν αυστηρότερες ρυθμίσεις προστασίας προσωπικών δεδομένων και περιεχομένου. Σύμφωνα με τη Meta, οι συγκεκριμένες δικλείδες ασφαλείας εφαρμόζονται και στις συνομιλίες με το Meta AI.
Δυνατότητα επικοινωνίας με υπηρεσίες έκτακτης ανάγκης
Η εταιρεία γνωστοποίησε επίσης ότι αναπτύσσει νέα λειτουργία, η οποία θα επιτρέπει την επικοινωνία με υπηρεσίες άμεσης επέμβασης, όταν από μια συνομιλία με το Meta AI προκύπτουν ενδείξεις ότι ένας χρήστης βρίσκεται σε άμεσο κίνδυνο αυτοκτονίας.
Πάνω από 19.000 παραπομπές έκτακτης ανάγκης μέσα σε έναν χρόνο
Η Meta υποστηρίζει ότι η νέα πρωτοβουλία βασίζεται στην εμπειρία που έχει αποκτήσει από τα συστήματα ασφαλείας των πλατφορμών της.
Όπως αναφέρει, μόνο κατά τη διάρκεια του τελευταίου έτους πραγματοποιήθηκαν περισσότερες από 19.000 παραπομπές περιστατικών έκτακτης ανάγκης μέσω του Facebook και του Instagram, στο πλαίσιο ενεργειών προστασίας χρηστών που κρίθηκε ότι διέτρεχαν σοβαρό κίνδυνο.
