Νέα στοιχεία για τους κινδύνους που μπορεί να προκύψουν από την κακόβουλη χρήση της τεχνητής νοημοσύνης έδωσε στη δημοσιότητα η Anthropic, αποκαλύπτοντας περιπτώσεις στις οποίες τα μοντέλα της επιχειρήθηκε να χρησιμοποιηθούν για την ανάπτυξη βιολογικών όπλων, κυβερνοεπιθέσεων, οπλικών συστημάτων και επιχειρήσεων παρακολούθησης.
Όπως αναφέρει ο Guardian, στην έκθεση 154 σελίδων που δημοσίευσε η εταιρεία, καταγράφονται ορισμένες από τις πιο σοβαρές και πρωτόγνωρες απειλές που έχει εντοπίσει μέχρι σήμερα. Όπως αναφέρει η Anthropic, η δημοσιοποίηση των περιστατικών κρίθηκε απαραίτητη, καθώς θεωρεί ότι έχει ευθύνη να αποκαλύπτει τις περιπτώσεις κακόβουλης χρήσης των υπηρεσιών της.
Σύμφωνα με την εταιρεία, μεταξύ εκείνων που επιχείρησαν να αξιοποιήσουν τα μοντέλα τεχνητής νοημοσύνης περιλαμβάνονται εγκληματικές ομάδες, παράγοντες που συνδέονται με κράτη, εταιρείες λογισμικού κατασκοπείας, επιστήμονες και ομάδες που δραστηριοποιούνται στην προπαγάνδα.
Πέντε περιπτώσεις βιολογικής έρευνας
Ιδιαίτερη ανησυχία προκαλούν πέντε περιπτώσεις επιστημόνων που χρησιμοποίησαν τα μοντέλα της Anthropic για βιολογική έρευνα. Όπως αναφέρεται στην έκθεση, οι συγκεκριμένοι χρήστες κατάφεραν να παρακάμψουν δικλείδες ασφαλείας που είχαν σχεδιαστεί για να περιορίζουν την πρόσβαση από μη υποστηριζόμενες περιοχές, ενώ φέρεται να επιχείρησαν να αποκρύψουν τον πραγματικό σκοπό της έρευνάς τους.
Η Anthropic χαρακτηρίζει την κακόβουλη χρήση της βιολογίας ως έναν από τους σοβαρότερους κινδύνους που συνδέονται με τα προηγμένα μοντέλα τεχνητής νοημοσύνης. Όπως επισημαίνει, χωρίς αποτελεσματικούς μηχανισμούς ασφαλείας, οι δυνατότητες αυτές θα μπορούσαν να έχουν καταστροφικές συνέπειες.
Η εταιρεία ανέφερε ότι προχώρησε στον αποκλεισμό των συγκεκριμένων λογαριασμών. Δεν έδωσε, ωστόσο, στη δημοσιότητα τα ονόματα των ερευνητικών ιδρυμάτων ή των χωρών όπου σημειώθηκαν τα περιστατικά, σημειώνοντας ότι δεν μπορεί να γνωρίζει με βεβαιότητα τις προθέσεις των ερευνητών.
Βιολογικά όπλα, κυβερνοεπιθέσεις και κατασκοπεία
Ένα από τα περιστατικά που ξεχωρίζουν αφορά επιστήμονα που χρησιμοποίησε το Claude για να εργαστεί σε αίτηση κρατικά χρηματοδοτούμενης έρευνας σχετικά με τον ιό chikungunya.
Η σχετική έρευνα θα μπορούσε να αφορά την ανάπτυξη εμβολίων, ωστόσο θα μπορούσε παράλληλα να αξιοποιηθεί και για την ανάπτυξη βιολογικών όπλων. Η Anthropic ανέφερε στους New York Times ότι η συγκεκριμένη υπόθεση ήταν ιδιαίτερα ανησυχητική, καθώς γνώριζε ότι η έρευνα επρόκειτο να πραγματοποιηθεί σε στρατιωτικό ερευνητικό ίδρυμα.
Η έκθεση περιλαμβάνει ακόμη παραδείγματα χρήσης των μοντέλων σε κυβερνοεπιχειρήσεις, μεταξύ άλλων ρωσική κατασκοπεία και επιθέσεις τύπου «smash-and-grab», με στόχο την ταχεία απόκτηση δεδομένων ή άλλων πόρων.
Παράλληλα, καταγράφηκαν επιχειρήσεις παρακολούθησης, μεταξύ των οποίων πρόγραμμα με έδρα την Κίνα που στόχευε Ουιγούρους στη Συρία, αλλά και άλλη επιχείρηση που αφορούσε εσωτερικούς αντιφρονούντες.
Σύμφωνα με την Anthropic, τα μοντέλα της χρησιμοποιήθηκαν επίσης σε εκστρατείες προπαγάνδας στη Ρωσία, τη Μαλαισία, το Ιράν και το Μπανγκλαντές, καθώς και για την ανάπτυξη λογισμικού που σχετίζεται με συμβατικά όπλα, όπως πυροβόλα όπλα, πυραύλους, ένοπλα drones, βόμβες και άλλα πυρομαχικά.
Οι προειδοποιήσεις για το μέλλον της AI
Η δημοσιοποίηση της έκθεσης ήρθε δύο ημέρες μετά την παραίτηση εργαζομένου της Anthropic, Τζέινομπ Κόξον, η οποία προκάλεσε συζητήσεις γύρω από τους κινδύνους της ανάπτυξης ολοένα ισχυρότερων μοντέλων τεχνητής νοημοσύνης.
Ο Κόξον υποστήριξε ότι η Anthropic και η OpenAI «τρέχουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη», εκτιμώντας ότι μια τέτοια εξέλιξη θα μπορούσε να οδηγήσει στην εξαφάνιση της ανθρωπότητας έως το 2030. Δημόσια συμφωνία με τις ανησυχίες αυτές εξέφρασαν και νυν εργαζόμενοι της Anthropic, μεταξύ των οποίων ο Έβαν Χάμπιντζερ.
Την ίδια στιγμή, αρκετοί ειδικοί στην τεχνητή νοημοσύνη θεωρούν ότι οι άμεσοι κίνδυνοι από την κακόβουλη χρήση των σημερινών μοντέλων είναι σημαντικότεροι από τα πιο ακραία σενάρια μιας μελλοντικής υπερνοημοσύνης.
Η Heidy Khlaaf, επικεφαλής επιστήμονας τεχνητής νοημοσύνης στο AI Now Institute, υποστήριξε ότι τόσο ο επιταχυντισμός στην AI όσο και η καταστροφολογία γύρω από αυτήν ενισχύουν την αντίληψη ότι θα υπάρξει ένα υπεράνθρωπο σύστημα γενικής τεχνητής νοημοσύνης. Όπως ανέφερε, οι δυνατότητες των μοντέλων για κυβερνοεπιθέσεις και ανάπτυξη πολεμικών όπλων δημιουργούν ήδη σοβαρές απειλές.
Η Anthropic επισημαίνει στην έκθεσή της ότι μεγάλο μέρος της κακόβουλης χρήσης της τεχνητής νοημοσύνης δεν είναι ορατό στο κοινό και διερευνάται εσωτερικά, αλλά και από ακαδημαϊκούς, κυβερνήσεις και διεθνείς οργανισμούς.
Η εταιρεία υποστηρίζει, τέλος, ότι απαιτείται συντονισμένη δράση του κλάδου της τεχνητής νοημοσύνης και των κυβερνήσεων, ώστε να περιοριστούν οι επιβλαβείς χρήσεις και να δημιουργηθούν αποτελεσματικοί μηχανισμοί προστασίας.
Όπως προειδοποιεί η Anthropic, όσο τα μοντέλα γίνονται πιο ικανά, οι κίνδυνοι που συνδέονται με αυτά αναμένεται να αυξάνονται, εάν οι εταιρείες τεχνητής νοημοσύνης και οι φορείς που εργάζονται για την προστασία της κοινωνίας δεν λάβουν εγκαίρως μέτρα.
