By Mira K.

Οι άνθρωποι που κατασκευάζουν τα ισχυρότερα συστήματα AI αρχίζουν να προειδοποιούν για τους κινδύνους τους. Όμως ΗΠΑ και Κίνα γνωρίζουν ότι όποιος επιβραδύνει πρώτος μπορεί να χάσει τη μεγαλύτερη τεχνολογική κούρσα του 21ου αιώνα. Και κάπου ανάμεσα στον φόβο και στην παγκόσμια μάχη για κυριαρχία γεννιέται ένα ερώτημα που μέχρι πριν από λίγα χρόνια θα έμοιαζε με επιστημονική φαντασία: ακόμη κι αν αποφασίσουμε ότι πρέπει να σταματήσουμε, μπορούμε πραγματικά να το κάνουμε;
Υπάρχει κάτι ιδιαίτερα ανησυχητικό όταν εκείνοι που γνωρίζουν καλύτερα από όλους μια τεχνολογία αρχίζουν να προειδοποιούν για αυτήν. Όχι άνθρωποι που παρακολουθούν από απόσταση τις εξελίξεις, ούτε επικριτές της τεχνολογικής προόδου, αλλά επιστήμονες και στελέχη που βρίσκονται μέσα στα εργαστήρια όπου κατασκευάζονται τα ισχυρότερα συστήματα Τεχνητής Νοημοσύνης στον κόσμο. Τις τελευταίες εβδομάδες η συζήτηση έχει αλλάξει επίπεδο. Η παραίτηση του 27χρονου ερευνητή Jacob Coxon από την Anthropic συνοδεύτηκε από μια δημόσια προειδοποίηση που προκάλεσε τεράστια αίσθηση: υποστήριξε ότι κορυφαία εργαστήρια κινούνται προς συστήματα αυτοβελτιούμενης υπερνοημοσύνης και ότι η ανθρωπότητα δεν έχει ακόμη δημιουργήσει τους μηχανισμούς που θα εγγυώνται πως θα μπορεί να τα ελέγξει. Η συζήτηση που κάποτε περιοριζόταν σε μια μικρή κοινότητα ειδικών έχει πλέον μεταφερθεί στο κέντρο της παγκόσμιας πολιτικής και οικονομικής ατζέντας.
Το παράδοξο είναι ότι την ίδια στιγμή που αυξάνονται οι προειδοποιήσεις, αυξάνεται με ακόμη μεγαλύτερη ταχύτητα και η ισχύς των ίδιων των συστημάτων. Στις 8 Σεπτεμβρίου η OpenAI ανακοίνωσε ότι εσωτερικό σύστημά της παρήγαγε λύση στο πρόβλημα ύπαρξης και ομαλότητας των εξισώσεων Navier–Stokes, ένα από τα περίφημα Millennium Prize Problems, παρουσιάζοντας τόσο τη μαθηματική απόδειξη όσο και την τυπική επαλήθευσή της σε Lean. Η ίδια η εταιρεία χαρακτήρισε το αποτέλεσμα ένδειξη της ταχύτητας με την οποία προχωρούν πλέον οι δυνατότητες της AI και υπογράμμισε την ανάγκη πιο συνειδητών επιλογών σχετικά με τον ρυθμό της περαιτέρω ανάπτυξης.
Και εδώ ακριβώς βρίσκεται η μεγάλη αντίφαση. Από τη μία πλευρά, κορυφαία στελέχη της βιομηχανίας ζητούν περισσότερους ελέγχους, κοινά πρότυπα ασφαλείας και, σε ορισμένες περιπτώσεις, επιβράδυνση στην ανάπτυξη των πιο προηγμένων μοντέλων. Από την άλλη, καμία μεγάλη εταιρεία και καμία υπερδύναμη δεν θέλει να είναι εκείνη που θα σταματήσει πρώτη. Για τις Ηνωμένες Πολιτείες το ζήτημα δεν είναι πλέον μόνο τεχνολογικό ή οικονομικό. Είναι θέμα εθνικής ισχύος. Και ο μεγάλος αντίπαλος έχει όνομα: Κίνα. Η Ουάσινγκτον γνωρίζει ότι μια μονομερής επιβράδυνση θα μπορούσε θεωρητικά να αφήσει χώρο στο Πεκίνο να καλύψει την απόσταση. Η Κίνα, από την πλευρά της, αντιμετωπίζει με καχυποψία αρκετές από τις αμερικανικές εκκλήσεις για περιορισμούς, θεωρώντας ότι πίσω από τη γλώσσα της «ασφάλειας» μπορεί να κρύβεται μια προσπάθεια διατήρησης του αμερικανικού τεχνολογικού πλεονεκτήματος.
Γι' αυτό και η Τεχνητή Νοημοσύνη αρχίζει να θυμίζει, χωρίς φυσικά να είναι ταυτόσημη περίπτωση, μια νέα εκδοχή του ανταγωνισμού εξοπλισμών του Ψυχρού Πολέμου. Τότε οι δύο υπερδυνάμεις γνώριζαν ότι η ανεξέλεγκτη συσσώρευση πυρηνικών όπλων μπορούσε να οδηγήσει σε καταστροφή, αλλά καμία δεν μπορούσε να αφοπλιστεί μονομερώς επειδή δεν εμπιστευόταν την άλλη. Σήμερα δημιουργείται ένα διαφορετικό αλλά εξίσου δύσκολο δίλημμα: εάν μια χώρα περιορίσει την ανάπτυξη των πιο προηγμένων μοντέλων και η άλλη συνεχίσει, μπορεί να δημιουργηθεί μια τεράστια ανισορροπία τεχνολογικής, οικονομικής και στρατιωτικής ισχύος. Εάν όμως συνεχίσουν όλοι χωρίς επαρκείς δικλίδες ασφαλείας, αυξάνονται οι κίνδυνοι που οι ίδιοι οι δημιουργοί της τεχνολογίας λένε πλέον ότι πρέπει να αντιμετωπιστούν σοβαρά.
Το πρόβλημα γίνεται ακόμη μεγαλύτερο επειδή η AI δεν είναι ένα όπλο κλειδωμένο σε ένα στρατιωτικό οπλοστάσιο. Είναι λογισμικό. Βρίσκεται σε κέντρα δεδομένων, περνά μέσα από δίκτυα, μπορεί να αντιγραφεί, να βελτιωθεί και να χρησιμοποιηθεί σε χιλιάδες διαφορετικές εφαρμογές. Η Anthropic ανακοίνωσε αυτόν τον μήνα ότι εντόπισε και διέκοψε επιχειρήσεις στις οποίες κακόβουλοι παράγοντες επιχείρησαν να χρησιμοποιήσουν το Claude για κυβερνοεπιχειρήσεις, παρακολούθηση, επιρροή και άλλες δραστηριότητες. Παράλληλα, η εταιρεία υποστηρίζει ότι έχει εντοπίσει μεγάλης κλίμακας προσπάθειες μη εξουσιοδοτημένης «απόσταξης» δυνατοτήτων του Claude από εργαστήρια με έδρα την Κίνα. Πρόκειται για ισχυρισμούς της ίδιας της Anthropic, όχι για ανεξάρτητο πόρισμα, αλλά αποτυπώνουν το μέγεθος της νέας αντιπαράθεσης γύρω από τα δεδομένα και τις δυνατότητες των προηγμένων μοντέλων.
Υπάρχει όμως και μια άλλη πραγματικότητα που δεν επιτρέπει εύκολες απαντήσεις. Η τεχνολογική υπεροχή μεταφράζεται ολοένα περισσότερο σε στρατιωτική ισχύ. Ο πόλεμος στην Ουκρανία έχει μετατραπεί σε ένα τεράστιο εργαστήριο νέων τεχνολογιών: drones, αυτόνομα ή ημιαυτόνομα συστήματα, ηλεκτρονικός πόλεμος, δορυφορικές επικοινωνίες, αλγόριθμοι αναγνώρισης στόχων και συνεχής επεξεργασία δεδομένων. Η εξέλιξη αυτή κάνει ακόμη δυσκολότερο οποιοδήποτε παγκόσμιο «πάγωμα». Όταν μια τεχνολογία μπορεί να προσφέρει στρατιωτικό πλεονέκτημα, κανένα κράτος δεν θέλει να ανακαλύψει ότι ο αντίπαλός του συνέχισε να προχωρά την ώρα που εκείνο περίμενε.
Μέσα σε αυτό το περιβάλλον, αποκτά ιδιαίτερο ενδιαφέρον η συνάντηση του Ντόναλντ Τραμπ με τον Σι Τζινπίνγκ στην Ουάσινγκτον στις 24 Σεπτεμβρίου. Λίγες ημέρες πριν από τη συνάντηση, Αμερικανοί και Κινέζοι αξιωματούχοι άνοιξαν στη Νέα Υόρκη έναν δίαυλο συζήτησης για την ασφάλεια της Τεχνητής Νοημοσύνης. Ο Αμερικανός υπουργός Οικονομικών Σκοτ Μπέσεντ πρότεινε, μεταξύ άλλων, τη δημιουργία μηχανισμού μέσω του οποίου οι δύο χώρες θα μπορούσαν να ενημερώνουν η μία την άλλη για σοβαρά περιστατικά AI που αφορούν την εθνική ασφάλεια. Δεν πρόκειται ακόμη για μια μεγάλη συμφωνία ούτε για απόφαση επιβράδυνσης της τεχνολογικής κούρσας. Είναι όμως ένα πρώτο σημάδι ότι ακόμη και δύο χώρες που ανταγωνίζονται για την παγκόσμια πρωτοκαθεδρία αντιλαμβάνονται πως υπάρχουν κίνδυνοι για τους οποίους ίσως χρειαστεί να συνομιλούν.
Ο Σαμ Άλτμαν προχώρησε ακόμη περισσότερο. Ο επικεφαλής της OpenAI υποστήριξε σε συνέντευξή του στο Fortune ότι εάν Τραμπ και Σι κατόρθωναν να συμφωνήσουν σε κοινά πρότυπα ανάπτυξης, δοκιμών και ασφάλειας της AI, ένα τέτοιο επίτευγμα θα μπορούσε, κατά την άποψή του, να τους καταστήσει άξιους ακόμη και για ένα κοινό Νόμπελ Ειρήνης. Η δήλωση είναι φυσικά προσωπική εκτίμηση του Άλτμαν. Το ενδιαφέρον βρίσκεται αλλού: ο άνθρωπος που βρίσκεται στην κορυφή μιας από τις σημαντικότερες εταιρείες AI στον κόσμο θεωρεί πλέον ότι η διαχείριση της υπερνοημοσύνης δεν μπορεί να αφεθεί μόνο στις επιχειρήσεις και ότι απαιτεί συνεννόηση μεταξύ των δύο μεγαλύτερων τεχνολογικών δυνάμεων.
Το δυσκολότερο ζήτημα, ωστόσο, δεν είναι να υπογραφεί ένα χαρτί. Είναι να μπορεί να ελεγχθεί η εφαρμογή του. Στα πυρηνικά όπλα μπορούν να μετρηθούν πύραυλοι, εκτοξευτές και πυρηνικές κεφαλές. Στην Τεχνητή Νοημοσύνη τα πράγματα είναι πολύ πιο περίπλοκα. Ένα κέντρο δεδομένων μπορεί να εντοπιστεί, όμως δεν είναι εύκολο ένας εξωτερικός παρατηρητής να γνωρίζει τι ακριβώς εκπαιδεύεται μέσα σε αυτό, ποιες δυνατότητες διαθέτει ένα μοντέλο ή πόσο κοντά βρίσκεται σε ένα κρίσιμο επίπεδο αυτονομίας. Και χωρίς επαληθεύσιμους μηχανισμούς ελέγχου, οποιαδήποτε διεθνής συμφωνία κινδυνεύει να στηρίζεται στην εμπιστοσύνη ακριβώς τη στιγμή που η εμπιστοσύνη μεταξύ Ουάσινγκτον και Πεκίνου βρίσκεται σε εξαιρετικά χαμηλά επίπεδα.
Υπάρχει επιπλέον μια ουσιαστική διάκριση που συχνά χάνεται μέσα στους εντυπωσιακούς τίτλους περί «εξαφάνισης της ανθρωπότητας». Κανείς δεν γνωρίζει με βεβαιότητα εάν ένα μελλοντικό σύστημα AI θα αποκτήσει δυνατότητες που θα μπορούσαν πράγματι να οδηγήσουν σε ένα τέτοιο σενάριο. Υπάρχουν ειδικοί που θεωρούν τους υπαρξιακούς κινδύνους εξαιρετικά σοβαρούς και άλλοι που θεωρούν ότι η συζήτηση έχει διογκωθεί υπερβολικά και αποσπά την προσοχή από πιο άμεσους κινδύνους: κυβερνοεπιθέσεις, απάτες, παραπληροφόρηση, μαζική παρακολούθηση, απώλεια θέσεων εργασίας και στρατιωτική χρήση αυτόνομων συστημάτων. Αυτό που πλέον δύσκολα αμφισβητείται είναι ότι οι δυνατότητες της τεχνολογίας αυξάνονται με ταχύτητα που υποχρεώνει κυβερνήσεις και κοινωνίες να αποφασίζουν υπό πίεση.
Και ίσως εδώ βρίσκεται το πραγματικό πρόβλημα. Για πρώτη φορά δεν συζητάμε απλώς εάν μια νέα τεχνολογία είναι καλή ή κακή. Συζητάμε εάν η ανθρωπότητα μπορεί να ελέγξει τον ρυθμό με τον οποίο η ίδια την αναπτύσσει. Οι εταιρείες φοβούνται τους ανταγωνιστές τους. Οι Ηνωμένες Πολιτείες φοβούνται ότι θα τις ξεπεράσει η Κίνα. Η Κίνα φοβάται ότι οι περιορισμοί που προτείνει η Δύση μπορεί να χρησιμοποιηθούν για να διατηρηθεί το αμερικανικό πλεονέκτημα. Οι στρατοί γνωρίζουν ότι όποιος μείνει πίσω τεχνολογικά μπορεί να πληρώσει τεράστιο τίμημα στο πεδίο της μάχης. Και όλοι μαζί γνωρίζουν ότι μια ανεξέλεγκτη κούρσα μπορεί να δημιουργήσει κινδύνους που σήμερα μόλις αρχίζουμε να αντιλαμβανόμαστε. Η μεγαλύτερη ειρωνεία της εποχής της Τεχνητής Νοημοσύνης μπορεί τελικά να είναι αυτή: να γνωρίζουν όλοι ότι χρειάζεται φρένο, αλλά κανείς να μην τολμά να το πατήσει πρώτος. Γιατί ο πραγματικός αγώνας ίσως να μην είναι πλέον ανάμεσα στον άνθρωπο και τη μηχανή. Ίσως να είναι ανάμεσα στην ανθρώπινη ανάγκη για έλεγχο και στην ανθρώπινη ανάγκη να μη μείνει πίσω.