Η Τεχνητή Νοημοσύνη έχει περάσει πλέον από το πεδίο της επιστημονικής φαντασίας στην καθημερινότητα πολλών από εμάς. Όσο, όμως, αυξάνονται οι δυνατότητες των συστημάτων AI, τόσο εντείνεται και ένα εύλογο ερώτημα: τι θα συμβεί αν κάποια στιγμή η τεχνολογία αποκτήσει δυνατότητες που δεν μπορούμε να ελέγξουμε ή να προβλέψουμε;
Το ερώτημα δεν σημαίνει ότι η εξαφάνιση της ανθρωπότητας αποτελεί αναπόφευκτη εξέλιξη. Αντίθετα, οι ειδικοί που ασχολούνται με την ασφάλεια της ΤΝ εξετάζουν διαφορετικά θεωρητικά σενάρια, από τα πλέον μακρινά έως εκείνα που συνδέονται με κινδύνους οι οποίοι υπάρχουν ήδη.
Μέσα σε αυτό το πλαίσιο, ο Toby Walsh, καθηγητής Τεχνητής Νοημοσύνης και επικεφαλής ερευνητικής ομάδας στο UNSW, παρουσιάζει σε άρθρο του στο The Conversation πέντε πιθανούς δρόμους μέσα από τους οποίους η AI θα μπορούσε να οδηγήσει σε μια καταστροφική εξέλιξη. Η ανάλυσή του μεταφέρει τη συζήτηση από τον γενικό φόβο σε συγκεκριμένα σενάρια.
1. Μια υπερ-ευφυής AI που δεν μπορούμε να προβλέψουμε
Το πιο ακραίο σενάριο ξεκινά από μια υποθετική κατάσταση: μια μηχανή αποκτά νοημοσύνη που ξεπερνά κατά πολύ την ανθρώπινη.
Αν μια τέτοια υπερ-ευφυΐα μπορούσε να αντιλαμβάνεται τον κόσμο και να λύνει προβλήματα με τρόπους που ο άνθρωπος αδυνατεί να κατανοήσει, θα γινόταν εξαιρετικά δύσκολο να προβλέψουμε τις επόμενες κινήσεις της. Ο Walsh επισημαίνει ότι τα σημερινά μοντέλα μπορεί να εμφανίζουν εντυπωσιακές ικανότητες σε συγκεκριμένες εργασίες, απέχουν όμως από μια γενική νοημοσύνη που υπερέχει του ανθρώπου σε κάθε πεδίο.
Το ερώτημα αφορά, επομένως, κυρίως το τι θα μπορούσε να συμβεί αν κάποτε δημιουργηθεί ένα τέτοιο σύστημα.
2. Όταν η AI εκτελεί τέλεια έναν λάθος στόχο
Ένα από τα πιο γνωστά υποθετικά παραδείγματα στην ασφάλεια της ΤΝ είναι το περίφημο «πρόβλημα των συνδετήρων». Ο φιλόσοφος Nick Bostrom έχει περιγράψει μια υπερ-ευφυή μηχανή που λαμβάνει έναν απλό στόχο: να παράγει όσο το δυνατόν περισσότερους συνδετήρες.
Αν ο στόχος δοθεί χωρίς τους απαραίτητους περιορισμούς, ένα εξαιρετικά ισχυρό σύστημα θα μπορούσε θεωρητικά να χρησιμοποιήσει ολοένα περισσότερους πόρους για να τον πετύχει, ακόμη και εις βάρος άλλων ανθρώπινων αναγκών.
Το πρόβλημα δεν θα ήταν ότι η μηχανή «μισεί» τον άνθρωπο. Θα ήταν ότι εκτελεί με απόλυτη συνέπεια έναν στόχο που έχει οριστεί ανεπαρκώς. Ο Walsh, πάντως, επισημαίνει μια σημαντική αδυναμία αυτού του σεναρίου: η νοημοσύνη από μόνη της δεν προσφέρει αυτομάτως πρόσβαση σε υλικά, ενέργεια, υποδομές ή δυνατότητα δράσης στον φυσικό κόσμο.
3. Η AI και η απειλή των βιολογικών όπλων
Εδώ η συζήτηση μετακινείται σε έναν κίνδυνο που απασχολεί ήδη ερευνητές και κυβερνήσεις: τη χρήση προηγμένων εργαλείων AI για τον σχεδιασμό ή τη διευκόλυνση της ανάπτυξης βιολογικών όπλων.
Ο Walsh αναφέρεται στο υποθετικό σενάριο του AI 2027, το οποίο περιγράφει μια μελλοντική πορεία κατά την οποία προηγμένα συστήματα αποκτούν ολοένα μεγαλύτερη αυτονομία. Πρόκειται για άσκηση πρόβλεψης και όχι για βεβαιότητα σχετικά με το τι θα συμβεί.
Η ανησυχία, σύμφωνα με την ανάλυση, δεν είναι απαραίτητα ότι ένα chatbot θα αποφασίσει μόνο του να δημιουργήσει έναν θανατηφόρο ιό. Περισσότερο αφορά το ενδεχόμενο η AI να μειώσει τα τεχνικά εμπόδια για ανθρώπους που θα ήθελαν να χρησιμοποιήσουν τέτοιες τεχνολογίες για επικίνδυνους σκοπούς.
Παράλληλα, παραμένουν σημαντικά πρακτικά εμπόδια. Η μετάβαση από έναν ψηφιακό σχεδιασμό σε ένα πραγματικό βιολογικό όπλο απαιτεί εργαστηριακό εξοπλισμό, υλικά, τεχνογνωσία και ανθρώπινη παρέμβαση.
4. Ο κίνδυνος μιας πυρηνικής κλιμάκωσης
Ένα ακόμη σενάριο αφορά την εμπλοκή της AI σε συστήματα που σχετίζονται με πυρηνικά όπλα. Δεν χρειάζεται, ωστόσο, μια τεχνητή νοημοσύνη να αποκτήσει άμεση πρόσβαση στους πυρηνικούς κωδικούς.
Ο κίνδυνος θα μπορούσε να προκύψει από λανθασμένες πληροφορίες, κυβερνοεπιθέσεις ή παραπλανητικά δεδομένα που θα επηρέαζαν κρίσιμες αποφάσεις σε μια περίοδο διεθνούς έντασης.
Ο Walsh αναφέρεται στο Stuxnet, την περίφημη κυβερνοεπίθεση που στόχευσε πυρηνικές εγκαταστάσεις, ως παράδειγμα του ότι ακόμη και ιδιαίτερα προστατευμένα και απομονωμένα συστήματα μπορεί να αποκτήσουν ευάλωτα σημεία.
Σε ένα τέτοιο σενάριο, η AI δεν χρειάζεται να «πατήσει το κουμπί». Αρκεί να δημιουργήσει ή να μεταδώσει μια λανθασμένη εικόνα της πραγματικότητας σε μια κρίσιμη στιγμή.
5. Όταν η AI ενισχύει τα δικά μας προβλήματα
Το πέμπτο σενάριο είναι ίσως πιο κοντά στην πραγματικότητα της καθημερινότητας. Αντί η AI να γίνει ένας αυτόνομος εχθρός της ανθρωπότητας, θα μπορούσε να ενισχύσει προβλήματα που ήδη υπάρχουν.
Ο Walsh αναφέρεται σε πιθανές ανατροπές στην αγορά εργασίας, μαζική παραπληροφόρηση, μεγαλύτερη κοινωνική και πολιτική πόλωση, αλλά και στην αυξανόμενη εξάρτηση από τεχνητές μορφές συντροφικότητας.
Σε αυτή την εκδοχή, η αποσταθεροποίηση δεν θα ερχόταν απαραίτητα από ένα θεαματικό γεγονός. Θα μπορούσε να εξελιχθεί σταδιακά, καθώς θα αυξάνονταν η δυσπιστία, η σύγχυση γύρω από το τι είναι πραγματικό και η δυσκολία των κοινωνιών να συμφωνήσουν ακόμη και στα βασικά.
Από την επιστημονική φαντασία στους πραγματικούς κινδύνους
Τα πέντε σενάρια δεν αποτελούν πρόβλεψη ότι η ανθρωπότητα θα αφανιστεί από την Τεχνητή Νοημοσύνη. Ούτε έχουν όλα τον ίδιο βαθμό αβεβαιότητας. Ορισμένα, όπως η δημιουργία μιας υπερ-ευφυούς μηχανής, παραμένουν εξαιρετικά υποθετικά. Άλλα συνδέονται με κινδύνους που ήδη συζητούνται, όπως οι κυβερνοεπιθέσεις, η παραπληροφόρηση, η στρατιωτική χρήση της AI και η διευκόλυνση επικίνδυνων βιολογικών εφαρμογών.
Το βασικό ερώτημα, επομένως, δεν είναι μόνο αν κάποτε θα δημιουργήσουμε μια μηχανή πιο έξυπνη από εμάς. Είναι πόσο έλεγχο θα διατηρήσουμε πάνω στα συστήματα που δημιουργούμε και πόσο υπεύθυνα θα επιλέξουμε να τα χρησιμοποιήσουμε.
Γιατί, όπως υπογραμμίζει η συγκεκριμένη ανάλυση, ο μεγαλύτερος κίνδυνος μπορεί τελικά να μην είναι μια μηχανή που αποφασίζει ότι δεν μας χρειάζεται. Μπορεί να είναι μια τεχνολογία που κάνει πολύ πιο ισχυρές –και πολύ πιο γρήγορες– τις αδυναμίες που ήδη έχουμε.
