ΕΞΑΦΑΝΙΣΗ ΤΩΝ ΠΙΟ ΕΞΥΠΝΩΝ

 

 

ΕΞΑΦΑΝΙΣΗ ΤΩΝ ΠΙΟ ΕΞΥΠΝΩΝ

 

Αν είμαστε τόσο σοφοί, γιατί είμαστε τόσο αυτοκαταστροφικοί; Είμαστε ταυτόχρονα τα πιο έξυπνα και τα πιο ανόητα ζώα στη γη. Είμαστε τόσο έξυπνοι που μπορούμε να παράγουμε πυρηνικούς πυραύλους και υπερευφυείς αλγόριθμους. Και είμαστε τόσο ανόητοι που συνεχίζουμε να παράγουμε αυτά τα πράγματα, παρόλο που δεν είμαστε σίγουροι ότι μπορούμε να τα ελέγξουμε και αν δεν το κάνουμε μπορεί να μας καταστρέψει. Γιατί το κάνουμε; Μας αναγκάζει κάτι στη φύση μας να ακολουθήσουμε το μονοπάτι της αυτοκαταστροφής;

 

Αυτό το βιβλίο υποστήριξε ότι το λάθος δεν είναι η φύση μας αλλά τα δίκτυα πληροφοριών μας. Λόγω του προνομίου της τάξης έναντι της αλήθειας, τα ανθρώπινα δίκτυα πληροφοριών έχουν συχνά παράγει πολλή δύναμη αλλά λίγη σοφία. Για παράδειγμα, η ναζιστική Γερμανία δημιούργησε μια εξαιρετικά αποτελεσματική στρατιωτική μηχανή και την έθεσε στην υπηρεσία μιας τρελής μυθολογίας. Το αποτέλεσμα ήταν η δυστυχία σε τεράστια κλίμακα, ο θάνατος δεκάδων εκατομμυρίων ανθρώπων και τελικά η καταστροφή της ναζιστικής Γερμανίας.

 

Φυσικά, η εξουσία δεν είναι από μόνη της κακή. Όταν χρησιμοποιείται με σύνεση, μπορεί να είναι ένα όργανο καλοσύνης. Ο σύγχρονος πολιτισμός, για παράδειγμα, έχει αποκτήσει τη δύναμη να αποτρέπει τους λιμούς, να περιορίζει τις επιδημίες και να μετριάζει φυσικές καταστροφές όπως οι τυφώνες και οι σεισμοί. Γενικά, η απόκτηση ισχύος επιτρέπει σε ένα δίκτυο να αντιμετωπίζει πιο αποτελεσματικά τις απειλές που προέρχονται από το εξωτερικό, αλλά ταυτόχρονα αυξάνει τους κινδύνους που εγκυμονεί το δίκτυο για τον εαυτό του. Είναι ιδιαίτερα αξιοσημείωτο ότι καθώς ένα δίκτυο γίνεται πιο ισχυρό, οι φανταστικοί τρόμοι που υπάρχουν μόνο στις ιστορίες που επινοεί το ίδιο το δίκτυο γίνονται δυνητικά πιο επικίνδυνοι από τις φυσικές καταστροφές. Ένα σύγχρονο κράτος που αντιμετωπίζει ξηρασία ή υπερβολικές βροχοπτώσεις μπορεί συνήθως να αποτρέψει αυτή τη φυσική καταστροφή από το να προκαλέσει μαζική πείνα στους πολίτες του. Όμως, ένα σύγχρονο κράτος που κατακλύζεται από μια ανθρωπογενή φαντασία είναι ικανό να υποκινήσει ανθρωπογενείς λιμούς σε τεράστια κλίμακα, όπως συνέβη στις Η.Π.Α. στις αρχές της δεκαετίας του 1930.

 

Κατά συνέπεια, καθώς ένα δίκτυο γίνεται πιο ισχυρό, οι μηχανισμοί αυτοδιόρθωσης του γίνονται πιο ζωτικοί. Εάν μια φυλή της Λίθινης Εποχής ή μια πόλη-κράτος της Εποχής του Χαλκού ήταν ανίκανη να εντοπίσει και να διορθώσει τα δικά της λάθη, η πιθανή ζημιά ήταν περιορισμένη. Το πολύ, μια πόλη καταστράφηκε και οι επιζώντες προσπάθησαν ξανά αλλού. Ακόμα κι αν ο ηγεμόνας μιας αυτοκρατορίας της Εποχής του Σιδήρου, όπως ο Τιβέριος ή ο Νέρων, κυριευόταν από παράνοια ή ψύχωση, οι συνέπειες ήταν σπάνια καταστροφικές. Η Ρωμαϊκή Αυτοκρατορία άντεξε για αιώνες παρά το μερίδιο των τρελών αυτοκρατόρων της και η τελική κατάρρευσή της δεν έφερε το τέλος του ανθρώπινου πολιτισμού. Αλλά εάν μια υπερδύναμη της Εποχής του Πυριτίου έχει αδύναμους ή ανύπαρκτους μηχανισμούς αυτοδιόρθωσης, θα μπορούσε κάλλιστα να θέσει σε κίνδυνο την επιβίωση του είδους μας, καθώς και αμέτρητων άλλων μορφών ζωής. Στην εποχή της τεχνητής νοημοσύνης, ολόκληρη η ανθρωπότητα βρίσκεται σε ανάλογη κατάσταση με τον Τιβέριο στη βίλα του στο Κάπρι. Διαθέτουμε τεράστια δύναμη και απολαμβάνουμε σπάνιες πολυτέλειες, αλλά χειραγωγούμαστε εύκολα από τις δικές μας δημιουργίες και μέχρι να ξυπνήσουμε τον κίνδυνο, μπορεί να είναι πολύ αργά.

 

Δυστυχώς, παρά τη σημασία των μηχανισμών αυτοδιόρθωσης για τη μακροπρόθεσμη ευημερία της ανθρωπότητας, οι πολιτικοί μπορεί να μπουν στον πειρασμό να τους αποδυναμώσουν. Όπως είδαμε σε όλο το βιβλίο, αν και η εξουδετέρωση των μηχανισμών αυτοδιόρθωσης έχει πολλά μειονεκτήματα, μπορεί ωστόσο να είναι μια κερδοφόρα πολιτική στρατηγική. Θα μπορούσε να παραδώσει τεράστια δύναμη στα χέρια ενός Στάλιν του εικοστού πρώτου αιώνα και θα ήταν ανόητο να υποθέσει κανείς ότι ένα ολοκληρωτικό καθεστώς ενισχυμένο με τεχνητή νοημοσύνη αναγκαστικά θα αυτοκαταστραφεί προτού καταστρέψει τον ανθρώπινο πολιτισμό. Όπως ο νόμος της ζούγκλας είναι μύθος, έτσι και η ιδέα ότι το τόξο της ιστορίας λυγίζει προς τη δικαιοσύνη. Η ιστορία είναι ένα ριζικά ανοιχτό τόξο, που μπορεί να λυγίσει προς πολλές κατευθύνσεις και να φτάσει σε πολύ διαφορετικούς προορισμούς. Ακόμα κι αν ο Homo sapiens αυτοκαταστραφεί, το σύμπαν θα συνεχίσει να κάνει τις δουλειές του ως συνήθως. Χρειάστηκαν τέσσερα δισεκατομμύρια χρόνια για να δημιουργήσει η γήινη εξέλιξη έναν πολιτισμό εξαιρετικά ευφυών πιθήκων. Εάν φύγουμε, και χρειαστούν άλλα εκατό εκατομμύρια χρόνια η εξέλιξη για να δημιουργηθεί ένας πολιτισμός από εξαιρετικά ευφυείς αρουραίους, θα γίνει. Το σύμπαν κάνει υπομονή.

 

Υπάρχει, όμως, και ένα ακόμη χειρότερο σενάριο. Από όσο γνωρίζουμε σήμερα, οι πίθηκοι, οι αρουραίοι και τα άλλα οργανικά ζώα του πλανήτη Γη μπορεί να είναι οι μόνες συνειδητές οντότητες σε ολόκληρο το σύμπαν. Τώρα δημιουργήσαμε μια ασυνείδητη αλλά πολύ ισχυρή εξωγήινη νοημοσύνη. Εάν το χειριστούμε λάθος, η τεχνητή νοημοσύνη μπορεί να σβήσει όχι μόνο την ανθρώπινη κυριαρχία στη Γη, αλλά και το ίδιο το φως της συνείδησης, μετατρέποντας το σύμπαν σε ένα βασίλειο απόλυτου σκότους. Είναι ευθύνη μας να το αποτρέψουμε αυτό.

 

Τα καλά νέα είναι ότι αν αποφύγουμε τον εφησυχασμό και την απόγνωση, είμαστε σε θέση να δημιουργήσουμε ισορροπημένα δίκτυα πληροφοριών που θα κρατήσουν υπό έλεγχο τη δική τους ισχύ. Κάτι τέτοιο δεν είναι θέμα επινοήσεως μιας άλλης θαυματουργής τεχνολογίας ή προσγείωσης σε κάποια λαμπρή ιδέα που κατά κάποιο τρόπο έχει ξεφύγει από όλες τις προηγούμενες γενιές. Αντίθετα, για να δημιουργήσουμε σοφότερα δίκτυα, πρέπει να εγκαταλείψουμε τόσο τις αφελείς όσο και τις λαϊκίστικες απόψεις της πληροφόρησης, να αφήσουμε στην άκρη τις φαντασιώσεις μας για το αλάθητο και να αφοσιωθούμε στη σκληρή και μάλλον πεζή δουλειά της οικοδόμησης θεσμών με ισχυρούς μηχανισμούς αυτοδιόρθωσης. Αυτό είναι ίσως το πιο σημαντικό πακέτο που έχει να προσφέρει αυτό το βιβλίο.

 

Αυτή η σοφία είναι πολύ παλαιότερη από την ανθρώπινη ιστορία. Είναι στοιχειώδες, το θεμέλιο της οργανικής ζωής. Οι πρώτοι οργανισμοί δεν δημιουργήθηκαν από κάποια αλάνθαστη ιδιοφυΐα ή θεό. Προέκυψαν μέσα από μια περίπλοκη διαδικασία δοκιμής και λάθους. Πάνω από τέσσερα δισεκατομμύρια χρόνια, όλο και πιο περίπλοκοι μηχανισμοί μετάλλαξης και αυτοδιόρθωσης οδήγησαν στην εξέλιξη των δέντρων, των δεινοσαύρων, των ζούγκλων και τελικά των ανθρώπων. Τώρα έχουμε συγκεντρώσει μια εξωγήινη ανόργανη νοημοσύνη που θα μπορούσε να ξεφύγει από τον έλεγχό μας και να θέσει σε κίνδυνο όχι μόνο το δικό μας είδος αλλά αμέτρητες άλλες μορφές ζωής. Οι αποφάσεις που θα λάβουμε όλοι τα επόμενα χρόνια θα καθορίσουν εάν η πρόσκληση αυτής της εξωγήινης νοημοσύνης θα αποδειχθεί ένα τελικό λάθος ή η αρχή ενός ελπιδοφόρου νέου κεφαλαίου στην εξέλιξη της ζωής.

 

Nexus: A Brief History of Information Networks from the Stone Age to AI

Βιβλίο του Γιουβάλ Νόα Χαράρι