Cyborg
Cyborg #12 - 6/2018

#12 - 06/2018

Watson for president!
(οι έξυπνοι αλγόριθμοι είναι καλύτεροι απ’ τους ηλίθιους πολιτικούς;)

Πριν σχεδόν 70 χρόνια, για την ακρίβεια στις 28 Δεκέμβρη του 1948, ένας καλόγερος φιλομαθής, με σοβαρά φιλοσοφικά ενδιαφέροντα και καλά ενημερωμένος για τις πιο πρόσφατες εξελίξεις στην τεχνο-επιστημονική έρευνα της εποχής του, ο “πατήρ” Dominique Dubarle, έστειλε ένα γράμμα στην παριζιάνικη εφημερίδα μεγάλης κυκλοφορίας le Monde, για να σχολιάσει το (σε μεγάλο βαθμό τεχνικό) βιβλίο Κυβερνητική, του Norbert Wiener, που μόλις είχε εκδοθεί· και, φυσικά, είχε διαβάσει. [1Απ’ το Κυβερνητική και κοινωνία (η ανθρώπινη χρησιμοποίηση των ανθρώπινων όντων), του Norbert Wiener, εκδ. Παπαζήση.] Ο καλόγερος Dubarle δεν άφησε το όνομά του στην ιστορία όπως ο Wiener. Όμως το τότε σχόλιό του απέκτησε ένα τωρινό ενδιαφέρον:

...Έτσι, μία απ’ τις πιο συναρπαστικές προοπτικές που δημιουργούνται, είναι η δυνατότητα της λογικής ρύθμισης των ανθρώπινων υποθέσεων, και ειδικότερα εκείνων που αφορούν ανθρώπινες κοινότητες και παρουσιάζουν μια ορισμένη στατιστική κανονικότητα, όπως είναι η ανθρώπινη διαμόρφωση της κοινής γνώμης. Μπορεί, άραγε, να φανταστεί κανείς μια μηχανή που θα συλλέγει ένα οποιοδήποτε είδος πληροφορίας, όπως π.χ. πληροφορίες σχετικά με την παραγωγή και την αγορά· και κατόπιν θα προσδιορίζει ποια θα είναι η πιθανότερη εξέλιξη της κατάστασης, συναρτήσει της μέσης ψυχολογίας των ανθρώπινων όντων, και των ποσοτήτων που είναι δυνατόν να μετρηθούν σε κάθε καθορισμένη περίπτωση.
Είναι άραγε δυνατόν να διανοηθεί κανείς μια κρατική μηχανή που να καλύπτει όλα τα συστήματα λήψης πολιτικών αποφάσεων, κάτω από ένα καθεστως πολλών κρατών κατανεμημένων στην επιφάνεια της γης, ή κάτω από ένα προφανώς πολύ απλούστερο καθεστώς μιας κυβέρνησης ολόκληρου του πλανήτη; Προς το παρόν τίποτα δεν μας εμποδίζει να φανταστούμε κάτι τέτοιο. Μπορούμε να ονειρευτούμε την εποχή που θα είναι δυνατόν μια machine a gouverner (μηχανή διακυβέρνησης) να συμπληρώνει - είτε προς το καλύτερο είτε προς το χειρότερο - την σημερινή προφανή ανικανότητα του ανθρώπινου εγκεφάλου όταν ασχολείται με τον συνηθισμένο μηχανισμό της πολιτικής.

Οπωσδήποτε, οι ανθρώπινες πραγματικότητες δεν επιδέχονται έναν σαφή και βέβαιο καθορισμό, όπως συμβαίνει με τα αριθμητικά δεδομένα των μαθηματικών. Το μόνο που επιδέχονται είναι ο καθορισμός των πιθανότητών τους. Μια μηχανή συνεπώς, που πραγματεύεται αυτές τις διαδικασίες, πρέπει να χρησιμοποιηθεί μάλλον έναν πιθανολογικό τρόπο σκέψης παρά έναν ντετερμινιστικό, όπως συμβαίνει π.χ. στις σύγχρονες υπολογιστικές μηχανές.
Το γεγονός αυτό κάνει ακόμη πιο περίπλοκη την λειτουργία της, αλλά όχι αδύνατη. Η μηχανή πρόβλεψης που προσδιορίζει την αποτελεσματικότητα του αντιαεροπορικού πυροβόλου είναι μια μηχανή αυτού του τύπου.

Θεωρητικά η πρόβλεψη του πιθανότερου χρόνου ενός συμβάντος δεν είναι δυνατή. Επίσης δεν είναι δυνατός ο καθορισμός της ευνοϊκώτερης απόφασης, τουλάχιστον μέσα σε ορισμένα όρια. Μπορεί να θεωρηθεί ότι η δυνατότητα ύπαρξης μηχανών όπως η σκακιστική μηχανή, εξασφαλίζει το γεγονός αυτό. Κι αυτό συμβαίνει επειδή οι ανθρώπινες διαδικασίες που αποτελούν το αντικείμενο της διακυβέρνησης μπορούν να παραβληθούν με “Παίγνια”, υπό την έννοια με την οποία τα μελέτησε με μαθηματικό τρόπο ο von Neumann.
Παρ’ όλο που αυτά τα “Παίγνια” καθορίζονται από ένα ατελές σύνολο κανονισμών, υπάρχουν άλλα “Παίγνια” με πολύ μεγάλο αριθμό παικτών, όπου τα δεδομένα είναι εξαιρετικά πολύπλοκα. Για τις machines a gouverner το κράτος θα καθοριστεί σαν ο καλύτερα πληροφοροημένος παίκτης σε κάθε ιδιαίτερο επίπεδο· και το κράτος θα είναι ο μοναδικός ανώτατος συντονιστής όλων των επιμέρους αποφάσεων.

Τα πλεονεκτήματα θα είναι τεράστια. Εάν, δε, αποκτηθούν με επιστημονικό τρόπο, θα επιτρέψουν στο κράτος να νικήσει οποιονδήποτε παίκτη, εκτός από τον εαυτό του, σε ένα ανθρώπινο παιχνίδι, κάτω από οποιεσδήποτε συνθήκες, με το να τον φέρει αντιμέτωπο με το εξής δίλημμα: είτε να υποστεί άμεση καταστροφή, είτε να συνεργαστεί βάσει σχεδίου. Αυτές θα είναι οι συνέπειες του ίδιου του παιχνιδιού χωρίς την χρήση εξωτερικής βίας. Οι εραστές ενός ιδανικού κόσμου έχουν έτσι πραγματικά κάτι να ονειρεύονται.

Η έμπνευση του Dubarle για μια μηχανή διακυβέρνησης θα μπορούσε να συζητιέται τότε (μετά τεΐου) σε σαλόνια ευφάνταστων αργόσχολων· διαφορετικά θα ήταν καταγέλαστη. Ο ίδιος ο Dubarle δεν απέκλειε την εφεύρεσή της· ωστόσο δεν την έβλεπε “διαθέσιμη πολύ γρήγορα”.
Ο Wiener απ’ τη μεριά του, σχολιάζοντας την έμπνευση του Dubarle, ανησυχούσε μόνο μήπως η machine a gouverner πέσει στα χέρια “κακών ανθρώπων”: ο 3ος παγκόσμιος (ο επονομαζόμενος “ψυχρός”) είχε ήδη ξεκινήσει...

...
Η machine a gouverner του πατρός Dubarle δεν είναι τρομακτική επειδή υπάρχει κάποιος κίνδυνος να επιτύχει αυτόνομο έλεγχο της ανθρωπότητας... Ο πραγματικός κίνδυνος που παρουσιάζει είναι ο εντελώς διαφορετικός κίνδυνος ότι τέτοιου είδους μηχανές, παρ’ όλο που από μόνες τους είναι αβλαβείς, μπορούν να χρησιμοποιηθούν από ένα ανθρώπινο ον ή από μία ομάδα ανθρώπινων όντων για να αυξήσουν τον έλεγχό τους στην υπόλοιπη ανθρωπότητα, ή από πολιτικούς αρχηγούς στην προσπάθειά τους να ελέγξουν τον πληθυσμό, όχι μέσω αυτών των ίδιων των μηχανών αλλά μέσω μιας πολιτικής τεχνικής τόσο στενής και αδιάφορης στις ανθρώπινες δυνατότητες, που θα μπορούσε κανείς να πει ότι στην πραγματικότητα η πολιτική αυτή έχει σχεδιαστεί από μια μηχανή.
Η μεγάλη αδυναμία αυτής της μηχανής - η αδυναμία που μας σώζει από την κυριαρχία της - είναι ότι ακόμη δεν μπορεί να λάβει υπ’ όψη της το τεράστιο πεδίο πιθανότητας που χαρακτηρίζει την ανθρώπινη κατάσταση. Η κυριαρχία της μηχανής προϋποθέτει μια κοινωνία στα τελευταία στάδια αυξημένης εντροπίας, όπου  οι πιθανότητες είναι αμελητέες και δεν υφίστανται οι στατιστικές διαφορές μεταξύ ατόμων. Ευτυχώς δεν φθάσαμε ακόμη σ’ αυτό το στάδιο.
...

Ωστόσο, εβδομήντα ή ογδόντα χρόνια δεν είναι “πολύ αργά” - αν μέτρο είναι η ανθρώπινη Ιστορία. Στην πιο πρόσφατη προεκλογική περίοδο στις ηπα, το 2016, δεν υπήρχαν μόνο δύο υποψήφιοι, ο Trump και η Clinton. Υπήρχε (ή, πιο σωστά, έγινε προσπάθεια να υπάρξει) και ένας τρίτος. Ο Watson. Ο Watson είναι μηχανή, δημιούργημα των μηχανικών της ibm, και θεωρείται απ’ τα πιο προχωρημένα ως σήμερα, κατασκευασμένα και λειτουργικά συστήματα που θα μπορούσαν να ανομαστούν τεχνητή νοημοσύνη.

[...]

...η συνέχεια στο έντυπο τεύχος του Cyborg.
[ σημεία διακίνησης ]

Ziggy Stardust

Watson for president!

Σημειώσεις

1 - Απ’ το Κυβερνητική και κοινωνία (η ανθρώπινη χρησιμοποίηση των ανθρώπινων όντων), του Norbert Wiener, εκδ. Παπαζήση.
[ επιστροφή ]

κορυφή