Λίγα λόγια για τον θόρυβο και την εξάλειψή του

Ο Daniel Kahneman (φωτ. Richard Saker)
Ο Daniel Kahneman (φωτ. Richard Saker)


Διαβάζω στις εφημερίδες για το βιβλίο Noise: A Flaw in Human Judgment (Θόρυβος: ένα ελάττωμα της ανθρώπινης κρίσης) του Daniel Kahneman [βραβείο Νoμπέλ οικονομικών επιστημών 2002[1]] που εξετάζει την λανθάνουσα μεροληψία της κρίσης μας την οποία προκαλεί η επίδραση μυριάδων παραμορφωτικών παραγόντων, που συχνά δεν συναισθανόμαστε συνειδητά, και οι οποίοι στην θεωρία της επικοινωνίας ονομάζονται «θόρυβος» (noise).
Όπως το είχε θέσει το ζεύγος των αρχιτεκτόνων και designers Ray και Charles Eames, στο θεμελιώδες εκπαιδευτικό τους έργο A Communications Primer (Αλφαβητάριο Επικοινωνίας[2]) ήδη από το 1953, παραπέμποντας στο Διάγραμμα του Shannon (1948), ο όρος αυτός χρησιμοποιείται για να προσδιορίσει οποιαδήποτε εξωτερική δράση που επενεργεί στο μεταδιδόμενο σήμα με αποτέλεσμα την αλλοίωση ή τροποποίησή του από την αρχική του μορφή.

Διάγραμμα του Claude E. Shannon, 1948
Διάγραμμα του Claude E. Shannon, 1948

Τα ευρήματα της έρευνας του συγγραφέα και της ομάδας των συνεργατών του είναι εντυπωσιακά. Διαπιστώθηκε, για παράδειγμα, ότι η αυστηρότητα των ποινών που ορίζουν οι δικαστές για παρόμοια αδικήματα ποικίλλει και μπορεί να αποδοθεί (στατιστικά εννοείται) στις κακές καιρικές συνθήκες της ημέρας της ετυμηγορίας ή στο δυσμενές αποτέλεσμα στον αγώνα της τοπικής ποδοσφαιρικής ομάδας το Σαββατοκύριακο. Οι μεγάλες αποκλίσεις σε κρίσεις που βασίζονται σε μια σειρά από σαφώς διατυπωμένα κριτήρια, όπως συνεντεύξεις για προσλήψεις υπαλλήλων, ή εκτιμήσεις προσδιορισμού ασφαλιστικής κάλυψης, ή ακόμα και ιατρικών διαγνώσεων, έχουν μια κοινή βάση. Όπως είχαν σωστά επισημάνει ο Daniel Kahneman με τον συνάδελφό του Amos Tversky ήδη από τη δεκαετία του 1970, «κανείς ποτέ δεν έλαβε μια απόφαση βασισμένος σ’ έναν αριθμό, όλοι χρειάζονται μια ιστορία», υποστηρίζοντας (και αποδεικνύοντας) ότι οι άνθρωποι κατά κανόνα αποφασίζουν συναισθηματικά, και όχι ορθολογικά.

Σήμερα το βλέπουμε αυτό πολύ καθαρά. Καθώς προχωρά αδιάκοπα η επινόηση και εξαπλώνεται γοργά η χρήση ορθολογικών συστημάτων επικοινωνίας, επικοινωνούμε με όλο και περισσότερο συναισθηματικούς, παθιασμένους, ανορθολογικούς όρους.
Η διαπίστωση της πρωτοκαθεδρίας των παθών στις επιλογές μας προφανώς δεν είναι κάτι καινούργιο. Ήδη από τα τέλη της δεκαετίας του 1950 ο ορθολογιστής γάλλος φιλόσοφος Raymond Aron το είχε θέσει με σαφήνεια, παραπέμποντας και στην εμπειρία του φασισμού: «Όποιοι πιστεύουν ότι οι λαοί θα ακολουθήσουν τα συμφέροντά τους και όχι τα πάθη τους δεν έχουν καταλάβει τίποτε για τον 20ό αιώνα»[3].

Η πανδημία ήρθε και πάλι να μας το επιβεβαιώσει. Όπως λέει και ό Kahneman, παρατηρώντας την εκτεταμένη δυσπιστία, ή έστω τους ενδοιασμούς, απέναντι στην επιστήμη, οι άνθρωποι φαίνεται πως «είναι έτοιμοι να αναλάβουν πολύ περισσότερα ρίσκα απέναντι στην νόσο από ό,τι στο εμβόλιο». Είναι σαν να προτιμούν μια φυσική κατάσταση από μια τεχνητή, επιστημονικά κατασκευασμένη. Κι αυτό μας πηγαίνει ξανά στον «θόρυβο».
Βέβαια, είναι δύσκολο να πει κανείς κατά πόσον είμαστε έτοιμοι να εξαλείψουμε τον θόρυβο. Γιατί, αν μια επιστημονικά σχεδιασμένη μέθοδος, ένας αλγόριθμος ας πούμε, ή γενικότερα η τεχνητή νοημοσύνη, μας εξασφάλιζε την εξάλειψη του «θορύβου» και οδηγούσε στις αντικειμενικά βέλτιστες αποφάσεις, πώς θα το δεχόμαστε; Αν ένας αλγόριθμος αποφάσιζε σε δικαστήριο που κρίνει εγκλήματα, ή σε ασφαλιστικές εταιρείες που προσδιορίζουν αποζημίωση μετά από ατύχημα, δηλαδή μια ανθρώπινη τραγωδία, ή σε ένα οργανισμό που κάνει συνεντεύξεις για προσλήψεις, χωρίς καμία παρεμβολή της επαφής συγκεκριμένων ανθρώπων, ή ακόμα και στις περιπτώσεις ιατρικών διαγνώσεων, πώς μπορούμε να είμαστε βέβαιοι για το ορθό αποτέλεσμα; Τι γίνεται σε περίπτωση σφάλματος, σ’ ένα glitch του συστήματος;

Εδώ οι απαιτήσεις μας είναι πολύ υψηλές: απαιτούμε απόλυτη επιτυχία. Όπως λέει ο Kahneman, δεν αρκεί η τεχνητή νοημοσύνη να επιτυγχάνει καλύτερα αποτελέσματα από την ανθρώπινη, για να μας πείσει πρέπει να είναι αλάνθαστη. Γιατί όταν η τεχνητή νοημοσύνη κάνει ένα οποιοδήποτε λάθος, αυτό το λάθος φαίνεται στους ανθρώπους αδικαιολόγητο, ή εκ του πονηρού – «σχεδόν διαβολικό» (evil).

Ποιος κρατάει το τιμόνι; [Εικονογράφηση του Harry Campbell σε άρθρο του ιστότοπου της Νομικής Σχολής του Χάρβαρντ (https://today.law.harvard.edu/feature/morality-in-the-machines/)]
Ποιος κρατάει το τιμόνι; [Εικονογράφηση του Harry Campbell σε άρθρο του ιστότοπου της Νομικής Σχολής του Χάρβαρντ (https://today.law.harvard.edu/feature/morality-in-the-machines/)]

Οι άνθρωποι οδηγοί μπορούν να προκαλούν πολυάριθμα θανατηφόρα τροχαία δυστυχήματα καθημερινά, χωρίς αυτό να μας ταράσσει ιδιαίτερα. Αλλά αν ένα αυτοματοποιημένο όχημα χωρίς οδηγό προκαλέσει έστω και ένα, τότε μας καταλαμβάνει φρίκη και όλο το σύστημα ακυρώνεται.
Ωστόσο για τον 87χρονο Kahneman, είναι ζήτημα χρόνου να προσαρμοστούμε σε μια νέα κατάσταση. Γιατί δεν τίθεται καν θέμα συζήτησης για το αν θα επικρατήσει η τεχνητή νοημοσύνη απέναντι στην ανθρώπινη.
Σε πρόσφατη συνέντευξή του (από όπου και οι περισσότερες πληροφορίες που αναφέρονται πιο πάνω[4]) χωρίς να αναφέρεται στο πρόβλημα της ενδεχόμενης «μόλυνσης» των αλγορίθμων από τις ανθρώπινες προκαταλήψεις, απαντά σε δύο ερωτήσεις προτείνοντας μια εικόνα ενός μέλλοντος που θα το περιγράφαμε αν όχι δυσοίωνο, τουλάχιστον δύσκολο. Εδώ οι ερωτήσεις και οι απαντήσεις σε πρόχειρη μετάφραση:

Πιστεύετε ότι υπάρχουν ευρύτεροι κίνδυνοι από τη χρήση των ψηφιακών δεδομένων και της τεχνητής νοημοσύνης για να βελτιώσει ή να αντικαταστήσει την ανθρώπινη κρίση;

«Θα υπάρξουν τεράστιες συνέπειες από την αλλαγή που ήδη έχει αρχίσει. Κάποιες ιατρικές ειδικότητες σαφώς κινδυνεύουν να αντικατασταθούν, και σίγουρα στο πεδίο της διάγνωσης. Και υπάρχουν τρομακτικά σενάρια όταν πάμε στο θέμα της διεύθυνσης των επιχειρήσεων. Άπαξ και αποδειχθεί, ας πούμε, ότι η τεχνητή νοημοσύνη διαθέτει πολύ καλύτερη επιχειρηματική κρίση (business judgement), τότε τι θα σημάνει αυτό για το θέμα της ανθρώπινης ηγετικής δραστηριότητας (leadership);»

Μήπως ήδη βλέπουμε μια αντίδραση σ’ αυτό; Ίσως ένας τρόπος να ερμηνεύσουμε τις εκλογικές νίκες του Τραμπ και του Τζόνσον είναι να τις δούμε σαν αντίδραση απέναντι στον όλο και πιο πολύπλοκο κόσμο της πληροφορίας – μήπως η γοητεία τους είναι ότι εμφανίζονται απλά ως παρορμητικοί καιροσκόποι. Ενδέχεται να δούμε και συνέχεια αυτού του λαϊκισμού;

«Έχω μάθει να μην κάνω προβλέψεις. Όχι μόνο δεν θέλω να το κάνω – αλλά δεν είμαι και σίγουρος ότι μπορεί να γίνει. Αλλά ένα πράγμα που μοιάζει πολύ πιθανό, είναι ότι αυτές οι τεράστιες αλλαγές δεν θα συμβούν ήσυχα. Θα υπάρξει μεγάλη αναστάτωση. Η τεχνολογία αναπτύσσεται πολύ γοργά, πιθανότατα με εκθετικό ρυθμό. Αλλά οι άνθρωποι είναι γραμμικοί. Κι όταν γραμμικοί άνθρωποι αντιμετωπίζουν εκθετική αλλαγή, δεν μπορούν να προσαρμοστούν πολύ εύκολα (όπως μας έδειξε και η πανδημία). Έτσι λοιπόν, κάτι έρχεται… και σαφέστατα η ΤΝ θα νικήσει απέναντι στην ανθρώπινη διάνοια. Και με άνεση. Τώρα, πώς θα προσαρμοστούν οι άνθρωποι είναι ένα συναρπαστικό πρόβλημα – αλλά το οποίο θα χρειαστεί να το αντιμετωπίσουν τα παιδιά μου και τα εγγόνια μου, όχι εγώ».

ΑΛΛΑ ΚΕΙΜΕΝΑ ΤΟΥ ΣΥΓΓΡΑΦΕΑ
ΣΧΕΤΙΚΑ ΚΕΙΜΕΝΑ
 

αυτόν τον μήνα οι εκδότες προτείνουν: