Διαβάζω στις εφημερίδες για το βιβλίο Noise: A Flaw in Human Judgment (Θόρυβος: ένα ελάττωμα της ανθρώπινης κρίσης) του Daniel Kahneman [βραβείο Νoμπέλ οικονομικών επιστημών 2002^[1]] που εξετάζει την λανθάνουσα μεροληψία της κρίσης μας την οποία προκαλεί η επίδραση μυριάδων παραμορφωτικών παραγόντων, που συχνά δεν συναισθανόμαστε συνειδητά, και οι οποίοι στην θεωρία της επικοινωνίας ονομάζονται «θόρυβος» (noise).
Όπως το είχε θέσει το ζεύγος των αρχιτεκτόνων και designers Ray και Charles Eames, στο θεμελιώδες εκπαιδευτικό τους έργο A Communications Primer (Αλφαβητάριο Επικοινωνίας^[2]) ήδη από το 1953, παραπέμποντας στο Διάγραμμα του Shannon (1948), ο όρος αυτός χρησιμοποιείται για να προσδιορίσει οποιαδήποτε εξωτερική δράση που επενεργεί στο μεταδιδόμενο σήμα με αποτέλεσμα την αλλοίωση ή τροποποίησή του από την αρχική του μορφή.

Τα ευρήματα της έρευνας του συγγραφέα και της ομάδας των συνεργατών του είναι εντυπωσιακά. Διαπιστώθηκε, για παράδειγμα, ότι η αυστηρότητα των ποινών που ορίζουν οι δικαστές για παρόμοια αδικήματα ποικίλλει και μπορεί να αποδοθεί (στατιστικά εννοείται) στις κακές καιρικές συνθήκες της ημέρας της ετυμηγορίας ή στο δυσμενές αποτέλεσμα στον αγώνα της τοπικής ποδοσφαιρικής ομάδας το Σαββατοκύριακο. Οι μεγάλες αποκλίσεις σε κρίσεις που βασίζονται σε μια σειρά από σαφώς διατυπωμένα κριτήρια, όπως συνεντεύξεις για προσλήψεις υπαλλήλων, ή εκτιμήσεις προσδιορισμού ασφαλιστικής κάλυψης, ή ακόμα και ιατρικών διαγνώσεων, έχουν μια κοινή βάση. Όπως είχαν σωστά επισημάνει ο Daniel Kahneman με τον συνάδελφό του Amos Tversky ήδη από τη δεκαετία του 1970, «κανείς ποτέ δεν έλαβε μια απόφαση βασισμένος σ’ έναν αριθμό, όλοι χρειάζονται μια ιστορία», υποστηρίζοντας (και αποδεικνύοντας) ότι οι άνθρωποι κατά κανόνα αποφασίζουν συναισθηματικά, και όχι ορθολογικά.

Σήμερα το βλέπουμε αυτό πολύ καθαρά. Καθώς προχωρά αδιάκοπα η επινόηση και εξαπλώνεται γοργά η χρήση ορθολογικών συστημάτων επικοινωνίας, επικοινωνούμε με όλο και περισσότερο συναισθηματικούς, παθιασμένους, ανορθολογικούς όρους.
Η διαπίστωση της πρωτοκαθεδρίας των παθών στις επιλογές μας προφανώς δεν είναι κάτι καινούργιο. Ήδη από τα τέλη της δεκαετίας του 1950 ο ορθολογιστής γάλλος φιλόσοφος Raymond Aron το είχε θέσει με σαφήνεια, παραπέμποντας και στην εμπειρία του φασισμού: «Όποιοι πιστεύουν ότι οι λαοί θα ακολουθήσουν τα συμφέροντά τους και όχι τα πάθη τους δεν έχουν καταλάβει τίποτε για τον 20ό αιώνα»^[3].

Η πανδημία ήρθε και πάλι να μας το επιβεβαιώσει. Όπως λέει και ό Kahneman, παρατηρώντας την εκτεταμένη δυσπιστία, ή έστω τους ενδοιασμούς, απέναντι στην επιστήμη, οι άνθρωποι φαίνεται πως «είναι έτοιμοι να αναλάβουν πολύ περισσότερα ρίσκα απέναντι στην νόσο από ό,τι στο εμβόλιο». Είναι σαν να προτιμούν μια φυσική κατάσταση από μια τεχνητή, επιστημονικά κατασκευασμένη. Κι αυτό μας πηγαίνει ξανά στον «θόρυβο».
Βέβαια, είναι δύσκολο να πει κανείς κατά πόσον είμαστε έτοιμοι να εξαλείψουμε τον θόρυβο. Γιατί, αν μια επιστημονικά σχεδιασμένη μέθοδος, ένας αλγόριθμος ας πούμε, ή γενικότερα η τεχνητή νοημοσύνη, μας εξασφάλιζε την εξάλειψη του «θορύβου» και οδηγούσε στις αντικειμενικά βέλτιστες αποφάσεις, πώς θα το δεχόμαστε; Αν ένας αλγόριθμος αποφάσιζε σε δικαστήριο που κρίνει εγκλήματα, ή σε ασφαλιστικές εταιρείες που προσδιορίζουν αποζημίωση μετά από ατύχημα, δηλαδή μια ανθρώπινη τραγωδία, ή σε ένα οργανισμό που κάνει συνεντεύξεις για προσλήψεις, χωρίς καμία παρεμβολή της επαφής συγκεκριμένων ανθρώπων, ή ακόμα και στις περιπτώσεις ιατρικών διαγνώσεων, πώς μπορούμε να είμαστε βέβαιοι για το ορθό αποτέλεσμα; Τι γίνεται σε περίπτωση σφάλματος, σ’ ένα glitch του συστήματος;

Εδώ οι απαιτήσεις μας είναι πολύ υψηλές: απαιτούμε απόλυτη επιτυχία. Όπως λέει ο Kahneman, δεν αρκεί η τεχνητή νοημοσύνη να επιτυγχάνει καλύτερα αποτελέσματα από την ανθρώπινη, για να μας πείσει πρέπει να είναι αλάνθαστη. Γιατί όταν η τεχνητή νοημοσύνη κάνει ένα οποιοδήποτε λάθος, αυτό το λάθος φαίνεται στους ανθρώπους αδικαιολόγητο, ή εκ του πονηρού – «σχεδόν διαβολικό» (evil).

Οι άνθρωποι οδηγοί μπορούν να προκαλούν πολυάριθμα θανατηφόρα τροχαία δυστυχήματα καθημερινά, χωρίς αυτό να μας ταράσσει ιδιαίτερα. Αλλά αν ένα αυτοματοποιημένο όχημα χωρίς οδηγό προκαλέσει έστω και ένα, τότε μας καταλαμβάνει φρίκη και όλο το σύστημα ακυρώνεται.
Ωστόσο για τον 87χρονο Kahneman, είναι ζήτημα χρόνου να προσαρμοστούμε σε μια νέα κατάσταση. Γιατί δεν τίθεται καν θέμα συζήτησης για το αν θα επικρατήσει η τεχνητή νοημοσύνη απέναντι στην ανθρώπινη.
Σε πρόσφατη συνέντευξή του (από όπου και οι περισσότερες πληροφορίες που αναφέρονται πιο πάνω^[4]) χωρίς να αναφέρεται στο πρόβλημα της ενδεχόμενης «μόλυνσης» των αλγορίθμων από τις ανθρώπινες προκαταλήψεις, απαντά σε δύο ερωτήσεις προτείνοντας μια εικόνα ενός μέλλοντος που θα το περιγράφαμε αν όχι δυσοίωνο, τουλάχιστον δύσκολο. Εδώ οι ερωτήσεις και οι απαντήσεις σε πρόχειρη μετάφραση: