Τι συμβαίνει σε μια κοινωνία όταν οι μηχανές μπορούν όλο και περισσότερα;

Η κοινωνία σπάνια αλλάζει ευγενικά και με τάξη

Όταν μια νέα τεχνολογία γίνει αρκετά μεγάλη, δεν μένει στο τμήμα πληροφορικής. Εισχωρεί στα σχολεία, στις επιχειρήσεις, στις υπηρεσίες, στις σχέσεις, στα επαγγέλματα και κάποια στιγμή και στην εικόνα που έχουμε για τον άνθρωπο.

Ακριβώς εκεί βρισκόμαστε με την ΤΝ.

Μπορεί κανείς φυσικά να το περιγράψει πρώτα τεχνικά. Ταχύτερη ανάλυση. Αυτοματοποίηση. Νέα εργαλεία. Γλωσσικά μοντέλα. Agents. Συστήματα που μπορούν να βλέπουν, να ακούν, να γράφουν, να οργανώνουν και να ενεργούν.

Μόνο που πολύ γρήγορα αυτό γίνεται κοινωνικό ερώτημα. Γιατί μόλις οι μηχανές αναλαμβάνουν περισσότερα από όσα θεωρούσαμε για πολύ καιρό χαρακτηριστική ανθρώπινη πνευματική εργασία, πρέπει να ξεκαθαρίσουμε από την αρχή τι θέλουμε εμείς οι άνθρωποι να κάνουμε ακόμη οι ίδιοι, τι πρέπει να κάνουμε οι ίδιοι και για τι πρέπει να φέρουμε οι ίδιοι την ευθύνη.

Και έτσι βρισκόμαστε μέσα στην Human Intelligence.

Όχι ως φιλικός αντίπαλος της Artificial Intelligence. Αλλά ως ένα μάλλον πρακτικό ερώτημα: ποιες ανθρώπινες ικανότητες γίνονται πιο σημαντικές, αντί για λιγότερο σημαντικές, σε μια κοινωνία της ΤΝ;

Εργασιακός κόσμος και εκπαίδευση

Πιο ορατό είναι αυτό πρώτα στον εργασιακό κόσμο. Όταν η ΤΝ γράφει κείμενα, προετοιμάζει αναλύσεις, συναναπτύσσει λογισμικό, ταξινομεί αιτήματα υποστήριξης ή επιταχύνει ρουτίνα αποφάσεων, δεν εξαφανίζονται απλώς δραστηριότητες. Κυρίως μετατοπίζεται το για ποιο λόγο χρειάζονται ακόμη οι άνθρωποι στην εργασιακή καθημερινότητα.

Πολλά επαγγέλματα δεν καταργούνται έτσι, αλλά αναδιαμορφώνονται. Και αυτό είναι από ορισμένες απόψεις πιο κουραστικό. Γιατί τότε δεν αρκεί να εισαγάγει κανείς μία φορά ένα λογισμικό και μετά να συνεχίσει όπως πριν. Οι άνθρωποι πρέπει να μάθουν να ελέγχουν αποτελέσματα, να καθοδηγούν συστήματα, να αναγνωρίζουν λάθη, να αναλαμβάνουν ευθύνη και να παρεμβαίνουν εκεί όπου τυπικά πιθανές απαντήσεις δεν ισχύουν πια στην πραγματικότητα.

Ακριβώς γι' αυτό η εκπαίδευση δεν είναι εδώ δευτερεύον θέμα.

Όταν αλλάζει η εργασία, πρέπει να αλλάξει μαζί και η εκπαίδευση. Όχι μόνο με την έννοια: όλοι μαθαίνουν τώρα μερικά νέα εργαλεία. Αλλά με πολύ πιο θεμελιώδη τρόπο. Τι πρέπει να μπορούν οι άνθρωποι όταν η γνώση είναι ανά πάσα στιγμή διαθέσιμη, τα τυπικά κείμενα προκύπτουν σε δευτερόλεπτα και ακόμη και οι αναλυτικές προεργασίες αναλαμβάνονται όλο και περισσότερο από μηχανές;

Ίσως να γίνει σημαντικότερο ακριβώς εκείνο που αυτοματοποιείται δυσκολότερα: να κατανοείς συσχετίσεις. Να θέτεις καλές ερωτήσεις. Να σχηματίζεις κρίσεις. Να αντιμετωπίζεις την αβεβαιότητα. Να σκέφτεσαι μαζί με άλλους. Να μπορείς να διορθώνεις τον εαυτό σου.

Η Human Intelligence δεν είναι γι' αυτό στον εργασιακό κόσμο και στην εκπαίδευση υπόλειμμα μιας παλιάς ανθρωπιάς, αλλά η ικανότητα να χειρίζεσαι έναν κόσμο όπου η καθαρή επεξεργασία πληροφοριών δεν είναι πια αυτόματα το μοναδικό μας χαρακτηριστικό.

Δικαιοσύνη και σχέσεις

Η ΤΝ δεν χτυπά ποτέ μια κοινωνία ομοιόμορφα.

Ορισμένοι άνθρωποι έχουν πρόσβαση σε καλά εργαλεία, καλή εκπαίδευση, καλή υποδομή και αρκετό χρόνο για να εξοικειωθούν με νέους τρόπους εργασίας. Άλλοι όχι. Ορισμένοι ωφελούνται από την αυτοματοποίηση. Άλλοι ελέγχονται κυρίως περισσότερο, τυποποιούνται ή αποκλείονται από διαδικασίες που πριν γνώριζαν τουλάχιστον έναν ανθρώπινο συνομιλητή.

Γι' αυτό η δικαιοσύνη με την ΤΝ δεν γίνεται ηθική υποσημείωση, αλλά ένα αρκετά σκληρό ζήτημα διαμόρφωσης.

Ποιος επιτρέπεται να ωφεληθεί από τα κέρδη παραγωγικότητας; Ποιος φέρει τον κίνδυνο των λανθασμένων αποφάσεων; Ποιος μπορεί να αμυνθεί απέναντι σε αυτοματοποιημένες αξιολογήσεις; Ποιος καταλαβαίνει καν ακόμη με ποιες λογικές αποφασίζονται πράγματα για εκείνον;

Και μετά υπάρχουν οι σχέσεις.

Αυτό ακούγεται στην αρχή πιο ήπιο, δεν είναι όμως κοινωνικά μικρότερο. Όταν οι μηχανές γίνονται όλο και καλύτερες στο να μας ακούν, να απαντούν, να αντανακλούν, να συμβουλεύουν και κάποιες φορές ακόμη και να παρηγορούν, αλλάζει αναγκαστικά και ο χώρος ανάμεσα στους ανθρώπους. Μια μηχανή δεν γίνεται έτσι ξαφνικά άνθρωπος. Οι άνθρωποι όμως αρχίζουν να μεταφέρουν μέρη της προσοχής, της εμπιστοσύνης και της εγγύτητας σε τεχνικά συστήματα.

Εγώ δεν το θεωρώ ούτε καθαρή δυστοπία ούτε αβλαβές.

Είναι απλώς κάτι που πρέπει να πάρουμε στα σοβαρά. Γιατί μια κοινωνία δεν ζει μόνο από διαδικασίες που λειτουργούν. Ζει από το ότι οι άνθρωποι αντιλαμβάνονται ο ένας τον άλλον, αντιλέγουν ο ένας στον άλλον, αντέχουν ο ένας τον άλλον και δεν αντικαθιστούν ο ένας τον άλλον πλήρως με αποδοτικές διεπαφές.

Η Human Intelligence σημαίνει εδώ κυρίως κοινωνική νοημοσύνη: να μπορείς να ξεχωρίζεις την εγγύτητα από την προσομοίωση, να μην ανταλλάσσεις την ευαλωτότητα με την ευκολία και να καταλαβαίνεις πότε οι ψηφιακές απαντήσεις απλώς μιμούνται πια το διαπροσωπικό.

Ηθική και governance

Στο τέλος όλα αυτά καταλήγουν στην ηθική και στο governance, ακόμη κι αν και οι δύο όροι ακούγονται δυστυχώς γρήγορα σαν συζήτηση πάνελ.

Η ηθική δεν είναι σε αυτό το πλαίσιο κάτι αποκομμένο από την πραγματικότητα. Δεν πρόκειται για την πανηγυρική διακήρυξη αξιών σε συνέδρια. Πρόκειται για το ποιος επιτρέπεται να αποφασίζει, με ποια κριτήρια ενεργούν τα συστήματα, των οποίων τα συμφέροντα είναι εγγεγραμμένα στα μοντέλα και τι συμβαίνει όταν η τεχνική αποδοτικότητα συγκρούεται με την ανθρώπινη δικαιοσύνη.

Το governance είναι η πρακτική πλευρά αυτού.

Ποιος ελέγχει αυτά τα συστήματα; Ποιος ευθύνεται; Ποιος επιτρέπεται να χρησιμοποιεί ποια δεδομένα; Ποια όρια ισχύουν στις επιχειρήσεις, στα σχολεία, στις υπηρεσίες, στα νοσοκομεία; Και πώς εμποδίζουμε την ευθύνη να εξαφανίζεται πάντα κομψά εκεί όπου, υποτίθεται, απλώς το σύστημα έκανε στο τέλος μια πρόταση;

Ακριβώς εδώ μια κοινωνία της ΤΝ χρειάζεται σαφώς περισσότερη Human Intelligence, όχι λιγότερη.

Χρειάζεται ανθρώπους που δεν ρωτούν μόνο τι λειτουργεί τεχνικά, αλλά και τι είναι κοινωνικά συνετό. Ανθρώπους που λένε τα άβολα. Ανθρώπους που οργανώνουν την αντίρρηση. Ανθρώπους που, μέσα σε όλο τον ενθουσιασμό για την αυτοματοποίηση, δεν ξεχνούν ότι οι δημοκρατικές, κοινωνικές και ηθικές τάξεις είναι σκόπιμα πιο περίπλοκες από μια καλά βελτιστοποιημένη διαδικασία.

Ίσως αυτό να είναι ούτως ή άλλως το καθοριστικό σημείο.

Η ΤΝ δεν μας αναγκάζει μόνο να σκεφτούμε τις μηχανές. Μας αναγκάζει να κάνουμε κάτι πολύ πιο δυσάρεστο: να ξεκαθαρίσουμε τι εννοούμε πραγματικά με καλή εργασία, καλή εκπαίδευση, δίκαιη συμμετοχή, αληθινές σχέσεις και υπεύθυνη διακυβέρνηση.

Και ακριβώς γι' αυτό αυτό δεν είναι περιθωριακό θέμα για φιλοσόφους, συμβούλια ηθικής ή υπεύθυνους ψηφιακής πολιτικής.

Είναι ένα μάλλον πρακτικό ερώτημα προς όλους μας.