Τους τελευταίους μήνες, με τη διάδοση των νέων γλωσσικών μοντέλων Τεχνητής Νοημοσύνης, όπως το «ChatGPT» και το «Bard», η συζήτηση για τη συνύπαρξή μας με την Τεχνητή Νοημοσύνη εκτείνεται σε διαφορετικές κατευθύνσεις. Συνοπτικά, μπορούμε να πούμε ότι ο «παροξυσμός αισιοδοξίας», σχετικά με τα νέα μοντέλα επεξεργασίας φυσικής γλώσσας, συμπορεύεται με τον έντονο προβληματισμό για τα όρια και τις επιπτώσεις αυτής της εξέλιξης στην κοινωνία.
Πρόκειται, σαφώς, για ένα διαχρονικό ζήτημα που συνδέεται με κάθε τεχνολογική ανάπτυξη. Στην περίπτωση της Τεχνητής Νοημοσύνης, ο προβληματισμός είναι εντονότερος, καθώς ακόμη και εξειδικευμένοι επιστήμονες αδυνατούν να κατανοήσουν πλήρως τις πιο σύνθετες λειτουργίες της. Η μελλοντική αυτονόμησή της είναι ένα επιπλέον ενδεχόμενο που προκαλεί, τουλάχιστον προς το παρόν, αμηχανία.
Τα ηθικά και νομικά ζητήματα που εγείρονται από την αυξανόμενη χρήση συστημάτων ΤΝ αποτελούν το θέμα του βιβλίου «Μπορεί ο αλγόριθμος…» (Πανεπιστημιακές Εκδόσεις Κρήτης) που επιμελήθηκε επιστημονικά η Καθηγήτρια, στο Τμήμα Μηχανικών Πληροφοριακών και Επιστημονικών Συστημάτων του Πανεπιστημίου Αιγαίου, Λίλιαν Μήτρου. Το βιβλίο είναι γραμμένο από νομικούς (Σπύρος Τάσσης, Ηλιάνα Κωστή, Απόστολος Βόρρας και Βασίλης Καρκατζούνης) που «δεσμεύονται πρωτίστως από την πεποίθηση για την αξία της δημοκρατίας και των θεμελιωδών δικαιωμάτων, αλλά ταυτόχρονα αγαπούν και ισχυρίζονται ότι κατανοούν την τεχνολογία».
Παρουσίαση, από τον Γιώργο Καρουζάκη
Τους τελευταίους μήνες, με τη διάδοση των νέων γλωσσικών μοντέλων Τεχνητής Νοημοσύνης, όπως το «ChatGPT» και το «Bard», η συζήτηση για τη συνύπαρξή μας με την Τεχνητή Νοημοσύνη εκτείνεται σε διαφορετικές κατευθύνσεις. Συνοπτικά, μπορούμε να πούμε ότι ο «παροξυσμός αισιοδοξίας», σχετικά με τα νέα μοντέλα επεξεργασίας φυσικής γλώσσας, συμπορεύεται με τον έντονο προβληματισμό για τα όρια και τις επιπτώσεις αυτής της εξέλιξης στην κοινωνία.
Πρόκειται, σαφώς, για ένα διαχρονικό ζήτημα που συνδέεται με κάθε τεχνολογική ανάπτυξη. Στην περίπτωση της Τεχνητής Νοημοσύνης, ο προβληματισμός είναι εντονότερος, καθώς ακόμη και εξειδικευμένοι επιστήμονες αδυνατούν να κατανοήσουν πλήρως τις πιο σύνθετες λειτουργίες της. Η μελλοντική αυτονόμησή της είναι ένα επιπλέον ενδεχόμενο που προκαλεί, τουλάχιστον προς το παρόν, αμηχανία.
Τα ηθικά και νομικά ζητήματα που εγείρονται από την αυξανόμενη χρήση συστημάτων ΤΝ αποτελούν το θέμα του βιβλίου «Μπορεί ο αλγόριθμος…» (Πανεπιστημιακές Εκδόσεις Κρήτης) που επιμελήθηκε επιστημονικά η Καθηγήτρια, στο Τμήμα Μηχανικών Πληροφοριακών και Επιστημονικών Συστημάτων του Πανεπιστημίου Αιγαίου, Λίλιαν Μήτρου. Το βιβλίο είναι γραμμένο από νομικούς (Σπύρος Τάσσης, Ηλιάνα Κωστή, Απόστολος Βόρρας και Βασίλης Καρκατζούνης) που «δεσμεύονται πρωτίστως από την πεποίθηση για την αξία της δημοκρατίας και των θεμελιωδών δικαιωμάτων, αλλά ταυτόχρονα αγαπούν και ισχυρίζονται ότι κατανοούν την τεχνολογία»[1].
Μπορεί, λοιπόν, ο αλγόριθμος να είναι ηθικός, δίκαιος, διαφανής, αμερόληπτος, να δικάζει και να διοικεί; Αυτά είναι ορισμένα από τα ερωτήματα που διερευνούν οι συγγραφείς του βιβλίου, επιχειρώντας να δώσουν κάποιες απαντήσεις, εξ ορισμού προσωρινές. Η τεχνολογία εξελίσσεται σήμερα με τόσο ταχύ ρυθμό, που η νομική, και αρκετές ακόμη επιστήμες, δυσκολεύεται να ακολουθήσει.
Αν και η ένταση με την οποία αντιμετωπίζεται θετικά ή αρνητικά η ΤΝ συνδέεται και με τον τρόπο που έχει αποτυπωθεί στη λογοτεχνία ή στις ταινίες επιστημονικής φαντασίας, προς το παρόν, σημειώνει η Λίλιαν Μήτρου, «παρούσα είναι η Περιορισμένη Τεχνητή Νοημοσύνη (Narrow Artificial Intelligence), ενώ άδηλη είναι (ακόμη!) η χρονική στιγμή της μετάβασης στη λεγόμενη Γενική Τεχνική Νοημοσύνη (General Artificial Intellligence) και, ακόμη περισσότερο, στη λεγόμενη Τεχνητή Υπερνοημοσύνη (Artificial Superintelligence)[2]».
Ακόμη όμως και τώρα, που η ΤΝ επιλύει ταχύτερα από τον άνθρωπο πολύπλοκα προβλήματα χωρίς να αντιλαμβάνεται και να κατανοεί στην ουσία τα δεδομένα με τα οποία τροφοδοτείται, η επίδρασή της στην ανθρώπινη ζωή προκαλεί ανησυχία. Κυρίως όταν η χρήση της επηρεάζει κοινωνικές ή κρατικές δομές, τους τομείς της Οικονομίας, της Υγείας, της Δικαιοσύνης, της Παιδείας, της Επικοινωνίας κ.ά.
Η καθηγήτρια, αναφερόμενη στην «ασυμμετρία ισχύος», μεταξύ εκείνων που αναπτύσσουν και εφαρμόζουν αλγοριθμικά συστήματα και όσων υφίστανται τα αποτελέσματα αυτών των συστημάτων, διακρίνει μία προβληματική εξέλιξη: «Ο αδιαφανής, σύνθετος, συχνά μεροληπτικός και ταχύτατα μεταβαλλόμενος χαρακτήρας των συστημάτων και εφαρμογών ΤΝ δεν είναι ευχερώς συμβιβάσιμος με την απαίτηση για ασφάλεια δικαίου, διαφάνεια, εξηγησιμότητα, προστασία της ιδιωτικής ζωής, ίση και δίκαιη μεταχείριση[3]». Συνεπώς, η υφιστάμενη νομοθεσία δεν μπορεί να αντιμετωπίσει πλήρως ανάλογα ζητήματα, ενώ οι «απαντήσεις που δίνει το ισχύον κανονιστικό πλαίσιο αφενός είναι μερικού χαρακτήρα και αφετέρου δεν εγγυώνται την απαιτούμενη ασφάλεια δικαίου[4]».
Επειδή όμως η τεχνολογία δεν έφτασε στη ζωή μας μέσω κάποιου μυστικιστικού, προμηθεϊκού τρόπου, αλλά είναι ανθρώπινο δημιούργημα, ίσως έχουμε ακόμη το περιθώριο να αναπτύξουμε, όπως επισημαίνουν οι συγγραφείς του βιβλίου, τα εργαλεία και τους μηχανισμούς που θα μπορούν να «παρακολουθούν και να εποπτεύουν την εξέλιξη της ανάπτυξης και εφαρμογής των σύνθετων κοινωνικω-τεχνικών συστημάτων». Η Ευρωπαϊκή Ένωση προσπαθεί να θεσπίσει ένα πλαίσιο ηθικών, δεοντολογικών αρχών και ρυθμίσεων για τη χρήση των συστημάτων ΤΝ, με μια αντίληψη που επικεντρώνεται στην ελευθερία επιλογής, στην εξασφάλιση της διαφάνειας και της πληροφόρησης των πολιτών και στην αποφυγή παράνομων διακρίσεων. Αν και τα ζητήματα που θέτει συνεχώς η χρήση της ΤΝ είναι πολλά και πολύπλοκα.
Ειδικότερα, ο Σπύρος Τάσσης εξετάζει αναλυτικά στο βιβλίο το ζήτημα των ηθικών κανόνων που πρέπει να διέπουν την τεχνολογία και παρουσιάζει έναν «οδικό χάρτη ηθικών αρχών», καταλήγοντας: «Οι εταιρείες πρέπει να σκεφτούν σοβαρά τις ηθικές διαστάσεις για το πώς αναπτύσσουν τα εργαλεία τους και πού οδηγούν τις κοινωνίες· αλλά και εμείς, ως δημοκρατικοί πολίτες, οφείλουμε να γνωρίζουμε και να εκπαιδευτούμε για τις ηθικές και κοινωνικές συνέπειες, όχι μόνο για να αποφασίσουμε τι είναι σωστό και πώς πρέπει να αναπτυχθεί το ρυθμιστικό πλαίσιο, αλλά κυρίως για να επιλέξουμε ποιος ακριβώς θα είναι ο ρόλος που θα επιτρέψουμε σε αυτές τις τεχνολογίες να παίξουν στη ζωή μας, όσο ακόμα μας παρέχεται αυτή η δυνατότητα[5]».
Στις προκαταλήψεις που ενσωματώνει και παράγει μια αλγοριθμική διαδικασία αναφέρεται στο κείμενό της η Ηλιάνα Κωστή. Δείχνει επίσης πώς η ενσωμάτωση ανθρώπινων προκαταλήψεων σε συστήματα ΤΝ μπορεί να επηρεάσει τις αποφάσεις θεσμικών οργάνων, τον εργασιακό τομέα, την αξιολόγηση πιστοληπτικής ικανότητας κ.ά. Στα παραδείγματά της διακρίνουμε και εκείνο της εταιρείας Amazon, η οποία το 2015 διαπίστωσε ότι το σύστημα αξιολόγησης βιογραφικών της είχε εκπαιδευτεί στο να ελέγχει τους υποψήφιους εργαζόμενους παρατηρώντας μοτίβα στα βιογραφικά τους, τα οποία ανήκαν κυρίως σε άνδρες και είχαν συλλεχθεί σε χρονικό διάστημα άνω των δέκα ετών. «Το σύστημα απέρριπτε», σημειώνει η συγγραφέας, «τα βιογραφικά που εμπεριείχαν τη λέξη «γυναίκα» (άμεση προκατάληψη) και εκείνα των υποψηφίων οι οποίοι είχαν φοιτήσει σε πανεπιστήμια όπου συνήθως φοιτούν γυναίκες (έμμεση προκατάληψη)[6]. Συμπεραίνει, λοιπόν, ότι «η διαχείριση του συνολικού φάσματος των νομικών ζητημάτων που ανακύπτουν από την ανάπτυξη και χρήση της ΤΝ απαιτεί επένδυση στην ανάπτυξη τεχνικών λύσεων και ειδικότερων κανόνων δικαίου, που θα παρέχουν δίκαιη κατανομή ευθυνών και προστασία των θεμελιωδών δικαιωμάτων και ελευθεριών[7]».
«Μπορεί ο αλγόριθμος να είναι διαφανής;», αναρωτιέται ο Απόστολος Βόρρας στην παρέμβασή του, αναφερόμενος στο πρόβλημα του «μαύρου κουτιού». Η επιστημονική κοινότητα δεν έχει ακόμη βρει έναν πειστικό τρόπο να αντιμετωπίσει αυτό το ζήτημα αδιαφάνειας, που γίνεται ολοένα και πιο σύνθετο με την εμφάνιση των πιο προηγμένων συστημάτων ΤΝ. «Ναι μεν γνωρίζουμε τι πληροφορία μπαίνει στο σύστημα και τι πληροφορία εξέρχεται από αυτό, αλλά δεν μπορούμε να αποδείξουμε γιατί και πώς φτάσαμε σε ένα αποτέλεσμα ή/ και ποια χαρακτηριστικά ή ποιοι συνδυασμοί δεδομένων ήταν κρίσιμοι για τη λήψη του. Ένα μοντέλο θα καταλήξει σε ένα συμπέρασμα χωρίς καμία εξήγηση[8]», σημειώνει ο συγγραφέας. Και επισημαίνει την «νομική και ηθική μας υποχρέωση να αντιμετωπίσουμε την TN κυριολεκτικά ως ένα νέο κουτί της Πανδώρας, το οποίο θα πρέπει να πάντα να παραμένει κάτω από τον ανθρώπινο έλεγχο[9]».
Ο Βασίλης Καρκατζούνης διερευνά τον τρόπο συμμετοχής των συστημάτων ΤΝ στην έκδοση δικαστικών αποφάσεων και στην απονομή της δικαιοσύνης. Χωρίς να απορρίπτει τη σημασία της διερεύνησης και της αξιοποίησης των δυνατοτήτων που μπορεί να παρέχει η ΤΝ σε αυτό το πεδίο, τονίζει την επιτακτική ανάγκη προσέγγισης της συγκεκριμένης διαδικασίας με κριτικό και διεπιστημονικό πνεύμα. Με ανάλογο τρόπο προσεγγίζει, τέλος, η Λίλιαν Μήτρου την υιοθέτηση συστημάτων ΤΝ στη διοίκηση και στο δημόσιο τομέα, κάνοντας λόγο ξανά για την κομβική σημασία του ανθρώπινου παράγοντα σε μία σύνθετη διαδικασία που οφείλει να προστατεύει τα δικαιώματα και τις θεμελιακές αξίες της συνταγματικής τάξης.
Όπως αντιλαμβάνεστε, οι πρόσφατες τεχνολογικές καινοτομίες δεν αντιμετωπίζονται πλέον με αυτό το είδος του παιδικού ενθουσιασμού που θεωρεί ότι τα τεχνολογικά αγαθά είναι «θεϊκά» δώρα που φτάνουν στους ανθρώπους με μαγικό τρόπο για να τους υπηρετήσουν και να τους ευχαριστήσουν. Ούτε, σαφώς, η αντίθετη, τεχνοφοβική, στάση ωφελεί ή επιλύει στην ουσία κανένα πρόβλημα. Ο άκρατος ενθουσιασμός και η άρνηση της τεχνολογίας μάλλον πηγάζουν από την ίδια πηγή: την αδυναμία κατανόησης της τεχνολογικής ανάπτυξης. Τι απομένει; Η προσπάθεια να καταλάβουμε τη φύση της σύγχρονης τεχνολογίας, να την αξιοποιήσουμε για να βελτιώσουμε τις συνθήκες της ζωής μας, αλλά και να αναλάβουμε τις ευθύνες που αναλογούν στον καθέναν από εμάς, απαιτώντας κάθε δυνατή διαφάνεια, έλεγχο και εποπτεία στη διαδικασία αυτής της περιπέτειας. Το βιβλίο «Μπορεί ο αλγόριθμος…» δίνει την ευκαιρία σε όποιον ενδιαφέρεται να προσεγγίσει με σαφή τρόπο και να αντιληφθεί τη σύνθετη διάσταση όλων αυτών των κρίσιμων ζητημάτων που συμπορεύονται με την αλματώδη τεχνολογική εξέλιξη και αλλάζουν τη ζωή μας ριζικά.
[1] Λίλιαν Μήτρου, «Μικρές εισαγωγικές σκέψεις», σ. 34
[2] ό.π. σ. 12
[3] ό.π. σ. 30
[4] ό.π. σ. 31
[5] Σπύρος Τάσσης, «Μπορεί ο αλγόριθμος να είναι ηθικός;», σ. 95-96
[6] Ηλιάνα Κωστή, «Μπορεί ο αλγόριθμος να είναι δίκαιος;», σ. 105
[7] ό. π. σ. 150
[8] Απόστολος Βόρρας, «Μπορεί ο αλγόριθμος να είναι διαφανής;», σ. 157
[9] ό. π. σ. 186
Ερωτήσεις, αφορμή για συζήτηση, από τον Γιώργο Καρουζάκη
© Copyright 2001-2019 Θαλής + Φίλοι.
designed & developed by ELEGRAD
