«Κατά κάποιο τρόπο η Τεχνητή Νοημοσύνη είναι ένα στοίχημα που έχει βάλει ο ανθρώπινος εγκέφαλος με τη δαρβινική εξέλιξη. 'Ενα από ανώτερα πράγματα, που μπορεί να κάνει ο ανθρώπινος εγκέφαλος είναι να αντιγράψει τον εαυτό του. 'Οταν ο άνθρωπος φτάσει στο σημείο να αναπαράγει με τεχνητό τρόπο τις ίδιες του τις ικανότητες, όλα θα είναι ανοιχτά και όλα θα είναι πιθανά. Αυτό μπορεί να είναι εκπληκτικό, να μας οδηγήσει σε μια Wonderland, όπου η ύπαρξη των μηχανών θα λειτουργεί υπέρ του ανθρώπου ή μπορεί να μας φέρει μπροστά σε δυσάρεστες καταστάσεις... Ο Elon Musk έχει πει ότι ίσως η Τεχνητή Νοημοσύνη να αποτελέσει τον λόγο για τον Γ΄ Παγκόσμιο Πόλεμο. Να σου θυμίσω όμως κι αυτό που έχει πει ο Einstein: "δεν γνωρίζω με τι είδους όπλα θα πολεμηθεί ο τρίτος παγκόσμιος, αλλά ο τέταρτος θα γίνει με πέτρες και ξύλα"».
Με τη φράση αυτή, ο γεννηθείς το 1981 Κωνσταντίνος Δασκαλάκης, καθηγητής της Επιστήμης των Υπολογιστών στο περίφημο ΜΙΤ, απαντά στο ερώτημα του ΑΠΕ-ΜΠΕ, σχετικά με το αν συμμερίζεται τις έντονες ανησυχίες, που έχουν κατά καιρούς εκφράσει άνθρωποι όπως ο Bill Gates, ο Stephen Hawking και ο Elon Musk, ώς προς την αρνητική επίπτωση που θα μπορούσε να έχει στο μέλλον της ανθρωπότητας η ραγδαία ανάπτυξη της Τεχνητής Νοημοσύνης και συγκεκριμένα της Γενικής Τεχνητής Νοημοσύνης.
Ο ίδιος, που σε πολύ νεαρή ηλικία έλυσε το επί 60 χρόνια άλυτο μαθηματικό πρόβλημα του "υπέροχου ανθρώπου", μαθηματικού και νομπελίστα οικονομολόγου, John Forbes Nash, επισημαίνει ότι παρότι στη δυστοπική εκδοχή του μέλλοντος η Τεχνητή Νοημοσύνη είναι δυνατόν να προκαλέσει σοβαρές κοινωνικές αναταραχές και ν΄ αποτελέσει άμεση απειλή για τη δημοκρατία και την παγκόσμια ειρήνη, στη θετική εκδοχή του ενδέχεται να επιφυλάσσει στην ανθρωπότητα σημαντικά δώρα: «Πιστεύω ότι υπάρχει μια πολύ ικανή και δημοκρατική οικογένεια "hackers" -και σε αυτή την οικογένεια βάζω όποιον μπορεί να καταλάβει την τεχνολογία και να συνεισφέρει σε αυτήν. Είναι στο χέρι τους και στο χέρι όλων μας να προασπίσουμε την προσβασιμότητα όλων των ανθρώπων στα οφέλη της προόδου που θα γίνει, ώστε να μην υπάρχουν χώρες ή εταιρείες ή πολίτες δύο ταχυτήτων. Αυτό δεν είναι ένα πράγμα με το οποίο μπορούμε να παίξουμε» λέει χαρακτηριστικά.
Ερωτηθείς αν ο άνθρωπος -η πρωτοκαθεδρία του οποίου στον πλανήτη για πρώτη φορά κινδυνεύει να αμφισβητηθεί- ενδέχεται να βιώσει υπαρξιακό σοκ, απαντά: «Ελπίζω ότι θα πάθουμε το αντίθετο. 'Οτι θα μπορέσουμε να πούμε "δεν είμαστε πλέον όμηροι πολιτικών και κυβερνήσεων, μπορούμε να αλλάξουμε τον κόσμο". Αυτό είναι το θετικό σενάριο φυσικά, κι αυτό θέλω να δω να συμβαίνει».
«Προλαβαίνουν να προσαρμοστούν στην επερχόμενη αλλαγή συστήματα όπως το εκπαιδευτικό ή η νομοθεσία;» ρωτάμε τον δρα Δασκαλάκη, ο οποίος απαντά: «Θεωρώ ότι το μοντέλο που έχουμε αυτή τη στιγμή για την παιδεία, τη νομοθεσία, τη δικαιοσύνη, δεν είναι πλέον επαρκές για τον ρυθμό με τον οποίο προοδεύει η τεχνολογία. Σκέψου το εξής: πριν προλάβουμε να φτιάξουμε νομοθεσία για τα fake news, τα fake news έγιναν μια λαίλαπα που παρήλθε. Θα φτιάξουμε τη νομοθεσία για τα fake news, θα έρθει κάτι άλλο. Ο τρόπος με τον οποίο λειτουργούν οι δημοκρατίες και η παιδεία δεν έχει επαρκή ταχύτητα για να παρακολουθεί τις εξελίξεις, άρα πρέπει να αλλάξουμε τα μοντέλα μας. Για αυτό θεωρώ ότι η βάση, οι άνθρωποι, έχουμε τεράστια δύναμη, γιατί αν δεν με προστατέψει η ίδια η βάση από τα fake news για παράδειγμα, δεν μπορώ να περιμένω να βγει η νομοθεσία για να με προασπίσει. 'Ολο αυτό εξελίσσεται σε κάτι σαν ανταρτοπόλεμο».
Ο Έλληνας καθηγητής, που μεταξύ άλλων έχει λάβει το βραβείο Kalai από την Διεθνή Ένωση Θεωρίας Παιγνίων και το βραβείο έρευνας από το ίδρυμα Giuseppe Sciacca του Βατικανού, μιλά ακόμη στο ΑΠΕ-ΜΠΕ για το αν ο άνθρωπος θα χρειαστεί να ενσωματώσει στα επόμενα χρόνια τεχνολογικά ενθέματα, για τα ηθικά και φιλοσοφικά ερωτήματα που ανακύπτουν γύρω από τη ραγδαία άνοδο της τεχνητής νοημοσύνης, αλλά και για τον τρόπο με τον οποίο ενδέχεται να εξελιχθούν τα πράγματα στα επόμενα "πέντε ως 50 χρόνια".
Συναντήσαμε τον δρ Κωνσταντίνο Δασκαλάκη λίγες ώρες πριν από τη διάλεξη που έδωσε στην κατάμεστη αίθουσα της Αίθουσας Τελετών του ΑΠΘ (βλ. Τηλεγράφημα της 16ης Ιανουαρίου), στο πλαίσιο εκδήλωσης που διοργάνωσαν τα Τμήματα Μαθηματικών και Πληροφορικής της Σχολής Θετικών Επιστημών του ΑΠΘ.
Το πλήρες κείμενο της συνέντευξης του δρος Κωνσταντίνου Δασκαλάκη στο ΑΠΕ-ΜΠΕ και την Αλεξάνδρα Γούτα ακολουθεί:
Το κλειδί που λείπει
ΕΡ. Η διάρκεια ενός οικονομικού κύκλου έχει αλλάξει πολύ από την τελευταία βιομηχανική επανάσταση, χάρη στην ανάπτυξη των νέων τεχνολογιών κι εκεί που χρειάζονταν 40 ή 50 χρόνια για να μπει μια "τεχνολογία" μαζικά στην οικονομία και την αγορά εργασίας, πλέον χρειάζονται 10-15 ή και λιγότερο. Πόσο γρήγορα θα αρχίσει η ανάπτυξη της εξελιγμένης Τεχνητής Νοημοσύνης να επηρεάζει σε μεγάλη κλίμακα την οικονομία και την αγορά εργασίας;
ΑΠ. Θέλω πρώτα από όλα να διαχωρίσω αυτό που λέγεται "γενική τεχνητή νοημοσύνη" από την "ειδική τεχνητή νοημοσύνη". Θεωρώ ότι η είσοδος της δεύτερης στην αγορά εργασίας είναι πολύ άμεση. 'Ηδη βλέπουμε να αναπτύσσονται αυτοοδηγούμενα αυτοκίνητα, που θα αντικαταστήσουν πολλή από την ανθρώπινη οδήγηση και προφανώς πολλά επαγγέλματα, είτε αυτά αφορούν οδηγούς ταξί και λεωφορείων είτε φορτηγών είτε delivery. Φαντάσου πόσο πολύ θα αλλάξει τον τομέα αυτό η τεχνολογία. Κι αυτό δεν θα γίνει σε 30 χρόνια, αλλά στα επόμενα πέντε με δέκα. Υπάρχουν θέματα που πρέπει να λυθούν, νομικής φύσης κυρίως, αλλά πιστεύω ότι οι ειδικές εφαρμογές της τεχνητής νοημοσύνης θα αρχίσουν να μπαίνουν επιθετικά στη ζωή μας στα επόμενα 10 χρόνια, θεωρώ θα εκπλαγούμε από το πόσο επιθετικά θα μπουν στις μεταφορές, στην υγεία (scans, ΜRIs, διαγνωστική), σε επίπεδο οικιακής βοήθειας και φροντίδας ηλικιωμένων.
Το βασικό είναι όμως το θέμα της γενικής τεχνητής νοημοσύνης (general artificial intelligence). Aυτή αφορά την ικανότητα ενός τεχνολογικού συστήματος να μεταφέρει εμπειρία από μια νοητική λειτουργία που εκτελεί σε μία άλλη, ώστε να μην αρχίζει tabula rasa. Π.χ, αν έχει ήδη μάθει αγγλικά και θέλει να μάθει γαλλικά, να μπορεί να μεταφέρει εμπειρία και διαίσθηση από τη μία γλώσσα στην άλλη, να μπορεί να εκμεταλλεύεται το γεγονός ότι υπάρχει σύνταξη και κλίση σε όλες τις γλώσσες (...) 'Η αν μάθει να παίζει σκάκι, να μπορεί να αξιοποιήσει την εμπειρία της χάραξης στρατηγικής για να παίξει πόκερ.
Χρειάζεται να πετύχουμε ένα άλμα, για να φτάσουμε στη γενική Τεχνητή Νοημοσύνη και αυτό το άλμα δεν μπορώ να προβλέψω καλά πότε θα προκύψει. Μπορεί να προκύψει στα επόμενα 50 χρόνια, αλλά μπορεί και όχι. Πιστεύω πως ναι. Είναι ένα άλμα που μας λείπει, ένα κλειδί...
Η πρόοδος που έχει κάνει η τεχνολογία τα τελευταία πέντε χρόνια με έχει εντυπωσιάσει. Ίσως αν με ρωτούσες πριν από πέντε χρόνια για κάποια από αυτά που έχουν πλέον γίνει, να σου έλεγα ότι βρίσκονται στα όρια επιστημονικής φαντασίας...
ΕΡ. Αλήθεια, τι θα πραγματεύεται η επιστημονική φαντασία στο μέλλον; Θα εξαντληθεί η θεματολογία της;
ΑΠ. Μου αρέσουν πάρα πολύ οι ταινίες επιστημονικής φαντασίας, γιατί ουσιαστικά πλέον είναι στο επίπεδο που προβληματίζονται για πολύ πραγματικά ερωτήματα. Παλιά, η επιστημονική φαντασία αφορούσε ένα απώτερο μέλλον, δυστοπικό ή ουτοπικό, τώρα είναι ένας προβληματισμός για κάτι πολύ άμεσο και πολύ πιθανό, που μπορεί να συμβεί.
ΕΡ. Πλέον παρατηρούμε πιο ταχεία ανάπτυξη της τεχνητής νοημοσύνης. Σε τι οφείλεται αυτή η εξέλιξη; Τι έχει αλλάξει;
ΑΠ. Αυτό που έχει αλλάξει έχει να κάνει αφενός με την προσέγγισή μας στο πώς φτιάχνουμε υπολογιστικές διαδικασίες, που μιμούνται ανώτερες νοητικές διαδικασίες του ανθρώπινου εγκεφάλου. Αφετέρου δε -και αυτό ουσιαστικά δικαιολογεί την αλλαγή στην προσέγγισή μας- έχουμε έναν τεράστιο όγκο δεδομένων, διότι η ανθρωπότητα λόγω της δραστηριότητάς της στο Ιντερνετ έχει αφήσει ένα τεράστιο ψηφιακό αποτύπωμα, το οποίο μπορούμε να εκμεταλλευτούμε για να προπονήσουμε τους αλγόριθμους τεχνητής νοημοσύνης (...)
Σήμερα, επειδή έχουμε πάρα πολλά δεδομένα, είναι πιθανό και πιο τετριμμένοι αλγόριθμοι να μπορούν να προσομοιάσουν ανώτερες νοητικές λειτουργίες, τη στιγμή που στο παρελθόν ακόμη και πολύ πολύπλοκοι, λόγω έλλειψης δεδομένων για να τους κάνεις "fine tune" (να τους "κουρδίσεις"), δεν μπορούσαν. Επειδή έχουμε πολλά δεδομένα, έχουμε τη δυνατότητα να "κουρδίσουμε" πάρα πολύ καλά τους αλγόριθμους μας, γιατί διαθέτουμε πολλά παραδείγματα από τα οποία μπορεί να μάθουν. Εν πολλοίς αυτό κάνει και ο ανθρώπινος εγκέφαλος.
Αυτό λοιπόν που έχει αλλάξει σήμερα είναι ότι έχουμε πάρα πολλά δεδομένα χάρη στην ψηφιοποίηση της ανθρώπινης δραστηριότητας και το γεγονός ότι πολλές ανθρώπινες δραστηριότητες έχουν μεταφερθεί στο Ίντερνετ, από αγορές προϊόντων και υπηρεσιών μέχρι κοινωνική αλληλεπίδραση κι επικοινωνία. 'Ολη αυτή η αλληλεπίδραση καταγράφεται και μπορεί να χρησιμοποιηθεί για την ανάπτυξη τεχνητής νοημοσύνης...
Η μη λεκτική επαφή με την τεχνολογία το επόμενο βήμα
ΕΡ. Θα μπορούμε στο μέλλον να βρούμε δουλειά, χωρίς π.χ., να είναι αναγκαία η χρήση τεχνολογικών ενθεμάτων;
ΑΠ. Είναι δύσκολο να κάνεις τέτοιες προβλέψεις για το μέλλον... Υπάρχει η γνώση και η εμπειρία για το γεγονός ότι ο ανθρώπινος εγκέφαλος με τη βοήθεια της τεχνολογίας είναι ανώτερος και από την τεχνολογία, και από τον ανθρώπινο εγκέφαλο από μόνο του. Σε πολλές νοητικές λειτουργίες οι υπολογιστές είναι καλύτεροι από τον άνθρωπο, αλλά ο άνθρωπος με τη βοήθεια υπολογιστή νικά τον υπολογιστή. Αν ολοκληρωθεί η διεπαφή του εγκεφάλου με την τεχνολογία -και πιστεύω ότι αυτό θα γίνει σύντομα, ότι σε 15 χρόνια θα έχουμε πολύ πιο άμεση διεπαφή- πολλά θα αλλάξουν.
Παλιά, για να βρεις μια πληροφορία, έπρεπε να ανοίξεις τον Πάπυρος Larousse. Μετά πήγαινες στο google και έγραφες αυτό που ψάχνεις να βρεις. Πλέον, μπορείς να μπεις στο google και αρκεί να μιλήσεις ή να εισάγεις μια εικόνα για να βρεις αυτό που θέλεις (...)Το επόμενο βήμα είναι η διεπαφή αυτή να μην είναι καν λεκτική. Και το καλό με τον ανθρώπινο εγκέφαλο είναι ότι πλάθεται. Επομένως, με την κατάλληλη διεπαφή εγκεφάλου και μηχανής, ο ανθρώπινος εγκέφαλος ώς εύπλαστος που είναι, θα μάθει να επικοινωνεί με την τεχνολογία. Αν δώσεις στον ανθρώπινο εγκέφαλο μια πόρτα, μια δίοδο προς την τεχνολογία, μια επικοινωνία κάποιου τύπου, μπορεί να προσαρμοστεί στο να την κοντρολάρει.
Αν η διεπαφή φτάσει σε αυτό το επίπεδο, θα είναι μειονέκτημα να μην την έχεις. Εφόσον γίνει, το παιχνίδι θα αλλάξει τόσο πολύ που αν δεν το κάνεις εσύ, αρνείσαι να βρίσκεσαι εκεί που συμβαίνουν τα πράγματα. Είναι σαν να λες σήμερα ότι δουλεύω χωρίς κινητό ή αυτοκίνητο γιατί δεν τα θέλω. Το τοπίο θα αλλάξει με τέτοιο τρόπο, που δεν θα μπορείς να το αρνηθείς. Σκέψου για παράδειγμα να ανταγωνίζεσαι (επαγγελματικά) κάποιον, που χάρη στην τεχνολογία έχει πρόσβαση στις γλώσσες όλου του κόσμου.
ΕΡ. Δεν ανακύπτουν ηθικά ζητήματα με αυτό; Εννοώ από το γεγονός ότι το ανθρώπινο μυαλό θα είναι ανοιχτό και προσβάσιμο στην τεχνολογική διεπαφή;
ΑΠ. Σωστά, σίγουρα ανοίγουν θέματα και με την ιδιωτικότητα και με την πρόσβαση στη σκέψη, που εσύ μπορεί να θέλεις να τη μπλοκάρεις. Αλλά υπάρχουν δύο σενάρια ώς προς αυτό: το ένα είναι ότι σε μια πιθανή (ευνοϊκή) μορφή της τεχνολογίας, εσύ με τον εγκέφαλό σου κοντρολάρεις την τεχνολογία, αλλά η τεχνολογία δεν έχει πρόσβαση σε εσένα. Π.χ., όταν με τη σκέψη ή την κόρη του ματιού σου κοντρολάρεις την τεχνολογία, αυτό δεν σημαίνει ότι σε ελέγχει κι αυτή. Σε μια άλλη μορφή, που προφανώς δεν τη θέλουμε, μπορεί πράγματι να ανακύψει θέμα. Για αυτό, πάντα στη συζήτηση για τις τεχνολογικές εξελίξεις, πρέπει να σκεφτόμαστε τι θέλουμε για τον άνθρωπο, πώς μπορεί να εκμεταλλευτεί την τεχνολογία κάποιος κακοπροαίρετος και πως θα στήσουμε δικλείδες προστασίας. Όμως, ό,τι προβληματισμό και να έχουμε, δεν μπορούμε να σταματήσουμε το κύμα της προόδου της τεχνολογίας. Είναι σαν να γυρίζουμε την πλάτη σε ένα κύμα που έρχεται για να παρασύρει τα πάντα. Πιστεύω ότι είναι πιο εποικοδομητικό να σκεφτόμαστε, ενόψει αυτής της αναμορφωτικής δύναμης που έρχεται, πώς μπορούμε να την κατευθύνουμε με τρόπο ώστε να αλλάξει θετικά τη ζωή του ανθρώπου και πώς μπορούμε να προστατευτούμε αν πιθανώς αυτή φτάσει σε λάθος χέρια.
ΕΡ. Κατά πολλούς το τι θα γίνει τελικά έχει σχέση με την ιδιοκτησία των μηχανών, με το ποιος θα έχει πρόσβαση σε αυτές, ποιος θα τις ελέγχει και ποιος θα παίρνει τον πλούτο που παράγεται...
ΑΠ. Yπάρχουν πρωτοβουλίες όπως η μη κερδοσκοπική εταιρεία Open Αrtificial Ιntelligence (OpenAI), που προσπαθούν να σπρώξουν την ανάπτυξη τεχνητής νοημοσύνης για το καλό της ανθρωπότητας. Θεωρώ επίσης ότι η κοινότητα των χάκερς -κι εδώ βάζω όποιον καταλαβαίνει την τεχνολογία και συνεισφέρει σε αυτήν- είναι μια αρκετά υγιής και δημοκρατική οικογένεια. Είναι στο χέρι τους και στο χέρι όλων μας να προασπίσουμε την προσβασιμότητα όλων των ανθρώπων στα οφέλη της προόδου που θα γίνει, ώστε να μην υπάρχουν χώρες ή εταιρείες ή πολίτες δύο ταχυτήτων. Αυτό δεν είναι ένα πράγμα με το οποίο μπορούμε να παίξουμε. Σκέψου να είσαι σε φάση προβιομηχανικής επανάστασης και να πεις "αρνούμαι να μοιράσω την τεχνολογία, θα την κρατήσω κρυφή, ώστε μόνο ο καπιταλιστής να βγάλει πολλά λεφτά".
ΕΡ. Πιστεύεις ότι μπορεί να δημιουργηθεί ένα κίνημα αντίστασης απέναντι στη μη ίση πρόσβαση;
ΑΠ. 'Ενα είδος αντίστασης νομίζω πως ναι, μπορεί και πρέπει να δημιουργηθεί, γιατί η ίδια η δημοκρατία μας και η παγκόσμια ειρήνη θεωρώ είναι σε κίνδυνο αν δεν το προασπίσουμε αυτό. Ταυτόχρονα είναι και εκπληκτική στιγμή στην ιστορία, γιατί είναι πλέον στο χέρι όλων μας να πετύχουμε κάτι, όχι στο χέρι της πολιτικής ηγεσίας. Οποιοσδήποτε συμμετέχει ενεργά σε αυτή την εξέλιξη, είναι πλέον συμμέτοχος στο να διασφαλίσει την ίση πρόσβαση στην τεχνολογία. Και αυτό θα μας φέρει στην καμπή εκείνη της ανθρώπινης ιστορίας, που η πρόοδος θα έρθει από όλους μας. ΄Ολοι πρέπει να έχουμε πρόσβαση στην τεχνολογία και όλοι μαζί μπορούμε να καθορίσουμε πού θα πάει το ποτάμι.
Τρεις πιθανές εικόνες από το μέλλον
ΕΡ. Μπορείς να μου μεταφέρεις μια εικόνα από το μέλλον, από όταν πια η γενική τεχνητή νοημοσύνη θα έχει κατακτηθεί και το μεγάλο άλμα θα έχει γίνει;
ΑΠ. Έχω σκεφτεί τρία πιθανά σενάρια για το μέλλον, για τα επόμενα 50 χρόνια κι αυτό που πιθανώς τελικά θα γίνει είναι μια μίξη αυτών των τριών. Τα έχω ονομάσει Wonderland, Pessiland και Stagnatia. Στο πρώτο σενάριο, που είναι το θετικό και έχει ώς προϋπόθεση να κατακτήσει η επιστήμη τη γενική τεχνητή νοημοσύνη, ο άνθρωπος ωφελείται από την ύπαρξη των μηχανών. Οι μηχανές μπορούν να αναλάβουν τις χειρονακτικές εργασίες και να αφήσουν στους ανθρώπους τον χρόνο για τις πνευματικές. Σήμερα τα ρομπότ δεν είναι πολύ καλά ούτε στο να περπατάνε, αλλά αν καταφέρουμε το άλμα προς τη γενική τεχνητή νοημοσύνη, θα μπορούν να κάνουν πολλές εργασίες. Το βιοτικό επίπεδο θα ανέβει και θα σωθεί το ασφαλιστικό σύστημα. Για να είναι υγιές ένα ασφαλιστικό σύστημα, χρειάζεται ο πληθυσμός των νέων που εργ
άζονται και δίνουν εισφορές, να είναι τουλάχιστον της ίδιας τάξης μεγέθους με τον πληθυσμό (των συνταξιούχων) που στηρίζουν. Αν έχουμε τα ρομπότ να κάνουν τις δουλειές, αυτά δεν χρειάζονται ασφάλιση ή σύνταξη και αναπληρώνουν την υπογεννητικότητα...
Το άλλο σενάριο είναι η Pessiland... Εκεί κατακτούμε μεν τη γενική νοημοσύνη, αλλά αυτή δεν είναι προσβάσιμη σε όλους, αλλά μόνο σε εργαστήρια εταιρειών ή κρατών, που τη χρησιμοποιούν για καπιταλιστική ή ιμπεριαλιστική επιρροή. Αυτό το σενάριο είναι δυστοπικό. Στο τρίτο σενάριο, που το λέω "Stagnatia", ενώ έχουμε ολοένα και περισσότερες ειδικές εφαρμογές της τεχνητής νοημοσύνης, δεν καταφέρνουμε να κάνουμε το άλμα που χρειάζεται για τη γενική νοημοσύνη και καθώς αυτή παραμένει άπιαστη, καπιταλιστές και κυβερνήσεις παίρνουν θέσεις ώστε να είναι έτοιμοι για μια μελλοντική εποχή, όποτε αυτή έρθει, που θα μοιάζει είτε με τη wonderland είτε με την pessiland...
ΕΡ. Αυτή η νέα τεχνολογική επανάσταση φέρνει μαζί της και νέους κανόνες ηθικής;
ΑΠ. Προκύπτουν πράγματι ηθικά ζητήματα, που δεν ξέρουμε πώς να προσεγγίσουμε. Χαρακτηριστικό παράδειγμα νομίζω είναι αυτό του αυτοοδηγούμενου αυτοκινήτου. ΄Ενα κλασικό δίλημμα είναι το εξής. Ας υποθέσουμε ότι ένα αυτοοδηγούμενο αυτοκίνητο αναγνωρίζει ότι σε μερικά δευτερόλεπτα πρόκειται να συμβεί ατύχημα με εμπλοκή πεζών και ότι αυτό είναι αναπόφευκτο.Ας υποθέσουμε επίσης ότι ο αλγόριθμος που το οδηγεί καταλαβαίνει ότι έχει δύο επιλογές: να πάει ευθεία και να σκοτώσει τους πεζούς ή να πάει αριστερά, να χτυπήσει κάποιο στηθαίο και να σκοτώσει τους επιβαίνοντες. Δεν μπορεί να σώσει και τους πεζούς και τους επιβαίνοντες. Πώς θα πάρει αυτή την απόφαση;
Εδώ προκύπτουν μια σειρά από ερωτήματα: Πώς ο σχεδιαστής του αλγορίθμου θα λάβει την απόφαση για το ποιος θα ζήσει; Θα αγόραζες το αυτοκίνητο αν ήξερες ότι ίσως επιλέξει να σκοτώσει εσένα, αντί μια ομάδα παιδιών που διασχίζει τον δρόμο; Θα πλήρωνες κάποιον άνθρωπο να χακάρει το αυτοοδηγούμενό σου για να σε βάζει δεύτερο στις απώλειες και πρώτο στη ζωή;
Ένα άλλο ηθικό ζήτημα που προκύπτει έχει να κάνει με την αμεροληψία. Αν τα δεδομένα στα οποία στηρίζεται η ανάπτυξη της τεχνητής νοημοσύνης είναι ελλιπή ή μη αντιπροσωπευτικά, η Τεχνητή Νοημοσύνη μπορεί να υιοθετήσει συμπεριφορές που δεν είναι αντιπροσωπευτικές. Η Τεχνητή Νοημοσύνη είναι σαν ένα μωρό. Το μωρό έρχεται στον κόσμο με γενετικά χαρακτηριστικά, αλλά εν πολλοίς είναι tabula rasa. Οι γονείς τού δίνουν δεδομένα και στόχους. Αν τα δεδομένα που λαμβάνει το μωρό περιέχουν ρατσιστικές απόψεις, προκαταλήψεις ή στερεότυπα, αυτές τις θέσεις θα τις υιοθετήσει. Το ίδιο ισχύει και για την Τεχνητή Νοημοσύνη, η οποία μαθαίνει από την αλληλεπίδραση με τα δεδομένα.
ΕΡ. Η τεχνητή νοημοσύνη μαθαίνει από εμάς, αλλά με την προστασία της ιδιωτικότητάς μας τι γίνεται;
ΑΠ. H τεχνολογία είναι στη ζωή μας και μαζεύει δεδομένα από την δραστηριότητά μας, προκειμένου να μάθει από αυτά. Καταγράφει τι αναζητήσεις κάνουμε στο google, τι αγοράζουμε στο amazon, τι διαβάζουμε και τι σχολιάζουμε στο facebook, τι λέμε μεταξύ μας και τα επεξεργάζεται για να δημιουργήσει τεχνητή νοημοσύνη. Δώσαμε την άδειά μας για να επεξεργάζεται τα δεδομένα μας όταν πατήσαμε το "Ι agree" για να αποκτήσουμε λογαριασμό e-mail, να εγκαταστήσουμε εφαρμογές στο κινητό μας κλπ. Μπορεί να μην συνειδητοποιήσαμε ότι μια εταιρεία δεν θα μας δώσει κάτι τζάμπα... Αυτό που θα πάρει είναι τα δεδομένα μας. Όταν ενσωματώνει πληροφορία που μας αφορά και δεν είμαστε διατεθειμένοι να παραχωρήσουμε, τίθενται σοβαρά ζητήματα ιδιωτικότητας...
ΑΠΕ-ΜΠΕ
