Συμβατή με τον άνθρωπο;

Βιώνουμε μια τεχνολογική επανάσταση που εγείρει βαθιά ερωτήματα για το τι είναι "άνθρωπος". Το σώμα και το μυαλό μας, που κάποτε τα θεωρούσαμε αποκλειστικά δικά μας, σύντομα θα αποτελούν εκφάνσεις μιας νοημοσύνης που δεν θα είναι ούτε φυσική ούτε τεχνητή. Πόσο συμβατή με τον άνθρωπο θα είναι μια μηχανή με νοημοσύνη ανώτερη από τη δική του; Θα συνυπάρξουμε ή μήπως, κάτω από την εξουσία της, θα καταρρεύσουν οι θέσεις εργασίας, οι ανθρώπινες σχέσεις, και ο ίδιος ο πολιτισμός μας; Ποιος, τελικά, θα κατέχει το "είναι" μας και τα δεδομένα του; Ο Στιούαρτ Ράσελ -κορυφαίος επιστήμονας της Τεχνητής Νοημοσύνης, η "φωνή" της κατά κυριολεξία- περιγράφει πώς, μπροστά σε ένα μέλλον που έρχεται νωρίτερα απ' όσο νομίζουμε, θα καταφέρουμε να αλλάξουμε πορεία προτού να είναι αργά. Προδιαγράφει τρόπους σχεδιασμού συστημάτων Τεχνητής Νοημοσύνης ασφαλών και ωφέλιμων για τον άνθρωπο. Προτείνει μηχανές που θα τις χαρακτηρίζει η αβεβαιότητα (η αμφιβολία) ως προς τους στόχους τους -στοιχείο θετικό, όχι σφάλμα της λειτουργίας τους- με επακόλουθο να συμμορφώνονται με τις επιθυμίες των ανθρώπων: θα ζητούν την άδειά τους, θα αποδέχονται διορθώσεις, θα τίθενται εκτός λειτουργίας, θα είναι ταπεινές, αλτρουιστικές, θα ανακαλύπτουν νέες δράσεις και, όπως κι εμείς, θα διαχειρίζονται τις γνώσεις τους και θα αποφασίζουν γρήγορα. Θέτει το πλαίσιο ελέγχου της Τεχνητής Νοημοσύνης, με πρωταρχικό μέλημα ότι οι πράξεις των μηχανών θα οδηγούν στην επίτευξη των δικών μας στόχων, όχι των δικών τους. Ο Ράσελ θεωρεί την υπερανθρώπινη Τεχνητή Νοημοσύνη ως υπαρξιακή απειλή για το είδος μας και παράλληλα την αναγνωρίζει ως το ύψιστο επίτευγμα του ανθρώπου. Ας ευχηθούμε ότι δεν θα είναι και το ύστατο.