Oταν τα ρομπότ αρνούνται να υποταχθούν

Στην ταινία «Μ3GAN» ο επικαιροποιημένος μύθος του Φρανκενστάιν επιστρέφει, αυτή τη φορά στο παιδικό δωμάτιο.

Μπορεί ένα χολιγουντιανό φιλμ της σειράς να μας βοηθήσει στην αντιμετώπιση των μεγάλων προκλήσεων που μας θέτει η τεχνολογία της τεχνητής νοημοσύνης; Το κοινό και οι κριτικοί της Ελλάδας συμφώνησαν ότι η ταινία «M3GAN» είναι ένα μάλλον αδιάφορο θρίλερ. Αν ωστόσο βάλει κάποιος στην άκρη τα τεχνάσματα της ταινίας τρόμου και το πολυπαιγμένο σενάριο, θα έρθει αντιμέτωπος με μερικά απ’ τα πιο σημαντικά προβλήματα επίτευξης της υπερνοημοσύνης, για δεκαετίες ολόκληρες, τα οποία πρέπει να μην ξεχνάμε.

Μπορεί η ταινία να μην τα διαπραγματεύεται σε βάθος και να μην αντιστέκεται στα θέλγητρα της εντυπωσιοθηρίας, αλλά οι προθέσεις του σκηνοθέτη Τζέραρντ Τζόνστοουν να θέσει μερικά απ’ τα πιο κλασικά προβλήματα της τεχνητής νοημοσύνης στο φορμάτ μιας ποπ εκδοχής μαζικής κουλτούρας, είναι αξιοσημείωτες.

Η μικρή πρωταγωνίστρια της ταινίας χάνει τους γονείς της σε τροχαίο. Μέχρι να αποκτήσουμε αυτο-οδηγούμενα οχήματα, τα οποία θα εξαλείψουν το ανθρώπινο λάθος, η ανθρωπότητα θα συνεχίσει να θρηνεί θύματα στην άσφαλτο. Ο τρόπος με τον οποίο γίνεται η σύγκρουση από μόνος του είναι δηλωτικός. Το αυτοκίνητο βρίσκεται σε μια συνθήκη που ό,τι κι αν κάνει ο οδηγός, το αποτέλεσμα θα είναι το ίδιο. Η τεχνολογία δεν είναι ουδέτερη, μοιάζει να λέει η ταινία. Είναι δέσμια των συνθηκών. Αυτό πρέπει να το θυμόμαστε πριν προχωρήσουμε με την υπερνοημοσύνη. Την κηδεμονία της μικρής αναλαμβάνει η αδελφή της μητέρας της, μια επιτυχημένη υπάλληλος εταιρείας προηγμένων παιχνιδιών. Oταν η νέα κηδεμόνας καταλαβαίνει ότι η μικρή δυσκολεύεται να προσαρμοστεί στις νέες συνθήκες, της δωρίζει μια δική της εφεύρεση, τη ρομποτική κούκλα M3GAN, η οποία γίνεται η καλύτερή της φίλη. Ο εργοδότης της ενθουσιάζεται και θέλει να βγάλει την κούκλα στην αγορά, καθώς είναι βέβαιος ότι θα κάνει θραύση. Στην ταινία αποκαλύπτεται σκόπιμα η συναισθηματική ανωριμότητα της καινούργιας μαμάς.

Με το ρομπότ δεν λύνει μόνο το πρόβλημα της δουλειάς της, αλλά και το πρόβλημα της γονεϊκότητας. Η ρομποτική κούκλα είναι η λογική συνέχεια της νταντάς-iPad. Σταδιακά, όμως, ανακαλύπτουμε ότι η λύση ήταν παροδική. Η κούκλα-ρομπότ αποκτάει δική της ζωή. Ο επικαιροποιημένος μύθος του Φρανκενστάιν επιστρέφει, αυτή τη φορά στο παιδικό δωμάτιο. Τα εξελιγμένα ρομπότ τεχνητής νοημοσύνης αποκτούν κάποιο είδος συνείδησης, θέλησης και λογικής. Το αποτέλεσμα είναι ότι η M3GAN αρνείται να υποταχθεί.

Oταν πρέπει να παρέμβει ο ανθρώπινος παράγοντας, εκείνη κάνει του κεφαλιού της, βάσει των αρχικών υποδείξεων που έχει λάβει. Αναβιώνει έτσι, για άλλη μια φορά, ο εφιάλτης του HAL στο «2001: η Οδύσσεια του Διαστήματος» του Κιούμπρικ και πραγματώνεται η αγωνία του Στίβεν Χόκινγκ. Η εντολή που έχει πάρει η έξυπνη μηχανή είναι να μεγιστοποιήσει την ικανοποίηση της μικρής και να την προστατεύσει. Oταν η μικρή δέχεται μια απειλή, η M3GAN φτάνει να διαπράξει εγκλήματα. Η ταινία, εκτός των άλλων, διαπραγματεύεται τη λεγόμενη «θεωρία του συνδετήρα». Αν δίναμε σε μια υπερνοημοσύνη τον στόχο να μεγιστοποιήσει την παραγωγή συνδετήρων, η μηχανή θα εκλάμβανε κυριολεκτικά τον σκοπό της και θα εξαντλούσε κάθε πόρο γεμίζοντας τον πλανήτη με συνδετήρες.

Ελπίζει κανείς ότι όταν τεθεί το ζήτημα της κυκλοφορίας στην αγορά τέτοιων μηχανών, τα αντανακλαστικά μας θα είναι ισχυρά.

Επομένως, το να είμαστε σε θέση να τερματίζουμε τη λειτουργία της όταν το κρίνουμε εμείς οι άνθρωποι σωστό, είναι θεμελιώδους σημασίας. Εκτός της αναγκαιότητας να μπορούμε να πατήσουμε το off, η ταινία μάς θυμίζει αυτό που οι ειδήμονες της τεχνητής νοημοσύνης έχουν ονομάσει «πρόβλημα της ευθυγράμμισης». Αν δεν κατορθώσουμε να διδάξουμε στις μηχανές τους δικούς μας ηθικούς κώδικες, τις δικές μας περίπλοκες ηθικές επιταγές, θα βρεθούμε μπροστά από ανάλογες ιστορίες ρομποτικών Μπάρτλεμπι. Ακόμη κι αν βρούμε τρόπο να αντιμετωπίσουμε την άρνηση συμμόρφωσης των μηχανών, όμως, δεν αποκλείεται οι κακόβουλοι να εκμεταλλευτούν κενά ασφαλείας ή και να προχωρήσουν σε δικές τους κατασκευές ανεξέλεγκτων και ανήθικων αυτομάτων.

Το τέλος της M3GAN, ωστόσο, είναι ίσως το πιο ανησυχητικό στοιχείο του φιλμ. Ενώ έχουμε ανακουφιστεί απ’ την πορεία της δράσης κι αφού έχει επέλθει η κάθαρση, το τελευταίο κάδρο εστιάζει στη συσκευή εικονικού βοηθού που ζει στην οικογενειακή κουζίνα. Θα μπορούσε να είναι η συσκευή της Amazon, της Apple ή της Google. Η συσκευή αυτή είναι σήμερα εδώ και ήδη γνωρίζει πολλά. Σε λίγο θα γνωρίζει πολύ περισσότερα. Εχει παρακολουθήσει την πλοκή της ιστορίας, ξέρει τα πάντα, ακόμη κι αυτό το κείμενο θα γίνει κάποια στιγμή δικό της κτήμα, γι’ αυτό και ο σκηνοθέτης της αφιερώνει το τελευταίο του πλάνο, λέγοντάς μας ότι η τεχνητή νοημοσύνη είναι ήδη εδώ και διδάσκεται καθημερινά απ’ τους τεράστιους όγκους πληροφοριών που της διαθέτουμε εθελοντικά.

Οι εικονικοί βοηθοί συγκεντρώνουν ένα θησαυρό γνώσης και δεδομένων, με αποτέλεσμα να κάνουν τα μοντέλα της μηχανικής μάθησης όλο και πιο αποτελεσματικά. Το ερώτημα είναι κατά πόσο έχουμε προλάβει να ρυθμίσουμε αυτή την πανίσχυρη τεχνολογία.

Το καταστροφικό σενάριο της M3GAN δεν είναι ακραίο. Οποιος έχει δει τα ρομπότ της Boston Dynamics καταλαβαίνει ότι η δυνατότητα κατασκευής μηχανών σαν τη ρομποτική κούκλα είναι δεδομένη. Μένει να τελειοποιηθεί το λογισμικό. Ελπίζει κανείς ότι όταν τεθεί το ζήτημα της κυκλοφορίας στην αγορά τέτοιων μηχανών, τα αντανακλαστικά μας θα είναι ισχυρά κι ότι θα έχουμε κάνει ήδη τις απαραίτητες προνοητικές κινήσεις. Διαφορετικά, κινδυνεύουμε μια φθηνή ταινία τρόμου να γίνει το κεντρικό μας αφήγημα.