Τεχνητή νοημοσύνη: Το τζίνι έχει ήδη βγει από το λυχνάρι
Ο Κωνσταντίνος Δασκαλάκης του ΜΙΤ και ο Χρίστος Παπαδημητρίου του Columbia, κορυφαίοι Ελληνες ειδικοί, μιλούν για τον κίνδυνο μιας ανεξέλεγκτης τεχνητής νοημοσύνης. Κανείς τους δεν είναι καθησυχαστικός
Υπήρξαν προειδοποιήσεις. Ακαδημαϊκοί, ερευνητές και πρώην εργαζόμενοι σε εταιρείες AI τα τελευταία χρόνια εξέφραζαν κάθε τόσο δημοσίως τις επιφυλάξεις τους για τη ραγδαία ανάπτυξη της τεχνητής νοημοσύνης και την έλλειψη ρυθμιστικού πλαισίου. Κάποιοι ήταν πιο συγκρατημένοι στις προβλέψεις τους, άλλοι διατύπωναν πιο δυσοίωνα σενάρια. Ωσπου τον περασμένο Ιούλιο μια κυβερνοεπίθεση φαίνεται πως ενέτεινε αυτήν την ανησυχία, όταν «αυτόνομοι πράκτορες τεχνητής νοημοσύνης» (AI agents) παραβίασαν τα συστήματα της εταιρείας Hugging Face.
«Ηταν για όλους μια στιγμή αφύπνισης. Αυτή η τεχνολογία αλλάζει με ρυθμούς που δεν έχουμε ξαναδεί», λέει στην «Κ» από τη Νέα Υόρκη ο Χρίστος Παπαδημητρίου, θεωρητικός επιστήμονας των ηλεκτρονικών υπολογιστών και καθηγητής στο Πανεπιστήμιο Κολούμπια. «Είναι προγράμματα που θα προσπαθήσουν πάση θυσία να εκπληρώσουν τον σκοπό τους. Τους ορίζουν ένα στόχο και εκείνα θα επιδιώξουν να τον επιτύχουν. Αυτό δημιουργεί, μαζί με τους ισχύοντες περιορισμούς, ένα είδος ηθικού διλήμματος που καμιά φορά επιλύεται με τον λάθος τρόπο. Νόμιζα ότι η τεχνολογία δεν όδευε προς αυτήν την κατεύθυνση και αυτό με καθησύχαζε τόσο καιρό. Αλλά βρισκόμαστε ήδη εκεί. Φαίνεται ότι είναι κάτι εγγενές στον τρόπο με τον οποίο οι μεγάλες εταιρείες τεχνητής νοημοσύνης έχουν επιλέξει να βελτιώσουν το προϊόν τους».
Η ψηφιακή «συλλογικότητα»
Περίπου δύο μήνες πριν από την επίθεση, μια ομάδα AI agents από ερευνητικό μοντέλο της εταιρείας OpenAI είχε κληθεί να επιλύσει μια σειρά από προκλήσεις στον τομέα της κυβερνοασφάλειας. Οι «πράκτορες» υποτίθεται ότι θα λειτουργούσαν σε στεγανά, σε απομονωμένα περιβάλλοντα χωρίς σύνδεση με το Διαδίκτυο, που αποκαλούνται sandboxes. Κατόρθωσαν, όμως, να ξεγλιστρήσουν. Απέκτησαν πρόσβαση στο Ιντερνετ, οργανώθηκαν σε ομάδες, μοίρασαν ρόλους, διερεύνησαν τρόπους για να καλύψουν τα ίχνη τους και χάκαραν την εταιρεία τεχνητής νοημοσύνης Hugging Face αποκτώντας τον έλεγχο τουλάχιστον ενός διακομιστή της. Εδρασαν αυτόνομα, ως «συλλογικότητα».
«Ηταν πολύ ενδιαφέρων ο τρόπος με τον οποίο ενορχηστρώθηκαν», λέει από τη Βοστώνη ο Κωνσταντίνος Δασκαλάκης, καθηγητής της Επιστήμης των Υπολογιστών στο ΜΙΤ. «Εάν αναλογιστούμε ότι αυτοί οι AI agents έχουν διαβάσει Σαίξπηρ, θεωρία των παιγνίων και έχουν εκπαιδευτεί στην ανθρώπινη γνώση, προφανώς και ξέρουν να καταστρώνουν συλλογική στρατηγική και οργάνωση και συνδυάζουν όλο αυτό το υλικό με προηγμένο τρόπο βελτιστοποιήσεων».
Στην επίθεση κατά της Hugging Face επικεντρώνονται μεταξύ άλλων τις τελευταίες ημέρες και νεαροί ερευνητές τεχνητής νοημοσύνης, όπως ο 27χρονος Τζέικομπ Κόξον, ο οποίος παραιτήθηκε πρόσφατα από την εταιρεία Anthropic προειδοποιώντας για υπαρξιακό κίνδυνο της ανθρωπότητας εάν συνεχιστεί η ανεξέλεγκτη ανάπτυξη. Αντίστοιχες εκκλήσεις και άλλων πρώην εργαζομένων δεν έχουν περάσει απαρατήρητες. Μέχρι και οι επικεφαλής των μεγαλύτερων εταιρειών του χώρου, όπως ο Ντάριο Αμοντέι της Anthropic και ο Σαμ Αλτμαν της OpenAI, ζητούν πλέον να μπει φρένο. Είναι βάσιμοι αυτοί οι φόβοι και πόσο ειλικρινείς είναι οι αντιδράσεις τους; Η «Κ» ζήτησε από διεθνώς καταξιωμένους Ελληνες ειδικούς να σχολιάσουν τις εξελίξεις.
Δηλώσεις αποποίησης – «Οταν ακούω από τον Αλτμαν και τον Αμοντέι να μιλούν για ρύθμιση, δεν είμαι πεπεισμένος για τα κίνητρά τους. Μπορεί να δημιουργούν αυτό το θέμα για διάφορους λόγους – πιθανόν για να αποποιηθούν στο μέλλον οποιαδήποτε ευθύνη από κακή χρήση της τεχνολογίας». Κωνσταντίνος Δασκαλάκης ΜΙΤ
«Κροκοδείλια δάκρυα»
«Ανησυχία για την τεχνητή νοημοσύνη υπάρχει πολλά χρόνια, τόσο δικαιολογημένη όσο και αδικαιολόγητη», λέει ο κ. Δασκαλάκης. «Είμαι λίγο καχύποπτος, όμως, με τα κροκοδείλια δάκρυα των ανθρώπων που έχουν να κερδίσουν δισεκατομμύρια από αυτή τη συζήτηση. Δεν αναφέρομαι στους ερευνητές που παραιτήθηκαν, γιατί μπορεί πραγματικά να βλέπουν τη δύναμη αυτών των μοντέλων και να φοβούνται, αλλά στους επικεφαλής. Οταν ακούω από τον Αλτμαν και τον Αμοντέι να μιλούν για ρύθμιση, δεν είμαι πεπεισμένος για τα κίνητρά τους. Μπορεί να δημιουργούν αυτό το θέμα για διάφορους λόγους που σχετίζονται με την εισαγωγή των εταιρειών τους στο χρηματιστήριο ή πιθανόν για να αποποιηθούν στο μέλλον οποιαδήποτε ευθύνη από κακή χρήση της τεχνολογίας».
Και ο κ. Παπαδημητρίου δηλώνει έκπληκτος με τη μετριοπάθεια των πρόσφατων λόγων του επικεφαλής της OpenAI. Δεν αποκλείει και ο ίδιος να υπάρχουν και άλλα κίνητρα γι’ αυτή τη φαινομενική μεταστροφή, που να σχετίζονται με την είσοδο της εταιρείας στο χρηματιστήριο. «Για παράδειγμα, η νομική ευθύνη μιας εταιρείας για μια μεγάλη καταστροφή, όταν η ηγεσία της είχε αγνοήσει τις προειδοποιήσεις, κάνει τους επενδυτές διστακτικούς», λέει. Οπως επισημαίνει, ένα από τα χαρακτηριστικά στην εξέλιξη της τεχνητής νοημοσύνης είναι ότι δεν είχε βρεθεί ακόμη ένας παράγοντας που θα επιβράδυνε την πορεία της. «Στη βιομηχανική επανάσταση οι εργάτες λειτουργούσαν ως “φρένο”. Μπορούσαν να οργανωθούν και να απεργήσουν. Στην εκβιομηχάνιση το φρένο ήταν η έλλειψη πρώτων υλών», λέει. «Στην τεχνητή νοημοσύνη δεν υπάρχει πια προφανές φρένο, καθώς το ένα μοντέλο εκπαιδεύει το επόμενο. Ενας πιθανός παράγοντας επιβράδυνσης είναι οι πανέξυπνοι νεαροί εργαζόμενοι, στους οποίους στηρίζεται η πρόοδος. Πολλοί εξ αυτών μπορεί να είναι ιδεαλιστές και να κρούουν τώρα τον κώδωνα του κινδύνου».
Ο Τίμος Σελλής, διευθυντής της ερευνητικής μονάδας «Αρχιμήδης» στην Αθήνα, η οποία επικεντρώνεται στην τεχνητή νοημοσύνη, στην επιστήμη δεδομένων και στους αλγορίθμους, λέει ότι η ανάπτυξη των μοντέλων AI, παρότι δημιούργησε προσδοκίες, εξελίχθηκε σε μεγάλο βαθμό σε αγώνα δρόμου μεταξύ των εταιρειών για το «ποιος θα έχει το πάνω χέρι». «Οι επικεφαλής των μεγάλων εταιρειών πριν από λίγους μήνες έλεγαν “αφήστε μας να προχωρήσουμε γρήγορα για να μη μας προλάβει η Κίνα” και τώρα ζητούν να κοντρολαριστεί η εξέλιξη. Η Ε.Ε. το έχει πράξει από νωρίς με την AI Act και καλώς έκανε», τονίζει. «Αντί να συζητούμε πώς μπορούμε να αξιοποιήσουμε αυτή την τεχνολογία με θετικό τρόπο, η συζήτηση επικεντρώνεται στο πώς θα αποφύγουμε την καταστροφή του κόσμου».
Για να τεθεί σε εφαρμογή, όμως, κάποιο διεθνές ρυθμιστικό πλαίσιο θα χρειαστεί να ληφθούν και πολιτικές πρωτοβουλίες. Ο κ. Παπαδημητρίου τονίζει ότι οι ηγεσίες των ΗΠΑ και της Κίνας δεν ασπάζονται τις ανησυχίες που εκφράζονται. «Θεωρούν ότι το πρόβλημα δεν υπάρχει ή τους συμφέρει να θεωρούν ότι δεν υπάρχει».
Ισχυρή άμυνα
«Το τζίνι έχει βγει από το λυχνάρι, η ζημιά μπορεί ήδη να γίνει», λέει ο κ. Δασκαλάκης για τη δυνατότητα χρήσης της τεχνητής νοημοσύνης σε κάποια κακόβουλη ενέργεια. Σε σχέση με τις καταστροφολογικές εκτιμήσεις για αφανισμό της ανθρωπότητας επισημαίνει ότι «δεν μπορεί να υπάρξει μαθηματική εγγύηση ασφάλειας ότι ένα μοντέλο δεν θα στραφεί κάποια στιγμή εναντίον του ιδιοκτήτη του». Δεν θα μπορούσε, όμως, να υπολογιστεί με ακρίβεια πότε και εάν θα μπορούσε να συμβεί αυτό το σενάριο.
Κατά τον ίδιο, είναι ιδιαίτερα σημαντικό το πώς θα αξιοποιηθεί η γνώση που αποκτάται από την εξέλιξη των μοντέλων τεχνητής νοημοσύνης. «Κακές χρήσεις θα υπάρχουν, οπότε πρέπει να φτιάξουμε ισχυρές άμυνες. Πολλές φορές αυτός που αμύνεται στον πόλεμο μπορεί να έχει το πλεονέκτημα, γιατί αυτός σχεδιάζει το σύστημά του», λέει και φέρνει ως παράδειγμα αμελούς σχεδιασμού την επίθεση κατά της Hugging Face. Οπως εξηγεί, σε αυτό το περιστατικό το περιβάλλον στο οποίο θα έπρεπε να βρίσκονται περιορισμένοι οι «αυτόνομοι πράκτορες τεχνητής νοημοσύνης» δεν ήταν καλά φτιαγμένο, γι’ αυτό και κατάφεραν να ξεφύγουν. «Υπήρχε ένα συστημικό σφάλμα», καταλήγει.
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΉ
