OpenAI και AGI: Το καταφύγιο πριν την τεχνητή αποκάλυψη

Σε ένα σενάριο που μοιάζει βγαλμένο από επιστημονική δυστοπία, ο συνιδρυτής και επικεφαλής επιστήμονας της OpenAI, Ίλια Σουτσκέβερ, φέρεται να πρότεινε την κατασκευή υπόγειου καταφυγίου για να προστατευτούν οι «κορυφαίοι εγκέφαλοι» της τεχνολογίας από την καταστροφή που ίσως φέρει η Γενική Τεχνητή Νοημοσύνη (AGI).

Τι είναι η AGI και γιατί φοβίζει;

Η AGI (Artificial General Intelligence) είναι ένας τύπος τεχνητής νοημοσύνης που θα ξεπερνά τις ανθρώπινες ικανότητες. Δεν είναι η στενή ΑΙ που γνωρίζουμε σήμερα (όπως τα chatbots ή τα recommendation systems), αλλά μια οντότητα που μπορεί να αναλαμβάνει πρωτοβουλίες, να αυτοβελτιώνεται και να αλλάζει τα πάντα.

Ο ίδιος ο CEO της OpenAI, Σαμ Άλτμαν, υπέγραψε το 2023 επιστολή που χαρακτήριζε την AGI ως δυνητικά "απειλή επιπέδου εξαφάνισης".

Το καταφύγιο – αστείο ή στρατηγική;

Σύμφωνα με τη δημοσιογράφο Karen Hao, συγγραφέα του Empire of AI, το θέμα του «καταφυγίου» συζητήθηκε επανειλημμένα σε εσωτερικές συναντήσεις της OpenAI.

Σε ένα χαρακτηριστικό περιστατικό, ο Σουτσκέβερ φέρεται να δήλωσε:

«Όταν μπούμε όλοι στο καταφύγιο…» Κάποιος τον διέκοψε ρωτώντας: «Καταφύγιο;» «Ναι. Σίγουρα θα χτίσουμε ένα καταφύγιο πριν κυκλοφορήσουμε AGI», απάντησε ο ίδιος.

Επιβίωση των «εκλεκτών»;

Το υπονοούμενο είναι σαφές: αν η AGI ξεφύγει από τον έλεγχο, θα μπορούσε να απειλήσει την ανθρωπότητα — και οι ηγέτες της OpenAI προετοιμάζονται ήδη για το χειρότερο σενάριο, προστατεύοντας τα στελέχη και τους ερευνητές.

Από προμηθευτές προόδου… σε κατασκευαστές κρίσης;

Το επεισόδιο θέτει σοβαρά ερωτήματα για την ηθική λογοδοσία στον αγώνα ανάπτυξης AGI:

• Ποιος αποφασίζει πότε είναι «έτοιμη»;

• Ποιος επωφελείται από την κυκλοφορία της;

• Τι μηχανισμοί ασφαλείας υπάρχουν, αν οι ίδιοι οι δημιουργοί της σκέφτονται την απόδραση σε καταφύγια;

---