Ο Musk και 1.000 παγκόσμιοι ηγέτες της τεχνολογίας ζητούν να σταματήσει η «εκτός ελέγχου» ανάπτυξη της τεχνητής νοημοσύνης

Ο Elon Musk και 1.000 άλλοι ηγέτες της τεχνολογίας, συμπεριλαμβανομένου του συνιδρυτή της Apple, Steve Wozniak, ζητούν να σταματήσει η «επικίνδυνη κούρσα» για την ανάπτυξη της τεχνητής νοημοσύνης, η οποία φοβούνται ότι αποτελεί «βαθύ κίνδυνο για την κοινωνία και την ανθρωπότητα» και ότι μπορεί να έχει «καταστροφικά» αποτελέσματα.

Σε μια ανοιχτή επιστολή, η οποία εκδόθηκε από το μη κερδοσκοπικό Ινστιτούτο Future of Life Institute, οι υπογράφοντες υποστηρίζουν ότι η ανθρωπότητα δεν γνωρίζει ακόμη το πλήρες εύρος του κινδύνου που εμπεριέχει η συγκεκριμένη πρόοδος στην τεχνολογία. Ζητούν από όλα τα εργαστήρια τεχνητής νοημοσύνης να σταματήσουν να αναπτύσσουν τα προϊόντα τους για τουλάχιστον έξι μήνες, ενώ παράλληλα θα γίνεται περισσότερη αξιολόγηση των κινδύνων.

«Τα ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτύσσονται μόνο όταν είμαστε βέβαιοι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοι τους θα είναι διαχειρίσιμοι», αναφέρεται μεταξύ των άλλων στην επιστολή.

Εάν κάποια εργαστήρια αρνηθούν, οι ίδιοι υποστηρίζουν ότι απατείται η παρέμβαση των κυβερνήσεων. Ο φόβος του Musk και των άλλων ηγετών είναι ότι η τεχνολογία θα γίνει τόσο προηγμένη, που δεν θα απαιτεί πλέον -ή δεν θα ακούει- την ανθρώπινη παρέμβαση. Πρόκειται για ένα φόβο που υποστηρίζεται ευρέως και μάλιστα αναγνωρίζεται από τον Διευθύνοντα Σύμβουλο της OpenAI -της εταιρείας που δημιούργησε το ChatGPT- ο οποίος είχε πει νωρίτερα αυτό το μήνα ότι η τεχνολογία θα μπορούσε να αναπτυχθεί και να αξιοποιηθεί προκειμένου να διαπράξει «εκτεταμένες» κυβερνοεπιθέσεις.

Given that modern AI can solve any “prove you’re not a robot” tests, it’s now trivial to spin up 100k human-like bots for less than a penny per account.

Paid verification increases bot cost by ~10,000% & makes it much easier to identify bots by phone & CC clustering.

Obvious…

— Elon Musk (@elonmusk) March 27, 2023

Στην επιστολή αναφέρεται επίσης ότι τα εργαστήρια τεχνητής νοημοσύνης βρίσκονται επί του παρόντος «εντεταγμένα σε έναν αγώνα εκτός ελέγχου προκειμένου να αναπτύξουν όλο και πιο ισχυρά ψηφιακά μυαλά που κανείς –ακόμα και οι δημιουργοί τους– δεν μπορούν να καταλάβουν, να προβλέψουν ή να ελέγξουν αξιόπιστα». «Τα ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτυχθούν μόνο όταν είμαστε σίγουροι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοι τους θα είναι διαχειρίσιμοι», αναφέρεται στην επιστολή.

Κανένας από την Google ή τη Microsoft -που θεωρείται ότι βρίσκονται στην πρώτη γραμμή της ανάπτυξης της τεχνολογίας- δεν είναι μεταξύ εκείνων που υπέγραψαν την επιστολή. Από τη λίστα των υπογραφόντων λείπουν επίσης τα ονόματα ή τα στελέχη μέσων κοινωνικής δικτύωσης ή εκείνων που διαχειρίζονται το Quora ή το Reddit, που θεωρούνται ευρέως ότι έχουν επίσης γνώση σχετικά με το θέμα.

Η επιστολή περιγράφει επίσης τους πιθανούς κινδύνους για την κοινωνία και τον πολιτισμό από τα συστήματα τεχνητής νοημοσύνης και καλεί τους προγραμματιστές να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για τη διακυβέρνηση και τις ρυθμιστικές αρχές.

«Η επιστολή δεν είναι τέλεια, αλλά το πνεύμα είναι σωστό: πρέπει να επιβραδύνουμε μέχρι να κατανοήσουμε καλύτερα τις επιπτώσεις», δήλωσε ο Gary Marcus, ομότιμος καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης, ο οποίος υπέγραψε την επιστολή. «Μπορούν να προκαλέσουν σοβαρή ζημιά. Οι μεγάλοι παίκτες γίνονται όλο και πιο μυστικοπαθείς σχετικά με το τι κάνουν, γεγονός που καθιστά δύσκολο για την κοινωνία να αμυνθεί απέναντι στις όποιες ζημιές μπορεί να προκύψουν», τόνισε.

Η επιστολή έρχεται καθώς η Europol προχώρησε τη Δευτέρα σε σχετικές προεδοποιήσεις σχετικά με προηγμένη τεχνητή νοημοσύνη όπως το ChatGPT, προειδοποιώντας για πιθανή κακή χρήση του συστήματος σε απόπειρες phishing, παραπληροφόρηση και εγκλήματα στον κυβερνοχώρο.

Από την κυκλοφορία του πέρυσι, το ChatGPT του OpenAI που υποστηρίζεται από τη Microsoft, ώθησε τους ανταγωνιστές να λανσάρουν παρόμοια προϊόντα και τις εταιρείες να το ενσωματώσουν ή παρόμοιες τεχνολογίες στις εφαρμογές και τα προϊόντα τους.

Ο Musk προσπαθεί να σταματήσει -ή τουλάχιστον να βοηθήσει στην επιβράδυνση- της ταχείας ανάπτυξης της τεχνολογίας τεχνητής νοημοσύνης εδώ και χρόνια. Ο ίδιος το 2017 είχε προειδοποιήσει ότι η ανθρωπότητα «καλούσε τον δαίμονα» όσον αφορά την εξέλιξη της τεχνολογίας.

Αξίζει να σημειωθεί ότι ο Musk φέρεται να ήταν ένας από τους ιδρυτές της OpenAI -της εταιρείας που δημιούργησε το ChatGPT- το 2015. Πρόθεσή του ήταν να λειτουργήσει ως μη κερδοσκοπικός οργανισμός αφιερωμένος στην έρευνα των κινδύνων που μπορεί να θέσει η τεχνητή νοημοσύνη για την κοινωνία.