Με υπογεγραμμένο γράμμα, ειδικοί σε θέματα τεχνητής νοημοσύνης και ηγέτες της βιομηχανίας, με επικεφαλής τον Elon Musk, υποστηρίζουν ότι πρέπει να γίνει εξάμηνη παύση από την ανάπτυξη συστημάτων τεχνητής νοημοσύνης που υπερβαίνουν σε ισχύ το GPT-4 του OpenAI.
Το Ινστιτούτο Future of Life Institute, έχοντας συγκεντρώσει τις υπογραφές 1.000 ατόμων, εξέδωσε επιστολή με την οποία υποστηρίζει την άμεση διακοπή της παραγωγής προηγμένης τεχνητής νοημοσύνης έως ότου καθιερωθούν πρωτόκολλα ασφαλείας με ανεξάρτητες αξιολογήσεις. Αυτό θα εγγυάται τη συλλογική προστασία από κάθε κίνδυνο που συνδέεται με την τεχνολογική πρόοδο.
Η επιστολή υποστηρίζει ότι τα εργαστήρια τεχνητής νοημοσύνης “έχουν εγκλωβιστεί σε έναν ανεξέλεγκτο αγώνα δρόμου για την ανάπτυξη και την ανάπτυξη ολοένα και πιο ισχυρών ψηφιακών μυαλών που κανείς -ούτε καν οι δημιουργοί τους- δεν μπορεί να κατανοήσει, να προβλέψει ή να ελέγξει αξιόπιστα“.
Υπάρχει κίνδυνος για τις δουλειές; Μήπως είναι θέμα προσαρμογής στα νέα δεδομένα;
Η επιστολή, που δημοσιεύθηκε την Τετάρτη, συνέπεσε με τη δημοσίευση μιας ξεχωριστής έκθεσης της Goldman Sachs, η οποία εκτιμά ότι 300 εκατομμύρια θέσεις εργασίας πλήρους απασχόλησης θα μπορούσαν να εκτεθούν χάριν στη ΤΝ σε παγκόσμιο επίπεδο.
Η OpenAI απο την άλλη λέει ότι το 80% των εργαζομένων θα μπορούσε να δει τις δουλειές τους να επηρεάζονται από την τεχνητή νοημοσύνη.
Η έκρηξη του ενδιαφέροντος για την τεχνητή νοημοσύνη που προέκυψε απο εφαρμογές όπως το ChatGPT και το DALL-E έχει επίσης προκαλέσει πολλά ερωτήματα σχετικά με την ηθική και τον αντίκτυπο των νέων ισχυρών εργαλείων. Ακόμη και ο Sam Altman, ο διευθύνων σύμβουλος της OpenAI, δημιουργού του ChatGPT, έχει κρούσει πολλές φορές τον κώδωνα του κινδύνου σχετικά με την ξαφνική άνοδο της τεχνητής νοημοσύνης, δηλώνοντας πρόσφατα ότι ο κόσμος μπορεί να μην είναι “τόσο μακριά από τα δυνητικά τρομακτικά” εργαλεία τεχνητής νοημοσύνης
Απαντώντας σε αυτή την προειδοποίηση τότε, ορισμένοι ειδικοί σε θέματα τεχνητής νοημοσύνης δήλωσαν ότι αντί για “δυνητικά τρομακτικές” εφαρμογές που βρίσκονται προ των πυλών, ζούμε σήμερα σε ένα “δυστοπικό παρόν” χάρη στην εξάπλωση της τεχνητής νοημοσύνης.
Η Sarah Myers West, διευθύνουσα σύμβουλος του AI Now Institute, δήλωσε ότι σήμερα “από πολλές απόψεις, αυτό είναι ήδη το σημείο στο οποίο βρισκόμαστε”, με τα συστήματα τεχνητής νοημοσύνης να επιδεινώνουν “μακροχρόνια πρότυπα ανισότητας”, ιδίως σε τομείς όπως οι αιτήσεις για εργασία και η εκπαίδευση.
Η ανοιχτή επιστολή, που δημοσιεύθηκε στις 28 Μαρτίου, είχε πάνω απο 1.123 υπογραφές κατά τη στιγμή της δημοσίευσης αυτού του άρθρου, μεταξύ των οποίων ο συγγραφέας Yuval Noah Harari και ο βραβευμένος με το βραβείο Turing Yoshua Bengio.
Η επιστολή μετάξύ άλλων αναφέρει ότι η Τεχνητή Νοημοσύνη θα μπορούσε να είναι έτοιμη να αλλάξει βαθιά την πορεία της ζωής στη Γη, και ότι “θα πρέπει να σχεδιαστεί και να διαχειριστεί με ανάλογη φροντίδα και πόρους” – κάτι που, όπως υποστηρίζουν οι συγγραφείς, δεν συμβαίνει.
Προειδοποιώντας ότι οι μηχανές θα μπορούσαν να “πλημμυρίσουν τα κανάλια πληροφόρησής μας με προπαγάνδα” ή να πάρουν “όλες τις δουλειές”, καθιστώντας τους ανθρώπους “περιττούς”, οι συγγραφείς ρωτούν: “Πρέπει να διακινδυνεύσουμε την απώλεια του ελέγχου του πολιτισμού μας;“
Στη συνέχεια, ζητούν την εποπτεία, “ώστε οι αποφάσεις αυτές να μην αφήνονται στα χέρια των ηγετών της τεχνολογίας. Αυτή η εποπτεία θα πρέπει να περιλαμβάνει κοινά πρωτόκολλα ασφαλείας που θα επιβλέπονται από ανεξάρτητους εμπειρογνώμονες. Οι προγραμματιστές ΤΝ θα πρέπει επίσης να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για να “επιταχύνουν δραματικά την ανάπτυξη ισχυρών συστημάτων διακυβέρνησης ΤΝ“..
Mου κάνει φοβερή εντύπωση που ξαφνικά τα βάφουν μάυρα και ενώνονται σε κοινή επιστολή ο τσαρλατανοεπιχειρηματίας Ηλον Μασκ ,ο αντικαθεστωτικός υπέρμαχος των προσωπικών δεδομένων και outcast της Apple-που όμως μια χαρα εισοδηματάκι παίζει- Στηβ Βοζνιακ (βασικά ο Woz παίζει να είναι ο μόνος αγνός λόγω πρώτερου βίου) και ο “Αρχιερέας” Harrari. Το ερώτημα που εγείρεται δεν ειναι αν “Πρέπει να διακινδυνεύσουμε την απώλεια του ελέγχου του πολιτισμού μας;” όπως αναφέρουν στην επιστολή. Αυτό που βλέπω σαν ερώτημα-αγωνία συνοψίζεται στην παρακάτω φράση.
Μπορούμε να διακινδυνεύσουμε να μην χρειάζεται τα δεδομένα να περνάνε απο κανάλια που ελέγχουμε εμείς; (και το καθεστώς μας;)
Το ερώτημα είναι φιλοσοφικό και πολιτικό και λιγότερο κοινωνικό. Αφορά την πάντα-αγωνιώδη και σιδερένια προσπάθεια του κάθε καθεστώτος να μην αλλάξει, να μην προσαρμοστεί, να μην διαταραχτεί. Αν κάτι όντως φοβούνται, ακούει στο όνομα Singularity.
Οσο παράδοξο και αν ακούγεται, ο όρος Singularity, προέρχεται απο το μακρινό 1800 όταν ο Φυσικός Maxwell ονόμασε Μοναδικότητα(singularity) τη στιγμή που σε ένα δυναμικό σύστημα, μια μικρή αλλαγή κατάστασης σε εναν παράγοντα του, προκαλεί ενα δυσανάλογα μεγάλο αποτέλεσμα. Ενας φυσικός που γνώρισα σε ενα συνέδριο μου το εξήγησε απλα ως την στιγμη που το νερό σε ενα μπρίκι απο 99,9 βαθμούς, πηγαίνει 100 βαθμούς! Μια πολύ μικρή αλλαγή (0,1 βαθμοί) με μια τεράστια αλλαγή για το σύστημα (το υγρό γίνεται αέριο!)
Τεχνολογικά και στο θέμα μας, Singularity ειναι η στιγμή που η νοημοσύνη της μηχανής θα φτάσει (και θα ξεπεράσει) αυτή του δημιουργού της, του ανθρώπου. Αυτό είναι που φοβούνται…τώρα. Το ζήτημα βέβαια είναι οτι με λίγη “μηχανική βοήθεια” ο άνθρωπος μπορεί να παρουσιάσει εκθετική αύξηση της νοημοσύνης του. Άρα μήπως σε λίγο θα μάθουμε οτι “είναι και αυτό μια λύση;” Δεν το παίζω σκεπτικιστής και μακριά απο μένα συνομοτικές θεωρίες. Αλλα δεν έχει απομένει τίποτα πιο ιδιόκτητο πέρα απο την σκέψη, τις ιδέες, τα πιστεύω. Όλα τα υπόλοιπα (σπίτια, αυτοκίνητα κλπ), η δομή του συστήματος υπο συνθήκες μπορεί να τα αμισβητήσει στο όνομα οποιασδήποτε πλέον “κρίσης”.
Εσύ πόσο συμβάλεις με την εργασία σου στο ΑΕΠ;
Ένα υπόμνημα της πολυεθνικής επενδυτικής τράπεζας Goldman Sachs αποκάλυψε εν τω μεταξύ τις μεγάλης κλίμακας οικονομικές επιπτώσεις της τεχνητής νοημοσύνης Εκτιμούν ότι η τεχνητή νοημοσύνη θα μπορούσε να αναλάβει έως και το ένα τέταρτο του συνόλου των σημερινών εργασιών, γεγονός που θα εξέθετε το ισοδύναμο 300 εκατομμυρίων θέσεων εργασίας πλήρους απασχόλησης στην αυτοματοποίηση. Τα καλά νέα, σύμφωνα με το υπόμνημα, είναι ότι “ο εκτοπισμός εργαζομένων από την αυτοματοποίηση έχει ιστορικά αντισταθμιστεί από τη δημιουργία νέων θέσεων εργασίας και η εμφάνιση νέων επαγγελμάτων μετά από τεχνολογικές καινοτομίες αντιπροσωπεύει τη συντριπτική πλειοψηφία της μακροχρόνιας αύξησης της απασχόλησης”. Η εξοικονόμηση εργατικού κόστους και η υψηλότερη παραγωγικότητα για τους μη μετατοπιζόμενους εργαζόμενους θα μπορούσε να σημαίνει “μια έκρηξη παραγωγικότητας που αυξάνει σημαντικά την οικονομική ανάπτυξη”, προστίθεται. Για παράδειγμα, εκτιμούν ότι η ώθηση στην παγκόσμια παραγωγικότητα της εργασίας θα μπορούσε να αυξήσει το ετήσιο παγκόσμιο ΑΕΠ κατά 7%. Η αρχή της σύγκρισης ξεκίνησε. Ηδη αρχίζουμε να υπολογίζουμε πως “η ώθηση της παραγωγικότητας” μπορεί να αυξήσει το ΑΕΠ. Συνέχεια έχει η σύγκριση μεταξύ του “παραδοσιακού εργαζομένου Ραφαήλ” και του “AI-enchanced Ραφαήλ”.
Ο Ασίμοφ και το ερώτημα.
Στα βιβλία του, ο Ισαακ Ασίμοφ, έχει ορίσει 3 νόμους βάση στους οποίους λειτουργούν τα “ρομπότ”, τα “αυτόματα” και γενικά οι τεχνολογικές υπάρξεις. Οι νόμοι της ρομποτικής του Ασίμοφ δεν είναι επιστημονικοί νόμοι, αλλά οδηγίες που ενσωματώνονται σε κάθε ρομπότ για να αποτρέψουν τη δυσλειτουργία τους με τρόπο που θα μπορούσε να είναι επικίνδυνος. Ο πρώτος νόμος είναι ότι ένα ρομπότ δεν πρέπει να βλάψει έναν άνθρωπο ή να επιτρέψει με την αδράνεια του να βλάψει έναν άνθρωπο. Ο δεύτερος νόμος είναι ότι ένα ρομπότ πρέπει να υπακούει σε κάθε εντολή που του δίνει ένας άνθρωπος και ο τρίτος νόμος είναι ότι ένα ρομπότ πρέπει να αποφεύγει ενέργειες ή καταστάσεις που θα μπορούσαν να το κάνουν να πάθει κακό.
Όταν οι νόμοι αυτοί συγκρούονται, υπερισχύει ο πρώτος νόμος, στη συνέχεια ο δεύτερος νόμος, με την αυτοσυντήρηση του ρομπότ να έχει την τελευταία θέση. Για παράδειγμα, αν ένας άνθρωπος διέταζε ένα ρομπότ να επιτεθεί σε έναν άλλο άνθρωπο, αυτό θα αρνιόταν να ακολουθήσει την εντολή (ο πρώτος νόμος υπερισχύει του δεύτερου), αλλά αν ένας άνθρωπος το διέταζε να αποσυναρμολογηθεί, αυτό θα υπάκουε (ο δεύτερος νόμος υπερισχύει του τρίτου).
Δωράκι
Μια που ανέφερα τον Ασίμοφ, πατήστε στην παρακάτω είκονα και κατεβάστε δωρεάν το σύντομο διήγημα ” Η τελευταία ερώτηση”. Πρόκειται για ένα από τα δημοφιλέστερα διηγήματα ΕΦ που έχουν γραφτεί ποτέ, το πλέον αγαπημένο και του ίδιου του συγγραφέα. Γράφτηκε το 1956, πολύ πριν την εμφάνιση των ηλεκτρονικών υπολογιστών. Θυμάμαι όταν το διάβασα τυχαία ενα βράδυ, οδηγήθηκα στις πιο περίεργες ατραπούς σκέψεων που έχω κάνει ποτέ μου. Τόσο περίεργες που οδηγήθηκα να ψάχνω την απάντηση στην δική μου “τελευταία ερώτηση” στα πιο απίθανα μέρη, στα πιο ανήλιαγα υπόγεια….αλλα αυτό είναι για μια άλλη φορά.
