«Η τεχνητή νοημοσύνη με αγχώνει» δήλωσε ο Έλον Μασκ πριν λίγο καιρο. Τώρα επανέρχεται, καθώς μαζί με άλλους 1.000 περίπου εμπειρογνώμονες και στελέχη της βιομηχανίας τεχνητής νοημοσύνης, συνυπογράφει επιστολή, όπου ζητείται εξάμηνη αναστολή της ανάπτυξης συστημάτων, ισχυρότερων από το πρόσφατα λανσαρισμένο GPT-4 της OpenAI, σε μια ανοιχτή επιστολή που επικαλείται πιθανούς κινδύνους για την κοινωνία.
«Είναι … βαθιά υποκριτικό για τον Έλον Μασκ να υπογράψει μια τέτοια επιστολή δεδομένου ότι η Tesla έχει αγωνιστεί τόσο σκληρά κατά της ανάληψης ευθύνης για την ελαττωματική τεχνητή νοημοσύνη στα αυτοκινούμενα οχήματά της», δήλωσε ο James Grimmelmann, καθηγητής Ψηφιακού Δικαίου και Δικαίου της Πληροφορίας στο Πανεπιστήμιο Cornell.
Η Tesla τον περασμένο μήνα αναγκάστηκε να ανακαλέσει περισσότερα από 362.000 αμερικανικά οχήματα για να ενημερώσει το λογισμικό, αφού οι ρυθμιστικές αρχές των ΗΠΑ είπαν ότι το σύστημα υποβοήθησης οδηγού θα μπορούσε να προκαλέσει ατυχήματα, γεγονός που ώθησε τον Μασκ να γράψει στο Twitter ότι η λέξη “ανάκληση” για μια ενημέρωση λογισμικού over-the-air είναι “αναχρονιστική και απλά εντελώς λάθος!”.
«Βαριά» ονόματα της AI
Την επιστολή υπέγραψαν περισσότεροι από 1.000 άνθρωποι, ανάμεσά τους ο διευθύνων σύμβουλος της Stability AI, Emad Mostaque, ερευνητές της DeepMind, που ανήκει στην Alphabet, και τα “βαριά” ονόματα της AI, ο Yoshua Bengio, που συχνά αναφέρεται ως ένας από τους “νονούς της AI”, και ο Stuart Russell, πρωτοπόρος της έρευνας στον τομέα.
«Ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτυχθούν μόνο όταν είμαστε βέβαιοι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοι τους θα είναι διαχειρίσιμοι» αναφέρει η επιστολή που εκδόθηκε από το Ινστιτούτο Future of Life που χρηματοδοτείται κυρίως από το ίδρυμα Μασκ.
Υπενθυμίζεται ότι νωρίτερα αυτό το μήνα, η OpenAI, που υποστηρίζεται από τη Microsoft, παρουσίασε την τέταρτη έκδοση του προγράμματος τεχνητής νοημοσύνης GPT (Generative Pre-trained Transformer), το οποίο έχει εντυπωσιάσει τους χρήστες, καθώς κάνει συζητήσει που μοιάζουν με ανθρώπινες, συνθέτει τραγούδια και συντάσσει περιλήψεις μακροσκελών εγγράφων.
«Θα μας ξεπεράσουν»
“Πρέπει να αφήσουμε τις μηχανές να κατακλύσουν τα κανάλια πληροφόρησής μας με προπαγάνδα και αναλήθειες; … Θα πρέπει να αναπτύξουμε μη ανθρώπινα μυαλά που μπορεί τελικά να μας ξεπεράσουν, να μας ξεγελάσουν, να μας απαξιώσουν και να μας αντικαταστήσουν;”, διερωτάται η επιστολή.
Οι ανησυχίες έρχονται καθώς το ChatGPT προσελκύει την προσοχή των νομοθετών των ΗΠΑ με ερωτήσεις σχετικά με τον αντίκτυπό του στην εθνική ασφάλεια και την εκπαίδευση. Η αστυνομία της ΕΕ Europol προειδοποίησε τη Δευτέρα για πιθανή κατάχρηση του συστήματος σε απόπειρες phishing, παραπληροφόρηση και έγκλημα στον κυβερνοχώρο.
Μυστικοπάθεια
«Το γράμμα δεν είναι τέλειο, αλλά το πνεύμα είναι σωστό: πρέπει να επιβραδύνουμε μέχρι να κατανοήσουμε καλύτερα τις επιπτώσεις», δήλωσε ο Gary Marcus, καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης, ο οποίος υπέγραψε την επιστολή.
«Οι μεγάλοι παίκτες γίνονται όλο και πιο μυστικοπαθείς σχετικά με το τι κάνουν, γεγονός που δυσκολεύει την κοινωνία να αμυνθεί απέναντι στις όποιες βλάβες μπορεί να προκύψουν».
Από την κυκλοφορία του πέρυσι, το ChatGPT της OpenAI έχει ωθήσει τους αντιπάλους του να επιταχύνουν την ανάπτυξη παρόμοιων μοντέλων και εταιρείες όπως η Alphabet Inc (GOOGL.O) ανταγωνίζονται για να εμπλουτίσουν τα προϊόντα τους με τεχνητή νοημοσύνη.
Οι επενδυτές, που είναι επιφυλακτικοί στο να βασίζονται σε μία μόνο εταιρεία, αγκαλιάζουν τους ανταγωνιστές του OpenAI.
Η Microsoft αρνήθηκε να σχολιάσει την επιστολή και η Alphabet δεν απάντησε σε κλήσεις και μηνύματα ηλεκτρονικού ταχυδρομείου για σχόλιο.
«Στα χέρια λίγων»
«Μεγάλο μέρος της εξουσίας για την ανάπτυξη αυτών των συστημάτων βρίσκεται συνεχώς στα χέρια λίγων εταιρειών που έχουν τους πόρους για να το κάνουν», δήλωσε ο Suresh Venkatasubramanian, καθηγητής στο Πανεπιστήμιο Brown και πρώην βοηθός διευθυντή στο Γραφείο Επιστημονικής και Τεχνολογικής Πολιτικής του Λευκού Οίκου.
«Έτσι είναι αυτά τα μοντέλα, είναι δύσκολο να κατασκευαστούν και είναι δύσκολο να εκδημοκρατιστούν».
Πηγή: naftemporiki.gr
