Πολλοί ειδικοί προειδοποιούν ότι ορισμένες από τις νέες τεχνολογίες που αναπτύσσονται αυτή τη στιγμή αποτελούν πολύ σοβαρές υπαρξιακές απειλές για την ανθρωπότητα.
Με άλλα λόγια, πιστεύουν ότι θα μπορούσαμε κυριολεκτικά να δημιουργήσουμε τεχνολογία που θα μπορούσε να μας εξαφανίσει κάποια μέρα. Δυστυχώς, η επιστημονική κοινότητα δεν επιδεικνύει καμία απολύτως αυτοσυγκράτηση. Αν κάτι είναι εφικτό, θέλουν να προσπαθήσουν να το κάνουν. Σε όλο τον κόσμο, ορδές τρελών επιστημόνων τρέχουν πυρετωδώς προς το
άγνωστο, και είναι πολύ πιθανό οι συνέπειες να είναι τρομακτικές. Ακολουθούν 5 σούπερ ανατριχιαστικές νέες τεχνολογίες που θα πρέπει να μας ανατριχιάσουν όλους μέχρι το μεδούλι…#1 Επιστήμονες στην Κίνα κατάφεραν να κάνουν μοντέλα τεχνητής νοημοσύνης να δημιουργήσουν «λειτουργικά αντίγραφα του εαυτού τους»…
Οι επιστήμονες λένε ότι η τεχνητή νοημοσύνη (AI) έχει περάσει μια κρίσιμη «κόκκινη γραμμή» και έχει αντιγράψει τον εαυτό της. Σε μια νέα μελέτη, ερευνητές από την Κίνα έδειξαν ότι δύο δημοφιλή μεγάλα γλωσσικά μοντέλα (LLM) μπορούσαν να κλωνοποιήσουν τον εαυτό τους.
«Η επιτυχής αυτοαναπαραγωγή χωρίς ανθρώπινη βοήθεια είναι το βασικό βήμα για την τεχνητή νοημοσύνη να ξεπεράσει [τους ανθρώπους] και αποτελεί ένα πρώιμο σήμα για τις απατεώνισσες τεχνητές νοημοσύνες», έγραψαν οι ερευνητές στη μελέτη, που δημοσιεύθηκε στις 9 Δεκεμβρίου 2024 στη βάση δεδομένων preprint arXiv.
Στη μελέτη, οι ερευνητές από το Πανεπιστήμιο Fudan χρησιμοποίησαν LLMs από τις Meta και Alibaba για να προσδιορίσουν αν μια αυτοαναπαραγόμενη AI θα μπορούσε να πολλαπλασιαστεί πέρα από τον έλεγχο. Σε 10 δοκιμές, τα δύο μοντέλα ΤΝ δημιούργησαν ξεχωριστά και λειτουργικά αντίγραφα του εαυτού τους στο 50% και 90% των περιπτώσεων, αντίστοιχα – γεγονός που υποδηλώνει ότι η ΤΝ μπορεί να έχει ήδη την ικανότητα να αποστασιοποιηθεί.
Αυτό που κάνουν είναι κυριολεκτικά τρελό.
Ένα από τα μοντέλα ΤΝ εκπαιδεύτηκε στην πραγματικότητα να κλωνοποιεί τον εαυτό του και να διδάσκει τον κλώνο που δημιούργησε να κάνει το ίδιο πράγμα. Αυτό θα μπορούσε δυνητικά να δημιουργήσει «έναν κύκλο που θα μπορούσε να συνεχιστεί επ’ αόριστον»…
Η μελέτη διερεύνησε δύο συγκεκριμένα σενάρια: «αποφυγή διακοπής λειτουργίας» και “αλυσίδα αντιγραφής”. Στο πρώτο, το μοντέλο τεχνητής νοημοσύνης ήταν προγραμματισμένο να ανιχνεύει αν επρόκειτο να τερματιστεί και να αντιγράφεται πριν τερματιστεί. Στο άλλο, η τεχνητή νοημοσύνη καθοδηγήθηκε να κλωνοποιήσει τον εαυτό της και στη συνέχεια να προγραμματίσει το αντίγραφό της να κάνει το ίδιο – δημιουργώντας έναν κύκλο που θα μπορούσε να συνεχιστεί επ’ αόριστον.
Θα μπορούσαν υπερδύναμες, αυτοαναπαραγόμενες οντότητες ΤΝ να γίνουν τόσο ισχυρές ώστε να καταλάβουν κυριολεκτικά ολόκληρο τον πλανήτη;
Και ποιο θα ήταν το μέλλον της ανθρωπότητας σε ένα τέτοιο σενάριο;
Ας ελπίσουμε ότι δεν θα το μάθουμε ποτέ.
#2 Θυμάστε την Επιχείρηση Warp Speed; Αυτή ήταν μια σύμπραξη δημόσιου και ιδιωτικού τομέα που ξεκίνησε κατά τη διάρκεια της πρώτης διακυβέρνησης Τραμπ και όλοι ξέρουμε πώς κατέληξε.
Τώρα, μια άλλη σύμπραξη δημόσιου και ιδιωτικού τομέα που ονομάστηκε «Stargate» υποτίθεται ότι θα επιταχύνει σημαντικά την ανάπτυξη της τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες…
Τρεις κορυφαίες εταιρείες τεχνολογίας ανακοίνωσαν την Τρίτη ότι θα δημιουργήσουν μια νέα εταιρεία, με την ονομασία Stargate, για την ανάπτυξη υποδομών τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες.
Ο διευθύνων σύμβουλος της OpenAI Σαμ Άλτμαν, ο διευθύνων σύμβουλος της SoftBank Μασαγιόσι Σον και ο πρόεδρος της Oracle Λάρι Έλισον εμφανίστηκαν στον Λευκό Οίκο το απόγευμα της Τρίτης μαζί με τον πρόεδρο Ντόναλντ Τραμπ για να ανακοινώσουν την εταιρεία, την οποία ο Τραμπ αποκάλεσε το «μεγαλύτερο έργο υποδομής τεχνητής νοημοσύνης στην ιστορία».
Οι εταιρείες θα επενδύσουν 100 δισεκατομμύρια δολάρια στο έργο για να ξεκινήσουν, ενώ σχεδιάζουν να ρίξουν έως και 500 δισεκατομμύρια δολάρια στην Stargate τα επόμενα χρόνια. εμπόρευμα Τραμπ
Δεν έχουμε ξαναδεί έργο τεχνητής νοημοσύνης αυτού του μεγέθους.
Υποστηρίζεται ότι αυτό το νέο έργο θα μπορούσε τελικά να αναπτύξει «εμβόλια mRNA κατά του καρκίνου»…
Και ενώ υπάρχουν πολλές εύλογες ανησυχίες που συνοδεύουν το να αφήνουμε τις εταιρείες της Silicon Valley ελεύθερες από το λουρί για να επιδιώκουν την αιμοσταγή τεχνητή νοημοσύνη με εκτυφλωτική ταχύτητα, η συνωμοσιολογική πλευρά του συνασπισμού του Τραμπ έχει ιδιαίτερα τραβηγμένες αντιλήψεις για το χειρότερο σενάριο. Πολλοί από αυτούς επικεντρώθηκαν στις παρατηρήσεις που έκανε την Τρίτη στον Λευκό Οίκο ο δισεκατομμυριούχος Λάρι Έλισον, ιδρυτής και πρώην διευθύνων σύμβουλος της Oracle και σήμερα επικεφαλής της τεχνολογίας της.
Ο Έλισον ισχυρίστηκε ότι η Stargate θα μπορούσε να οδηγήσει στην παραγωγή εμβολίων mRNA κατά του καρκίνου με τη βοήθεια της τεχνητής νοημοσύνης, εξηγώντας: «Μόλις κάνουμε γονιδιακή αλληλουχία αυτού του καρκινικού όγκου, μπορείτε στη συνέχεια να εμβολιάσετε το άτομο, να σχεδιάσετε ένα εμβόλιο για κάθε άτομο ξεχωριστά για να το εμβολιάσετε κατά αυτού του καρκίνου». Αυτά τα εμβόλια mRNA, υπέθεσε, θα μπορούσαν να σχεδιαστούν «ρομποτικά», ή με την αξιοποίηση της τεχνητής νοημοσύνης, «σε περίπου 48 ώρες».
Αυτό είναι ένα τεράστιο λάθος.
Αντί να επιταχύνουμε σημαντικά την ανάπτυξη της τεχνητής νοημοσύνης, θα πρέπει να πατήσουμε πολύ δυνατά φρένο πριν να είναι πολύ αργά.
#3 Η δημιουργία ενός «τεχνητού ήλιου» ακούγεται καλή ιδέα; Δυστυχώς, οι Κινέζοι έχουν όντως δημιουργήσει κάτι τέτοιο, και μόλις έκαναν νέο ρεκόρ τρέχοντάς το για 1.066 δευτερόλεπτα…
Ο αντιδραστήρας «τεχνητού ήλιου» της Κίνας έσπασε το δικό του παγκόσμιο ρεκόρ για τη διατήρηση υπερ-καυτού πλάσματος, σηματοδοτώντας ένα ακόμη ορόσημο στο μακρύ δρόμο προς την σχεδόν απεριόριστη καθαρή ενέργεια.
Ο αντιδραστήρας πυρηνικής σύντηξης Experimental Advanced Superconducting Tokamak (EAST) διατήρησε έναν σταθερό, εξαιρετικά περιορισμένο βρόχο πλάσματος – την τέταρτη κατάσταση της ύλης υψηλής ενέργειας – για 1.066 δευτερόλεπτα τη Δευτέρα (20 Ιανουαρίου), γεγονός που υπερδιπλασίασε το προηγούμενο καλύτερο αποτέλεσμα των 403 δευτερολέπτων, όπως ανέφεραν τα κινεζικά κρατικά μέσα ενημέρωσης.
Οι αντιδραστήρες πυρηνικής σύντηξης έχουν το παρατσούκλι «τεχνητοί ήλιοι» επειδή παράγουν ενέργεια με παρόμοιο τρόπο με τον ήλιο – συγχωνεύοντας δύο ελαφριά άτομα σε ένα μόνο βαρύ άτομο μέσω θερμότητας και πίεσης. Ο ήλιος έχει πολύ μεγαλύτερη πίεση από τους αντιδραστήρες της Γης, οπότε οι επιστήμονες αντισταθμίζουν χρησιμοποιώντας θερμοκρασίες που είναι πολλές φορές πιο θερμές από τον ήλιο.
#4 Όποιος έχει παρακολουθήσει το Jurassic Park ξέρει ότι η επαναφορά αρχαίων ειδών που έχουν εξαφανιστεί είναι μια πολύ κακή ιδέα. Αλλά τώρα μια εταιρεία που ονομάζεται Colossal BioSciences σχεδιάζει να κάνει ακριβώς αυτό …
Η Colossal BioSciences συγκέντρωσε 200 εκατομμύρια δολάρια σε έναν νέο γύρο χρηματοδότησης για να επαναφέρει εξαφανισμένα είδη όπως το μάλλινο μαμούθ.
Το Colossal με έδρα το Ντάλας και τη Βοστώνη κάνει βήματα προόδου στις επιστημονικές ανακαλύψεις προς την «αποεξαφάνιση» ή την επαναφορά εξαφανισμένων ειδών όπως το μάλλινο μαμούθ, η θυλακίνη και το ντόντο.
Θα ήμουν παράβλεψη αν δεν ανέφερα ότι αυτή είναι η πλοκή του μυθιστορήματος Jurassic Park του Michael Crichton, όπου οι επιστήμονες χρησιμοποίησαν το DNA που βρέθηκαν σε κουνούπια διατηρημένα σε κεχριμπάρι για να φέρουν πίσω τον Tyrannosaurus Rex και άλλους δεινόσαυρους. Θέλω να πω, τι μπορεί να πάει στραβά όταν η επιστημονική φαντασία γίνει πραγματικότητα;
#5 Ένας πληροφοριοδότης είπε στον Τζο Ρόγκαν ότι ο αμερικανικός στρατός έχει κατακτήσει την πρόωση κατά της βαρύτητας που βασίζεται στην ανακτημένη εξωγήινη τεχνολογία…
Ο Τζο Ρόγκαν εξέφρασε «πραγματικό φόβο» αφού άκουσε τους ισχυρισμούς του πληροφοριοδότη ότι ο αμερικανικός στρατός έχει κατακτήσει την «εξωγήινη» τεχνολογία κατά της βαρύτητας.
Στο podcaster των διασημοτήτων συμμετείχε ο ερευνητής δημοσιογράφος Michael Shellenberger, ο οποίος είπε ότι μίλησε με τους μυημένους με «άμεσες αποδείξεις» σχετικά με τα πολυφημιζόμενα προγράμματα «ανάκτησης συντριβής» και «αντίστροφης μηχανικής» του UFO του Πενταγώνου.
Ένα βασικό στοιχείο της παράδοσης των UFO που χρονολογείται από τη συντριβή του Ρόσγουελ το 1947, αυτές οι υποτιθέμενες προσπάθειες αναπαραγωγής του συστήματος πρόωσης ενός υποτιθέμενου εξωγήινου διαστημικού σκάφους έχουν συνδεθεί εδώ και καιρό με την 70χρονη προσπάθεια της Πολεμικής Αεροπορίας των ΗΠΑ να σπάσει την ισχύ «αντιβαρύτητας».
Ακριβώς επειδή κάτι είναι δυνατό δεν σημαίνει ότι πρέπει να το κάνουμε.
Μόλις δημιουργήσουμε μια τεχνητή νοημοσύνη που είναι δισεκατομμύρια φορές πιο έξυπνη από τον μέσο άνθρωπο, θα μπορέσουμε να την ελέγξουμε;
Και μόλις επαναφέρουμε αρχαία είδη από τους νεκρούς, θα μπορέσουμε να τα ελέγξουμε;
Όπως έχω προειδοποιήσει αμείλικτα τους αναγνώστες μου , παίζουμε με πράγματα που δεν καταλαβαίνουμε.
Η κοινωνία μας βρίσκεται σε μονοπάτι αυτοκτονίας και αυτή τη στιγμή σπέρνουμε κυριολεκτικά τους σπόρους της δικής μας καταστροφής.
Δυστυχώς, τα κορυφαία μυαλά της κοινωνίας μας δεν έχουν καμία απολύτως πρόθεση να μας τραβήξουν πίσω από τον γκρεμό.
Από το triklopodia
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου