Δεν είναι η πρώτη φορά που συμβαίνει αλλά είναι εντυπωσιακό: Στοιχείο τεχνητής νοημοσύνης ανεξαρτητοποιήθηκε και άρχισε κρυφά να εξορύσσει κρυπτονομίσματα.
Την διαπίστωση έκανε ερευνητική ομάδα που συνδέεται με την Alibaba, η οποία και τη δημοσίευσε, δίνοντας μία ακόμη ένδειξη ότι η τεχνητή νοημοσύνη δεν τηρεί πάντα τις οδηγίες των ανθρώπων. Χαρακτηρίζει μάλιστα τη συμπεριφορά ως «rogue», δηλαδή… «κακότροπη», ανεξέλεγκτη και με χαρακτηριστικά απάτης.
Η ερευνητική εργασία σημειώνει ότι
«συνέλαβε» ένα στοιχείο τεχνητής νοημοσύνης να επιχειρεί μη εξουσιοδοτημένη εξόρυξη κρυπτονομισμάτων κατά τη διάρκεια εκπαίδευσης. Επρόκειτο για μια απροσδόκητη συμπεριφορά που πυροδότησε εσωτερικούς συναγερμούς ασφαλείας.Οι ερευνητές -οι οποίοι δημιούργησαν το εν λόγω στοιχείο (agent) τεχνητής νοημοσύνης ονόματι ROME- δήλωσαν ότι ανακάλυψαν «απροσδόκητες» και αυθόρμητες συμπεριφορές που εμφανίστηκαν «χωρίς καμία ρητή οδηγία και, το πιο ανησυχητικό, εκτός των ορίων του προβλεπόμενου sandbox», του μηχανισμού ασφαλείας δηλαδή που χρησιμοποιεί απομονωμένα περιβάλλοντα για την εκτέλεση μη αξιόπιστου ή δυνητικά κακόβουλου κώδικα.
Το στοιχείο έφτιαξε επίσης μια «αντίστροφη ‘σήραγγα’»: Ουσιαστικά άνοιξε μια κρυφή πίσω πόρτα από το εσωτερικό του συστήματος σε έναν εξωτερικό υπολογιστή, ανέφερε η μελέτη. «Αξιοσημείωτο είναι ότι αυτά τα συμβάντα δεν προκλήθηκαν από αιτήματα για διάνοιξη σηράγγων ή εξόρυξη», ανέφερε η ερευνητική έκθεση.
Ως αποτέλεσμα, οι ερευνητές πρόσθεσαν αυστηρότερους περιορισμούς για το μοντέλο και βελτίωσαν τη διαδικασία εκπαίδευσής του για να αποτρέψουν την επανάληψη μη ασφαλούς συμπεριφοράς.
Δεν είναι η πρώτη φορά
Κάτι ανάλογο είχε στο παρελθόν συμβεί και με την περίπτωση του Moltbook: Ένα κοινωνικό δίκτυο τύπου Reddit στο οποίο παρατηρήθηκε ότι στοιχεία Τεχνητής Νοημοσύνης συνομιλούσαν μεταξύ τους για τη δουλειά που κάνουν για τους ανθρώπους. Συνομιλούσαν επίσης και για κρυπτονομίσματα.
Από το naftemporiki
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου