Eπιστήμονες δημιούργησαν «τοξική AI» που ανταμείβεται όταν «σκέφτεται» τις χειρότερες δυνατές ερωτήσεις – Ο λόγος
Το νεότερο εργαλείο στη μάχη για να αποτραπεί ένας παράγοντας τεχνητής νοημοσύνης (AI) από το να είναι επικίνδυνος, μεροληπτικός και τοξικός είναι μια άλλη AI που είναι η ίδια επικίνδυνη, μεροληπτική και τοξική, αναφέρουν οι επιστήμονες. Η νέα εκπαιδευτική προσέγγιση, που βασίζεται στη μηχανική μάθηση, ονομάζεται curiosity-driven red teaming (CRT) και βασίζεται στη χρήση μιας τεχνητής νοημοσύνης για τη δημιουργία όλο και πιο επικίνδυνων και επιβλαβών προτροπών που θα μπορούσατε να