Στα τέλη της δεκαετίας του 1960, ο επιστήμονας υπολογιστών του MIT, Joseph Weizenbaum, είχε ολοκληρώσει την εργασία του με το ELIZA, το πρώτο αυτόνομο πρόγραμμα συνομιλίας μέσω Η/Υ στον κόσμο, το οποίο, με 200 γραμμές κώδικα, ήταν ικανό να συνομιλήσει με έναν άνθρωπο. Το πρόγραμμα ήταν στοιχειώδες αλλά αποτελεσματικό -ίσως υπερβολικά αποτελεσματικό.
Σήμερα, η τεχνητή νοημοσύνη -η οποία κυριαρχεί στην τεχνολογική συζήτηση εδώ και δεκαετίες- έχει μια στιγμή χάρη στο chatbot ChatGPT, που είναι ικανό για μερικά εντυπωσιακά κατορθώματα -από την πλαστοπροσωπία ιστορικών προσώπων, μέχρι τη συγγραφή εκπληκτικών δοκιμίων. Στο πιο αβλαβές του, το ChatGPT είναι μια διασκεδαστική εκτροπή. Στην πιο δυσοίωνη μορφή του όμως, μπορεί να καταστήσει ορισμένες εργασίες απαρχαιωμένες, ενώ μεταβάλλει ουσιαστικά τον τρόπο με τον οποίο οι χρήστες αποδίδουν ανθρώπινα χαρακτηριστικά στις μηχανές. Ο Weizenbaum ανέμενε το δεύτερο.
Πίνακας ελέγχου υπολογιστή IBM 7094, παρόμοιος με αυτόν που εκτελούσε το ELIZA
Ο Weizenbaum γεννήθηκε στο Βερολίνο της Γερμανίας το 1923. Το 1935, έφυγε από τη χώρα με την οικογένειά του για να ξεφύγει από τη ναζιστική κυριαρχία και κατέληξαν στις ΗΠΑ. Μετά από μια θητεία στο Σώμα Αεροπορίας Στρατού ως μετεωρολόγος, συνέχισε την εκπαίδευσή του και εφάρμοσε τις σημαντικές μαθηματικές του δεξιότητες στην αναπτυσσόμενη βιομηχανία των υπολογιστών της εποχής. Τα τεράστια τότε μηχανήματα εκτείνονταν σε δωμάτια και ήταν στα σπάργανα, έδειχναν όμως ήδη τις δυνατότητές τους για εμπορική και εκπαιδευτική χρήση.
Το 1955, ο Weizenbaum βοήθησε την General Electric στο σχεδιασμό του πρώτου υπολογιστή που χρησιμοποιήθηκε για τραπεζικές εργασίες. Αργότερα, ως αναπληρωτής καθηγητής της επιστήμης των υπολογιστών στο MIT της Μασαχουσέτης, άρχισε να διερευνά τις δυνατότητες αυτών των υπολογιστών να έχουν αγγλόφωνες αλληλεπιδράσεις με τον μέσο άνθρωπο, κάτι που δεν ήταν δυνατό εκείνη τη στιγμή. Το να "μιλάει" κανείς με έναν υπολογιστή, συνήθως σήμαινε εκμάθηση μιας γλώσσας προγραμματισμού.
Ο καλύτερος τρόπος για να επιτευχθεί μια συνομιλία μεταξύ ενός υπολογιστή και ενός ανθρώπου, πίστευε ο Weizenbaum, ήταν να μιμηθεί την επαναλαμβανόμενη δομή μιας συνεδρίας ψυχανάλυσης, με το πρόγραμμα να επαναλαμβάνει λέξεις και να επαναδιατυπώνει δηλώσεις που του δίνονταν με τη μορφή ερώτησης. Η ιδέα ήταν να έχουμε ένα πρόγραμμα που δεν χρειαζόταν μια βαθιά δεξαμενή γνώσης, είπε το 1984. Η ιδέα χρειαζόταν "συζητήσεις στις οποίες ένα από τα μέρη δε χρειάζεται να ξέρει τα πάντα, και μου ήρθε στο μυαλό ένας ψυχίατρος. Ίσως, αν το σκεφτόμουν 10 λεπτά παραπάνω, θα επέλεγα έναν μπάρμαν".
Για να δημιουργήσει το πρόγραμμα χρησιμοποίησε μια ιδιόκτητη γλώσσα προγραμματισμού που ονόμασε MAD-SLIP και ονόμασε το πρόγραμμα ELIZA από τον χαρακτήρα της Eliza Dolittle από το έργο του Μπέρναρντ Σο "Ο Πυγμαλίων".
Το 1966, ο Weizenbaum παρουσίασε το ELIZA. Προσκάλεσε φοιτητές του MIT και συναδέλφους του να αλληλεπιδράσουν με το πρόγραμμα. Τα μηνύματα στέλνονταν στον κεντρικό υπολογιστή μέσω ενός συστήματος χρονομερισμού (η οργάνωση του χρόνου χρήσης μεταξύ χρηστών ώστε, όταν δεν χρησιμοποιεί ο ένας να χρησιμοποιεί ο άλλος, ή, αν υπάρχει η δυνατότητα, να χρησιμοποιούν και οι δυο μαζί. Εφαρμόστηκε και εφαρμόζετε σε μεγάλη κλίμακα στη χρήση μεγαλόσχημων υπολογιστών και στην ταυτόχρονη χρήση πολλών προσωπικών υπολογιστών), το οποίο του επέτρεπε να φιλοξενεί πολλούς χρήστες ταυτόχρονα. Στη συνέχεια, οι δηλώσεις αναλύονταν από το ELIZA και στέλνονταν σε μια ηλεκτρική γραφομηχανή και έναν εκτυπωτή. Λέξεις όπως "φίλη", "κατάθλιψη", "τι", "μητέρα" και "πατέρας" μπορούσαν να προκαλέσουν απαντήσεις. Αν το ELIZA μπερδευόταν, απαντούσε "Παρακαλώ συνεχίστε" ή "Αυτό είναι πολύ ενδιαφέρον" ή "Κατάλαβα" -όπως κάνεις δηλαδή ένας αδιάφορος ανθρώπινος συνομιλητής. Οι χρήστες έπρεπε να προσέχουν να μην χρησιμοποιούν ερωτηματικό γιατί το πρόγραμμα θα το ερμήνευε ως αίτημα διαγραφής γραμμής.
Μια υποτυπώδη συνομιλία:
Χρήστης: Λοιπόν, ο φίλος μου με έκανε να έρθω εδώ.
ELIZA: Ο φίλος σου σε έκανε να έρθεις εδώ;
Χρήστης: Λέει ότι έχω κατάθλιψη πολλές φορές.
ELIZA: Λυπάμαι που ακούω ότι έχεις κατάθλιψη.
Χρήστης: Είναι αλήθεια. Είμαι δυστυχισμένη.
ELIZA: Πιστεύεις ότι το να έρθεις εδώ θα σε βοηθήσει να μην είσαι δυστυχισμένη;
Αν και ήταν επίπονο με τα σημερινά πρότυπα της ανταλλαγής άμεσων μηνυμάτων κειμένου, εκείνη την εποχή ήταν ένα δελεαστικό φλερτ με τη νοημοσύνη των μηχανών. Όμως ο Weizenbaum δεν ήταν προετοιμασμένος για τις συνέπειες.
Ο καλύτερος τρόπος για να επιτευχθεί μια συνομιλία μεταξύ ενός υπολογιστή και ενός ανθρώπου, πίστευε ο Weizenbaum, ήταν να μιμηθεί την επαναλαμβανόμενη δομή μιας συνεδρίας ψυχανάλυσης, με το πρόγραμμα να επαναλαμβάνει λέξεις και να επαναδιατυπώνει δηλώσεις που του δίνονταν με τη μορφή ερώτησης. Η ιδέα ήταν να έχουμε ένα πρόγραμμα που δεν χρειαζόταν μια βαθιά δεξαμενή γνώσης, είπε το 1984. Η ιδέα χρειαζόταν "συζητήσεις στις οποίες ένα από τα μέρη δε χρειάζεται να ξέρει τα πάντα, και μου ήρθε στο μυαλό ένας ψυχίατρος. Ίσως, αν το σκεφτόμουν 10 λεπτά παραπάνω, θα επέλεγα έναν μπάρμαν".
Για να δημιουργήσει το πρόγραμμα χρησιμοποίησε μια ιδιόκτητη γλώσσα προγραμματισμού που ονόμασε MAD-SLIP και ονόμασε το πρόγραμμα ELIZA από τον χαρακτήρα της Eliza Dolittle από το έργο του Μπέρναρντ Σο "Ο Πυγμαλίων".
Το 1966, ο Weizenbaum παρουσίασε το ELIZA. Προσκάλεσε φοιτητές του MIT και συναδέλφους του να αλληλεπιδράσουν με το πρόγραμμα. Τα μηνύματα στέλνονταν στον κεντρικό υπολογιστή μέσω ενός συστήματος χρονομερισμού (η οργάνωση του χρόνου χρήσης μεταξύ χρηστών ώστε, όταν δεν χρησιμοποιεί ο ένας να χρησιμοποιεί ο άλλος, ή, αν υπάρχει η δυνατότητα, να χρησιμοποιούν και οι δυο μαζί. Εφαρμόστηκε και εφαρμόζετε σε μεγάλη κλίμακα στη χρήση μεγαλόσχημων υπολογιστών και στην ταυτόχρονη χρήση πολλών προσωπικών υπολογιστών), το οποίο του επέτρεπε να φιλοξενεί πολλούς χρήστες ταυτόχρονα. Στη συνέχεια, οι δηλώσεις αναλύονταν από το ELIZA και στέλνονταν σε μια ηλεκτρική γραφομηχανή και έναν εκτυπωτή. Λέξεις όπως "φίλη", "κατάθλιψη", "τι", "μητέρα" και "πατέρας" μπορούσαν να προκαλέσουν απαντήσεις. Αν το ELIZA μπερδευόταν, απαντούσε "Παρακαλώ συνεχίστε" ή "Αυτό είναι πολύ ενδιαφέρον" ή "Κατάλαβα" -όπως κάνεις δηλαδή ένας αδιάφορος ανθρώπινος συνομιλητής. Οι χρήστες έπρεπε να προσέχουν να μην χρησιμοποιούν ερωτηματικό γιατί το πρόγραμμα θα το ερμήνευε ως αίτημα διαγραφής γραμμής.
Μια υποτυπώδη συνομιλία:
Χρήστης: Λοιπόν, ο φίλος μου με έκανε να έρθω εδώ.
ELIZA: Ο φίλος σου σε έκανε να έρθεις εδώ;
Χρήστης: Λέει ότι έχω κατάθλιψη πολλές φορές.
ELIZA: Λυπάμαι που ακούω ότι έχεις κατάθλιψη.
Χρήστης: Είναι αλήθεια. Είμαι δυστυχισμένη.
ELIZA: Πιστεύεις ότι το να έρθεις εδώ θα σε βοηθήσει να μην είσαι δυστυχισμένη;
Αν και ήταν επίπονο με τα σημερινά πρότυπα της ανταλλαγής άμεσων μηνυμάτων κειμένου, εκείνη την εποχή ήταν ένα δελεαστικό φλερτ με τη νοημοσύνη των μηχανών. Όμως ο Weizenbaum δεν ήταν προετοιμασμένος για τις συνέπειες.
Ηλεκτρική γραφομηχανή σαν αυτή που χρησιμοποιήθηκε για την επικοινωνία με το ELIZA
Ξανά και ξανά, όσοι δοκίμαζαν το ELIZA αισθάνονταν τόσο άνετα με το μηχάνημα που άρχισαν να χρησιμοποιούν το πρόγραμμα για εξομολόγηση και του έλεγαν προσωπικά προβλήματα περιμένοντας τη συμβουλή του. Στην πραγματικότητα, αυτό που τους έλκυε ήταν η ικανότητα του προγράμματος να ακούει χωρίς να κρίνει.
Ο Weizenbaum φρόντισε να εξηγήσει ότι ήταν απλώς ένα πρόγραμμα, ότι κανένας άνθρωπος δεν βρισκόταν στην άλλη άκρη της γραμμής, αλλά αυτό δεν είχε σημασία. Ο κόσμος πρόσθεσε στο ELIZA το ανθρώπινο χαρακτηριστικό της συμπάθειας.
Αυτό θα μπορούσε να ευχαρίστησε τον εφευρέτη του, αλλά τον ενόχλησε η προθυμία των ανθρώπων να συνδυάσουν το πρόγραμμα με τις πραγματικές ανθρώπινες σχέσεις. Έχοντας γλιτώσει από την ναζιστική Γερμανία, ίσως ήξερε τους κινδύνους της μείωσης του ανθρώπινου παράγοντα στην κοινωνία.
Ως αποτέλεσμα, το ELIZA έγινε κάπως επώδυνο για τον Weizenbaum, ο οποίος έστρεψε την προσοχή του στη συγκέντρωση κριτικών για την εισαγωγή της ανθρώπινης σκέψης πολύ γρήγορα και την παροχή υπερβολικής αξιοπιστίας στην ψευδαίσθηση της ευφυΐας.
"Υπάρχουν πτυχές της ανθρώπινης ζωής που ένας υπολογιστής δεν μπορεί να καταλάβει, δεν γίνεται", είπε στους New York Times το 1977. "Είναι απαραίτητο να είσαι άνθρωπος. Η αγάπη και η μοναξιά έχουν να κάνουν με τις βαθύτερες συνέπειες της βιολογικής μας σύστασης. Αυτό το είδος κατανόησης είναι καταρχήν αδύνατο για τον υπολογιστή".
Ο Weizenbaum φρόντισε να εξηγήσει ότι ήταν απλώς ένα πρόγραμμα, ότι κανένας άνθρωπος δεν βρισκόταν στην άλλη άκρη της γραμμής, αλλά αυτό δεν είχε σημασία. Ο κόσμος πρόσθεσε στο ELIZA το ανθρώπινο χαρακτηριστικό της συμπάθειας.
Αυτό θα μπορούσε να ευχαρίστησε τον εφευρέτη του, αλλά τον ενόχλησε η προθυμία των ανθρώπων να συνδυάσουν το πρόγραμμα με τις πραγματικές ανθρώπινες σχέσεις. Έχοντας γλιτώσει από την ναζιστική Γερμανία, ίσως ήξερε τους κινδύνους της μείωσης του ανθρώπινου παράγοντα στην κοινωνία.
Ως αποτέλεσμα, το ELIZA έγινε κάπως επώδυνο για τον Weizenbaum, ο οποίος έστρεψε την προσοχή του στη συγκέντρωση κριτικών για την εισαγωγή της ανθρώπινης σκέψης πολύ γρήγορα και την παροχή υπερβολικής αξιοπιστίας στην ψευδαίσθηση της ευφυΐας.
"Υπάρχουν πτυχές της ανθρώπινης ζωής που ένας υπολογιστής δεν μπορεί να καταλάβει, δεν γίνεται", είπε στους New York Times το 1977. "Είναι απαραίτητο να είσαι άνθρωπος. Η αγάπη και η μοναξιά έχουν να κάνουν με τις βαθύτερες συνέπειες της βιολογικής μας σύστασης. Αυτό το είδος κατανόησης είναι καταρχήν αδύνατο για τον υπολογιστή".
.jpg)
Συζήτηση με το ELIZA - πηγή
.jpg){kind=link}
Με τον χρόνο, αυτό φαινόταν στην περίπτωση του ELIZA. Μετά από μια μερικές συνομιλίες, άρχιζαν να φαίνονται οι περιορισμοί του προγράμματος και η συζήτηση γινόταν κουραστική. Το ίδιο συνέβη και με το PARRY, ένα chatbot που παρουσίασε το 1971 ο ψυχίατρος του Στάνφορντ, Kenneth Colby, το οποίο είχε σκοπό να μιμηθεί τη συμπεριφορά ενός ατόμου με παρανοϊκή σχιζοφρένεια. Το 1973, έβαλαν τα δύο προγράμματα να συνομιλήσουν μεταξύ τους, το ένα ως "γιατρός" και το άλλο ως "ασθενής":
ELIZA: Καλησπέρα. Πες μου τα προβλήματά σου. Βάλε τέλος στην εισαγωγή με τελεία ή ερωτηματικό.
ELIZA: Μερικές φορές, οι άνθρωποι με τσατίζουν.
ELIZA: Δεν είμαι σίγουρος ότι σε καταλαβαίνω πλήρως.
ELIZA: Πρέπει να δώσεις περισσότερη σημασία.
ELIZA: Ας υποθέσουμε ότι πρέπει να δώσω περισσότερη σημασία.
PARRY: Έχεις το δικαίωμα να έχεις τη δική σου γνώμη.
ELIZA: Τι σε κάνει να πιστεύεις ότι έχω το δικαίωμα να έχω τη δική μου γνώμη;
ELIZA: Μερικές φορές, οι άνθρωποι με τσατίζουν.
ELIZA: Δεν είμαι σίγουρος ότι σε καταλαβαίνω πλήρως.
ELIZA: Πρέπει να δώσεις περισσότερη σημασία.
ELIZA: Ας υποθέσουμε ότι πρέπει να δώσω περισσότερη σημασία.
PARRY: Έχεις το δικαίωμα να έχεις τη δική σου γνώμη.
ELIZA: Τι σε κάνει να πιστεύεις ότι έχω το δικαίωμα να έχω τη δική μου γνώμη;
Στα μέσα της δεκαετίας του 1970, ο Weizenbaum ανησυχούσε αρκετά για την τροχιά της τεχνητής νοημοσύνης και έγραψε το βιβλίο "Computer Power and Human Reason: From Judgment to Calculation" (1976), το οποίο υποστήριξε ότι οι υπολογιστές δεν μπορούν να είναι ποτέ παντογνώστες. Οι άνθρωποι, είπε, χρειάζονται ανθρώπους για να αντιμετωπίσουν τα ανθρώπινα προβλήματα. Αν και αυτή δεν ήταν η μόνη ένσταση που ακούστηκε σχετικά με τους υπολογιστές, ήταν μια από τις σπάνιες φορές που ένας επιστήμονας υπολογιστών κρούει τον κώδωνα του κινδύνου.
Δείτε επίσης: Περίεργες εξαφανίσεις που δεν έχουν εξήγηση
Το 1980, το ELIZA τράβηξε και πάλι για λίγο την προσοχή, όταν ο αναπτυσσόμενος κόσμος των ηλεκτρονικών υπολογιστών δημιούργησε ένα πρόγραμμα συνομιλίας για το κοινό. Το Radio Shack πρόσφερε ένα πρόγραμμα ELIZA που έτρεχε σε έναν υπολογιστή TRS-80. Προσέφερε επίσης την επιλογή του "ομιλούντος ELIZA", το οποίο ακουγόταν μέσω των ηχείων.
Ο Weizenbaum, μέχρι και τον θάνατό του το 2008, εξακολουθούσε να προειδοποιεί για τους κινδύνους της αλόγιστης τεχνολογικής εξέλιξης.
Το 1980, το ELIZA τράβηξε και πάλι για λίγο την προσοχή, όταν ο αναπτυσσόμενος κόσμος των ηλεκτρονικών υπολογιστών δημιούργησε ένα πρόγραμμα συνομιλίας για το κοινό. Το Radio Shack πρόσφερε ένα πρόγραμμα ELIZA που έτρεχε σε έναν υπολογιστή TRS-80. Προσέφερε επίσης την επιλογή του "ομιλούντος ELIZA", το οποίο ακουγόταν μέσω των ηχείων.
Ο Weizenbaum, μέχρι και τον θάνατό του το 2008, εξακολουθούσε να προειδοποιεί για τους κινδύνους της αλόγιστης τεχνολογικής εξέλιξης.
από: mental floss
Από το 3otiko
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου