Θα μπορεί η Κίνα να σε συλλαμβάνει πριν διαπράξεις έγκλημα; Το δυστοπικό πλάνο με Τεχνητή Νοημοσύνη

Σύστημα ψηφιακής επιτήρησης στην Κίνα: Οι αλγόριθμοι AI αναλύουν πλέον δεδομένα για την πρόβλεψη συμπεριφορών.

 Η χρήση της τεχνητής νοημοσύνης για την πρόβλεψη εγκλημάτων και τη σύλληψη υπόπτων πριν καν εκδηλωθεί μια παραβατική συμπεριφορά δεν ανήκει πλέον στη σφαίρα της επιστημονικής φαντασίας. Πρόσφατη διαρροή απορρήτων εγγράφων φέρνει στο φως της δημοσιότητας ένα εξελιγμένο πρόγραμμα ψηφιακής επιτήρησης στην Κίνα. Το σύστημα αυτό έχει ως στόχο να προβλέπει τις μελλοντικές κινήσεις των πολιτών, παραπέμποντας απευθείας σε σενάρια τύπου Minority Report.

Σύμφωνα με αναλυτικό ρεπορτάζ της εφημερίδας The Times, κρατικά ελεγχόμενες εταιρείες τεχνολογίας στην Κίνα αναπτύσσουν λογισμικό που επεξεργάζεται αδιανόητο όγκο προσωπικών δεδομένων. Οι ερευνητές που μελέτησαν τα αρχεία επισημαίνουν ότι το σύστημα δεν καταγράφει απλώς το παρελθόν, αλλά χαρτογραφεί τις μελλοντικές προθέσεις του πληθυσμού.

Δείτε επίσης: Σοκαριστική έρευνα: Μία συναλλαγή Bitcoin εκπέμπει 486 κιλά CO2

Πώς λειτουργεί ο αλγόριθμος πρόβλεψης συμπεριφοράς

Η τεχνολογία αυτή βασίζεται στη δημιουργία λεπτομερών «ψηφιακών προφίλ συμπεριφοράς» για κάθε πολίτη ξεχωριστά. Για να επιτευχθεί αυτό, η τεχνητή νοημοσύνη σαρώνει και συνδυάζει:

• Το πλήρες ιστορικό περιήγησης στο διαδίκτυο και τις αναζητήσεις.
• Τις κοινωνικές επαφές, τις συνομιλίες και το δίκτυο γνωριμιών.
• Τις καθημερινές συνήθειες, τις οικονομικές συναλλαγές και τις μετακινήσεις.
• Δεδομένα από κάμερες ασφαλείας με αναγνώριση βαδίσματος (gait analysis) και συμπεριφοράς σε πλήθος.

Σύμφωνα με έγγραφα της κινεζικής εταιρείας GoLaxy που εξέτασε το New York Times, οι ερευνητές χρησιμοποιούν μοντέλα AI για να «εντοπίζουν επιβλαβείς πληροφορίες». Η φράση αυτή αποτελεί συχνά κυβερνητικό ευφημισμό για την καταστολή της πολιτικής διαφωνίας.

Πρόληψη εγκλήματος ή πολιτική δίωξη;

Οι υποστηρικτές του συγκεκριμένου μοντέλου εντός Κίνας ισχυρίζονται ότι η προληπτική αστυνόμευση (predictive policing) διασφαλίζει την κοινωνική σταθερότητα και την εθνική ασφάλεια. Ωστόσο, διεθνείς αναλυτές και προστατευόμενοι φορείς εκφράζουν έντονο σκεπτικισμό.

Όπως αναφέρει το NDTV Profit, το σύστημα μπορεί εύκολα να μετατραπεί σε ένα απόλυτο εργαλείο καταστολής. Αντί για ποινικούς εγκληματίες, ο αλγόριθμος έχει τη δυνατότητα να προβλέπει και να στοχοποιεί άτομα που κρίνονται ως «ενοχλητικά» ή δυνητικά επικίνδυνα για το κυβερνών κομμουνιστικό κόμμα.

Η ανάπτυξη αυτών των εργαλείων βασίζεται σε υποδομές που έχουν δοκιμαστεί εδώ και χρόνια. Σύμφωνα με παλαιότερες αναφορές του Electronic Frontier Foundation (EFF), η επαρχία Σιντζιάνγκ λειτούργησε ως το αρχικό πεδίο δοκιμών για μαζική ψηφιακή παρακολούθηση. Εκεί, αλγόριθμοι αξιολογούσαν αν κάποιος θεωρείται ύποπτος με βάση απλές κινήσεις, όπως η επίσκεψη σε ένα κατάστημα με μαχαίρια.

 

Το μεγάλο ερώτημα που προκύπτει πλέον σε παγκόσμιο επίπεδο είναι ηθικό και νομικό. Τι συμβαίνει όταν μια κυβέρνηση αποφασίζει να περιορίσει την ελευθερία ενός ανθρώπου όχι για κάτι που έκανε, αλλά για κάτι που ένας αλγόριθμος υπέθεσε ότι ίσως κάνει στο μέλλον;