ΑΥΤΟΜΑΤΟΠΟΙΗΜΕΝΕΣ ΤΕΧΝΟΛΟΓΙΕΣ ΚΑΙ ΤΟ ΜΕΛΛΟΝ ΤΗΣ ΕΥΡΩΠΗΣ-ΦΡΟΥΡΙΟ

Δημοσιεύθηκε στις 29 Μαρτίου 2019, 11:32Εκτύπωση

Του Lucien Begault, Ερευνητή της Διεθνούς Αμνηστίας

Τον Οκτώβριο του 2018 η Ευρωπαϊκή Ένωση (ΕΕ) ανακοίνωσε ότι θα χρηματοδοτούσε ένα νέο αυτοματοποιημένο σύστημα ελέγχου των συνόρων που θα δοκιμαζόταν για πρώτη φορά στην Ουγγαρία, την Ελλάδα και τη Λετονία. Με την ονομασία iBorderCtrl, το πρόγραμμα χρησιμοποιεί ένα σύστημα ανίχνευσης ψεύδους με τεχνητή νοημοσύνη φυλασσόμενο από έναν ψηφιακό συνοριοφύλακα που θα διενεργεί ερωτήσεις στους ταξιδιώτες που θέλουν να περάσουν τα σύνορα. Οι ταξιδιώτες που θεωρείται ότι απάντησαν με ειλικρίνεια στις ερωτήσεις που τέθηκαν από το σύστημα, θα λαμβάνουν έναν κωδικό που τους επιτρέπει να περάσουν τα σύνορα, ενώ αυτοί/ες που δεν αποδεικνύονται τόσο τυχεροί/ές μεταφέρονται σε κανονικούς συνοριοφύλακες για επιπλέον ερωτήσεις.

Το iBorderCtrl είναι ένα μόνο από τα πολλά σχέδια που αποσκοπούν στην αυτοματοποίηση των συνόρων της ΕΕ, με σκοπό την αντιμετώπιση της παράτυπης μετανάστευσης. Αυτή η νέα τάση στο εσωτερικό της Ευρώπης θέτει μια σειρά σοβαρών ζητημάτων σχετικά με τα ανθρώπινα δικαιώματα.

Η τεχνολογία του iBorderCtrl στηρίζεται στην «επιστήμη αναγνώρισης χαρακτηριστικών», έναν επιστημονικό τομέα που έχει δεχθεί πολλές επικρίσεις. Η εν λόγω επιστήμη ισχυρίζεται πως μπορεί να εκθέσει αλήθειες αναφορικά με την προσωπικότητα και τα συναισθήματα κάποιου μέσω ανάλυσης των χαρακτηριστικών του προσώπου του. Οι υπέρμαχοι υποστηρίζουν πως τα συναισθήματα είναι «καθορισμένα και παγκόσμια, πανομοιότυπα ανάμεσα στα άτομα, και ξεκάθαρα ορατά στους βιολογικούς μηχανισμούς παρατήρησης ασχέτως του πολιτιστικού περιβάλλοντος». Σύμφωνα με αυτούς, η μελέτη των προσώπων «παράγει μια αντικειμενική ανάγνωση των αυθεντικών εσωτερικών καταστάσεων των υποκειμένων».

Το iBorderCtrl είναι βασισμένο πάνω σε αυτή τη λογική, ότι ένα σύστημα αναγνώρισης προσώπου με τεχνητή νοημοσύνη, κινούμενο μέσω ψηφιακά δημιουργημένων συνοριοφυλάκων μπορεί να αναγνωρίσει τα συναισθήματα των ανθρώπων.

Ωστόσο, όπως έχει επανειλημμένα αποδειχθεί, τα συστήματα αναγνώρισης προσώπου μέσω τεχνητής νοημοσύνης είναι εγγενώς «προκατειλημμένα», «μαθαίνοντας» προκαταλήψεις που αντικατοπτρίζονται στα δεδομένα που χρησιμοποιούνται για την εκπαίδευσή τους. Οι ισχυρισμοί πως το σχέδιο μειώνει τον «υποκειμενικό έλεγχο και το ωράριο των ανθρώπων και αυξάνει τον αντικειμενικό έλεγχο με αυτοματοποιημένα μέσα» είναι ολωσδιόλου αποπροσανατολιστικοί. Επιπλέον, ερευνητές/τριες έχουν αποδείξει πως η επιστήμη αυτή δεν υπόκειται σε επαλήθευση και εφαρμόζεται με επικίνδυνους και ανεύθυνους τρόπους. Το iBroderCtrl αποτελεί χαρακτηριστικό παράδειγμα.

Παρότι το σχέδιο τονίζει πως ο «ανθρώπινος συνοριοφύλακας» πάντοτε εμπλέκεται στις πιθανές αρνήσεις εισόδου και ότι τέτοιες υποθέσεις σε καμία περίπτωση δε θα καθορίζονται μέσω αξιολόγησης από τεχνητή νοημοσύνη, έμπρακτα αυτό αποτελεί μια αδύνατη εγγύηση. Όπως εξηγεί η Evelien Brouwer, ανώτατη ερευνήτρια στο Κέντρο για τη Μετανάστευση και το Προσφυγικό Δίκαιο στο Άμστερνταμ (Vrie Universiteit Amsterdam): «λαμβάνοντας υπόψιν των υψηλό αριθμό ταξιδιωτών, την πιθανή έλλειψη επαρκώς εκπαιδευμένου προσωπικού, και την πολιτική πραγματικότητα που πιέζει προς περιοριστικές συνοριακές πολιτικές, ο κίνδυνος να ακολουθούν οι αποφάσεις την κρίση του συστήματος τεχνητής νοημοσύνης μοιάζει πολύ υψηλό. Πρακτικά, θα είναι πολύ δύσκολο για το υποκείμενο, τους επιτηρητές προστασίας δεδομένων και τα δικαστήρια να εξετάσουν αν η άρνηση εισόδου βασίζεται σε μια αυτοματοποιημένη διαδικασία αποφάσεων ή όχι».

Η έλλειψη διαφάνειας στην ανάπτυξη της τεχνολογίας είναι εξίσου ανησυχητική και σε πρακτικό επίπεδο, πυροδοτώντας το πρόβλημα του «μαύρου κουτιού» που συχνά αποδίδεται στην τεχνητή νοημοσύνη. Οι συνοριοφύλακες θα πρέπει να βασίζονται σε τεχνολογία που δεν κατανοούν, και οι ταξιδιώτες απαιτείται να εμπιστεύονται ένα αδιαφανές σύστημα με ελάχιστη απόδοση ευθύνης.

Διατηρώντας κριτική ματιά, το iBorderCtrl είναι ενδεικτικό μιας ευρύτερης τάσης στην ΕΕ για αύξηση των δυνατοτήτων επιτήρησης των συνόρων μέσω της τεχνολογίας. Για δεκαετίες η ΕΕ έχει επενδύσει στην αστυνομοποίηση και στη στρατιωτικοποίηση των συνόρων της, κινούμενη προς μια κατάσταση που ορισμένοι/ες περιγράφουν ως «Ευρώπη Φρούριο». Παρότι οι επενδύσεις στα παραδοσιακά συστήματα ασφαλείας των συνόρων εντατικοποιήθηκαν σε απάντηση προς την αύξηση των ανθρώπων που αναζητούν ασφάλεια στην Ευρώπη από το 2015, ένα ανοδικό ενδιαφέρον στην Τεχνητή Νοημοσύνη και τα μαζικά δεδομένα έχει οδηγήσει στον πολλαπλασιασμό των αποκαλούμενων έξυπνων συνοριακών αυτοματοποιημένων λύσεων ασφαλείας.

Επομένως βρισκόμαστε ενώπιον μιας ανάδυσης λύσεων βασισμένων στην τεχνολογία αναφορικά με τα συστήματα παρακολούθησης των συνόρων ανά την Ευρώπη, παράλληλα με τις διαρκώς αυξανόμενες παραβιάσεις ανθρωπίνων δικαιωμάτων. Κοιτάζοντας τον αριθμό των εγχειρημάτων που χρησιμοποιούν αυτοματοποιημένες τεχνολογίες για το σκοπό ελέγχου των συνόρων χρηματοδοτούμενα από το Horizon 2020 -το μεγαλύτερο πρόγραμμα Έρευνας και Καινοτομίας που έχει ποτέ στηρίξει η ΕΕ- έχουμε απτές ενδείξεις αυτής της τάσης.

Για παράδειγμα το ROBORDER, ένα εγχείρημα που χρησιμοποιεί τεχνολογίες που φαντάζουν μακρινή πραγματικότητα. Επίσης σε πιλοτική φάση, το ROBORDER δοκιμάζεται στην Κώ, καθώς και στα σύνορα Σερβίας και Βουλγαρίας, μεταξύ άλλων τόπων. Το σχέδιο αυτό υποτίθεται ότι προσφέρει λύσεις σε τρέχουσες συνοριακές προκλήσεις μέσω «μη επανδρωμένων κινητών ρομπότ, συμπεριλαμβανομένων αέριων, υδάτινων, υποβρυχίων και χερσαίων οχημάτων, ικανών να λειτουργήσουν τόσο μεμονωμένα όσο και σε ομάδες, που θα ενσωματώνουν πολλαπλούς αισθητήρες ως μέρος ενός διαλειτουργικού δικτύου». Αυτό σημαίνει ότι τα εναέρια και θαλάσσια σύνορα της ΕΕ θα επιτηρούνται από σμήνη ρομπότ που θα ενημερώνουν τις αρχές για δραστηριότητες στα σύνορα ενώ θα συλλέγουν μεγάλο όγκο πληροφοριών για να παρέχουν άμεσες επισκοπήσεις των καταστάσεων με δυνατότητα πρόβλεψής τους.

Ο ιστός των πληροφοριών που θα συλλέγονται δημιουργεί ένα προβλεπτικό σύστημα ασφαλείας που δίνει τη δυνατότητα στις ασφάλειες των συνόρων να συγκεντρώνουν πόρους σε καθορισμένες περιοχές. Αυτές οι δυνατότητες πρόβλεψης εντατικοποιούν την ασφάλεια και την παρακολούθηση τόσο στο παρόν όσο και στο μέλλον, αυξάνοντας δραματικά τις δυνατότητες εντοπισμού και ανίχνευσης. Αντίστοιχα, ένα σύστημα όπως το ROBORDER διατρέχει το ρίσκο να εντείνει τις παραβιάσεις ανθρωπίνων δικαιωμάτων που λαμβάνουν χώρα στην Ευρώπη-Φρούριο.

Η χρησιμοποίηση μη επανδρωμένων αυτόνομων συστημάτων για την αστυνόμευση των συνόρων θα μπορούσε επίσης να οδηγήσει στον εξοπλισμό των ρομπότ όχι μόνο με αισθητήρες, αλλά και με δολοφονικές ικανότητες. Επιπρόσθετα στην Εκστρατεία για να Σταματήσουν τα Ρομπότ-Δολοφόνους, που επισημαίνει τη ρεαλιστική πιθανότητα τέτοιου ενδεχόμενου, τα «θανατηφόρα ρομπότ» στην πραγματικότητα έχουν ήδη προταθεί παλιότερα στην ΕΕ ως συστήματα διαφύλαξης των συνόρων. Η βουλγαρική κρατική εταιρεία Prono, έγραψε στη Frontex για την ανάπτυξη ενός συστήματος διαφύλαξης συνόρων με «διαχειρίσιμη φονική δύναμη ενάντια στους παραβάτες χωρίς να χρειάζονται συνεχή παρακολούθηση από καταρτισμένο προσωπικό». Δεδομένου ότι τα σύνορα έχουν ήδη στρατιωτικοποιηθεί εκτεταμένα, τα αυτοματοποιημένα οπλικά συστήματα στα σύνορα δε φαντάζουν τόσο μακρινή πραγματικότητα.

Σε τελική ανάλυση, η ανάπτυξη νέων τεχνολογιών όπως αυτές που προαναφέρθηκαν (και υπάρχουν σίγουρα πολλές ακόμα ανάλογες τεχνολογίες) για την αυτοματοποίηση των συστημάτων διασφάλισης συνόρων της ΕΕ, θέτει πολλαπλές ανησυχίες για τα ανθρώπινα δικαιώματα. Ενώ οι πρότερες και τωρινές επιπτώσεις για τα ανθρώπινα δικαιώματα στην Ευρώπη-Φρούριο έχουν καταγραφεί εκτεταμένα, οι μελλοντικές, ωθούμενες μέσω τεχνολογικών επιτευγμάτων που επαναπροσδιορίζουν το τοπίο ασφάλειας των συνόρων της ΕΕ, πρέπει να γίνουν γνωστές επειγόντως. Αν σκεφτούμε πόσο ανθρώπινο πόνο και οδύνη έχουν προκαλέσει οι συνοριακές πολιτικές, και την αυξανόμενη τεχνοκρατική προσέγγιση της ΕΕ για τη συνοριακή ασφάλεια, θα ήταν απρόσεκτο εκ μέρους μας να μην εξετάσουμε εξονυχιστικά τις νέες τεχνολογικές καινοτομίες που καθορίζουν το μέλλον του φρουρίου της Ευρώπης.

Το άρθρο αυτό δημοσιεύτηκε αρχικά εδώ, από το Euronews.

ΚΑΝΕ ΜΙΑ ΔΩΡΕΑ
Βασιζόμαστε σε άτομα σαν εσένα. Δεν δεχόμαστε χρηματοδοτήσεις από κυβερνήσεις και διεθνείς διακρατικούς φορείς.