Όπλα με Τεχνητή Νοημοσύνη: Υπάρχουν και μας απειλούν! Μπορούμε να τα αντιμετωπίσουμε με τεχνητά μέσα; Ποια Ηθικά και νομικά προβλήματα προκύπτουν

Παρέμβαση στο Συνέδριο and Defence State of the Technology as a Force Multiplier” από τον αντιπτέραρχο Ιωάννη Αναστασάση, ο οποίος απάντησε στο ερώτημα:

Όπλα με Τεχνητή Νοημοσύνη: ανεξέλεγκτη επιχειρησιακή δράση. Ηθικά και νομικά προβλήματα που προκύπτουν. Τρόπος αντιμετώπισης των όπλων αυτών με τεχνητά μέσα. Η επέκταση παραπέρα επέκταση της ιδέας μπορεί να αποτελεί πραγματικό κίνδυνο για την ανθρωπότητα, όπως έχουν υποστηρίξει ο Elon Musk, ο prog. Brian Cox, ο Stephen Hawking.

Πως αντιμετωπίζεται το θέμα σε επίπεδο ΟΗΕ; Σύμφωνα με δημοσίευση στον Gardian: Elon Musk leads 116 experts calling for outright ban of killer robots  “The UN recently voted to begin formal discussions on such weapons which include drones, tanks and
automated machine guns. Ahead of this, the group of founders of AI and robotics companies have sent an open letter to the UN…”

Αξίζει να εξεταστεί ο τρόπος που αντιμετωπίζεται το θέμα στην άλλη πλευρά του Ατλαντικού, την Αμερική:

Ο Paul Scharre, είναι μέλος του «Center for a New American Security» και συγγραφέας του βιβλίου: “Army of none: Autonomous Weapons and the Future of War”. Δημοσίευσε ένα άρθρο στο περιοδικό TIMES (Sep. 25, 2017), στο οποίο αναφέρεται σε αυτόνομα όπλα Τεχνητής Νοημοσύνης (artificial intelligence autonomous weapons).

Στο άρθρο αυτό μνημονεύει την επιστολή που προσυπογράφουν περισσότεροι από 100 Εκτελεστικοί Διευθυντές (CEOs) εταιρειών που αναπτύσσουν προγράμματα: “artificial intelligence & robotics”.

Με αυτή την επιστολή που έστειλαν στον ΟΗΕ, προειδοποιούν ότι κατασκευάζοντας τέτοια όπλα ανοίγει το κουτί της Πανδώρας, διότι αυτό το γεγονός θα αλλάξει τη μορφή του πολέμου όπως την ξέρουμε μέχρι σήμερα.
Στην Ευρωπαίκή Ήπειρο υπάρχει επίσης σκεπτικισμός:

Μέχρι σήμερα περίπου 30 χώρες έχουν αναπτύξει ή χρησιμοποιούν ημιαυτόνομα – τηλεκατευθυνόμενα UCAVs. Αυτά θεωρούνται ο πρόγονος των “Killer Robots” που θα χρησιμοποιούν τεχνητή νοημοσύνη για να δρουν αυτόνομα.

Γιατί λοιπόν υπάρχει τόση διεθνής ανησυχία για τα όπλα αυτά;

Οι τεχνολογίες αιχμής που μέχρι σήμερα έχουν αναπτυχθεί και χρησιμοποιούνται στο οπλοστάσιο συγκεκριμένων κρατών, όπως είναι για παράδειγμα τα πυρηνικά (Nuclear), Stealth technology κλπ, ήταν ως ένα βαθμό ελεγχόμενες και δύσκολο να εξαπλωθούν ανεξέλεγκτα.

Στα πλαίσια του ελέγχου «μη εξάπλωσης» (non-proliferation) των τεχνολογιών αυτών, τα κράτη μέλη του ΟΗΕ, υπογράφουν Συνθήκες και άλλα δεσμευτικά κείμενα.

Στην πράξη όμως και στο δια ταύτα, δραστηριοποιούνται ανεξάρτητοι μη δεσμευτικοί (no-binding) πολυεθνικοί Οργανισμοί που παράγουν απτά βοηθήματα για τον τρόπο διαχείρισης των υλικών που η διάδοσή τους ελέγχεται, επειδή έχουν δυνατότητες στρατιωτικής χρήσης.
Ο βασικότερος από τους no-binding Οργανισμούς, που ελέγχει τα στρατιωτικά υλικά καθώς και τα υλικά υψηλής τεχνολογίας διττής χρήσης, είναι το Wassenaar Arrangement (WA) (πρώην COCOM) που εδρεύει στη Βιέννη.

Τα υλικά και οι αντίστοιχες τεχνολογίες που ελέγχονται από το WA έχουν καταγραφεί με πλήρη τεχνική περιγραφή, σε δύο καταλόγους, που αναθεωρούνται κάθε χρόνο από την Ομάδα Εμπειρογνωμόνων (Experts’ Group).

Οι κατάλογοι αυτοί είναι ένας για τα στρατιωτικά υλικά που ονομάζεται Military List (ML) και ένας για τα υλικά υψηλής τεχνολογίας διττής χρήση που ονομάζεται Dual Use List (DUL).
Τα υλικά του πρώτου (ML) καταλόγου που αρχικά φτιάχτηκαν για στρατιωτική χρήση, είναι σχετικά εύκολο να ελεγχθούν.

Τα υλικά του δεύτερου καταλόγου (DUL) που αρχικά φτιάχτηκαν για πολιτική χρήση αλλά έχουν δυνατότητες να χρησιμοποιηθούν και για στρατιωτική χρήση, είναι δύσκολο να ελεγχθούν, παρά το γεγονός ότι περιγράφονται με κατά το δυνατόν σαφή τεχνικά χαρακτηριστικά.

Δεν είναι δυνατόν τα υλικά αυτά να ελεγχθούν, χωρίς ισχυρή πολιτική βούληση.
Η Τεχνητή νοημοσύνη και η ρομποτική, είναι τεχνολογίες και περιλαμβάνουν υλικά που ελέγχονται σύμφωνα με την DUL, δηλαδή με δυσκολία.

Οι δύο αυτές προηγμένες τεχνολογίες είναι οι βάσεις επάνω στις οποίες στηρίζεται η
λειτουργία των autonomous killing Robots.

Σύμφωνα με στοιχεία του ΟΗΕ, σήμερα έχουν ήδη συσταθεί διεθνώς, πάνω από 60 μη-Κυβερνητικές οργανώσεις(NGOs) που ζητούν μία διεθνή Συμφωνία για την απαγόρευση αυτών των αυτόνομων οπλικών συστημάτων.

Η απάντηση στην ερώτηση αυτή, βασίζεται στην εμπειρία του γράφοντος από τη συμμετοχή του ως Προέδρου στην Επιτροπή Εμπειρογνωμόνων (Experts’ Group Chairman) του πολυεθνικού Οργανισμού Wassenaar Arrangement , καθώς και τη συμμετοχή του στις αντίστοιχες Ομάδες της Ευρωπαϊκής Ένωσης(EU), της Ευρωπαϊκής Επιτροπής (EC) και του ΥΠΕΘΑ.

ΣΥΜΠΕΡΑΣΜΑΤΑ:
Εξ όσων προαναφέρθηκαν, καθίσταται σαφές ότι υπάρχει παγκόσμια ανησυχία για το μέλλον της ειρήνης στην ανθρωπότητα.

Η ιστορία διδάσκει ότι παρά το γεγονός ότι ολόκληρη η ανθρωπότητα εναντιώνεται σε ένα όπλο θεωρώντας το απάνθρωπο – όπως είναι τα χημικά, βιολογικά, πυρηνικά – πάντα υπάρχει κάποιος που θα το χρησιμοποιήσει οπωσδήποτε.

Οι Διεθνείς Συνθήκες από μόνες τους, δεν αποτρέπουν δυστυχώς τα περιθωριακά καθεστώτα (rogue States – rogue Regimes)αλλά και τους τρομοκράτες (terrorists) να τα  κατασκευάζουν και να τα χρησιμοποιούν.

Στην περίπτωση αυτή, εάν στο μέλλον τα αυτόνομα όπλα τεχνητής νοημοσύνης οδηγήσουν σε ένα ουσιαστικό επιχειρησιακό ή στρατηγικό πλεονέκτημα σε ένα πόλεμο, μία Διεθνής Συνθήκη αφοπλισμού από αυτά, θα λειτουργήσει αρνητικά για τα κράτη που σέβονται και τηρούν τη Διεθνή νομοθεσία και τις Συνθήκες.

Σύμφωνα με τα ιστορικά στατιστικά στοιχεία, στο παρελθόν έγιναν κατά καιρούς προσπάθειες να μην χρησιμοποιηθούν όπλα όπως: επιθέσεις υποβρυχίων, αεροπορικές επιθέσεις σε πόλεις, δηλητηριώδη αέρια, βιο-χημικά και πυρηνικά όπλα.

Δυστυχώς όλες αυτές οι προσπάθειες απέτυχαν.