Ανησυχία για τα AI drones: Πώς λειτουργούν και κατά πόσο μπορούν να συμμορφωθούν με το διεθνές δίκαιο

Σε άλλη εποχή περνά ο πολεμικός εξοπλισμός και πλέον τα drones τεχνητής νοημοσύνης θα πρωτοστατούν στις συγκρούσεις. Κατά πόσο όμως θα μπορούσαν να βγουν εκτός ελέγχου; 

Ο πρώην επικεφαλής βρετανικών μυστικών υπηρεσιών (GCHQ) υποστηρίζει ότι, τα AI drone πρέπει να αποκτήσουν ηθικό κώδικα και να συμμορφωθούν, με το διεθνές ανθρωπιστικό δίκαιο. 

«Η έκκλησή μου είναι να γίνει πραγματικά κάποια δουλειά σε αυτό, ώστε να μην βρεθούμε σε μια κατάσταση όπου δεν υπάρχει ηθικό στοιχείο ενσωματωμένο στα μελλοντικά οπλικά συστήματα που τροφοδοτούνται από τεχνητή νοημοσύνη», δήλωσε χαρακτηριστικά σύμφωνα με τον Guardian.

Η παρέμβασή του ήρθε καθώς ο υπουργός Ενόπλων Δυνάμεων Αλ Καρνς δήλωσε ότι μπορεί να υπάρχουν περιπτώσεις όπου οι μηχανές λαμβάνουν τις δικές τους αποφάσεις στόχευσης, λέγοντας «πρέπει να έχετε την ικανότητα να βγάζετε τον άνθρωπο από τον κύκλο όταν απαιτείται».

Τι είναι τα drones τεχνητής νοημοσύνης και πώς λειτουργούν 

Τα drones τεχνητής νοημοσύνης, όπως εξηγείται σε ενημέρωση του Ευρωκοινοβουλίου, είναι μη επανδρόμενα αεροσκάφη (UAV) που χρησιμοποιούν αλγόριθμους μηχανικής μάθησης για να συλλέγουν δεδομένα, να «σκέφτονται» και να εκτελούν περίπλοκες αποστολές αυτόνομα, χωρίς την ανάγκη συνεχούς ανθρώπινου χειρισμού.

Χρησιμοποιούν κάμερες υψηλής ευκρίνειας και αισθητήρες LiDAR για τη μέτρηση αποστάσεων με ακτίνες laser. Η τεχνητή νοημοσύνη αναλύει το οπτικό πεδίο και αναγνωρίζει αντικείμενα σε πραγματικό χρόνο.

Ο φόβος και τα ερωτήματα έχουν προκύψει από το γεγονός ότι η λήψη αποφάσεων είναι «αυτόνομη».  Το λογισμικό της συσκευής δηλαδή, λαμβάνει αποφάσεις βασισμένες στον σκοπό που έχει οριστεί. 

Οι ΗΠΑ και ο εξοπλισμός τεχνητής νοημοσύνης στον πόλεμο στο Ιράν

Η συζήτηση για τα ΑΙ μοντέλα, άνοιξε και λόγω του γεγονότος ότι οι ΗΠΑ, στηρίζονται σε μεγάλο βαθμό στον πόλεμο με την υποστήριξη της Τεχνητής Νοημοσύνης. Ο προϋπολογισμός τους για το 2027, που δημοσιεύθηκε τον Απρίλιο, προβλέπει 54 δισεκατομμύρια δολάρια για τη χρηματοδότηση «αυτόνομων και τηλεχειριζόμενων συστημάτων σε αέρα, ξηρά και πάνω και κάτω από τη θάλασσα», συμπεριλαμβανομένου ενός προγράμματος «κυριαρχίας των μη επανδρωμένων αεροσκαφών». Ο πρώην διευθυντής της CIA, Ντέιβιντ Πετρέους, ωστόσο, υποστήριξε ότι οι ΗΠΑ δεν έχουν στρατιωτικό δόγμα για αυτόνομους σχηματισμούς. 

Η Τεχνητή Νοημοσύνη ήδη συμμετέχει σε μεγάλο βαθμό στις πρόσφατες στρατιωτικές αποστολές των ΗΠΑ, με τεχνολογία που αναπτύχθηκε από την Palantir και την Anthropic να αναπτύσσεται για να βοηθήσει στη συντόμευση της «αλυσίδας θανάτου» - της διαδικασίας από την επιλογή σfτόχων έως την έναρξη μιας επίθεσης - στη σύγκρουση στο Ιράν.

Ο επικεφαλής των GCHQ, φάνηκε αισιόδοξος ωστόσο στη συζήτηση, παρά τις απορίες για αυτά τα συστήματα. Πιστεύει ότι μια μηχανή μπορεί πλέον να επιτεθεί σε νόμιμους στρατιωτικούς στόχους, συμπεριλαμβανομένων των ανθρώπων, με τρόπο που αντικατοπτρίζει «ορθή ηθική συλλογιστική», ενώ εξακολουθεί να βρίσκεται υπό κάποια μορφή ανθρώπινης εποπτείας.

Αντιδρούν οι ακτιβιστές

Το ερώτημα ήταν πώς οι άνθρωποι διασφάλισαν ότι τα αυτόνομα συστήματα όπλων θα μπορούσαν να τηρούν το διεθνές δίκαιο. Η στρατιωτική πολιτική του Ηνωμένου Βασιλείου σχετικά με τη χρήση της Τεχνητής Νοημοσύνης στην άμυνα ορίζει ότι «πρέπει να υπάρχει ανθρώπινη εμπλοκή κατάλληλη για το περιβάλλον σε όπλα που εντοπίζουν, επιλέγουν και επιτίθενται σε στόχους», προσθέτοντας ότι αυτό θα μπορούσε να περιλαμβάνει «έλεγχο που ασκείται μέσω του καθορισμού των λειτουργικών παραμέτρων ενός συστήματος».

Ο επικεφαλής δήλωσε ότι «Θα μπορούσε στην πραγματικότητα να λειτουργήσει, ενώ η εξάρτηση από ανθρώπους σε μια πολύ γρήγορη υπόθεση δευτερολέπτων για πόλεμο πιθανότατα θα οδηγήσει σε πολύ χειρότερα αποτελέσματα όσον αφορά τις παράπλευρες απώλειες».

Στον αντίποδα ακριβιστής χαρακτήρισε τη στάση του Βρετανού επικεφαλής «τόσο παράλογη όσο και επικίνδυνη».

Ο Chris Cole, διευθυντής του Drone Wars UK, δήλωσε: «Η Τεχνητή Νοημοσύνη απλώς δεν είναι ικανή να κρίνει. Απλώς επεξεργάζεται δεδομένα, χωρίς να έχει καθόλου την ικανότητα, για παράδειγμα, να διακρίνει τους πολίτες από τους μαχητές ή να κρίνει εάν η απώλεια ζωής είναι ανάλογη με το στρατιωτικό πλεονέκτημα».
 

Ακολουθήστε το Reader στα Google News για να είστε πάντα ενημερωμένοι για όλες τις ειδήσεις και τα νέα από την Ελλάδα και τον κόσμο.