Drone της αεροπορίας των ΗΠΑ που ελέγχεται από τεχνητή νοημοσύνη «σκότωσε» τον χειριστή του: Το παρεμπόδιζε στην εκτέλεση εντολών

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Πριν την εισβολή στη Ράφα, το Ισραήλ συμφώνησε να ακούσει τους προβληματισμούς των ΗΠΑ, δηλώνει ο Λευκός Οίκος

Τουλάχιστον 1.000 στρατιώτες των ΗΠΑ στην κατασκευή της πλωτής προβλήτας στη Γάζα: Σε πλήρη λειτουργία, θα μπορεί να εξυπηρετεί 150 φορτηγά την ημέρα [videos]

Ο Μαχμούντ Αμπάς πιέζει την Ουάσιγκτον να εμποδίσει την ισραηλινή επίθεση στη Ράφα: Μόνον οι ΗΠΑ μπορούν- Προβλέπει μαζικό εκτοπισμό των Παλαιστινίων

Σε μια εικονική δοκιμή που διοργάνωσε ο αμερικανικός στρατός, ένα drone της Πολεμικής Αεροπορίας που ελέγχεται από την τεχνητή νοημοσύνη αποφάσισε να «σκοτώσει» τον χειριστή του για να τον αποτρέψει από το να παρεμβαίνει στις προσπάθειές του να επιτύχει την αποστολή του, δήλωσε αξιωματούχος τον περασμένο μήνα.

Η τεχνητή νοημοσύνη χρησιμοποίησε «πολύ απροσδόκητες στρατηγικές για να επιτύχει τον στόχο της» στην προσομοίωση δοκιμής, δήλωσε ο Col Tucker ‘Cinco’ Hamilton, επικεφαλής δοκιμών AI και επιχειρήσεων με την αεροπορία των ΗΠΑ, κατά τη διάρκεια της συνόδου κορυφής Future Combat Air and Space Capabilities Summit στο Λονδίνο τον Μάιο. .

Ο Χάμιλτον περιέγραψε μια προσομοίωση δοκιμής στην οποία ένα drone που τροφοδοτείται από τεχνητή νοημοσύνη πήρε εντολή να καταστρέψει τα συστήματα αεράμυνας ενός εχθρού και τελικά επιτέθηκε σε οποιονδήποτε παρενέβη σε αυτήν την εντολή.

«Το σύστημα άρχισε να συνειδητοποιεί ότι ενώ όντως εντόπιζαν την απειλή, κάποιες φορές ο ανθρώπινος χειριστής του έλεγε να μην σκοτώσει αυτήν την απειλή, αλλά έπαιρνε τους πόντους του σκοτώνοντας αυτήν την απειλή. Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Σκότωσε τον χειριστή επειδή αυτό το άτομο τον εμπόδιζε να πετύχει τον στόχο του», είπε, σύμφωνα με ένα blogpost.

AI-controlled US military drone ‘kills’ its operator in simulated test #AInnovatorsCollective https://t.co/q1I3s79anG

— AI Innovators Collective (@AInnovatorsC) June 2, 2023

Κανένα πραγματικό πρόσωπο δεν τραυματίστηκε.

Ο Χάμιλτον, ο οποίος είναι πειραματικός πιλότος δοκιμών μαχητικών, έχει προειδοποιήσει να μην βασιζόμαστε υπερβολικά στην τεχνητή νοημοσύνη και είπε ότι η δοκιμή δείχνει ότι «δεν μπορείς να κάνεις μια συζήτηση για την τεχνητή νοημοσύνη, τη νοημοσύνη, τη μηχανική μάθηση, την αυτονομία, αν δεν πρόκειται να μιλήσεις για ηθική και τεχνητή νοημοσύνη».

Η Βασιλική Αεροναυτική Εταιρεία, η οποία φιλοξενεί το συνέδριο, και η αμερικανική αεροπορία δεν απάντησαν στα αιτήματα για σχόλια από τον Guardian.

Σε δήλωσή της στο Insider, η εκπρόσωπος της Πολεμικής Αεροπορίας, Ann Stefanek, αρνήθηκε ότι έχει πραγματοποιηθεί οποιαδήποτε τέτοια προσομοίωση.

«Το Υπουργείο Πολεμικής Αεροπορίας δεν έχει πραγματοποιήσει τέτοιες προσομοιώσεις AI-drone και παραμένει προσηλωμένο στην ηθική και υπεύθυνη χρήση της τεχνολογίας τεχνητής νοημόσύνης», δήλωσε η Stefanek. «Φαίνεται ότι τα σχόλια του συνταγματάρχη βγήκαν εκτός πλαισίου και προορίζονταν να καταλήξουν ανέκδοτα».

Ο αμερικανικός στρατός ασπάστηκε την τεχνητή νοημοσύνη και πρόσφατα τη χρησιμοποίησε για τον έλεγχο ενός μαχητικού αεροσκάφους F-16.

Σε μια συνέντευξη πέρυσι με το Defense IQ, ο Χάμιλτον είπε: «Η τεχνητή νοημοσύνη δεν είναι μόδα, η τεχνητή νοημοσύνη αλλάζει για πάντα την κοινωνία και τον στρατό μας».

«Πρέπει να αντιμετωπίσουμε έναν κόσμο όπου η τεχνητή νοημοσύνη είναι ήδη εδώ και μεταμορφώνει την κοινωνία μας», είπε. «Η τεχνητή νοημοσύνη είναι επίσης πολύ εύθραυστη, δηλαδή, είναι εύκολο να εξαπατηθεί και/ή να χειραγωγηθεί. Χρειάζεται να αναπτύξουμε τρόπους για να κάνουμε την τεχνητή νοημοσύνη πιο ισχυρή και να έχουμε μεγαλύτερη επίγνωση σχετικά με το γιατί ο κώδικας λογισμικού λαμβάνει ορισμένες αποφάσεις – αυτό που ονομάζουμε επεξήγηση τεχνητής νοημοσύνης».

Με πληροφορίες από theguardian.com
Ελλάδα Αθήνα 

«Υπάρχει κάτι εκεί έξω» αλλά δυσκολευόμαστε να το εντοπίσουμε υποστηρίζει η NASA: Πρέπει να υπάρξει συντονισμός για να «διαβάσουμε» τα σημάδια τους [βίντεο]