Ψευδής αναφορά τεχνητής νοημοσύνης παραλίγο να προκαλέσει στρατιωτική σύγκρουση ΗΠΑ και Κίνας

Ο αμερικανικός στρατός έφτασε επικίνδυνα κοντά σε μια αντιπαράθεση με την Κίνα την άνοιξη, αφού ένα chatbot τεχνητής νοημοσύνης παρήγαγε μια ψευδή αναφορά πληροφοριών που υποστήριζε ότι ένα κινεζικό πλοίο στη Μέση Ανατολή μετέφερε εξαρτήματα πυρηνικών όπλων, ανέφερε το CNN την Παρασκευή σε αποκλειστική έρευνα.cnn

Ένοπλο στρατιωτικό προσωπικό ετοιμαζόταν να επιβιβαστεί στο πλοίο και στρατιωτικά αεροσκάφη βρίσκονταν ήδη στον αέρα, προτού οι αξιωματούχοι εξετάσουν προσεκτικότερα την αναφορά και ανακαλύψουν ότι η αξιολόγηση που παρήγαγε η τεχνητή νοημοσύνη ήταν, σύμφωνα με τα λόγια μιας πηγής, "εντελώς λανθασμένη" και είχε "παραλίγο να ξεκινήσει πόλεμο".mezha+1

Πώς η τεχνητή νοημοσύνη παρήγαγε ένα ψευδές συμπέρασμα

Το περιστατικό ξεκίνησε όταν ένας αναλυτής της διοίκησης ειδικών επιχειρήσεων ανέβασε πληροφορίες σχετικά με το μανιφέστο του πλοίου σε ένα chatbot τεχνητής νοημοσύνης. Οι πληροφορίες είχαν ληφθεί από τη Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό, με έδρα τη Χαβάη. Το chatbot συνδύασε πληροφορίες ανοιχτού κώδικα με διαβαθμισμένες πληροφορίες σημάτων από κυβερνητικές βάσεις δεδομένων και κατέληξε σε λανθασμένο συμπέρασμα σχετικά με το φορτίο του πλοίου.mezha+1

Ο αναλυτής χρησιμοποίησε στη συνέχεια ξανά την τεχνητή νοημοσύνη για να διαμορφώσει τα ευρήματα σε αυτό που φαινόταν να είναι μια τυπική αναφορά πληροφοριών, το είδος που οι στρατιωτικοί αξιωματούχοι συνήθως εμπιστεύονται χωρίς αμφιβολία, και τη διένειμε μέσω στρατιωτικών καναλιών. Το CNN δεν μπόρεσε να προσδιορίσει τι μετέφερε πραγματικά το πλοίο.cnn

"Πολλά από τα εσωτερικά εργαλεία είναι απλώς προσαρμογές εμπορικού λογισμικού, ντυμένα για στρατιωτική χρήση", δήλωσε στο CNN ένας πρώην ανώτερος αξιωματούχος που γνωρίζει τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιεί ο στρατός.mezha+1

Αυξανόμενη εξάρτηση, αυξανόμενος κίνδυνος

Το περιστατικό έρχεται καθώς το Πεντάγωνο επιταχύνει την υιοθέτηση της τεχνητής νοημοσύνης σε όλες τις αμυντικές επιχειρήσεις. Τον Ιανουάριο, ο υπουργός Άμυνας Pete Hegseth παρουσίασε τη "Στρατηγική Επιτάχυνσης Τεχνητής Νοημοσύνης" του υπουργείου, η οποία στοχεύει να καταστήσει τα εργαλεία τεχνητής νοημοσύνης διαθέσιμα σε περίπου τρία εκατομμύρια πολιτικούς και στρατιωτικούς υπαλλήλους σε όλα τα επίπεδα διαβάθμισης.investing+1

Ωστόσο, η προσπάθεια παραμένει κατακερματισμένη, σύμφωνα με αρκετούς Αμερικανούς αξιωματούχους. Διαφορετικοί τομείς της κυβέρνησης χρησιμοποιούν διάφορα εργαλεία υπό διακριτά πρωτόκολλα ασφαλείας, χωρίς ενιαίο πρότυπο για την επαλήθευση των πληροφοριών που παράγονται από την τεχνητή νοημοσύνη.cnn+1

Πηγές δήλωσαν στο CNN ότι ο στρατός χρησιμοποιεί όλο και περισσότερο την τεχνητή νοημοσύνη σε αποφάσεις στόχευσης, αυξάνοντας τον κίνδυνο λανθασμένων πληγμάτων, απωλειών αμάχων και περιστατικών φίλιων πυρών, ακόμη και όταν ένας άνθρωπος διατηρεί επίσημα την τελική εξουσία.mezha+1

Μια προειδοποίηση από μέσα

Το είδος της "παραισθησιογόνου" τεχνητής νοημοσύνης που παραλίγο να προκαλέσει το περιστατικό με την Κίνα δεν αποτελεί μεμονωμένο περιστατικό εντός της κοινότητας πληροφοριών από τότε που άρχισαν να πολλαπλασιάζονται αυτά τα εργαλεία, σύμφωνα με μια πηγή. Οι νεότεροι αναλυτές, οι οποίοι είναι πιο εξοικειωμένοι με τα εργαλεία τεχνητής νοημοσύνης, μπορεί να είναι ιδιαίτερα επιρρεπείς στο να αποδέχονται τα αποτελέσματά τους άκριτα, ανέφεραν οι πηγές.cnn

"Η τεχνητή νοημοσύνη σάς επιτρέπει να φτάσετε σε ένα κακό συμπέρασμα πιο γρήγορα", παρατήρησε μια πηγή.mezha+1