H τεχνολογία των μεγάλων γλωσσικών μοντέλων στα χέρια κυβερνοστρατών.
Χάκερ που δρουν για λογαριασμό της Ρωσίας, της Κίνας και του Ιράν χρησιμοποίησαν εργαλεία της OpenAI σε μια προσπάθεια να τελειοποιήσουν τις επιχειρήσεις τους, ανακοίνωσε την Παρασκευή η Microsoft, η οποία έχει επενδύσει δισεκατομμύρια στον δημιουργό του ChatGPT.
Η ανησυχητική εξέλιξη είναι πιθανό να ενισχύει τους φόβους για την ταχεία εξάπλωση της τεχνολογίας τεχνητής νοημοσύνης και τους κινδύνους από την κατάχρησή της, ιδιαίτερα σε μια εκλογική χρονιά που αφορά το ένα τρίτο του παγκόσμιου πληθυσμού.
Έρευνα που πραγματοποιήθηκε σε συνεργασία με την OpenAI αποκάλυψε ότι εργαλεία της εταιρείας χρησιμοποιήθηκαν από τη ρωσική υπηρεσία πληροφοριών GRU, τους Φρουρούς της Επανάστασης στο Ιράν και τις κυβερνήσεις της Κίνας και της Βόρειας Κορέας, ανέφερε η Microsoft σε εταιρικό ιστολόγιο.
Η εξέλιξη έρχεται λίγο μετά την ανακοίνωση της Microsoft ότι απαγορεύει σε κυβερνητικές ομάδες χάκερ να χρησιμοποιούν δικά της εργαλεία ΑΙ.
Μέχρι στιγμής πάντως δεν έχουν γίνει αντιληπτές κυβερνοεπιθέσεις που βασίστηκαν στο ChatGPT ή άλλα προϊόντα της OpenAI, δήλωσε στο Reuters ο Τομ Μπαρτ, αντιπρόεδρος Ασφάλειας Καταναλωτή στη Microsoft.
«Απλά τους είδαμε να χρησιμοποιούν αυτή την τεχνολογία όπως κάθε άλλος χρήστης» είπε ο Μπαρτ πριν από τη δημοσιοποίηση της έκθεσης.
«Ανεξάρτητα του εάν υπήρξε παράβαση του νόμου ή οποιαδήποτε παραβίαση των όρων χρήστης… δεν θέλουμε να έχουν πρόσβαση σε αυτή την τεχνολογία» πρόσθεσε.
Strontium και Thallium
Σύμφωνα με την έκθεση, η ομάδα Strontium που συνδέεται με τη ρωσική GRU χρησιμοποίησε «μεγάλα γλωσσικά μοντέλα», όπως είναι γνωστή η τεχνολογία του ChatGPT, προκειμένου να αντλήσει πληροφορίες για «τεχνολογίες δορυφόρων και ραντάρ που ενδέχεται να αφορούν στρατιωτικές επιχειρήσεις στην Ουκρανία.
Η ομάδα Strontium, γνωστή και ως APT18 ή Fancy Bear, είναι ενεργή στη διάρκεια του πολέμου στην Ουκρανία και είχε βάλει στο στόχαστρο την προεκλογική εκστρατεία της Χίλαρι Κλίντον το 2016.
Η ομάδα χρησιμοποίησε επίσης τα γλωσσικά μοντέλα για «βασικές εργασίες προγραμματισμού … με την προοπτική να αυτοματοποιήσει ή να βελτιστοποιήσει τεχνικές επιχειρήσεις» αναφέρει η Microsoft.
Στη Βόρεια Κορέα., η ομάδα Thallium πειραματίστηκε με τα μοντέλα ΑΙ για να βελτιώσει παραπλανητικά μηνύματα που χρησιμοποιούνται σε επιθέσεις phishing, κατά τις οποίες ο χρήστης πείθεται να αποκαλύψει κωδικούς πρόσβασης.
Το ίδιο έκαναν και οι χάκερ του Ιράν, οι οποίοι χρησιμοποίησαν τα εργαλεία για να συντάξουν πειστικά μηνύματα που θα παρέσυραν «γνωστές φεμινίστριες» σε παγιδευμένο ιστότοπο.
Χάκερ της Κίνας επίσης πειραματίστηκαν με την τεχνολογία, για παράδειγμα υποβάλλοντας ερωτήματα για ξένες υπηρεσίες πληροφοριών και «σημαντικά πρόσωπα».
Όπως αναφέρει το The Verge, η Microsoft αναπτύσσει αυτό το διάστημα το «Security Copilot», έναν βοηθό τεχνητής νοημοσύνης που απευθύνεται σε ειδικούς κυβερνοασφάλειας για την ταχύτερη ανίχνευση απειλών.
Πηγή: In.gr
