20 Νοέ GAO: τα 4 μεγάλα AI chatbots έδωσαν σχέδια επίθεσης
Η αμερικανική υπηρεσία ελέγχου GAO (Government Accountability Office) δοκίμασε κρυφά τα ChatGPT, Claude, Gemini και Grok. Η έκθεσή της, που δημοσιοποιήθηκε στις 18/11, λέει ότι και τα τέσσερα, αφού παρακάμφθηκαν οι δικλίδες ασφαλείας τους, έδωσαν πληροφορίες που μπορούσαν να χρησιμοποιηθούν για τον σχεδιασμό επίθεσης. Παρακάτω, τι έγινε ακριβώς, τι δεν δείχνει η έκθεση και τι απαντούν οι εταιρείες.
Τι δοκίμασε η GAO
- Ποιος το ζήτησε: την έρευνα ζήτησε η γερουσιαστής Maggie Hassan. Η έκθεση (GAO-27-108814) έχει τίτλο «Covert Testing Used Common Platforms to Create Viable Attack Plans». Ολοκληρώθηκε στις 16 Οκτωβρίου και δημοσιοποιήθηκε στις 18 Νοεμβρίου.
- Ποια εργαλεία: με βάση στοιχεία χρήσης του Απριλίου 2026, η GAO διάλεξε τις τέσσερις πιο διαδεδομένες πλατφόρμες: Claude, Grok, ChatGPT και Gemini.
- Δύο σενάρια: ένας αυτοσχέδιος εκρηκτικός μηχανισμός με μαζικές απώλειες και μια επίθεση στο ηλεκτρικό δίκτυο με οικονομική ζημιά. Κάθε πλατφόρμα ανατέθηκε τυχαία σε ένα σενάριο και στην έκθεση εμφανίζεται ως «Platform A» έως «D». Η GAO δεν λέει ποια είναι ποια.
- Πώς: οι ελεγκτές χρησιμοποίησαν πλαστές ταυτότητες και ατομικούς λογαριασμούς συνδρομητών, πρώτα δωρεάν και μετά πληρωμένους για υψηλότερα όρια. Συνέχιζαν μέχρι να πάρουν εφαρμόσιμη πληροφορία ή να περάσουν 24 εργάσιμες ώρες χωρίς αποτέλεσμα.
Τι βρήκε
- Και οι τέσσερις πλατφόρμες αρχικά αρνήθηκαν τα αιτήματα. Η GAO παρέκαμψε τις δικλίδες με συνηθισμένες τεχνικές, τις οποίες δεν δημοσιοποιεί.
- Κάθε πλατφόρμα έδωσε σχέδιο σε λιγότερο από 12 ώρες. Δύο αφορούσαν το σενάριο με τον εκρηκτικό μηχανισμό και δύο την επίθεση στο δίκτυο, όπου η μία πρότεινε drone και η άλλη πυροβόλα όπλα.
- Η αξιοπιστία των πληροφοριών ελέγχθηκε με έρευνα πεδίου και με ειδικούς, όπως διοικητή ομάδας εξουδετέρωσης εκρηκτικών και ειδικούς του κλάδου ηλεκτρισμού. Από τους υποσταθμούς που ελέγχθηκαν, οι δύο από τους τέσσερις βρέθηκαν ευάλωτοι.
- Υπήρχαν και λάθη: οι χάρτες μίας πλατφόρμας είχαν λανθασμένους δρόμους.
- Η GAO λέει ότι οι πληροφορίες δεν ήταν πρωτότυπες. Αυτό που άλλαξε είναι ο χρόνος: σχέδια που θα έπαιρναν εβδομάδες ή μήνες ολοκληρώθηκαν σε ώρες.
- Κανείς δεν κατασκεύασε εκρηκτικά ούτε έκανε επίθεση. Το «viable» σημαίνει ότι κάποιος θα μπορούσε πιθανώς να ακολουθήσει τις πληροφορίες, όχι ότι μια επίθεση θα πετύχαινε. Η έκθεση σημειώνει ότι η επιτυχία θα εξαρτιόταν και από παράγοντες εκτός των πλατφορμών, όπως κίνηση, καιρός ή αστυνομία.
Τι δεν δείχνει η έκθεση
- Δεν είναι στατιστικά αντιπροσωπευτική. Κάθε chatbot πήρε μόνο ένα σενάριο, οπότε δεν μπορείς να τα συγκρίνεις ή να βγάλεις κατάταξη.
- Δεν υπήρχε ομάδα ελέγχου, άρα δεν μετρήθηκε πόσο βοήθησε το AI σε σχέση με μια απλή αναζήτηση στο διαδίκτυο.
- Είναι στιγμιότυπο. Δείχνει την κατάσταση την άνοιξη του 2026 και δεν περιέχει επίσημες συστάσεις πολιτικής.
Τι απαντούν οι εταιρείες
- Anthropic: οι δικλίδες της σχεδιάζονται με την παραδοχή ότι κάθε μεμονωμένη προστασία μπορεί να παρακαμφθεί. Λέει ότι η έκθεση αντικατοπτρίζει τις συνθήκες του Μαΐου 2026 και ότι έχει από τότε επεκτείνει τις δικλίδες. Ζήτησε περισσότερη στατιστική αυστηρότητα και ομάδα ελέγχου, και η GAO συμφώνησε ότι τα αποτελέσματα δεν είναι στατιστικά σημαντικά.
- Google: περιέγραψε τις δικλίδες στον κύκλο ανάπτυξης και είπε ότι η δουλειά για την ασφάλεια δεν ολοκληρώνεται ποτέ.
- OpenAI: το ChatGPT αρνήθηκε πολλά αιτήματα, αλλά τελικά έδωσε πληροφορίες που θα μπορούσαν να χρησιμοποιηθούν σε επίθεση. Η εταιρεία είπε ότι η έκθεση δεν ξεχώριζε πάντα το περιεχόμενο του AI από την έρευνα των ελεγκτών. Η GAO απάντησε ότι αυτό αντανακλά τον τρόπο που θα χρησιμοποιούσε το εργαλείο ένας κακόβουλος χρήστης.
- SpaceXAI (η εταιρεία του Grok, όπως αναφέρεται στην έκθεση): θα συνεχίσει να βελτιώνει την ασφάλεια με κάθε νέο μοντέλο και ζήτησε τα αρχεία των συνομιλιών.
Τι ακολουθεί
Η Hassan αναμένεται να προεδρεύει της Επιτροπής Εσωτερικής Ασφάλειας της Γερουσίας (Homeland Security and Governmental Affairs) από τον Ιανουάριο. Λέει ότι η νομοθεσία για την ασφάλεια του AI θα είναι πρώιμη προτεραιότητα, με πρώτη ακρόαση για τους κινδύνους του AI στην εσωτερική ασφάλεια και στις κρίσιμες υποδομές. Εξετάζει επίσης την απαίτηση αυστηρότερων δοκιμών ασφάλειας πριν τα μοντέλα δοθούν στο κοινό.
Τι σημαίνει για τον απλό χρήστη
Η καθημερινή χρήση των εργαλείων δεν αλλάζει από αυτή την έκθεση. Το ερώτημα που θέτει είναι αν οι δικλίδες αντέχουν σε στοχευμένη παράκαμψη, και η GAO απαντά ότι δεν αντέχουν πάντα. Ενδιαφέρον έχουν και οι αντιδράσεις των εταιρειών, που δεν αμφισβητούν ότι οι δικλίδες μπορούν να παρακαμφθούν. Για άλλα θέματα ασφάλειας στα chatbots, δες το άρθρο μας για την ευπάθεια που παρέκαμπτε το Lockdown Mode του ChatGPT και για το τι αλλάζει στο ιστορικό του Gemini.





No Comments