05 Νοέ ChatGPT: Ευπάθεια παρέκαμπτε το Lockdown Mode – τι βρήκε η Check Point Research
Η Check Point Research (CPR), το ερευνητικό τμήμα της Check Point Software Technologies, ανακάλυψε ευπάθεια στο ChatGPT που επέτρεπε την παράκαμψη του Lockdown Mode, μιας προαιρετικής λειτουργίας που σχεδιάστηκε για να περιορίζει τη διαρροή δεδομένων μέσω επιθέσεων prompt injection. Η OpenAI έχει ήδη διορθώσει το πρόβλημα και οι ερευνητές επιβεβαίωσαν ότι η τεχνική δεν λειτουργεί πια.
Τι είναι το Lockdown Mode
Το Lockdown Mode είναι μια προηγμένη ρύθμιση ασφαλείας του ChatGPT. Περιορίζει ορισμένες εξερχόμενες συνδέσεις και απενεργοποιεί λειτουργίες όπως Deep Research, Agent Mode, ενεργές συνδέσεις με εξωτερικές υπηρεσίες και λήψεις αρχείων. Στόχος του είναι να μη μπορούν κακόβουλες οδηγίες, κρυμμένες σε περιεχόμενο που επεξεργάζεται το AI, να οδηγήσουν σε διαρροή πληροφοριών.
Πώς παρακάμφθηκε η προστασία
Σύμφωνα με την CPR, η προεπισκόπηση HTML μέσα σε τμήματα κώδικα του ChatGPT μπορούσε, λόγω αδυναμίας στη διαχείριση αναδυόμενων παραθύρων, να ξεφύγει από τα όρια ενός απομονωμένου περιβάλλοντος εκτέλεσης (sandbox). Με εμφωλευμένα πλαίσια οι ερευνητές κατάφεραν να ανοίξουν περιεχόμενο εκτός των αρχικών περιορισμών. Το συμπέρασμά τους: μια αδυναμία στο σύστημα που εμφανίζει την προεπισκόπηση μπορεί να υπονομεύσει εξειδικευμένους ελέγχους ασφαλείας του AI.
Από το phishing στη διαρροή δεδομένων χωρίς κλικ
Ο έλεγχος του περιεχομένου ενός αναδυόμενου παραθύρου θα μπορούσε να αξιοποιηθεί για πειστικά μηνύματα κοινωνικής μηχανικής μέσα σε ένα γνώριμο περιβάλλον. Στην εφαρμογή για υπολογιστές, οι ερευνητές παρουσίασαν μια ψεύτικη ενημέρωση του ChatGPT που παρότρυνε τον χρήστη να κατεβάσει malware, καθώς και εξαναγκασμένη αποσύνδεση που θα μπορούσε να οδηγήσει σε παραπλανητική σελίδα σύνδεσης. Η λήψη κακόβουλου αρχείου εξακολουθούσε να απαιτεί κλικ από τον χρήστη.
Το σοβαρότερο σενάριο αφορούσε την εφαρμογή για υπολογιστές, που βασίζεται στο Electron: εκεί το αναδυόμενο παράθυρο μπορούσε να ενεργοποιηθεί χωρίς καμία ενέργεια του χρήστη. Οι ερευνητές έδειξαν ότι ένα κακόβουλο GPT μπορούσε να μεταφέρει αθόρυβα μηνύματα συνομιλίας σε διακομιστή του επιτιθέμενου, ενώ ο χρήστης συνέχιζε να συνομιλεί κανονικά. Σύμφωνα με την CPR, η βασική τεχνική δεν περιοριζόταν στο περιβάλλον υπολογιστή, παρότι εκεί έγινε η συγκεκριμένη επίδειξη.
Έχει διορθωθεί και τι δεν αποδεικνύει η έρευνα
Στις 18 Σεπτεμβρίου 2026 η OpenAI ενημέρωσε την Check Point Research ότι είχε αφαιρέσει τις άδειες sandbox που επέτρεπαν την εκμετάλλευση, και η CPR επανέλεγξε και επιβεβαίωσε ότι η μέθοδος δεν δουλεύει πια. Η ίδια η έρευνα περιγράφει αποδεδειγμένα πιθανά σενάρια εκμετάλλευσης και δεν τεκμηριώνει μαζική υποκλοπή πραγματικών συνομιλιών. Δηλαδή, δεν υπάρχει λόγος πανικού για τον απλό χρήστη, αλλά το εύρημα δείχνει πόσο εύκολα μπορούν να αδυνατίσουν οι δικλίδες ασφαλείας ενός AI assistant.
Τι σημαίνει για τις επιχειρήσεις
Καθώς οι εργαζόμενοι χρησιμοποιούν όλο και περισσότερο βοηθούς AI για έγγραφα και εταιρικές πληροφορίες, η ασφάλεια, κατά την Check Point, πρέπει να καλύπτει όχι μόνο το μοντέλο αλλά και τις εφαρμογές, τα περιβάλλοντα εκτέλεσης, τα εργαλεία και τις συνδέσεις γύρω από αυτό. Οι οργανισμοί χρειάζεται να γνωρίζουν ποιες υπηρεσίες AI χρησιμοποιούνται, να ορίζουν πολιτικές για τα δεδομένα που επιτρέπεται να κοινοποιούνται, να ελέγχουν τις συνδεδεμένες εφαρμογές και να περιορίζουν την πρόσβαση σε ευαίσθητες πληροφορίες. Οι έλεγχοι αυτοί δεν διορθώνουν την ευπάθεια της πλατφόρμας, αλλά μπορούν να μειώσουν τις συνέπειες αντίστοιχων αδυναμιών τρίτων.
Δεν είναι η πρώτη φορά που η ίδια ομάδα εντοπίζει πρόβλημα απομόνωσης στο ChatGPT: τον Σεπτέμβριο η CPR είχε παρουσιάσει ένα κρυφό κανάλι επικοινωνίας μεταξύ διαφορετικών λογαριασμών, που σε proof of concept επέτρεπε πρόσβαση σε δεδομένα συνδεδεμένου λογαριασμού Gmail. Η έρευνα για το Lockdown Mode υπογράφεται από τον Eli Smadja, Head of Research της Check Point Research.
Αν παρακολουθείς το ChatGPT και την ασφάλεια, δες και πόσο μεγάλο είναι πραγματικά το ChatGPT σε σχέση με την Google Search, καθώς και την ανάλυσή μας για το hack της Binance και τις ψεύτικες συνεντεύξεις εργασίας και για τις 163 διορθώσεις ασφαλείας του iOS 27.2.
No Comments