04 Aug Κομισιόν: Υποχρεωτική σήμανση για περιεχόμενο που δημιουργείται με Τεχνητή Νοημοσύνη
Η Ευρωπαϊκή Ένωση προχωρά στην εφαρμογή νέων κανόνων διαφάνειας για την Τεχνητή Νοημοσύνη, θέτοντας συγκεκριμένες υποχρεώσεις για επιχειρήσεις και οργανισμούς που χρησιμοποιούν συστήματα AI. Στόχος είναι οι πολίτες να γνωρίζουν πότε αλληλεπιδρούν με τεχνητή νοημοσύνη, πότε ένα κείμενο ή μια εικόνα έχει δημιουργηθεί από AI και πότε αναλύονται τα βιομετρικά τους δεδομένα.
Η Ευρωπαϊκή Επιτροπή δημοσίευσε τεχνικές κατευθυντήριες οδηγίες που εξηγούν πώς μπορούν οι επιχειρήσεις να συμμορφωθούν με τις απαιτήσεις του ευρωπαϊκού κανονισμού για την Τεχνητή Νοημοσύνη, ο οποίος τίθεται σταδιακά σε εφαρμογή.
Διαβάστε επίσης: Document AI, το φυσικό αρχείο «στα χέρια» της Τεχνητής Νοημοσύνης
Υποχρεωτική ενημέρωση όταν συνομιλείτε με AI
Ένα από τα βασικότερα μέτρα αφορά την υποχρέωση ενημέρωσης των χρηστών όταν επικοινωνούν με σύστημα Τεχνητής Νοημοσύνης.
Οι εταιρείες θα πρέπει να διαμορφώνουν τις υπηρεσίες τους έτσι ώστε να γίνεται σαφές ότι ο χρήστης συνομιλεί με chatbot ή άλλο αυτοματοποιημένο σύστημα και όχι με φυσικό πρόσωπο.
Η υποχρέωση αφορά μεταξύ άλλων:
- chatbots εξυπηρέτησης πελατών
- φωνητικούς ψηφιακούς βοηθούς
- υπηρεσίες δημόσιων οργανισμών
- εργαλεία αναφορών και καταγγελιών
Εξαίρεση προβλέπεται μόνο στις περιπτώσεις όπου η χρήση της Τεχνητής Νοημοσύνης είναι ήδη προφανής και δεν υπάρχει κίνδυνος παραπλάνησης.
Υδατογραφήματα και ειδική σήμανση σε AI περιεχόμενο
Ιδιαίτερη έμφαση δίνεται και στο περιεχόμενο που δημιουργείται ή τροποποιείται με χρήση Τεχνητής Νοημοσύνης.
Η Κομισιόν προβλέπει ότι φωτογραφίες, βίντεο, ηχητικά αρχεία και κείμενα που παράγονται από AI θα πρέπει να συνοδεύονται από ειδική ψηφιακή σήμανση ή υδατογράφημα, ώστε να είναι αναγνωρίσιμη η προέλευσή τους.
Η γενικευμένη εφαρμογή του μέτρου μετατίθεται για τον Δεκέμβριο, όμως από τις αρχές Αυγούστου ισχύουν ήδη ειδικές απαιτήσεις για περιεχόμενο που αφορά ζητήματα δημόσιου ενδιαφέροντος.
Deepfakes και ευαίσθητο ενημερωτικό περιεχόμενο
Οι νέοι κανόνες δίνουν ιδιαίτερη βαρύτητα στα λεγόμενα deepfakes.
Όταν εικόνες, βίντεο ή ηχητικό υλικό έχουν δημιουργηθεί ή αλλοιωθεί μέσω Τεχνητής Νοημοσύνης και σχετίζονται με:
- εκλογικές διαδικασίες
- δημόσια υγεία
- οικονομικές εξελίξεις
- δικαστικές υποθέσεις
- πολιτικά γεγονότα
θα πρέπει να επισημαίνονται ξεκάθαρα, ιδιαίτερα όταν δεν έχει προηγηθεί ανθρώπινος έλεγχος πριν από τη δημοσίευσή τους.
Με τον τρόπο αυτό, η Ευρωπαϊκή Ένωση επιχειρεί να περιορίσει τη διασπορά παραπλανητικού περιεχομένου και να διευκολύνει τους πολίτες στην αναγνώριση υλικού που έχει δημιουργηθεί από αλγορίθμους.
Από το συγκεκριμένο πλαίσιο εξαιρούνται έργα μυθοπλασίας, σάτιρας και καλλιτεχνικής δημιουργίας, όπου δεν υπάρχει κίνδυνος παραπλάνησης του κοινού.
Νέοι κανόνες για βιομετρικά δεδομένα
Το νέο πλαίσιο περιλαμβάνει και ειδικές προβλέψεις για τις τεχνολογίες βιομετρικής ανάλυσης.
Οι πολίτες θα πρέπει να ενημερώνονται όταν κάποιο σύστημα αναλύει χαρακτηριστικά όπως:
- το πρόσωπο
- τη φωνή
- τις εκφράσεις
- τα συναισθήματα
- άλλα βιομετρικά δεδομένα
Η ενημέρωση θα πρέπει να παρέχεται πριν ή κατά τη διάρκεια της χρήσης του συστήματος, ώστε κάθε χρήστης να γνωρίζει ότι τα προσωπικά του χαρακτηριστικά αξιολογούνται από αλγόριθμο.
Εξαιρέσεις προβλέπονται μόνο σε συγκεκριμένες περιπτώσεις που ορίζει η ευρωπαϊκή νομοθεσία, κυρίως για σκοπούς πρόληψης και διερεύνησης εγκλημάτων.
Πρόστιμα έως 15 εκατ. ευρώ
Η μη συμμόρφωση με τις υποχρεώσεις διαφάνειας μπορεί να επιφέρει ιδιαίτερα υψηλές κυρώσεις.
Οι επιχειρήσεις που παραβιάζουν τους κανόνες ενδέχεται να βρεθούν αντιμέτωπες με πρόστιμα έως:
- 15 εκατομμύρια ευρώ ή
- 3% του παγκόσμιου ετήσιου κύκλου εργασιών τους,
ανάλογα με το ποιο ποσό είναι υψηλότερο σύμφωνα με τις προβλέψεις της νομοθεσίας.
Για τα θεσμικά όργανα και τους οργανισμούς της Ευρωπαϊκής Ένωσης προβλέπεται ανώτατο πρόστιμο έως 750.000 ευρώ.
Οι οδηγίες είναι προαιρετικές, οι υποχρεώσεις όχι
Οι τεχνικές οδηγίες που δημοσίευσε η Ευρωπαϊκή Επιτροπή έχουν συμβουλευτικό χαρακτήρα και δεν αποτελούν δεσμευτικό νομικό κείμενο.
Ωστόσο, οι απαιτήσεις του ευρωπαϊκού νόμου για την Τεχνητή Νοημοσύνη είναι υποχρεωτικές για όλους τους παρόχους και τους οργανισμούς που εμπίπτουν στο πεδίο εφαρμογής του.
Οι επιχειρήσεις μπορούν να ακολουθήσουν τις οδηγίες της Κομισιόν ως πρακτικό οδηγό συμμόρφωσης ή να εφαρμόσουν δικές τους διαδικασίες, αρκεί να αποδεικνύουν ότι τηρούν πλήρως τις απαιτήσεις της νομοθεσίας.
Με το νέο πλαίσιο, η Ευρωπαϊκή Ένωση επιχειρεί να ενισχύσει τη διαφάνεια στη χρήση της Τεχνητής Νοημοσύνης, διασφαλίζοντας ότι οι πολίτες γνωρίζουν πότε αλληλεπιδρούν με AI, πότε ένα ψηφιακό περιεχόμενο έχει δημιουργηθεί τεχνητά και πότε προσωπικά βιομετρικά δεδομένα αξιοποιούνται από αυτοματοποιημένα συστήματα.
No Comments