H EE βάζει όρια στην τεχνητή νοημοσύνη
Eνα βήμα πιο κοντά στους πρώτους κανόνες για την προστασία παρόχων και χρηστών
Νέους κανόνες διαφάνειας και διαχείρισης κινδύνου για τα συστήματα τεχνητής νοημοσύνης (AI) ενέκριναν οι ευρωβουλευτές προκειμένου να διασφαλιστεί μια ανθρωποκεντρική και ηθική ανάπτυξη της τεχνητής νοημοσύνης στην Ευρώπη.
Οι κανόνες ακολουθούν μια προσέγγιση βασισμένη στον κίνδυνο και θεσπίζουν υποχρεώσεις για τους παρόχους και τους χρήστες ανάλογα με το επίπεδο κινδύνου που μπορεί να δημιουργήσει η AI. Συστήματα τεχνητής νοημοσύνης με απαράδεκτο επίπεδο κινδύνου για την ασφάλεια των ανθρώπων θα απαγορεύονται αυστηρά, συμπεριλαμβανομένων συστημάτων που αναπτύσσουν υποσυνείδητες ή σκόπιμα χειραγωγικές τεχνικές, εκμεταλλεύονται τα τρωτά σημεία των ανθρώπων ή χρησιμοποιούνται για «κοινωνική βαθμολογία».
Οι ευρωβουλευτές τροποποίησαν ουσιαστικά τον κατάλογο για να συμπεριλάβει απαγορεύσεις για παρεμβατικές και μεροληπτικές χρήσεις συστημάτων τεχνητής νοημοσύνης όπως:
Απομακρυσμένα βιομετρικά συστήματα αναγνώρισης σε πραγματικό χρόνο σε χώρους προσβάσιμους από το κοινό.
Αποστολή απομακρυσμένων βιομετρικών συστημάτων ταυτοποίησης, με μόνη εξαίρεση τις αρχές επιβολής του νόμου για τη δίωξη σοβαρών εγκλημάτων και μόνο έπειτα από δικαστική εξουσιοδότηση.
Συστήματα βιομετρικής κατηγοριοποίησης που χρησιμοποιούν ευαίσθητα χαρακτηριστικά (π.χ. φύλο, φυλή, εθνικότητα, ιθαγένεια, θρησκεία, πολιτικός προσανατολισμός).
Συστήματα πρόβλεψης αστυνόμευσης (με βάση το προφίλ, την τοποθεσία ή προηγούμενη εγκληματική συμπεριφορά).
Συστήματα αναγνώρισης συναισθημάτων στην επιβολή του νόμου, τη διαχείριση των συνόρων, στους χώρους εργασίας και στα εκπαιδευτικά ιδρύματα.
Αδιάκριτη απόσπαση βιομετρικών δεδομένων από μέσα κοινωνικής δικτύωσης ή πλάνα CCTV για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου.
Οι ευρωβουλευτές διεύρυναν την ταξινόμηση των περιοχών υψηλού κινδύνου για να συμπεριλάβουν τις βλάβες στην υγεία, την ασφάλεια, στα θεμελιώδη δικαιώματα ή στο
Οι ευρωβουλευτές πρόσθεσαν στη λίστα υψηλού κινδύνου τα συστήματα AI γιατί μπορεί να επηρεάσουν τους ψηφοφόρους σε πολιτικές εκστρατείες
περιβάλλον των ανθρώπων. Πρόσθεσαν επίσης στη λίστα υψηλού κινδύνου τα συστήματα AI γιατί μπορεί να επηρεάσουν τους ψηφοφόρους σε πολιτικές εκστρατείες και τα συστήματα συστάσεων που χρησιμοποιούνται από πλατφόρμες μέσων κοινωνικής δικτύωσης.
Προτού ξεκινήσουν οι διαπραγματεύσεις για την τελική μορφή του νόμου το σχέδιο κανόνων πρέπει να εγκριθεί από το Ευρωκοινοβούλιο. Η ψηφοφορία αναμένεται κατά τη σύνοδο της 12ης-15ης Ιουνίου.