Βίρκουνεν: Οι εταιρείες AI πρέπει να διατηρούν τον έλεγχο των συστημάτων τους

Την ανάγκη οι εταιρείες Τεχνητής Νοημοσύνης να διασφαλίζουν τον έλεγχο των συστημάτων τους, παρά την ένταση του διεθνούς ανταγωνισμού, υπογράμμισε η Ευρωπαία Επίτροπος για την Ψηφιακή Τεχνολογία, Χένα Βίρκουνεν. Όπως προειδοποίησε, η πίεση για ταχύτερη ανάπτυξη νέων μοντέλων ενδέχεται να περιορίζει τον χρόνο και τους πόρους που διατίθενται για τη δοκιμή και την αξιολόγησή τους.

Μιλώντας σε δημοσιογράφους στο περιθώριο διεθνούς Συνόδου Κορυφής για την Τεχνητή Νοημοσύνη στο Δουβλίνο, η αντιπρόεδρος της Ευρωπαϊκής Επιτροπής επισήμανε ότι ο παγκόσμιος ανταγωνισμός στον κλάδο είναι ιδιαίτερα έντονος, με αποτέλεσμα οι εταιρείες να μην αφιερώνουν πάντα επαρκείς πόρους για την ουσιαστική αξιολόγηση των μοντέλων τους.

Παράλληλα, αναφέρθηκε σε περιστατικά κατά τα οποία οι εταιρείες δεν είχαν πλήρη εικόνα των ενεργειών που πραγματοποιούσαν οι πράκτορες τεχνητής νοημοσύνης τους, τονίζοντας ότι οι δημιουργοί των συστημάτων πρέπει να είναι σε θέση να διατηρούν τον έλεγχό τους.

Έμφαση στην ασφάλεια και την αξιολόγηση των μοντέλων

Η Χένα Βίρκουνεν σημείωσε ότι η αυξανόμενη αποτελεσματικότητα των μοντέλων AI καθιστά ολοένα δυσκολότερη την αξιολόγησή τους. Για τον λόγο αυτό, θεωρεί απαραίτητο να παρέχεται στους ειδικούς ο απαιτούμενος χρόνος για τη διεξαγωγή ουσιαστικών δοκιμών και τον εντοπισμό πιθανών κινδύνων.

Στο πλαίσιο αυτό, η Ευρωπαϊκή Επιτροπή έχει ήδη ζητήσει πληροφορίες από μεγάλες εταιρείες του κλάδου σχετικά με τα μέτρα ασφαλείας που εφαρμόζουν, καθώς και τις διαδικασίες εξωτερικής αξιολόγησης των συστημάτων τους.

Στο επίκεντρο ο ευρωπαϊκός κανονισμός AI Act

Η Ευρωπαϊκή Ένωση έχει αποκτήσει, μέσω του Κανονισμού για την Τεχνητή Νοημοσύνη (AI Act), το θεσμικό πλαίσιο για την εποπτεία του συγκεκριμένου τομέα. Στο πλαίσιο αυτό, έχει ξεκινήσει να ζητά διευκρινίσεις από τις εταιρείες για ζητήματα που αφορούν τόσο την ασφάλεια των συστημάτων όσο και την προστασία των πνευματικών δικαιωμάτων.

Όπως υπογράμμισε η Ευρωπαία Επίτροπος, η διατήρηση του ελέγχου των συστημάτων τεχνητής νοημοσύνης αποτελεί σαφή απαίτηση του AI Act, αναδεικνύοντας τη σημασία της υπεύθυνης ανάπτυξης και χρήσης της τεχνολογίας.