fbpx

OpenAI: Ανησυχίες για την παραπλανητική χρήση AI

Την αποτροπή πέντε προσπαθειών για χρήση της τεχνητής νοημοσύνης σε «παραπλανητικές δραστηριότητες» στο διαδίκτυο, γνωστοποίησε η OpenAI του Σαμ Άλτμαν. Η εταιρεία δήλωσε ότι οι απειλητικοί παράγοντες χρησιμοποίησαν τα μοντέλα AI της για να δημιουργήσουν σύντομα σχόλια, μεγαλύτερα άρθρα σε διάφορες γλώσσες, επινοημένα ονόματα και βιογραφικά για λογαριασμούς στα μέσα κοινωνικής δικτύωσης τους τελευταίους τρεις μήνες.

Οι εκστρατείες αυτές, στις οποίες συμμετείχαν άτομα από τη Ρωσία, την Κίνα, το Ιράν και το Ισραήλ, εστίασαν επίσης σε θέματα όπως η εισβολή της Ρωσίας στην Ουκρανία, ο πόλεμος στη Γάζα, οι εκλογές στην Ινδία, η πολιτική στην Ευρώπη και τις ΗΠΑ, μεταξύ άλλων. Οι παραπλανητικές δραστηριότητες αυτές, ήταν μια «προσπάθεια χειραγώγησης της κοινής γνώμης ή επηρεασμού των πολιτικών αποτελεσμάτων», αναφέρει σε ανακοίνωσή της η OpenAI.

Η έκθεση της εταιρείας προστίθεται σε μία σειρά από περιστατικά που προκαλούν ανησυχία για την ασφάλεια σχετικά με την πιθανή κατάχρηση της τεχνητής νοημοσύνης, η οποία μπορεί γρήγορα και εύκολα να παράγει κείμενο, εικόνες και ήχο που μοιάζουν με τον άνθρωπο.

Το OpenAI, το οποίο υποστηρίζεται από τη Microsoft, δήλωσε την Τρίτη ότι δημιούργησε μια επιτροπή ασφάλειας και προστασίας, η οποία θα καθοδηγείται από μέλη του διοικητικού συμβουλίου, συμπεριλαμβανομένου του διευθύνοντος συμβούλου Σαμ Άλτμαν, καθώς ξεκινά την εκπαίδευση του επόμενου μοντέλου τεχνητής νοημοσύνης. Οι παραπλανητικές καμπάνιες δεν επωφελήθηκαν από την αυξημένη εμπλοκή του κοινού ή την εμβέλεια λόγω των υπηρεσιών της εταιρείας AI, ανέφερε η OpenAI.

Η εταιρεία διευκρίνισε επίσης ότι οι επιχειρήσεις αυτές δεν χρησιμοποιούσαν αποκλειστικά υλικό που δημιουργούσε η AI, αλλά περιλάμβαναν χειρόγραφα κείμενα ή memes που αντιγράφονταν από όλο το διαδίκτυο.

Ξεχωριστά, η Meta, στην τριμηνιαία έκθεση ασφαλείας της την Τετάρτη, δήλωσε ότι είχε βρει «πιθανότατα AI-generated» περιεχόμενο που χρησιμοποιήθηκε παραπλανητικά στις πλατφόρμες της στο Facebook και το Instagram, συμπεριλαμβανομένων σχολίων που επαινούσαν τον χειρισμό του πολέμου στη Γάζα από το Ισραήλ και δημοσιεύτηκαν κάτω από αναρτήσεις από παγκόσμιους ειδησεογραφικούς οργανισμούς και Αμερικανούς βουλευτές.