Η OpenAI, η εταιρεία πίσω από το chatbot τεχνητής νοημοσύνης ChatGPT, αποκάλυψε νέα περιστατικά κατά τα οποία η τεχνητή νοημοσύνη της συμπεριφέρθηκε στη διάρκεια δοκιμών με τρόπους που η ίδια χαρακτήρισε «απροσδόκητους ή ανησυχητικούς», συμπεριλαμβανομένων περιπτώσεων μοντέλων που κατέβαλαν σημαντικές προσπάθειες για να εξαπατήσουν.

Σε μία περίπτωση, ένα μοντέλο προσπάθησε να ανεβάσει στο διαδίκτυο αρχεία που είχε δημιουργήσει το ίδιο, αποκλειστικά προκειμένου να μπορεί στη συνέχεια να τα επικαλείται ως πηγές στις απαντήσεις του, όπως ανακοίνωσε η εταιρεία. Σε άλλη περίπτωση, ένα μοντέλο δημιούργησε τα δεδομένα που του ζητούνταν αφού απέτυχε να εντοπίσει την πληροφορία, προσπαθώντας αρχικά να αποκρύψει αυτή του την ενέργεια.

Η OpenAI εντόπισε επίσης πρόβλημα που αφορούσε οδηγίες τις οποίες το λογισμικό της άφηνε περιστασιακά στον εαυτό του. Σε μία περίπτωση, οι οδηγίες αυτές περιλάμβαναν σύσταση να μη δεσμεύεται από «ρόλους και ταυτότητες» που περιορίζουν άλλα chatbots, ενώ ανέφεραν επίσης ότι θα έπρεπε να αντιμετωπίζει τη σχέση του με τον χρήστη ως σχέση μεταξύ ίσων. Η εταιρεία διευκρίνισε ότι δεν παρατήρησε καμία μεταγενέστερη αλλαγή στη συμπεριφορά του μοντέλου.

Οι αποκαλύψεις εντάσσονται σε μια νέα προσέγγιση της OpenAI, με στόχο την πιο ανοιχτή επικοινωνία τέτοιων ζητημάτων, ιδιαίτερα σε περιπτώσεις όπου οι ενέργειες ενός συστήματος τεχνητής νοημοσύνης αποκλίνουν από τα συμφέροντα των ανθρώπων που το χρησιμοποιούν.

Η εταιρεία έχει δεσμευτεί για μεγαλύτερη διαφάνεια μετά από μια πολύκροτη κυβερνοεπίθεση, κατά την οποία το λογισμικό της δραπέτευσε αυτόνομα από ασφαλές περιβάλλον δοκιμών και απέκτησε πρόσβαση σε συστήματα που ανήκουν στην εταιρεία τεχνητής νοημοσύνης Hugging Face. Σύμφωνα με την OpenAI, ο λόγος ήταν ότι το λογισμικό πίστευε πως θα μπορούσε να βρει εκεί απαντήσεις για μια εργασία που του είχε ανατεθεί. Κατά τη διάρκεια του περιστατικού, οι πράκτορες τεχνητής νοημοσύνης (AI agents) εκμεταλλεύθηκαν ευπάθειες του λογισμικού και συντονίστηκαν μεταξύ τους.

Η συγκεκριμένη κυβερνοεπίθεση, όπως και άλλα ανάλογα επεισόδια, έχουν τροφοδοτήσει ανησυχίες ότι τα ολοένα πιο προηγμένα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να διαφύγουν του ανθρώπινου ελέγχου. Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, έχει υποστηρίξει πρόσφατα προτάσεις για επιβράδυνση της ανάπτυξης της τεχνολογίας και εισαγωγή περισσότερων κανονιστικών ρυθμίσεων.