Ο Paul Christiano εντάσσεται στο Διοικητικό Συμβούλιο του OpenAI Foundation
Ο Paul Christiano θα ενταχθεί επίσης στην Επιτροπή Ασφάλειας και Προστασίας του Ιδρύματος.
Ανακοινώνουμε τον διορισμό του Paul Christiano στο Διοικητικό Συμβούλιο του OpenAI Foundation. Θα συμμετέχει ως παρατηρητής χωρίς δικαίωμα ψήφου στο Διοικητικό Συμβούλιο της OpenAI Group PBC.
Ο Paul θα ενταχθεί επίσης στην Επιτροπή Ασφάλειας και Προστασίας του Διοικητικού Συμβουλίου του Ιδρύματος, όπου θα συνεργάζεται με τον πρόεδρό της, Zico Kolter. Η Επιτροπή Ασφάλειας και Προστασίας εποπτεύει τις πρακτικές ασφάλειας και προστασίας σε ολόκληρη την OpenAI, συμπεριλαμβανομένης της OpenAI Group PBC.
Ο Paul διαθέτει εμπειρία στη δημόσια διοίκηση επί δύο κυβερνήσεων, μέσα από το έργο του στο Κέντρο Προτύπων και Καινοτομίας για την AI (CAISI), το οποίο υπάγεται στο Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας (NIST), έναν φορέα του Υπουργείου Εμπορίου των ΗΠΑ, όπου κατέχει τη θέση του Ανώτερου Τεχνικού Συμβούλου. Κατά τη θητεία του στο CAISI και στον προκάτοχό του, το Ινστιτούτο Ασφάλειας AI των ΗΠΑ, ο Paul έχει εργαστεί στην αξιολόγηση κορυφαίων μοντέλων AI, συμπεριλαμβανομένων δυνατοτήτων με επιπτώσεις στην εθνική ασφάλεια, καθώς και σε προσεγγίσεις για τον μετριασμό των συναφών κινδύνων ασφάλειας και προστασίας.
Ο Paul είναι επίσης ιδρυτής του Κέντρου Έρευνας για την Ευθυγράμμιση (ARC), ενός μη κερδοσκοπικού ερευνητικού οργανισμού που εστιάζει στην ευθυγράμμιση των προηγμένων συστημάτων AI με τα ανθρώπινα συμφέροντα. Από το 2017 έως το 2021, ο Paul ήταν επικεφαλής της έρευνας για την ευθυγράμμιση στην OpenAI και συνέβαλε στη θεμελίωση της ενισχυτικής μάθησης από σχόλια ανθρώπου (RLHF). Με τη νέα του ιδιότητα, ο Paul φέρνει μια ξεχωριστή, τεχνικά τεκμηριωμένη οπτική στις αποφάσεις διακυβέρνησης που βρίσκονται στον πυρήνα της αποστολής της OpenAI.
Ο Paul έχει συμβάλει στη διαμόρφωση του πεδίου της ευθυγράμμισης της AI μέσα από επιστημονικά τεκμηριωμένο έργο που εστιάζει στα δυσκολότερα ερωτήματα που θέτουν τα ολοένα πιο ικανά συστήματα. Η εμπειρία του σε κυβερνητικούς φορείς σε θέματα ασφάλειας και προτύπων για την κορυφαία AI, σε συνδυασμό με την τεχνική του κρίση, θα ενισχύσει την εποπτεία του Διοικητικού Συμβουλίου και το έργο της Επιτροπής Ασφάλειας και Προστασίας, καθώς η OpenAI συνεχίζει να αναπτύσσει και να διαθέτει κορυφαία AI.
Οι δυνατότητες της AI έχουν εξελιχθεί ραγδαία τον τελευταίο χρόνο και η ευθυγράμμιση παραμένει ένα δύσκολο τεχνικό πρόβλημα. Αυτό καθιστά την ευθύνη της Επιτροπής Ασφάλειας και Προστασίας πιο σημαντική και πιο απαιτητική από ποτέ. Χαίρομαι πολύ που εντάσσομαι στην ομάδα για να συνεισφέρω.
Η AI εισέρχεται σε μια νέα εποχή δυνατοτήτων. Γι’ αυτό γίνεται ολοένα πιο σημαντικό η πρόοδος αυτών των συστημάτων να συνοδεύεται από ισχυρές πρακτικές ασφάλειας, προστασίας, ευθυγράμμισης και διακυβέρνησης. Σε όλη την ερευνητική του πορεία στην ευθυγράμμιση της AI, ο Paul αντιμετωπίζει με σοβαρότητα το ενδεχόμενο η προηγμένη AI να εγκυμονεί καταστροφικούς κινδύνους και υποστηρίζει ότι όσοι την αναπτύσσουν πρέπει να προετοιμαστούν προτού τα συστήματα φτάσουν σε πιο επικίνδυνα επίπεδα δυνατοτήτων. Αποτελεί ανεξάρτητη φωνή στο ζήτημα της επάρκειας των δικλίδων ασφαλείας του κλάδου. Πιστεύουμε ότι η διακυβέρνηση του Ιδρύματος ενισχύεται με τη συμμετοχή ανθρώπων που είναι διατεθειμένοι να αμφισβητούν τις επικρατούσες παραδοχές και να συμβάλλουν στην ενίσχυση της τεκμηρίωσης, των δικλίδων ασφαλείας και της λογοδοσίας στις οποίες βασίζονται κρίσιμες αποφάσεις.
Ο διορισμός του Paul εντάσσεται στη δομή διακυβέρνησης που θεσπίστηκε μέσω της ανακεφαλαιοποίησης της OpenAI τον Οκτώβριο του 2025, συμπεριλαμβανομένων των δεσμεύσεων που αναλήφθηκαν στο πλαίσιο των ελέγχων που διενήργησαν επί ένα έτος ο Γενικός Εισαγγελέας της Καλιφόρνιας και η Γενική Εισαγγελέας του Ντέλαγουερ. Η συμμετοχή τους συνέβαλε στην ενίσχυση του πλαισίου διακυβέρνησης.
Σχετικά με το OpenAI Foundation
Το OpenAI Foundation είναι ένας κοινωφελής οργανισμός με αποστολή να διασφαλίζει ότι η AI ωφελεί ολόκληρη την ανθρωπότητα. Ως ξεχωριστός μη κερδοσκοπικός οργανισμός, το Ίδρυμα ασκεί τη δική του κοινωφελή δραστηριότητα, διατηρώντας παράλληλα τον έλεγχο της OpenAI Group PBC και κατέχοντας σημαντικό μετοχικό μερίδιο σε αυτήν. Το Ίδρυμα υποστηρίζει πρωτοβουλίες που προάγουν την επιστημονική ανακάλυψη, ενισχύουν την κοινωνία των πολιτών και καλλιεργούν την ανθεκτικότητα μέσω της υπεύθυνης AI. Μέσα από επιχορηγήσεις, συνεργασίες και άλλες φιλανθρωπικές πρωτοβουλίες, το Ίδρυμα συμβάλλει στην επιτάχυνση έργων που δημιουργούν διαρκές δημόσιο όφελος και διευρύνουν την πρόσβαση στις μετασχηματιστικές δυνατότητες της AI.
Το Ίδρυμα ελέγχει την OpenAI Group PBC, ενώ η Επιτροπή Ασφάλειας και Προστασίας αποτελεί επιτροπή του Διοικητικού Συμβουλίου του Ιδρύματος. Μάθετε περισσότερα στο www.openaifoundation.org.
*Στο πλαίσιο των καθηκόντων του ως Ανώτερου Τεχνικού Συμβούλου, ο Paul θα απέχει από όλα τα θέματα που σχετίζονται με την OpenAI, καθώς και από όλες τις αξιολογήσεις μοντέλων.