Paul Christiano tekur sæti í stjórn OpenAI Foundation
Paul Christiano mun einnig taka sæti í Öryggisnefnd stofnunarinnar.
Við tilkynnum að Paul Christiano hafi verið skipaður í stjórn OpenAI Foundation. Hann verður áheyrnarfulltrúi án atkvæðisréttar í stjórn OpenAI Group PBC.
Paul mun einnig taka sæti í Öryggisnefndinni á vegum stjórnar stofnunarinnar og starfa þar með formanni hennar, Zico Kolter. Öryggisnefndin hefur yfirumsjón með öryggis- og verndarstarfi hjá OpenAI í heild, þar á meðal hjá OpenAI Group PBC.
Paul býr yfir reynslu úr stjórnkerfinu í tíð tveggja ríkisstjórna vegna starfa sinna hjá Miðstöð staðla og nýsköpunar á sviði gervigreindar (CAISI) innan Bandarísku staðla- og tæknistofnunarinnar (NIST), sem heyrir undir viðskiptaráðuneyti Bandaríkjanna. Þar er hann háttsettur tækniráðgjafi. Í störfum sínum hjá CAISI og forvera hennar, Bandarísku gervigreindaröryggisstofnuninni, hefur Paul unnið að mati á háþróuðum gervigreindarlíkönum, meðal annars getu þeirra sem getur haft áhrif á þjóðaröryggi, og leiðum til að draga úr tengdri öryggisáhættu.
Paul er einnig stofnandi Rannsóknarmiðstöðvar um samræmingu gervigreindar (ARC), rannsóknarstofnunar án hagnaðarsjónarmiða sem vinnur að því að samræma háþróuð gervigreindarkerfi mannlegum hagsmunum. Frá 2017 til 2021 stýrði Paul rannsóknum á samræmingu gervigreindar hjá OpenAI og lagði grunn að vinnu við mannlega endurgjöf (RLHF). Í þessu nýja hlutverki færir Paul sérstakt sjónarhorn, byggt á tækniþekkingu, inn í ákvarðanir um stjórnarhætti sem eru lykilatriði í að uppfylla markmið OpenAI.
Paul hefur átt þátt í að móta rannsóknasvið samræmingar gervigreindar við mannleg markmið með vönduðu starfi sem beinist að erfiðustu spurningunum sem vakna eftir því sem kerfin verða öflugri. Reynsla hans af starfi innan stjórnkerfisins við öryggi og staðla fyrir háþróaða gervigreind, ásamt tæknilegri dómgreind hans, mun efla eftirlit stjórnarinnar og starf Öryggisnefndarinnar á meðan OpenAI heldur áfram að þróa og taka í notkun háþróaða gervigreind.
Geta gervigreindar hefur aukist mjög hratt á síðasta ári og samræming hennar við mannleg markmið er enn erfitt tæknilegt úrlausnarefni. Ábyrgð Öryggisnefndarinnar er því mikilvægari og krefjandi en nokkru sinni fyrr. Ég hlakka til að ganga til liðs við hópinn og leggja mitt af mörkum.
Gervigreind er að ganga inn í nýtt tímabil aukinnar getu. Því verður sífellt mikilvægara að framförum í þessum kerfum fylgi öflugar öryggis- og verndarráðstafanir, góð samræming við mannleg markmið og traustir stjórnarhættir. Í gegnum allan feril sinn við rannsóknir á samræmingu gervigreindar hefur Paul tekið alvarlega þann möguleika að háþróuð gervigreind geti haft hörmulegar afleiðingar í för með sér og að þróunaraðilar verði að undirbúa sig áður en geta kerfanna nær hættulegra stigi. Hann hefur látið í sér heyra með sjálfstæðum hætti í umræðu um hvort öryggisráðstafanir greinarinnar séu fullnægjandi. Við teljum að stjórnarhættir stofnunarinnar verði sterkari með fólki sem er reiðubúið að véfengja ríkjandi forsendur og hjálpa til við að efla þekkingargrunn, öryggisráðstafanir og ábyrgð sem mikilvægar ákvarðanir byggjast á.
Skipun Pauls byggir á þeirri stjórnskipan sem var komið á við endurskipulagningu á fjármagni OpenAI í október 2025. Þar undir falla þær skuldbindingar sem gerðar voru í tengslum við úttektir sem dómsmálaráðherra Kaliforníu og dómsmálaráðherra Delaware unnu að í eitt ár. Aðkoma þeirra hjálpaði til við að styrkja umgjörð stjórnarhátta.
Um OpenAI Foundation
OpenAI Foundation er góðgerðarstofnun sem vinnur að því að tryggja að gervigreind gagnist öllu mannkyni. Stofnunin er sjálfstæð og starfar án hagnaðarsjónarmiða. Hún sinnir eigin góðgerðarstarfsemi en fer jafnframt með yfirráð yfir OpenAI Group PBC og á þar verulegan eignarhlut. Stofnunin styður verkefni sem stuðla að vísindalegum uppgötvunum, efla borgaralegt samfélag og auka viðnámsþrótt með ábyrgri notkun gervigreindar. Með styrkjum, samstarfi og öðrum góðgerðarverkefnum hjálpar stofnunin til við að hraða vinnu sem skapar varanlegan samfélagslegan ávinning og veitir fleirum aðgang að þeim umbreytandi möguleikum sem gervigreind býður upp á.
Stofnunin fer með yfirráð yfir OpenAI Group PBC og Öryggisnefndin er nefnd á vegum stjórnar stofnunarinnar. Frekari upplýsingar á www.openaifoundation.org.
*Í starfi sínu sem háttsettur tækniráðgjafi mun Paul víkja sæti við meðferð allra mála sem tengjast OpenAI og við allt mat á líkönum.