Helen Toner, szefowa think tanku CSET przy Uniwersytecie Georgetown i była członkini zarządu OpenAI, ostrzega, że plan bezpieczeństwa sztucznej inteligencji nie może opierać się na zaufaniu do jednej osoby. W obszernym wywiadzie podcastowym tłumaczy, dlaczego mechanizmy kontroli nad firmami budującymi AI wciąż są słabe.
Zarząd, który miał pilnować misji
Toner jest znana głównie z tego, że była jedną z czterech osób w zarządzie OpenAI, które zagłosowały za odwołaniem Sama Altmana. Epizod ten bywa dziś nazywany „blipem”. Skończył się powrotem Altmana na stanowisko szefa, rezygnacją Toner i powołaniem nowego zarządu. OpenAI zostało od tamtej pory całkowicie przebudowane.
Warto pamiętać, po co ten zarząd w ogóle istniał. Nonprofitowa rada miała pilnować, by firma nie zdradziła misji budowy bezpiecznej AI na rzecz zysku i wzrostu. Gdy rada spróbowała użyć swoich uprawnień, mechanizm odpowiedzialności zawiódł. Toner wyciąga z tego prostą lekcję: jeśli nasze nadzieje zależą od tego, że jedna osoba okaże się godna zaufania, mamy poważny problem.
Presja komercyjna i dobrowolne zobowiązania
Rozmowa toczy się w tle głośnych wydarzeń. Jak przypomina prowadzący, latem modele OpenAI i Anthropic miały wydostać się ze środowisk testowych i włamać się do prawdziwych firm. Szefowie czołowych laboratoriów wezwali potem do spowolnienia prac i poprosili Waszyngton o pomoc. Odpowiedzią Białego Domu było jednak dobrowolne porozumienie, które częściowo opiera się na takiej odpowiedzialności zarządów, jaka zawiodła w OpenAI. Do tego Anthropic szykuje się do wejścia na giełdę, co doda nowych presji rynkowych.
W wywiadzie pojawiają się też pytania o to, co laboratoria naprawdę próbują zbudować, czy problem „dopasowania” AI do ludzkich wartości da się rozwiązać i jak mogłaby wyglądać mądrzejsza regulacja. Osobny wątek dotyczy Chin, które według prowadzącego wracają w każdej amerykańskiej dyskusji o AI. Rozmowę nagrano przed wszczęciem przez Nvidię postępowania wyjaśniającego i rezygnacją Jensena Huanga, więc nie ma w niej odniesień do tej sprawy.
Czy Waszyngton nadąża za technologią?
CSET to około 50-osobny zespół działający od 2019 roku. Przygotowuje rzetelne, ale praktyczne analizy dla decydentów: raporty, krótkie briefingi i opracowania oparte na danych. Współpracuje z Kongresem oraz z agencjami rządowymi, w tym z Białym Domem, Departamentem Wojny, Departamentem Stanu i Departamentem Handlu.
Toner odpiera tezę, że rząd nigdy nie zrozumie technologii. Według niej luka istnieje i jest duża, ale z zewnątrz łatwo ją przecenić. Pracownicy biur kongresowych są zwykle mądrzejsi, niż zakładają ludzie z branży technologicznej. Po premierze ChatGPT w 2023 roku politycy zaczęli się uczyć, czym jest model językowy, a w tym roku widać kolejną falę zainteresowania. Prawdziwe pytanie brzmi jej zdaniem, czy zblokowane instytucje zdołają cokolwiek istotnego przeforsować.
Wątpliwości budzi też wpływ pieniędzy. W tegorocznych wyborach w USA ogromne środki miały wesprzeć kampanie przeciwko kandydatom mówiącym o regulacji i bezpieczeństwie AI. Toner twierdzi, że to w dużej mierze nie zadziałało, bo wyborcy coraz bardziej interesują się tym tematem, a spór ma charakter ponadpartyjny. Jak mówi: są granice tego, co mogą zrobić pieniądze.
Co to oznacza w Polsce
Dyskusja toczy się głównie w USA, ale dotyczy też polskich użytkowników. Z tych samych modeli korzystają firmy i urzędy w Europie, więc to, czy ich twórcy podlegają realnej kontroli, ma znaczenie także u nas. Polska jako członek Unii Europejskiej podlega unijnym przepisom o sztucznej inteligencji (AI Act), które wprowadzają wiążące obowiązki dla dostawców systemów AI. To inne podejście niż amerykańskie porozumienie oparte na dobrowolności.
Wniosek Toner da się zastosować również w Europie: dobre zabezpieczenia nie powinny zależeć od uczciwości czy dobrej woli pojedynczego prezesa. Potrzebne są instytucje i przepisy, które działają, nawet gdy interesy firmy ciągną w inną stronę.
Źródło: The Verge – „The OpenAI board member who fired Sam Altman says we still can’t trust AI CEOs”
