Pracownicy Open AI ostrzegają przed odkryciem, które może zagrozić ludzkości. Przełomowy projekt Q*

Oskar NawalanyOskar Nawalany
opublikowano: 2023-11-23 12:55

Pracownicy OpenAI ostrzegli zarząd przed przełomowym osiągnięciem w dziedzinie sztucznej inteligencji, które ich zdaniem może zagrozić ludzkości. Stało się to przed usunięciem z firmy szefa, Sama Altmana, informują dwa poufne źródła agencji Reuters. List, który wcześniej nie był ujawniany, oraz nowy algorytm sztucznej inteligencji stanowiły kluczowe elementy poprzedzające odwołanie Altmana, lidera w dziedzinie generatywnej sztucznej inteligencji – podaje agencja Reuters.

Posłuchaj
Speaker icon
Zostań subskrybentem
i słuchaj tego oraz wielu innych artykułów w pb.pl
Subskrypcja

Ponad 700 pracowników groziło wcześniej odejściem z firmy, solidaryzując się ze zwolnionym szefem. List pracowników został uznany za jeden z powodów zwolnienia Altmana, obok innych zarzutów, takich jak obawy związane z komercjalizacją postępów przed pełnym zrozumieniem ich konsekwencji.

Projekt Q* może być przełomem w dziedzinie sztucznej inteligencji

Po skontaktowaniu się z agencją Reuters OpenAI potwierdziło wewnętrzną wiadomość dla pracowników, w której wspomniano o projekcie o nazwie Q* i liście do zarządu przed wydarzeniami związanymi z odejściem Altmana. Niektórzy pracownicy OpenAI uważają, że Q* może być przełomem w poszukiwaniach ogólnej sztucznej inteligencji (General Artificial Intelligence – w skrócie AGI) - systemów autonomicznych przewyższających ludzi w większości ekonomicznie wartościowych zadań.

Nowy model Q* był zdolny do rozwiązywania pewnych problemów matematycznych, co budziło optymizm badaczy co do przyszłego sukcesu projektu, choć jego umiejętności były na poziomie uczniów szkoły podstawowej. Niezależna weryfikacja tych zdolności była niemożliwa. Badacze uznają zdolność sztucznej inteligencji do rozwiązywania problemów matematycznych za kluczowy krok w rozwoju generatywnej sztucznej inteligencji, umożliwiający jej bardziej zaawansowane rozumowanie, podobne do ludzkiego.

List pracowników do zarządu podkreślał potencjalne zagrożenia związane z postępem sztucznej inteligencji, chociaż konkretne obawy nie zostały ujawnione.

Sam Altman został przywrócony na stanowisko szefa OpenAI

Sam Altman, który przyczynił się do szybkiego rozwoju Chatu GPT, został zwolniony, mimo że na konferencji dla światowych liderów wyraził przekonanie o zbliżających się znaczących postępach. Ostatecznie OpenAI doszło jednak do porozumienia w kwestii przywrócenia Sama Altmana na stanowisko po wcześniejszym odwołaniu go z funkcji szefa firmy - donosiła w środę agencja Reuters. Ponadto OpenAI zaakceptowało wprowadzenie zmian w zarządzie.