AI zagrożeniem dla ludzkości? Pracownicy OpenAI obawiają się prototypu Q

Przed zwolnieniem Sama Altmana, dyrektora generalnego OpenAI, kilku pracowników naukowych organizacji napisało list, wyrażający wątpliwość wobec potencjału sztucznej inteligencji. Autorzy ostrzegli w nim, że postępy w rozwoju nowoczesnej technologii mogą stanowić zagrożenie dla ludzkości.

Sam Altman jest jednym z kluczowych przedstawicieli sztucznej inteligencji. Wcześniej, przed jego powrotem, aż 700 pracowników zagroziło zarządowi OpenAI odejściem z pracy i przejściem do Microsoftu – jako wyraz solidarności ze zwolnionym dyrektorem. Ostatecznie, Altman powrócił na stanowisko CEO OpenAI, a kierownictwo, które wcześniej zdjęło go ze stanowiska, zostało zastąpione przez nowy zarząd. 

Według informacji podanych przez Reutersa, napisany przez naukowców list miał być jednym z powodów zwolnienia Altmana. W wiadomości zarządu firmy, wysłanej do pracowników potwierdzono istnienie tzw. projektu Q, który ma stanowić przełom w poszukiwaniach sztucznej inteligencji ogólnej (AGI).

Czym jest AGI?

AGI, według przedstawicieli OpenAI to autonomiczne systemy, zdolne przewyższać ludzi w wartościowych ekonomicznych zadaniach. 

Jeden z pracowników firmy, który postanowił zachować anonimowość, powiedział, że nowy model sztucznej inteligencji jest w stanie rozwiązywać problemy matematyczne, dzięki zasobom obliczeniowym. Mimo, że na razie są to zadania na poziomie szkoły podstawowej, potencjał nowego prototypu AI, zdaniem naukowców, jest dość ogromny. 

W przeciwieństwie do zwykłego kalkulatora, AGI ma mieć zdolność uczenia się, uogólniania i rozumienia.

Cienie nowego prototypu

Wyposażenie sztucznej inteligencji w zdolności matematyczne oznacza, że będzie ona miała możliwości rozumowania na poziomie inteligencji ludzkiej. Może to przyczynić się do redukcji miejsc pracy. Kiedy model AGI rozwinie swoje możliwości, może się okazać, że księgowi i analitycy finansowi nie będą już potrzebni.

Autorzy listu, którego treść do tej pory nie jest dokładnie znana, zauważyli jednak dużo większy problem. Rozwinięta sztuczna inteligencja może w przyszłości przestać słuchać się swych twórców, a nawet stwierdzić, że należy przeprowadzić zagładę ludzkości. Technologia, która powstała dla dobra ludzkości, mogłaby się zatem stać jej największym wrogiem.

AI będzie się nadal rozwijać

Mimo obaw ze strony ekspertów technologicznych, nic nie wskazuje na to, by prace nad doskonaleniem sztucznej inteligencji miały zostać wstrzymane. Na początku br. informowaliśmy, że Microsoft zamierza przekazać 10 mld dolarów na badania, rozwój, a także udostępnianie narzędzi, opartych na AI. Zapowiadano wtedy wstęp do „niezależnej komercjalizacji zaawansowanych technologii AI”.

Sam Altman włożył w ostatnich latach sporo wysiłku, by ChatGPT był jedną z najszybciej rozwijających się technologii w historii. Starał się pozyskać inwestycje, jak również zasoby obliczeniowe od Microsoftu. 

W zeszłym tygodniu, CEO OpenAI na szczycie światowych przywódców w San Francisco stwierdził, że wierzy, iż postęp jest w zasięgu wzroku.

– Cztery razy w historii OpenAI, ostatni raz w ciągu ostatnich kilku tygodni, miałem okazję być na sali, kiedy w pewnym sensie przesuwamy zasłonę ignorancji i granicę odkryć do przodu, a robienie tego jest zawodowym zaszczytem życia – powiedział wówczas Sam Altman.

To nie pierwszy raz, kiedy właściciel X zaskakuje internautów. Tym razem, portal oficjalnie wkracza na nowy poziom udogodnień w zakresie sztucznej inteligencji. Ruszyły prace nad chatbotem aXI, którego Musk nazwał „Grokiem”. Obecnie znajduje się w fazie testów, a jego premierę będą mogli zobaczyć użytkownicy pakietu X Premium+.

W pierwszej połowie sierpnia, po udanej fazie testów drogerie dm uruchomiły własny chat dmGPT (dm Generative Pre-trained Transformer). Obecnie jest on dostępny dla ponad 3000 pracowników centrali w Niemczech. Docelowo będą mogli z niego korzystać pracownicy wszystkich krajów należących do grupy dm, w tym także w Polsce.

Zgłoś naruszenie/Błąd