Kiedy mówimy o sztucznej inteligencji (AI), często wyobrażamy sobie komputer, który rozwiązuje problemy szybciej niż człowiek. Ale co, jeśli sztuczna inteligencja stałaby się tak zaawansowana, że przewyższyła nasze umiejętności poznawcze? Oto przerażający scenariusz superinteligentnej AI, której nie da się kontrolować.
To nie jest tylko dystopia science fiction. Coraz więcej badaczy jest przekonanych, że będziemy musieli się zmierzyć z realnym problemem utrzymania kontroli nad superinteligentnymi systemami. Wszystko sprowadza się do zdolności do symulowania i zrozumienia działania takiej inteligencji.
Kiedy sterujemy AI, musimy być w stanie przewidzieć, co zrobi. Oznacza to tworzenie symulacji jej działania, której możemy dokładnie przeanalizować. Ale jeśli nie jesteśmy w stanie zrozumieć tej symulacji, to znaczy, że nie da się jej stworzyć.
Równie ważne jest, że nie możemy nałożyć reguł na system, którego nie rozumiemy. Nawet najprostsza zasada, taka jak “nie krzywdź ludzi”, jest niemożliwa do zaimplementowania, jeśli nie rozumiemy wszystkich potencjalnych scenariuszy, które może generować AI.
Ten problem ma swoje korzenie w koncepcji znanym jako problem stopu, sformułowanym przez Alana Turinga w 1936 roku. Pytanie brzmi: jak możemy wiedzieć, czy dany program komputerowy dojdzie do wniosku, czy zapętli się, próbując go znaleźć? Mimo że jesteśmy w stanie to stwierdzić dla niektórych programów, nie istnieje uniwersalny sposób na określenie tego dla każdego możliwego programu.
Przy superinteligentnej AI, która jest w stanie przechowywać w swojej pamięci wszystkie możliwe programy, problem ten staje się jeszcze bardziej skomplikowany. Możemy napisać program, który próbuje zatrzymać AI przed krzywdzeniem ludzi, ale nie możemy być absolutnie pewni, czy ten program będzie skuteczny – nie ma matematycznego sposobu na potwierdzenie tego.
Niektórzy badacze sugerują, że skoro nie możemy nauczyć AI etyki, powinniśmy ograniczyć jej możliwości – na przykład, odciąć ją od Internetu. Jednakże, takie podejście mogłoby ograniczyć potencjał AI i zablokować jej możliwość rozwoju.
Wielu uważa, że punkt zwrotny, kiedy superinteligencja stanie się niekontrolowalna, może nastąpić bez ostrzeżenia. To stawia przed nami poważne pytania dotyczące naszej przyszłości z AI. Czy jesteśmy gotowi, aby skonfrontować się z takim wyzwaniem? Czy mamy plan na radzenie sobie z niekontrolowaną superinteligencją? Czy jesteśmy gotowi zrezygnować z kontroli, która do tej pory była naszym priorytetem? Wszystko to są pytania, na które musimy znaleźć odpowiedzi, zanim będzie za późno.
Zgłoś naruszenie/Błąd
Pozytywnie
Neutralnie 
Negatywnie
Lubię to!
Super
Ekscytujący 
Ciekawy
Smieszny
Smutny
Wściekły
Przerażony
Szokujący
Wzruszający
Rozczarowany
Zaskoczony
Prawda
Manipulacja
Fake news
Oryginalne źródło ZOBACZ
Dodaj kanał RSS
Musisz być zalogowanym aby zaproponować nowy kanal RSS