Inspiracją do powstania tego działu był wpis Singularity FAQ for Dummies z bloga Our Technological Future. Większość pytań/odpowiedzi odnosi się do podstawowych kwestii związanych z Technologiczną Osobliwością. Czytelnik musi pamiętać, iż (przynajmniej na razie) nie należy traktować przedstawionych tu rozważań (jak i wszystkich rozmów na temat TO) jako teorii naukowych (czy to poprawnych czy błędnych). W pewnym sensie "uprawiamy" tu niejako przewidywanie przyszłości, jednak (w przeciwieństwie do np. wróżenia albo bajek) przesłankami do naszych rozważań są właśnie teorie naukowe.

Pytania i odpowiedzi

Co to jest Technologiczna Osobliwość?

Krótką odpowiedź na to pytanie można znaleźć na stronie wstęp, nieco dłuższą w artykule Technologiczna Osobliwości razy trzy. Artykuł na ten temat można też przeczytać w polskiej Wikipedii.

Co oznaczają te wszystkie terminy (TO, The Singularity itp.)?

W celu uniknięcia zamieszania, można podsumować używane tutaj terminy następująco:

Technologiczna Osobliwość - w skrócie Osobliwość lub TO
Technological Singularity - w skrócie The Singularity lub Singularity
AI - Artificial Intelligence, czyli Sztuczna Inteligencja
Narrow AI - czyli Słaba/Ograniczona Sztuczna Inteligencja. Bardzo często używając terminu AI mamy na myśli Narrow AI.
AGI - Artificial General Intelligence, czyli Ogólna Sztuczna Inteligencja.
SAI - Superior/Strong Artificial Intelligence czy Najwyższa/Silna Sztuczna Inteligencja. Termin ten jest równoznaczny z AGI.

Czy TO to tylko fikcja naukowa (science-fiction)?

Jeszcze 100 lat temu Osobliwość na pewno zostałaby uznana za czystą fikcję naukową. Ponieważ za główny czynnik prowadzący do TO uważa się powstanie AGI, to na niej opierają się się wszelkie oceny realności/fikcyjności TO.
W tej chwili możemy z dosyć dużą pewnością przypuszczać, że stworzenie AGI jest możliwe. Istnieje wiele modeli przewidujących przebieg procesów myślowych ludzkiego mózgu, a technologie pozwalające na skanowanie budowy mózgu pozwalają na ujrzenie pojedynczych neuronów w czasie rzeczywistym (lista projektów, również komercyjnych, nastawionych na budowę Ogólnej Sztucznej Inteligencji znajduje się tutaj). Znamienny jest również fakt, że naukowcom udaje się stworzyć działające symulacje poznanych do tej pory obszarów mózgu¹.

Kiedy TO stanie się rzeczywistością?

Odpowiedź na to pytanie nie jest prosta. Bardzo wiele zależy od tego kiedy zostanie stworzona sztuczna inteligencja, a to może zależeć od szybkości rozwoju komputerów (choć niekoniecznie). Analizy przeprowadzone przez Ray'a Kurzweil'a sugerują, iż AGI może powstać w 2029 roku, a "punkt TO" osiągniemy w 2045 roku. Nie wszyscy naukowcy są tak "sceptyczni" i nie wszyscy są tak "optymistyczni". Ben Goerzel, którego firma (Novamente) intensywnie pracuje nad stworzeniem AGI, uważa iż AGI może powstać nawet za 3 lata, gdyby tylko dysponował środkami podobnymi np. do Microsoftu. Inni naukowcy sądzą, że może stać się to o wiele później, a są i tacy, którzy uważają, że ta chwila nie nadejdzie nigdy.

Czym się różni Ograniczona Sztuczna Inteligencja (Narrow AI) od Ogólnej Sztucznej Inteligencji (AGI)?

Narrow AI (często po prostu AI) jest zdolna tylko do wykonywania wąskiego zakresu zadań, do których została zbudowana. Większość do tej pory tworzonych sztucznych inteligencji to właśnie Narrow AI. Jako przykład można podać tutaj oprogramowanie samochodów biorących udział w wyścigu DARPA Grand Challenge, uczących się przeciwników w grach komputerowych lub oprogramowanie do rozpoznawania mowy. Projekty takie oparte są m.in. na sieciach neuronowych, które konstruowane są tak, że można stosować tylko do konkretnych zadań.
AGI jest to zatem sztuczna inteligencja, która podobnie do nas będzie w stanie wykonywać szerokie zakresy zadań, a nie tylko te, do których przystosują ją programiści. Przewiduje się, że AGI dzięki procesom myślowym podobnym do tych zachodzących w ludzkim mózgu będzie w stanie osiągnąć świadomość istnienia samej siebie.

Prawdę mówiąc nadal nie rozumiem czym się różni Technologiczna Osobliwość od Ogólnej Sztucznej Inteligencji?

Właściwie ciężko tu mówić o różnicy. Oba pojęcia dotyczą innych kwestii. AGI jest maszyną/stworzeniem, która posiada poziom inteligencji zbliżony bądź większy niż dzisiejszy człowiek. TO dotyczy czasu w przyszłości kiedy AGI osiągnie taki poziom rozwoju, iż będzie w stanie rozwijać samą siebie.

Jak/czy można stworzyć AGI?

Uważa się, że są dwie główne drogi prowadzące do stworzenia AGI:

zbudowanie jej całkowicie od początku - w tej chwili istnieje już całkiem sporo projektów² stawiających sobie za cel stworzenie "teorii umysłu", a często także ich implementację. Przykładowo firma Novamente pracuje nad AGI³ opierając swój projekt na dobrze zbadanych jak i bardzo świeżych założeniach teoretycznych.
zbadanie budowy ludzkiego mózgu - skanowanie budowy mózgu, jej analiza i wyciągane dzięki temu wnioski mogą pomóc zbudować AGI⁴. Nanotechnologia jest w tej chwili bardzo szybko rozwijającą się nauką. Budowanie armii maleńkich robotów pomoże nam stworzyć doskonalsze skanery, które będą w stanie wnikać bezpośrednio do naszego mózgu (np. poprzez krew) i przesyłać informacje o jego działaniu. Warto zauważyć, że nanotechnologia to już nie tylko fikcja, już teraz istnieją eksperymentalne urządzenia wielkości komórek krwi, potrafiące niszczyć komórki raka u zwierząt⁵.

W praktyce okazać się może, że AGI powstanie dzięki połączeniu tych dwóch podejść - zostanie zastosowana częściowo wiedza zdobyta dzięki technikom skanowania, a częściowo dzięki rozwiązaniom wymyślonym od początku. Większość aktualnie prowadzonych projektów w mniejszym lub większym stopniu korzysta z wiedzy zdobytej o tym jak działa nasz mózg.

Roger Penrose argumentuje, że w procesach myślowych biorą udział zjawiska kwantowe, a ponieważ tradycyjne komputery są deterministyczne niemożliwe jest, aby mogły pełnić funkcje podobne do ludzkiego mózgu. Teoria ta nie została jednak szerzej zaakceptowana w środowiskach naukowych.

Czy powstaną komputery, na których będzie można uruchomić AGI?

Wygląda na to, iż nic nie stoi temu na przeszkodzie. Niektórzy szacują, że już teraz istniejące najszybsze superkomputery mają wystarczającą moc, aby uruchomić na nich AGI (niestety nie posiadamy odpowiedniego oprogramowania). Pewną wskazówką jak rozwijają się komputery może być Prawo Moore'a i jego pochodne (mówiące np. że prędkość komputerów zwiększa się 2-krotnie co 18 miesięcy, to znaczy, że za 3 lata będziemy mieli 4 razy szybsze komputery, a za 5.5 roku już 8 razy szybsze niż dzisiejsze). Choć od dawna pojawiają się sugestie, że może ono przestać obowiązywać to ciągły rozwój technologii zdaje się temu zaprzeczać. W tej chwili, mimo iż możliwości poczciwego tranzystora zdają się powoli kończyć, istnieje duża szansa, że rozwijająca się nanotechnologia pomoże stworzyć jego "następcę"⁶. Biorąc to pod uwagę, nawet jeśli aktualny rozwój technologii jest niewystarczający dla AGI, już niedługo sytuacja może ulec zmianie.

Jak szybki musi być komputer, na którym da się uruchomić AGI?

Znając kilka danych możemy przeprowadzić pewne obliczenia. Aktualnie przyjmuje się (zawyżając nieco w górę), że:

ludzki mózg posiada 100 miliardów neuronów (100*10^9=10^11)
częstotliwość z jaką neurony propagują informacje to około 200Hz (200 razy na sekundę)
każdy neuron ma 1000 połączeń z innymi neuronami

Sumarycznie daje to 10^11*10^3*2*10^2=2*10^16 operacji na sekundę.
Z drugiej strony procesor Intel Core 2 Duo E6320 (1.83 GHz) kosztujący teraz (2007 rok) około 600zł wykonuje 10 tysięcy (10^4) milionów operacji na sekundę⁷. Najszybsze komputery świata roku 2007 przekraczają zaś trzykrotnie barierę 100 bilionów (100*10^12=10^14) operacji na sekundę. Widać chyba wyraźnie jak blisko jesteśmy, a nawet jeśli robimy spore błędy w naszych obliczeniach (np. 1000 krotne), to dzięki kontynuacji rozwoju komputerów w tempie przewidzianym przez prawo Moore'a, komputery za około 15 lat będą 1000 razy szybsze, a za 25 lat ponad 100 tysięcy razy szybsze (czyli procesor w cenie Core 2 Duo będzie w stanie wykonać 10^9 operacji na sekundę, a superkomputer 10^19).
Jak widać wygląda na to, że już niedługo czeka nas era komputerów gotowych na AGI, zwłaszcza biorąc pod uwagę, że przyjmowane liczby są zawyżane/zaniżane tak, aby nie można było ich nazwać optymistycznymi!
Obliczenia te pomijają fakty, że do pewnych zadań (np. pamięć) komputery są wręcz stworzone, że mózg realizuje wiele innych zadań poza procesami myślowymi i że wszystkie neurony nie aktywują się w każdym cyklu. Uwzględnienie tych kwestii może dodatkowo ograniczyć szacowaną moc obliczeniową mózgu.

Dokładną dyskusję wymaganej mocy obliczeniowej przeprowadził Nick Bostrom w artykule How long before superintelligence (paragraf "Hardware requirements").

Czy AGI nie zniszczy/zniewoli ludzkości?

Początkowo, bez głębszego zastanowienia się nad tym pytaniem może się wydawać, że o ile powstanie AGI to nasze dni są policzone. Ryzyko takie istnieje, choć wcale nie jesteśmy na to skazani. Warto zauważyć, że prócz ludzi złych, którzy byliby gotowi na zniszczenie istot słabszych istnieją ludzie zachowujący się zupełnie odwrotnie. Jaką mamy gwarancje, że super potężna inteligencja będzie chciała nam pomagać? Tworzymy ją my, ludzie więc możemy zbudować ją tak, aby jej celem było pomaganie ludzkości. Przytomny czytelnik zapyta jednak: no tak, ale przecież ona ma siebie samą modyfikować? Owszem, ale czy kochając ludzi zmodyfikowałbyś się tak, aby zostać mordercą? Oczywiście, modyfikując się możesz popełnić błąd. Tu jednak przychodzi nam z pomocą matematyka, dzięki której naukowcy już teraz próbują budować bazę dla dowodów mówiących, że dana AGI po modyfikacjach nie zmieni swojego systemu motywacyjnego. Jeśli będziemy znali budowę AGI będziemy mogli prześledzić jak zachowa się w określonych sytuacjach.

To niemożliwe! Ludzki mózg jest zbyt skomplikowany!

Takie osądy wydają zazwyczaj ludzie niezaznajomieni z postępem jaki dokonuję się aktualnie w naszej wiedzy na temat ludzkiego mózgu. Rzeczywiście, mózg jest skomplikowanym organem. Nie aż tak skomplikowanym, aby niemożliwe było poznanie jego budowy. Ludzki kod genetyczny, będący dla człowieka tym czym jest kod źródłowy dla programu komputerowego, zawiera około 0.8GB informacji (nieco więcej niż płyta CD), w tym instrukcje jak zbudować mózg człowieka. Duża część informacji zawartych w kodzie genetycznym jest jednak nadmiarowa. Sekwencja "ALU", według Kurzweila, powtarza się około 300 tysięcy razy. Używając podstawowej metody kompresji, usuwającej nadmiarowość, można zmniejszyć objętość kodu genetycznego do około 25MB. Tylko około połowa z tego odpowiada za mózg, a jest to wielkość z jaką jesteśmy sobie poradzić przy rekonstrukcji lub próbie wykonania jego odpowiednika.

Czy komputery będą posiadały świadomość?

Nie wiadomo⁸. Przede wszystkim należy rozróżnić dwa podobne pojęcia: świadomość w sensie umiejętności modelowania istnienia samego siebie w procesach myślowych od świadomości w sensie subiektywnego odczucia istnienia naszych myśli i istnienia. Wydaje się, iż jest prawdopodobne, że pierwszy rodzaj świadomości będzie osiągalny dla komputerów. Za pomocą nowoczesnych technik służących do badania aktywności mózgu można obserwować, które obszary mózgu biorą udział w procesie świadomego myślenia. Istnieją także teorie wyjaśniające powstawanie świadomości⁹. Dowodów na ich poprawność jednak nie posiadamy, a granica pomiędzy pierwszym, a drugim rodzajem świadomości jest ciężka do zdefiniowania. Problem jest skomplikowany: jak np. stwierdzić czy AGI, która mówi nam, iż odczuwa świadomość subiektywnie na prawdę "ją czuje" w taki sposób jak ludzie?

O co chodzi z postępem w tempie wykładniczym?

Ray Kurzweil dokładnie przeanalizował tempo rozwoju technologicznego i naukowego ludzkości. Wnioski wynikające z jego prac sugerują, że rozwój każdej technologii i nauki można opisać funkcją wykładniczą. Często dochodzi jednak do sytuacji, że możliwości danej technologii zostają całkowicie wykorzystane. Kurzweil pokazuje, że następuje wtedy zmiana paradygmatu i wykładnicze tempo postępu zostaje utrzymane. Jako przykład można tutaj przytoczyć zastąpienie lampy tranzystorem (zmiana paradygmatu) i prawo Moore'a (wykładniczy postęp).
Czym jest funkcja wykładnicza i dlaczego tak bardzo zmienia nasze spojrzenie na szybkość rozwoju technologii i nauki? Jeśli przyjmiemy, że komputery co 24 miesięcy (aktualnie jest to około 18, a 24 przyjmujemy dla uproszczenia) zwiększają swoją prędkość 2 krotnie możliwe będzie stworzenie następującej tabeli:

rok (ile lat upłynęło od chwili 0)	1	5	10	20	40
krotność zwiększenia prędkości	2^1=2	2^5=32	2^10=1024	2^20=1048576	2^40=1099511627776

Jak widać wynika z tego, że im więcej czasu upłynie tym szybciej rozwija się dana technologia, co jest niezmiernie ważne dla nauki jaką jest sztuczna inteligencja. Do niedawna rozwijała się ona dosyć wolno. Analizując jednak aktualnie czynione postępy możemy spodziewać się, iż niedługo szybkość postępu zacznie się drastycznie zwiększać.
Ważne jest, że początkowo przybliżeniem funkcji wykładniczej jest funkcja liniowa. Z tego powodu w przeszłości dochodziło często do pomyłek gdy próbowano ocenić szybkości postępu różnych nauk lub technologii.

Jak to możliwe, iż komputery będą coraz mądrzejsze?

Do zrozumienia tej kwestii należy zdawać sobie sprawę czym jest kod źródłowy programu komputerowego. W pewnym uproszczeniu są to instrukcje wprowadzane przez programistę do komputera, które następnie ten wykonuje. AGI ze względu na swoją naturę będzie programem komputerowym. Jeśli sama będzie na tyle inteligentna, aby zrozumieć swój kod źródłowy, będzie też mogła go modyfikować. Może go zmodyfikować tak, aby powstał jej mądrzejszy potomek. Potomek ten może powtórzyć tę operację. Ciąg takich operacji doprowadzi do coraz szybszego rozwoju AGI (w pewnym momencie dojdzie do Technologicznej Osobliwości). Im mądrzejsza i szybsza będzie AGI tym szybciej będą następowały zmiany. Może to oznaczać, że AGI sama siebie będzie rozwijać w tempie wykładniczym.

Czy to znaczy, że nie będziemy dorównywać inteligencją komputerom?

Oczywiście jeśli wziąć pod uwagę mózg, który posiada żyjący teraz człowiek to samo modyfikująca się AGI szybko wykroczy poza nasze możliwości poznawcze. Niekoniecznie jednak jesteśmy skazani na żywot jako zwierzątka domowe komputerów. Za pomocą interfejsów mózg-komputer będziemy prawdopodobnie zwiększać możliwości naszego umysłu, dzięki zmianom genetycznym będzie można udoskonalić budowę naszego mózgu, a odpowiednio zaprogramowana AGI może pomagać rozwijać użyteczną dla nas technologie. Istnieje też możliwość, że niektórzy z nas zechcą zamienić swoje biologiczne mózgi na elektroniczne lub wieść życie w elektronicznych światach. Ze względu na potencjał AGI i nieprzewidywalną przyszłość po TO ciężko jest przewidywać jak niewyobrażalnie zmieni się otaczający nas świat, a co za tym idzie, także my i nasze życie.

Historia zmian

22.05.2008

drobne poprawki i uzupełnione przypisy

21.05.2008

poprawki w tłumaczeniach Narrow AI i SAI

18.02.2008

małe rozszerzenie wstępu o uwagę dotyczącą charakteru niniejszego faq
przeniesienie wzmianki o argumentacji Rogera Penrose'a do pytania "Jak/czy można stworzyć AGI?"
zupełnie nowa odpowiedź na pytanie "Czy komputery będą posiadały świadomość?"
drobne poprawki stylistyczne i gramatyczne

Przypisy

Oceń tę stronę

Komentarze

Dodaj nową wypowiedź

Technologiczna Osobliwość

i sztuczna inteligencja

Wstęp