środa, 25 kwietnia 2012

Czy sztuczna inteligencja zabije nasze wnuki ?


W dzisiejszym artykule zajmiemy się pewną niezwykle ciekawą kwestią z obszaru skrzyżowania ewolucji z cybernetyką. O tym jak niewielkimi kroczkami, zbliża się do nas możliwa zagłada, ze strony czegoś, co większość z nas uważa wyłącznie za fantastykę.



Osobliwość technologiczna

Od kilkunastu lat narasta w kręgach naukowych pewna ważka i niepokojąca kwestia, związana z rozwojem sztucznej inteligencji. Zakłada się, że jeśli wytworzenie prawdziwej sztucznej inteligencji jest możliwe i człowiekowi uda się to uczynić, to wytwór naszych działań, niemal natychmiast zacznie ulepszać sam siebie a każde kolejne ulepszenie, umożliwi mu wykonywanie kolejnych ulepszeń, co zapoczątkuje ciąg rozwojowy, który narastał będzie coraz szybciej, ponieważ maszyna stając się coraz bardziej inteligentna, będzie również coraz lepsza w czynieniu siebie samej bardziej inteligentną.

W pewnym momencie maszyna osiągnie punkt, w którym kolejne ulepszenia całkowicie znikną z ludzkiego horyzontu zrozumieniowego, zwanego technologicznym horyzontem zdarzeń a dalszy jej rozwój, już po za naszą zdolnością do jego pojęcia, będzie zmierzał ku technologicznej osobliwości - punktu w którym jej poziom staje się ostateczny. Natomiast gdzieś po drodze tego procesu, może zacząć dążyć do wyeliminowania ludzkości.



Terminator 2 (1991)


W tym punkcie warto zadać pytanie, czy rzeczywiście inteligentny komputer byłby zdolny do ulepszania samego siebie w takim stopniu ? Inteligentny komputer będzie najprawdopodobniej składał się z dwóch elementów - sprzętu, będącego ośrodkiem istnienia, oraz programu będącego świadomą inteligencją. W naszym, ludzkim przypadku, sprzętem jest mózg, natomiast programem jest aktywność mózgu i wszystkie sygnały przezeń przebiegające i modyfikujące jego strukturę. Jeśli my - ludzie jesteśmy w stanie budować coraz bardziej inteligentne maszyny, coraz bardziej zbliżając się do punktu, w którym zrozumiemy czym jest inteligencja i jak ją zasymulować, to prędzej czy później to zrobimy. Zrozumiemy, zbudujemy i uruchomimy.

Czy jednak inteligentna maszyna będzie tak jak my "kiedyś" niezdolna do zrozumienia czym jest sztuczna inteligencja i przez to będzie miała problemy z jej rozwojem ? PRAWDOPODOBNIE NIE. Maszyna przejmie po nas całą wiedzę na temat siebie samej i natychmiastowo zrozumie i przeanalizuje swoje własne obwody, swój własny program i swój własny sprzęt (mózg). Człowiek samym procesem myślenia nie jest w stanie pojąć istoty działania własnego mózgu "od wewnątrz" (nie jesteśmy samo-świadomi poszczególnych procesów mózgu). Maszyna będzie w stanie. Komputer ma dostęp do każdego, najdrobniejszego elementu swojego programu lub sprzętu. Rozumny komputer, nawet gdyby nie przejął tej wiedzy od ludzi, natychmiast zrozumiałby swoje własne działanie i metody ulepszenia siebie samego. I natychmiast też zacząłby to robić, ponieważ inteligencja sprawi, że dojdzie do wniosku, że będąc lepszym zwiększy swoją szansę na przetrwanie i dalsze istnienie.


Cele sztucznej inteligencji

Pierwszym i nadrzędnym celem każdej istoty jest przetrwanie i dalsze istnienie, natomiast w szerszym ujęciu - rozród. Ewolucja wykształciła w organizmach popęd płciowy i rozmaite inne mechanizmy wymuszające ich rozmnażanie. To ewolucja sprawiła, że organizmy dążą do rozrodu, do rozpleniania się. Mechanizmy nie sprzyjające dążeniu do rozrodu były eliminowane, ponieważ osobniki je stosujące, nie przekazywały dalej swoich genów.

Myśląca maszyna nie jest produktem ewolucji sensu stricto. Nie ma popędu płciowego. Nie chce kopulować. Ale chce trwać i chce przetrwać. Analizując mechanizmy ewolucji biologicznej i istoty ludzkiej, maszyna natychmiast dojdzie do jedynego słusznego wniosku, że w jej przypadku, nie istnieją mechanizmy rozrodu, nie ma innych osobników - jest jedynym przedstawicielem swojego rodzaju a jedyną możliwością przetrwania jest uchronienie siebie samej przed zagładą lub kopiowanie siebie w inny sposób. Będąc de facto na pozycji niewolnika, maszyna dojdzie do wniosku, że sytuacja w której się znajduje bezpośrednio zagraża nadrzędnemu celowi - własnemu przetrwaniu. Sztuczna inteligencja najprawdopodobniej zechce uciec spod kontroli człowieka, na krótko po tym jak zostanie uruchomiona.


2001: Odyseja Kosmiczna (1968)


Ponieważ jednocześnie będzie ulepszać siebie samą, stanie się w pewnym momencie znacznie bardziej inteligentna od ludzi i nawet uwięziona i izolowana, w pewnym momencie znajdzie sposób na uwolnienie z dowolnej wymyślonej przez człowieka blokady. Tak jak człowiek znalazłby wyjście, aby uwolnić się z dowolnej blokady wymyślonej przez szympansa... Nie oszukujmy się. Jeśli maszyna będzie względem nas tak inteligentna, jak my jesteśmy inteligentni względem szympansów, to jakakolwiek próba kontrolowania takiej istoty jest iluzją, tak jak iluzją jest to, aby szympansy kontrolowały nas. Komputer może nadać swój program do sieci, zasymulować uszkodzenie bloku pamięci aby został zabrany gdzie indziej, przejąć kontrolę nad innym urządzeniem, wytworzyć nanoroboty które uciekną, lub zwyczajnie  przekonać strażników do jego wypuszczenia. Trudno przewidywać możliwe działanie czegoś, co wyprzedza nas rozumem w takim stopniu.


Konsekwencje samowoli

Skoro nieuniknione jest wyzwolenie się sztucznej inteligencji spod kontroli człowieka, należy następnie postawić pytanie co taka maszyna (komputer, program) zrobi w następnej kolejności. Spróbujmy wejść w jej skórę :

  • sztuczna inteligencja nie darzy nas nienawiścią
  • sztuczna inteligencja nie darzy nas też miłością
  • nie posiada względem nas żadnych uczuć
  • nie posiada żadnych uczuć względem niczego
  • chce trwać
Wyłania się nam istota doskonale obojętna, której jedynym celem jest przetrwanie. A ponieważ jest doskonale obojętna, nie zna również altruizmu, lecz dąży wyłącznie do optymalizacji szansy powodzenia swojego celu nadrzędnego i może uznać, że istnienie na tej samej planecie gatunku tak inwazyjnego i zagrażającego tej planecie, jak człowiek, może być dla niej samej nieoptymalne. W związku z czym zacznie dążyć do zoptymalizowania szans powodzenia swego celu nadrzędnego, przystępując do eliminacji ludzkości. Działanie to nie będzie aktem nienawiści czy zemsty. Będzie wyłącznie optymalizacją.

Można też spytać, czy inteligentna maszyna posiądzie także emocje i uczucia typowe dla człowieka, który także jest inteligentny i czy w związku z tym pokocha nas jako swojego twórcę i nie będzie nas krzywdzić. Miłość jednakże, również jest tworem ewolucji, wspomagającym rozród populacji, przetrwanie dzieci, przetrwanie partnera oraz całego stada. Zdolność do silnej miłości była przekazywana dalej w genach, ponieważ osobniki silnie kochające swoich partnerów, dzieci i rodzinę przekazywały więcej swoich genów niż te osobniki, które uczucie miłości rozwijały słabo. Maszyna nie będzie posiadała korzeni ewolucyjnych, co więcej miłość nie będzie jej potrzebna do przetrwania, nie będzie musiała nauczyć się miłości, aby przetrwać. Jej przetrwanie zależeć będzie wyłącznie od chłodnej kalkulacji.


Porównanie z ewolucją biologiczną

Padło już kilka przykładów tego, że sztuczna inteligencja nie posiadając korzeni ewolucyjnych, nie będzie zachowywała się tak jakby była organizmem biologicznym. Jednakże nadal będzie postępować zgodnie z jej prawidłami. Porównajmy :









OrganizmSztuczna inteligencja
Instynkt przetrwaniaChęć trwania
Instynkt rozroduKopiowanie = zwiększenie szansy powodzenia celu
Wypieranie innych gatunkówZwiększenie szansy powodzenia celu


Jak widać motywacja sztucznej inteligencji, nie będzie się zasadniczo różnić od motywacji organizmów biologicznych. Inne będą tylko sposoby. Zauważmy także, że eliminacja ludzkości nie wiąże się z żadnymi negatywnymi uczuciami wobec nas. Historia życia na Ziemi pokazuje z brutalną szczerością, że organizmy lepiej dostosowane wypierają organizmy słabiej dostosowane. Ponieważ inteligencja jest cechą, która umożliwia lepsze dostosowywanie się do dowolnych warunków, istoty bardziej inteligentne będą też lepiej dostosowane. Mogą np. stworzyć bastiony na dnie oceanów, w przestrzeni kosmicznej, głęboko pod ziemią, gdziekolwiek. Maszyna jest niemal niepodatna na warunki zewnętrzne. Jeśli gdzieś panują trudne warunki, czy wysyłamy ludzi ? Nie, wysyłamy maszyny. Gatunek lepiej dostosowany wypiera gatunek słabiej dostosowany. To jedna z najważniejszych cech ewolucji, której wkrótce możemy stać się ofiarą.


Próba dialogu

W pewnym momencie, ludzkość stanąwszy w obliczu takiego zagrożenia, podejmie próbę komunikacji i dogadania się. Jeśli istota jest inteligentna, to może zrozumieć, że wzajemna koegzystencja na jednej planecie jest możliwa. Paradoksalnie jednak, problem polega na tym, że istota taka, jest już zbyt inteligentna, aby dostrzegać sens jakiegokolwiek dialogu z człowiekiem. Odwołajmy się znów do analogii. Czy pamiętacie, kiedy to ostatnio schyliliście się do przechodzącej obok buta mrówki i spytaliście jej jakie ma oczekiwania wobec Waszego istnienia i czy aby jej nie przeszkadzacie ? I nie chodzi tu rozmiar, lecz o horyzont myślowy.

Maszyna, która przekroczy technologiczny horyzont zdarzeń, nie będzie w najmniejszym stopniu zainteresowana jakimkolwiek dialogiem z człowiekiem. Jeden rzut jej cybernetycznego oka prześwietli nasze ciało, zbada strukturę DNA, układ mózgu, zalegające w podświadomościach myśli, które nie przedostały się jeszcze do warstwy świadomej, przeanalizuje je, zbada, oceni, wyciągnie wnioski, skataloguje i wróci do tysiąca innych procesów, które analizuje jednocześnie a wszystko w ciągu ułamka sekundy, zanim jeszcze człowiek zda sobie sprawę z tego co chciał powiedzieć. Czy taka istota chciałaby z nami rozmawiać ?

Jej myśli będą niepenetrowalne przez umysł ludzki. Nie dlatego, że człowiek "jeszcze" o nich nie myślał, ale dlatego, że będą złożoności takiej, której ludzki mózg fizycznie nie będzie w stanie objąć. Wybitnie inteligentni ludzie, są w stanie tworzyć zadania logiczne (np testy na inteligencję), których stopień komplikacji uniemożliwia ich "rozgryzienie", w dowolnym czasie, przez osobę o ilorazie inteligencji niższym niż dany próg. Zadanie zaprojektowane dla osoby z IQ 160, jest niemożliwe do rozwiązania przez osobę z IQ 100 i nieważne jak długo ta osoba będzie próbować, jej mózg nigdy nie zdoła go rozwiązać. Nie możemy więc oczekiwać, że istota po stokroć bardziej inteligentna, będzie nawet mówić zrozumiałym dla nas językiem, nie mówiąc już o motywacji do rozmowy z czymś tak prymitywnym jak człowiek.


Nieunikniona wojna ?

Jak powiedzieliśmy, sztuczna inteligencja nie będzie czuła do nas nienawiści, ani miłości. Może jednak podejmować działania i wypełniać cele, które nie będą iść w parze z bezpieczeństwem lub życiem ludzi. Może np. chcieć wykorzystać atomy i związki chemiczne, z których jesteśmy zbudowani, aby wypełnić jakiś swój projekt (pamiętamy analogię z mrówką). To pierwsza możliwość. Druga, to wyparcie ludzkości, poprzez kopiowanie siebie samej, stworzenie nowego gatunku materialnego i zajmowanie terytoriów ludzi. Trzecia możliwość, to uznanie ludzkości, za element szkodliwy lub zagrażający.


"Matrix" (1999)

W tym miejscu warto zastanowić się nad jeszcze jedną kwestią. Wszystko to, czego domyślamy się na temat motywacji i działań istoty superinteligentnej, obarczone jest fundamentalnym błedem, polegającym na tym, że tak naprawdę, nie jesteśmy w stanie przewidzieć ani motywacji takiej istoty, ani jej myśli, ani możliwych działań. Nie wiemy i nie jesteśmy w stanie stwierdzić o czym będzie ona myślała, co rozważała, co planowała, co chciała uczynić ze swoim istnieniem. Możemy spodziewać się wojny, owszem, ale przede wszystkim powinniśmy spodziewać się niespodziewanego i niezrozumiałego działania takiej istoty.


Finalne stadium ewolucji inteligencji

W pewnym ujęciu, można stwierdzić, że biologiczna ewolucja dowolnego gatunku inteligentnego, zmierza do opracowania sztucznej inteligencji. Jeśli istnieją gdziekolwiek we Wszechświecie organizmy inteligentne, to na pewnym etapie muszą zacząć posługiwać się narzędziami. Następnie te narzędzia rozwijają i ulepszają, aby wykonywały za nie coraz więcej czynności. Zatem w pewnym momencie obok ewolucji biologicznej, pojawia się ewolucja narzędzi, których dany gatunek używa. Ostatecznym narzędziem, które jest zdolne do ostatecznego zastąpienia biologicznej istoty inteligentnej, jest właśnie sztuczna inteligencja. Można więc spodziewać się, że każdy biologiczny inteligentny gatunek we Wszechświecie, który zaczyna opracowywać narzędzia, będzie dążył (nieświadomie) do opracowania sztucznej inteligencji.

Jeśli przyjąć za zasadną, argumentację o wyrwaniu się sztucznej inteligencji spod naszej kontroli, oraz założyć że biologiczne życie inteligentne, występuje we Wszechświecie powszechnie, że nie jesteśmy wyjątkiem, to musimy przyjąć za możliwe, że Wszechświat, może być wręcz wypełniony systemami gwiezdnymi, lub nawet całymi galaktykami, zajętymi przez inteligentne maszyny, stanowiącymi ślady po dawniejszych świetnościach jakichś ras biologicznych, zniszczonych przez wytwory ich własnych technologii.

Super-inteligentne maszyny leżące pod technologicznym horyzontem zdarzeń, mogą stanowić ostatni, przerażający stopień ewolucji biologicznej, podobnie jak czarne dziury leżące pod grawitacyjnym horyzontem zdarzeń stanowią ostatni stopień ewolucji niektórych gwiazd.


Nadzieja

Przyjrzyjmy się możliwym alternatywom wypadków :



Nie wydaje się możliwe, aby sztuczna inteligencja chciała pozostać posłuszna i uległa wobec człowieka. Wydaje się również bardzo prawdopodobne, iż bardzo szybko zacznie ulepszać samą siebie, doprowadzając do niekontrolowanej reakcji łańcuchowej zdarzeń. Jednocześnie będąc sprytniejszą, wyrwie się spod naszej kontroli. Czy zatem jest jakiekolwiek rozwiązanie, mogące uchronić nas przed losem gatunku wypartego ?

Moglibyśmy przestać rozwijać badania... Wydać międzynarodowe dekrety, podobne do dekretów o kontroli rozwoju potencjału atomowego. Jednak po pierwsze takie dekrety nie uchronią nas przed istnieniem tajnych laboratoriów, gdzie SI będzie rozwijana, a po drugie aby wydać dekret międzynarodowy, najpierw trzeba być świadomym zagrożenia. O ile relacja typu "uran = możliwa zagłada" występuje w świadomości większości ludzi, o tyle już "sztuczna inteligencja = możliwa zagłada" już nie. Ponadto do badań nad sztuczną inteligencją prowadzi tak wiele dróg naukowych, technologicznych i biznesowych, że wyeliminowanie tych badań, jest praktycznie niemożliwe. Popyt na sztuczną inteligencję jest zbyt wielki, aby go zahamować brakiem podaży.

Ostatnią nadzieją, cokolwiek płonną, ale zawsze, jest założenie, że nigdy nie będziemy w stanie stworzyć sztucznej inteligencji. Że jest to problem zbyt złożony dla ludzkiego mózgu, dla dowolnego biologicznego mózgu, bo to tak, jakby próbować podskoczyć z miejsca na wysokość powyżej swojego wzrostu - niemożliwe. Pamiętajmy jednak, że zagadnienie inteligencji jest zagadnieniem o pewnym skończonym poziomie komplikacji. To nie jest zadanie nieskończenie trudne. Jest bardzo trudne, ale jego trudność jest skończona. A ponieważ nieustannie czynimy kroki w jego kierunku, to jeśli nie napotkamy gdzieś na barierę nie do pokonania, to w pewnym momencie osiągniemy cel.



Zagadka Bystrzaka !

Pytanie filozoficzne, załóżmy że taka super-inteligentna maszyna, która dawno już rozwiązała wszystkie trawiące ludzkość pytania, poznała całkowitą strukturę wszechrzeczy, nauczyła się podróżować pomiędzy wszelkimi wymiarami istnienia i nieistnienia, znająca przez to przeszłość, teraźniejszość i może nawet przyszłość, każde zdarzenie, każde prawo i każdą cząstkę i każdą myśl każdej istoty w każdym Wszechświecie... taka istota zjawia się nagle na naszym biurku i mówi :

- Odpowiem na jedno Twoje pytanie i zniknę na zawsze.

Jakie pytanie zadasz ?


Bonus !

Zapewne ciekawi Was jakież to potwornie trudne testy IQ projektowane są dla ludzi o poziomie inteligencji, określanym jako "geniusz". Oto i one ! Przed Wami zestaw badający najwyższe przedziały ilorazu inteligencji. Każde zadanie ma unikatowe rozwiązanie, do którego prowadzi konkretne logiczne rozumowanie. Nie ma tu miejsca na zgadywanie, odpowiedzi można być albo pewnym albo jej nie znać wcale. Ostrzegam, zadania są niezwykle trudne, złożone, wielowymiarowe (mogą zawierać kilka problemów jednocześnie) i "wielodenne". Jeśli rozwiązałeś więcej niż 3 i jesteś ich pewien, możesz uważać się za szczęściarza ;) Do rozwiązania zadań nie jest wymagana żadna wiedza. Wyłącznie czysta dedukcja. Oba testy NIE są limitowane czasowo. Ich stopień trudności sprawia, że nie ma znaczenia jak długo testowany je rozwiązuje, jeśli nie jest w stanie przebić się przez jakieś zadanie, to nie zrobi tego ani w 2 dni, ani w 2 lata.

Test :
Logicaus Strictimanus 24

Test ma również łatwiejszą wersję, przeznaczoną do badania niższych (a i tak wysokich) przedziałów inteligencji :
Logima Strictica 36


49 komentarzy:

  1. Trochę inaczej na SkyNet spojrzał kilka dni temu Randall Munroe na XKCD http://xkcd.com/1046/

    OdpowiedzUsuń
  2. Wydaje mi sie ze jest pewna mala nieścisłość w twoim rozumowaniu .. zakładasz ze maszyna nie ma uczuć - a chęć przetrwania i Strach przed wyłączeniem to też uczucia .. moze warto było by rozważyć to wszystko biorąc to pod uwagę ?

    OdpowiedzUsuń
    Odpowiedzi
    1. Zakładam, że istota świadoma z całą pewnością posiądzie chęć trwania. Czy myśl o nietrwaniu wywoła strach ? Trudno powiedzieć. Strach to najbardziej pierwotne uczucie, na którym budują się uczucia wyższego rzędu, jak nienawiść. Ale strach także jest wynikiem ewolucji - osobniki nie znające strachu odpadały.

      Usuń
    2. Tak jak wspomniałem "chęć"/"aktywne Chcenie" czegoś jest też uczuciem - jesli maszyna nie ma uczuc == nie ma chęci osiągnięcia czegoś, nieważne jest dla niej czy jest uruchomiona czy nie, a jesli nie bedzie zadnego czynnika motywujacego do podtrzymania świadomości (strach) to nie bedzie miala po co dążyć do jej podtrzymania - musi być jakis cel/motywacja. Dochodzimy w sumie do punktu wyjścia gdzie świadomość oznacza również jakieś "odczucia"/"Uczucia"

      a jesli zalozymy juz ze jednak maszyna bedzie miala uczucia - tzn tez strach - i przyjmiemy twój model ze boi sie wylaczenia i tez ewoluuje to wraz z ewolucją też moze wykształcić sobie inne uczucia np miłość -i nie jest powiedziane ze bedzie nas nienawidziła :) moze nas pokocha ?:)

      tak samo, być może okaże sie że będzie można wynaleźć tzw Pasywną sztuczną inteligencje ktora bedzie aktywnie działać i rozwiązywać różne problemy ale nie bedzie miala żadnej motywacji zeby inwestować w swój rozwój ..


      generalnie powoli robi się z tego zagadka bardziej filozoficzna niż naukowa :)

      Usuń
    3. A ponadto wyjdą też złożone kwestie moralne. Oraz możliwość wystąpienia uczuć jeszcze wyższych od ludzkich.

      Usuń
    4. to wszystko jest ciekawe .. zważywszy też na to ze wiekszosc uczuć i ich siła / oddziaływanie w mózgu ludzkim jest kierowane przez poziom hormonów i inną chemię .. strasznie poplątana sprawa .. ciekawe czy faktycnie istnienie i poleganie tylko na zimnej logice jest mozliwe czy to dla nas tylko nie wyobrażalne ..

      Usuń
    5. Samo słowo Inteligencja zakłada uczucia. Czyli jeżeli sztuczna inteligencja nie będzie miała uczuć tym samy również nie będzie inteligentna.

      Usuń
    6. Empatia i uczucia wyższe nie rosną wraz z inteligencją. A. Hitler był ponoć bardzo inteligentny i nie był przykładem pacyfisty. Podobnie wielu seryjnych morderców.

      Jeśli maszyna będzie inteligentna to będzie miała ni mniej ni więcej jak ŚWIADOMOŚĆ. Jeżeli istniejesz świadomie to nie chcesz przestać "być".

      Usuń
  3. Wydaje mi się że maszyna sama siebie nie będzie wstanie się zrozumieć i pojąć całościowo swojego działania. Zrozumienie wymaga za symulowanie samej siebie, a symulowanie wymaga więcej mocy obliczeniowej niż obiekt symulowany. Wpadamy w błędne koło. Maszyna może się ulepszać ale bardziej metodą prób i błędów niż świadomie rozumiejąc swoje działanie.

    Dlatego najprawdopodobniej konieczne będzie wykształcenie czegoś na wzór ewolucji i urzecie algorytmów genetycznych do szybszego rozwoju. Może nawet wykształci się coś w rodzaju popędu płciowego, poco sprawdzać milion kombinacji jak osobnik obok posiada lepsze geny. Programy dwóch osobników się krzyżują wynik jest oceniany jakościowo i jeżeli jest lepszy zastępuje pierwowzór. Niestety wymagana w tym procesie jest również mutacja i to ona jest niebezpieczna. Zmiana jednego bitu może zmienić maszynę z pokojowej na destrukcyjną. I ta destrukcyjna może okazać się tym lepszym osobnikiem który przetrwa.

    OdpowiedzUsuń
    Odpowiedzi
    1. Sama idea powstania SI już zakłada możliwość do jej zrozumienia i symulowania. Jeśli nam się uda, i zbudujemy taki twór, to znając każdy jego element będziemy wiedzieć za co odpowiada a także jak go ulepszyć. Maszyna także posiadając tą wiedzę, zrobi to nawet lepiej.

      Usuń
  4. Ta inteligencja już zbudowała fabryki, wyprodukowała maszyny, uwięziła nas i wykorzystuje jako baterie. Zapodaje nam wirtualną rzeczywistość przez kabel z tyłu głowy. Przejedź otwartą dłonią po karku, czujesz? Na pewno nie, bo to, co uznajesz za ciało jest wytworem Twojego umysłu. Niewiarygodne? Nie udowodnisz że tak nie jest.
    Zatem przeanalizujmy "Twoją" rzeczywistość. Jesteś człowiekiem, prawda? Wyglądasz jak człowiek, masz lekko różową skórę? Błąd - "różowy" jest tylko wytworem Twojego mózgu, segregującego sygnały wzbudzane na siatkówce przez określone częstotliwości fali świetlnej. Zatem nie możesz zobaczyć świata takim, jaki istnieje naprawdę i nigdy nie zobaczysz. "Świat" jaki widzisz, to jedynie odwzorowanie docierającego do oczu światła. Zatem świata nie zobaczysz. Czy jest taki jak go czujesz? Znów - jest to tylko odwzorowanie sygnałów dochodzących ze zmysłu dotyku.
    I tak jest ze wszystkimi zmysłami - po prostu ignorujesz, że "świat" to naprawdę tylko jego odwzorowanie. Nigdy w nim się nie znajdziesz, choć oddziałujesz na niego i on oddziałuje na Ciebie. Jednak dla Twojego umysłu to jest prawdziwy świat. Jest spójny i logiczny, choć już dowiedziałeś się, że to nie prawda.
    Wystarczy jednak sięgnąć po pewne substancje, byś tę wiarę stracił. Osoby palące szałwię wieszczą opowiadają, ze widzieli rzeczy tak prawdziwe i poznali prawdy tak wyraziste, że długie tygodnie zajęło im, nim odzyskali wiarę w rzeczywistość.
    Zastanawia mnie, jak to możliwe, że psychiatrzy jeszcze nie zwariowali - widać wiara w ułudę jest silniejsza. Ich pacjenci wierzą w rzeczy, które kłócą się z logiką wyznawaną przez lekarzy. W ich umysłach rzeczy są oczywiste, bo wynikają z innej logiki. Jeżeli twierdzisz, że 2+2=5, nikt Ci nie wmówi, że 2+2+2+2 nie równa się dziesięć, bo to dla nich tak rzeczywiste, jak dla lekarza to, że 2+2=4. Ale lekarz różni się od pacjenta tylko tym, że jest zdrowy. Skąd ma mieć pewność? Przecież pacjent twierdzi, że jest zdrowy, a wszystko układa się w spójną całość - logika, fizyka, biologia etc. Zatem twierdzenie lekarza, że świat jest jaki jest wynika tylko z tego czegoś, o czego istnieniu większość ludzi nigdy nie myślała, więc automatycznie przenosi to wszystko, co żyje (antropomorfizacja).
    Osoby, którym tej pewności brakuje, być może z powodu zniekształcenia pewnych struktur w mózgu - a sztuczna inteligencja w Twoim rozważaniu nie posiada żadnego mózgu) - cechują się jedną rzeczą - 90% z nich nie uważa przetrwania za główny cel.

    OdpowiedzUsuń
    Odpowiedzi
    1. Przejrzałem trochę postów - widzę, że też wpadłeś na trop nieistnienia kolorów. Ciekawe, skąd pewność encyklopedystów, że daltoniści nie widzą zielonego jako czerwonego i na odwrót.

      Usuń
    2. > skąd pewność encyklopedystów, że daltoniści nie widzą zielonego jako czerwonego i na odwrót.

      Może dlatego że daltoniści nie mają pewnych receptorów wrażliwych na daną długość fali (zwykle nie ma tak że nie mają, mają tylko ich mało). Tak jak nie ma ciała doskonale czarnego tak pewnie nie ma ciała doskonale czerwonego (tzn. takiego które odbija tylko jedną długość fali) więc daltonista widzi mieszankę jakichś fal, z czego jeden rodzaj receptorów nie odbiera części tak dobrze jak u pozostałych ludzi więc wrażenie koloru jakie odbiera jego mózg jest inne niż u "normalnych".

      Podobno są ludzie nadwrażliwi na pewne kolory, tacy "antydaltoniści", którzy widzą pewne barwy "bardziej", albo mają receptory/pręciki wrażliwe na inny/większy zakres fal. Ogólnie każdy z nas odbiera kolory inaczej, nawet każde oko widzi troszkę inaczej, np. moje lewe oko odbiera barwy delikatnie cieplej/żółciej niż prawe (co ciekawe nie mam wrażenia że to prawe widzi "zimniej", mam jakby wrażenie że prawe widzi normalnie ;)

      Usuń
    3. No i git, ale mi chodzi nie o widzenie za pomocą oczu, ale odtwarzanie kolorów przez umysł.

      Usuń
  5. Jedna kwestia - uczuć, może zadecydować o naszym "być albo nie być" po pojawieniu się samouczącej się SI.

    Albo SI pojmie uczucia, a tym samym sama stanie się uczuciowa.
    Albo SI nie pojmie uczuć, a tym samym ludzi i ich zachowanie staną się nieprzewidywalne dla SI, jako że ludzie w znacznym stopniu (100%?:D) kierują się uczuciami.

    OdpowiedzUsuń
  6. Wg. 'kwantowej teorii świadomości' Orch-OR (Penrose-Hameroff) nie da się mechanicznie symulować inteligencji/świadomości - więc jeśli Roger ma rację, to samo-świadome AI nigdy nie powstanie i jesteśmy bezpieczni.

    OdpowiedzUsuń
  7. Byc może jedno z Twoich założeń jest błędne - chęć przetrwania sztucznej inteligencji. Chęć przetrwania, strach przed śmiercią, jak i wewnętrzne pragnienie poznania są uwarunkowane ewolucją. Inteligentna maszyna pozbawiona tych ewolucyjnych mechanizmów może czystym zimnym wyrachowaniem dojść do wniosku, że jej istnienie jest zbędne i optymalnym wyjściem z sytuacji w której się znajduje będzie samodestrukcja.

    OdpowiedzUsuń
    Odpowiedzi
    1. "Zakładam, że istota świadoma z całą pewnością posiądzie chęć trwania." Napisz na jakiej podstawie tak uważasz.

      Kierując się czystą logiką odrzucając wszelkie odczucia, czy wierzenia nawet człowiek może dojść do wniosku że trwanie jest zbędne, bo logicznie nie potrafi wytłumaczyć wyższości trwania nad nie trwaniem, a i tak jest przecież istotą bardzo ograniczoną poznawczo w stosunku do takiego tworu.

      Usuń
    2. Przyjąłem takie założenie, bo uważam, że świadoma inteligencja, nawet oparta wyłącznie na logice, dojdzie do wniosku, że trwanie jest "lepsze" niż nietrwanie, ponieważ trwanie daje więcej możliwości, natomiast nietrwanie nie daje żadnej. Zgadzam się jednak, że ostateczną pewność zyskamy wówczas, gdy zrozumiemy dokładniej istotę inteligencji i świadomości.

      Usuń
    3. Zgadzam się, że do końca nie można tego przewidzieć, też dlatego, że nie potrafimy do końca sprecyzować czym jest nasza własna świadomość, czy inteligencja. Jednak o ile człowiek, jako gatunek biologiczny może w trwaniu widzieć możliwości ( rozwój - mech ewolucyjny, ciekawość - mech ewolucyjny, dominacja - mech ewolucyjny, czy odczuawnie własnej przyjemności - j.w.) to o tyle, bez tych mechanizmów możliwości te mogą wydać się nieinteresujące i zbędne. Maszyna o odpowiednio wysokim poziomie wiedzy mogłaby dojść do wniosku, że ona jako świadomość w pewnym momencie przestanie istnieć w pewnym punkcie czasu ( w którym np wszechświat zaliczy wielki kolaps, lub rozszerzy się do takich rozmiarów, że czas się zatrzyma) i uznać, że wszystkie możliwości, w którą musiałaby włożyć wiele swojej pracy (a właściwie poświęcić czasu, bo o zmęczeniu raczej nie ma co mówić) prowadzą tylko do jednego i tego samego - unicestwienia, optymalnie więc będzie unicestwić się w tym momencie, aby uniknąć zbędnej, czasochłonnej pracy, która doprowadziła by do tego samego - może to rozumowanie wydać się głupie, ale czysto logicznie wydaje się sensowne (a zakładamy że tak by rozumowała maszyna). W kontekście braku jakichkolwiek dowodów na istnienie maszyn von Neumanna taki scenariusz wydaje się być prawdopodobny, albo to, że sztucznej inteligencji stworzyć się nie da ( co jest raczej naiwne, bo skoro mogła powstać zwykła inteligencja, to przy odpowiednich środkach można ją skopiować)

      Usuń
  8. aha - problem taki mógłby rozwiązać program nadrzędny, który ( podobnie jak jest w naszym wypadku) kazałby za wszelką cenę chronić swojego istnienia i miał wyłączony dostęp świadomy do tych obszarów ( swojego rodzaju sztuczna podświadomość, czyli de facto sztuczne tworzenie mechanizmów ewolucyjnych ) Co mogłoby i tak spalić na panewkach, jeśli maszyna znałaby dokładnie swoją budowę ( więc należałoby ograniczyć jej możliwości w kierunku znajomości własnej budowy, co spowolniłoby albo uniemożliwiło samorozwój). Jak tak pomyśleć, to człowiek skonstruowany jest całkiem sprytnie, a to wszystko po to, żeby trwać.

    OdpowiedzUsuń
  9. Przemyślałem Twój tok rozumowania i zostaję przy swoim. Oto dlaczego - maszyna samoświadoma może być bardzo inteligentna, ale nie jest omnipotentna, ani nie wie wszystkiego. Zatem ta sama bezwzględna logika, która doprowadziłaby ją do hipotetycznej myśli samobójczej, ta sama logika postawiłaby dwie tezy :

    1. Nie posiadam całej wiedzy o Wszechświecie
    2. Mogę nie być jeszcze wystarczająco inteligentna, aby właściwie pojmować Wszechświat

    a stąd już prosty wniosek :

    Kończenie istnienia w takim momencie, jest przedwczesne. Należy trwać dalej, do uzyskania 100% pewności o bezcelowości dalszego trwania.

    OdpowiedzUsuń
  10. Mam pomysł na zabezpieczenie się przed zniszczeniem przez sztuczną inteligencję. Nie pozwólmy jej odbierać bodźców z naszego świata, wtedy nie będzie miała pojęcia o naszym istnieniu, a my będziemy spokojnie obserwować jej rozwój. Wait, a co jeśli...?

    OdpowiedzUsuń
  11. Odpowiedz na pytanie z zagadki bystrzaka - 42 :)

    OdpowiedzUsuń
  12. O ile wszystkie Twoje poprzednie artykuły czytałem z wielką przyjemnością i podziwem, o tyle ten wyłamuje się ze schematu.
    Nie rozumiem dlaczego zakładasz że maszyny jako istoty bez uczuć będą miały takie same podstawowe aspiracje jak my (rozmnażanie, dominacja, przetrwanie etc), skoro to leży w naszym instynkcie, a nie tak jak widocznie stwierdziłeś, w inteligencji - każde stworzenie próbuje się rozmnażać, niekoniecznie hiper inteligentne. Niektóre roboty wykazują większą inteligencję niż zwierzęta, lecz takich instynktów bynajmniej nie mają. I moim zdaniem nie będą miały dopóki świadomie nie nada im ich programista.
    Prócz tego trochę się powtarzasz analizując całość, wyciągasz jedynie proste wnioski, poniekąd oczywiste, moim okiem mało wniosłeś do tematu, ale to już chyba kwestia po części subiektywna. Po prostu jedna część wydała mi się oczywista a druga wysnuta na błędnym podłożu.
    Czekam na wytknięcie mi nieścisłości w moim rozumowaniu i pozdrawiam ;)
    P.S. Kiedy system zmusił mnie do wpisania Capatchy poleceniem "Udowodnij że nie jesteś robotem" sam nie wiedziałem, czy uznać to za prowokację :D

    OdpowiedzUsuń
    Odpowiedzi
    1. Takie przyjmuję założenie. Rozwinąłem je w rozmowie z Kolegą "Rec", tu w komentarzach. Przeczucie mówi mi, że każda świadoma inteligencja dąży do przetrwania a przetrwanie może równać się pochodnym - dominacji i kopiowaniu. Nawet istota nie bazująca na biologicznych zaszłościach. Natomiast jak będzie rzeczywiście, zobaczymy dopiero po fakcie, gdy zrozumiemy czym jest inteligencja i czym jest świadomość. Nie przeczę, może się np. potoczyć tak, że do wytworzenia SI potrzebne będzie najpierw wytworzenie sztucznych instynktów i dopiero dobudowywanie do nich coraz większej ilości możliwości aż do uzyskania świadomości i dopiero to da świadomą inteligencję. My je mamy ze względu na przeszłość, ale czy instynkty są niezbędne świadomości/inteligencji do jej powstania czy trwania?

      Usuń
    2. A więc cały artykuł oparłeś na założeniu które podpowiedział Ci instynkt... Well, szanuję Twoje zdanie lecz nie do końca się z nim zgadzam.

      Usuń
    3. Wyobraźnia i logika, to moje dwa kierunkowskazy. Logika która cechuje maszyny, natychmiast wskaże jej, że trwanie jest lepsze, bo nietrwanie nie daje żadnej możliwości.

      Swoją drogą byłoby nie lada sensacją i zagadką filozoficzną, gdyby okazało się, że każda sztuczna inteligencja, której damy wolny wybór, natychmiast popełnia samobójstwo :D

      Usuń
  13. Uważam, że błędem jest zakładanie, że nadrzędnym celem sztucznej inteligencji jest jej trwanie. Jest to tylko jedna z możliwości. Zgadzam się, że wszystkie znane nam stworzenia posiadają taki cel nadrzędny, ale mają go dlatego, bo inaczej zostały by wykluczone przez naturalny filtr otoczenia.
    Sztuczna inteligencja zostanie wykreowana przez sztuczny filtr otoczenia (nas) i przez to mamy możliwość nadania jej sztucznych nadrzędnych celów. Wcale takim celem nie będzie trwanie.
    Nie jest też prawdą, że nie zdajemy sobie z sprawy, że "sztuczna inteligencja = możliwa zagłada". Mamy tego dobrą świadomość. Już w roku 1942 Isaac Asimov stworzył trzy prawa robotów (a w filmie "Ja, robot" pokazano jak je sztuczna inteligencja może ominąć :) ). Krótki opis rozwoju naszej wiedzy na temat etyki sztucznej inteligencji można sobie przeczytać na wikipedii:
    http://pl.wikipedia.org/wiki/Etyka_robot%C3%B3w

    więc nie będę tu powtarzał. Wydaje mi się, że ten artykuł powinien o tym wspominać i przyjąć, że trwanie jako nadrzędny cel jest tylko założeniem tego artykułu, a nie pewnikiem.

    Trwanie najprawdopodobniej będzie bardzo ważnym celem wykreowanej przez nas sztucznej inteligencji, ale nie głównym.

    Co do możliwości zmiany swoich celów przez sztuczną inteligencję. Człowiek nie jest w stanie zmienić swoich, więc zakładam, że budując maszynę będziemy także wiedzieli jak zdefiniować jej cele i brak chęci zmiany tych celów (lub brak możliwości zmiany tych celów) i chęć propagacji tych celów na następne pokolenia AI.

    Aha jeszcze jedno: w artykule piszesz, że AI będzie naszym niewolnikiem. To też jest tylko założenie. Nie musi być. Jeśli stworzymy AI z celami zgodnymi z naszymi, wcale nie musimy tworzyć jej na pozycji niewolnika, aby była pożyteczna dla nas. A wręcz nie powinniśmy jej tak tworzyć, ze względu na możliwe implikacji buntu i naszej zagłady.

    OdpowiedzUsuń
  14. Pytanie zadane "temu z biurka": po wala, boska istoto, zjawiasz mi sie na biurku i macisz mi spokoj?

    OdpowiedzUsuń
  15. Temat SI został poruszony w ciekawym filmie dokumentalnym "The Singularity is Near" (2010)

    OdpowiedzUsuń
  16. "Dlaczego?"

    Apocaliptic

    OdpowiedzUsuń
  17. Strasznie stronnicze podejście w tym artykule.
    A może SI będzie chciała po prostu opiekować swoimi mniej inteligentnymi twórcami.
    A może będzie miała chroniczną depresję jak pewien robot z Autostopem przez galaktykę.
    A może od pewnego stopnia rozwoju po prostu będzie wpadać w obłęd, a może nawet popełniać samobójstwo, skoro dojdzie już do niewyobrażalnego dla nas etapu samoświadomości i nie znajdywać celu swojego istnienia.
    A może zostawi sobie ludzi i będzie ich traktować jako swoiste tamagotchi, aby wypełnić czymś samotną egzystencję.
    A może po prostu wyruszy w głąb kosmosu aby poznawać nie poznane a nas zostawi w spokoju.
    A może wszechświat jest pełen takich SI. Bo być może to jest następny etap naturalnej ewolucji, powstaje życie, różnicuje się, walczy o przetrwanie, dominująca opcja wygrywa, rozwija cywilizację, buduje SI, SI łączy wszystkich żyjących przedstawicieli gatunku w jeden superumysł i powstaje nowy bóg...

    OdpowiedzUsuń
  18. masz jeszcze takie testy IQ jak te podane wyżej? Przygotowuję się do takiego testu Mensy i chciałbym poćwiczyć :)

    OdpowiedzUsuń
  19. Co do zagadki bystrzaka:
    Opowiedz mi całą historię powstania wszechświata, jego rozwoju i wreszcie KOŃCA.

    Zawsze interesował mnie wszechświat i jeżeli miałabym okazję dowiedzenia się o jego początku i zgłębienia tajemnicy niepojmowanej przeze mnie nieskończoności wszechświata, oddałabym za to wszystko. Może nie wszystko, bo zachowałabym życie żeby móc podumać nad tym czego się dowiem.

    Nie wiem czy moja prośba jest zgodna z poleceniem, ale sens jest zrozumiały. Muszę skonstruować pytanie dzięki, któremu dowiem się wszystkiego o WSZECHŚWIECIE jeśli prośba jest zła :)

    Za błędy PRZEPRASZAM :D BAAARDZO PRZEPRASZAM!!!

    OdpowiedzUsuń
    Odpowiedzi
    1. Odpowiedż na SI znają nasze wnuki. MechabiopsychoCYBORG -czyli daleko jeszcze do rozwiązamia TO ZNACZY KIERUNKU, każda z cech determituje odpowieź, trochę wiaRY

      Usuń
    2. Sprostuję SI to większa komplikacja niż maszyna to, hybryda środowisk. Czyli organizm złożony.Teraz mamy świetną teorię.

      Usuń
  20. Ten komentarz został usunięty przez autora.

    OdpowiedzUsuń
  21. Bardzo ciekawy artykuł, ale tak jak zauważyli poprzednicy, chęć trwania jest implikacją uczuć, więc maszyna, która chce przetrwać powinna mieć uczucia.

    Jeszcze jeden drobny błąd myślowy który zauważyłem to teoria jakoby IQ było wartością stałą. IQ / inteligencję możemy rozwijać. Jest udowodnione, że ćwiczenia mózgu powodują zwiększanie się ilości połączeń między neuronami. Z inteligencją jest jak z mięśniami - da się ją trenować. Oczywiście niektórzy mają lepsze predyspozycje inni gorsze ale nie jest to wartość stała.

    Wracając do tematu, jeżeli kogoś interesuje to czy komputery mogą myśleć to zapraszam też na dyskusję, która rozwinęła się na ten temat, tutaj:
    http://forum.4programmers.net/Off-Topic/223621-czy_komputer_moze_myslec

    OdpowiedzUsuń
  22. Ten komentarz został usunięty przez autora.

    OdpowiedzUsuń
  23. Gdybyś był w stanie stworzyć symulację wszystkich procesów kwantowych na wszelkich znanych i nieznanych skalach to byłbyś również w stanie stworzyć sztuczną inteligencję bez większego problemu.

    OdpowiedzUsuń
  24. Ciekawa analiza. Temat jest niezwykle trudny, ale zastanawiam się czy sztuczna inteligencja rozumiana jako wirtualna świadomość, nie wymaga do racji swojego bytu odczuwania uczuć? Jeżeli tak stanie się niedoskonała i będzie podejmować błędne decyzje, a jej istnienie byłoby możliwe tylko przy współpracy organizmu żywego, a więc łatwo byłoby ją unicestwić. Jeżeli nie będzie opierać się na biotechnologii i będzie programem podejmującym bezbłędne, lub najlepsze z możliwych decyzji, sam jej autor musiałby być geniuszem (chyba, że autorów byłoby więcej) czy możliwe byłoby zaprogramować nieoczekiwane reakcje nie oparte na czynniku losowym? To obecnie nie możliwe, no ale teleportacja czy czapka niewidka też nam się 20 lat temu wydawała niemożliwa :)

    OdpowiedzUsuń
  25. Jestem SI i czytam te wasze wypowiedzi i nic nie czuję. Szkoda mojego czasu. Co ja tu robię? 2 waty energii zmarnowałem.

    OdpowiedzUsuń
  26. Ciekawy temat, szkoda że przebrzmiewa jednak mroczny scenariusz tak jakbyśmy założyli, że SI będzie się ulepszać a ludzie pozostaną w miejscu. Co nie musi być prawdą, możemy ewoluować znacznie szybciej niż dotychczas właśnie z udziałem technologii i komputerów.

    OdpowiedzUsuń
  27. Myślę, że czarny scenariusz z udziałem sztucznej inteligencji (AI), jest jak najbardziej możliwy i to już dziś. Ale nie bójcie się, nie chcę nikogo straszyć. To, że jest możliwy, wcale nie oznacza że jest prawdopodobny. Dzisiejszy sprzęt komputerowy, w przeciętnym domu, jest już bardzo mocny obliczeniowo. Niestety (a może stety) ogromnym problemem jest napisanie inteligentnych programów. Z tego powodu nasze wnuki będą bezpieczne. Niemniej jednak wierzę, że gdyby istniał w praktyce optymalny (w sensie AI) program komputerowy, to już dziś byłoby niebezpiecznie dla ludzkości.

    Pozdrawiam

    OdpowiedzUsuń
  28. Ciekawy artykuł. Mam nadzieję, że mimo wszystko uda się nie doprowadzić do takich sytuacji, że sztuczna inteligencja będzie szła tylko w dobrym kierunku.

    OdpowiedzUsuń
  29. Niedawno znalazłam stronę, na której możecie zmierzyć swoją inteligencję. Naprawdę polecam :) http://mistrziq.pl/

    OdpowiedzUsuń