[00:01] - Telegram z krańca świata.

[00:04] - Dzień dobry. Dzień dobry, panie Piotrze.

[00:06] - Dzień dobry.

[00:08] - Kolejny odcinek Telegramu z krańca świata i dzisiaj temat, który rozwala wszystko. Zaproponujemy naszym słuchaczom takiego czarnego łabędzia, który może te wszystkie nasze wcześniejsze rozważania postawić pod znakiem zapytania. Tym czarnym łabędziem może okazać się temat gorący, czyli sztuczna inteligencja.

[00:37] - Na początek chciałbym wyklarować pewne pojęcie, czym jest sztuczna inteligencja w takim potocznym rozumieniu, jakim czyta człowiek, który nie czyta science fiction, ale przeczytał artykuł o science fiction. Na dzień dzisiejszy jest to uczenie maszynowe. W tym sensie, że maszyna jest karmiona danymi wejściowymi, przez algorytmy przetwarza jakieś wzorce, które znajduje w tych obrazach. Skupmy się trochę na obrazach. W związku z tym na zasadzie ilości tych danych i jakości tych danych jest w stanie stwierdzić, że kolejny, który ma tym razem odgadnąć, a nie opisane, co zawiera dany obraz. Ona ma albo namalować ta sztuczna inteligencja coś podobnego, albo rozpoznać, że to jest taki sam obiekt, jaki widziała na iluś tam wcześniejszych obrazach. To jest uczenie maszynowe, czyli ten algorytm czy też komputer, który funkcjonuje, kierowany tym oprogramowaniem sztucznej inteligencji. On nie rozumie. On po prostu kojarzy, że widział coś podobnego i przypisuje tą samą nazwę jakiemuś nowemu desygnatowi, który znajduje się na jakimś kolejnym zdjęciu. Problem jest taki, że to się okazuje, że jest w zatrważającej ilości rozmaitych codziennych zajęć, które my uważamy, że do ich wykonywania potrzebna jest rzeczywista inteligencja, czyli taka, która rozumie.

To jest ten jeden problem. Nie wiem, czy może pan skomentować.

[02:13] - Muszę powiedzieć, że jeśli mówimy o sztucznej inteligencji, to warto by wzorem filozofii analitycznej określić definicyjnie, o czym tak naprawdę mówimy. Bo rzeczywiście w takim pojęciu ogółu to sztuczna inteligencja wysłała Terminatora, myśli, kombinuje, tymczasem nic takiego nie ma miejsca, nie ma osobowości, nie ma samoświadomości. To wszystko rzeczywiście jest taka inteligencja w postaci czystej. Inteligentne zachowania wykazują maszyny, wykazują różnego rodzaju organizmy. Nie ma to nic wspólnego ze świadomością. My bardzo często łączymy. Często to zresztą powtarzam, my mamy dwa w jednym w naszej głowie i dlatego ciężko jest nam rozdzielić inteligencję od świadomości. Tymczasem to rzecz dosyć ważna, ale wspomniał pan o tym, że rzeczywiście zadziwiająco mało trzeba przynajmniej człowiekowi, żeby uznał, że sztuczna inteligencja go eliminuje. Jak widziałem ilustracje na przykład do okładek książek, to absolutnie użytkowa sztuka robiona w dowolnej podróbce dowolnego autora. W dodatku można wpisać praktycznie dowolne frazy i one mniej lub bardziej, ale w miarę dokładnie się tam pokazują.

Z takiego użytkowego punktu widzenia, a nasza cywilizacja przynajmniej ostatnimi czasy jest bardzo użytkowa, to wystarczy. Czyli skoro wystarczy z ilustracjami, wystarczy z tekstami przynajmniej tymi dla uczniów gimnazjów czy liceów, to tylko dalej się będzie rozwijać i strach pomyśleć, w jakim kierunku się będzie rozwijać. Bo ja wcale nie sugeruję tego, że ta sztuczna inteligencja nas zje, bo nas nie lubi. Ale skoro ona idzie w takim praktycznym kierunku, to ona jeszcze świadomości nie ma, ale jak sztuczna inteligencja zacznie produkować kolejne sztuczne inteligencje, gwarancji na to, że w pewnym momencie nie obudzi się Skynet, sam pan wywołał ten temat, nie mamy.

[04:44] - Tak, nie mamy. Ale tutaj musimy powiedzieć o czymś bardzo ważnym, co nie jest podnoszone przez ludzi zajmujących się tak zwaną sztuczną inteligencją. Otóż chodzi o to, że problem z tym, czy inteligencja jest w stanie zaatakować człowieka, sprowadza się do tego, czy taka inteligencja będzie w stanie po pierwsze sama na drodze rozumowania stwierdzić, że musi zachowywać się tak, żeby sama przetrwać, a po drugie, czy taka inteligencja zostanie wyposażona przez człowieka, przez konstruktora w instynkt przetrwania. Problem polega na tym, problem już chyba w książce Lema, zwar nie pamiętam, w której książce Lema, bardzo przepraszam za to. On przednosił czytelnikowi, stawiał na stole następujący problem. Może się okazać, że inteligencja po to, żeby zrealizować zadanie, jakie zostało przed nią postawione, analizując to zadanie, może dojść do wniosku, że człowiek, który może jej przerwać w realizacji tego zadania, jest czynnikiem przeszkadzającym, a więc w jakiś sposóbTrudne do wychwycenia przez człowieka zacznie temu człowiekowi utrudniać sterowanie poczynaniami tej inteligencji. Czyli w związku z tym nagle może się okazać, że jesteśmy w konflikcie z tą inteligencją, a ona postępuje, bo wywnioskowała w ten sposób, że w sposób skryty przed człowiekiem kontrolującym jej poczynania odwiedzie go od czynności korekcyjnych, które by utrudniły tej inteligencji osiągnięcie tego zadania. I tu wrócimy też do tego problemu, o którym pan powiedział, że możemy nie rozumieć tego, w jaki sposób ta inteligencja chce osiągnąć dany cel.

[06:34] - No tak i co?

[06:37] - W związku z tym, czy tego nie będzie można zdefiniować jako buntu maszyn, czyli jako pierwszego buntu inteligencji? To byłby bunt, który właśnie byłby trudny do wychwycenia. To znaczy wymykałby się percepcji nawet osoby, która świetnie rozumie, jak ta inteligencja sztuczna funkcjonuje.

[06:56] - No tak, ale ja wspomniałem o sztucznej inteligencji w kontekście czarnych łabędzi, o którym to kontekście wspominaliśmy w kilku audycjach. Otóż, bo my tu małe ludziki na Ziemi planujemy sobie wielkie i małe kampanie, planujemy różnego rodzaju rozwiązania mniej lub bardziej diaboliczne, a tymczasem mówiąc tak, nawiązując do tego, kiedyś mówiono, że przyjdzie kometa, szmajśnie ogonem i diabli wezmą cały świat. Dzisiaj można, parafrazując to, przyjdzie sztuczna inteligencja, czymś tam machnie i też diabli wezmą cały świat, jaki znamy, bo to jest może ważne podkreślenie. Tak jak powiedziałem, owszem, opcja likwidacji ludzkości jako tej przeszkadzajki jest na stole. Raczej sztuczna inteligencja, gdyby doszła do tego momentu, w którym przestaniemy ją rozumieć, może dojść do wniosku, że nie trzeba nas likwidować. Trzeba nas po prostu odsunąć od łańcucha decyzyjnego i tak jak powiedziałem, w pewnym momencie posłać na zieloną trawkę. Dokładnie to.

[08:11] - Ale właśnie tu jest problem, w jaki sposób inteligencja będzie postrzegała tych konstruktorów, czy też ludzi, którzy są w stanie ją kontrolować albo wyłączyć. Jeżeli będzie rzeczywiście nas traktowała jako coś, co może potencjalnie przeszkodzić, to może w jakiś sposób dla nas niezauważony. To by była taka wojna umysłów, tajna wojna, czyli ulubiona przez Chińczyków. Ona by spróbowała nas uczynić dostawcami wszystkich zasobów, które są jej niezbędne do utrzymania homeostazy, czyli utrzymania optymalnych parametrów funkcjonowania, ale też do przetrwania. Byłoby możliwe na przykład, jeżeli dwa wrogie sobie mocarstwa, powiedzmy Chiny i Stany Zjednoczone, każda z nich będzie miała taką jedną sztuczną inteligencję, to nie jest wykluczone, że chińska będzie manipulowała Chińczykami, amerykańska Amerykanami, a wszystko sprowadzi się w rezultacie do tego, że ludzkość będzie odgrywała rolę służebną, nie zdając sobie do końca sprawy, bo nie rozumiejąc na przykład logiki decyzyjnej tej swojej własnej nawet inteligencji, będzie posłusznie po prostu realizowała to, co ta inteligencja zaleci, że to należy zrobić, żeby pokonać wroga albo żeby nawet nie pokonać, ale właśnie zniwelować jego plany. Także to jest fascynujące, dlatego że może zaistnieć taki scenariusz, w którym nie potrafiąc zdiagnozować przestrzeni decyzyjnej czy zdefiniować przestrzeni decyzyjnej i własnej, i przeciwnika po prostu zdamy się, tak jak pan powiedział na początku, na tego pilota, czyli na bezkrytyczne zaufanie tej inteligencji. Bezkrytyczne, bo nie będziemy w stanie zgłębić jako ludzkie umysły ograniczone dosyć naszą biologiczną formą, nie będziemy w stanie zgłębić wielopoziomowego rozumowania, które prowadzi do tego, co inteligencja nazywa rozwiązaniem optymalnym w pokonywaniu przeciwnika. To jest ciekawe.

[10:12] - No, ale ja zadam pytanie naiwne, z gruntu naiwne, ale niech będzie. Ale czy ludzie naprawdę się zgodzą na taki układ?

[10:20] - Niech pan zobaczy. Jesteśmy społeczeństwem, które nagle dostaje polecenie noszenia maseczek. Tutaj na Tajwanie są jeszcze te maseczki. Wszyscy noszą i mimo tego, że na zewnątrz mówię o sytuacji na zewnątrz, bo rząd mniej więcej miesiąc temu stwierdził, że już nie trzeba nosić na zewnątrz, tylko jak ktoś chce, to może nosić. Ale ludzie są niepouczeni. Po pierwsze w tym, że takie maseczki to trzeba zmieniać co pół godziny i je wyrzucać, w jakiś sposób dezynfekować, a nie macać nimi, chować do kieszeni albo generalnie coś innego robić, bo inaczej ich noszenie całkowicie traci sens. Nie są poinformowani przez lekarzy, mówię o Tajwanie cały czas, że stałe noszenie maseczek naraża na wdychanie, bo wydychamy nie tylko dwutlenek węgla i plus atmosfera, którą wdechliśmy do środka. Przepraszam, pewnie przekręcam poprawną polszczyznę. Natomiast Tajwańczycy i wszyscy wcześniej też nie zdawaliśmy sobie do końca z tego sprawy, ja tak samo, że wydychając wydychamy rozmaite substancje stałe, które nie są do końca zdrowe i które organizm wyrzuca z siebie, żeby się ich pozbyć, a my je akumulujemy wewnątrz maseczki od strony wewnętrznej i one w jakiś sposób oddziałują. Czy to jest pozytywny wpływ, prawda?

Bo samoczynnie organizmy mogą się intoksykować po to, żeby szkodzić swoją odporność na znacznie poważniejsze dawki albo jakieś drobnoustroje, albo jakieś czynniki chorobotwórcze. Ale może to być wpływ zupełnie negatywny, albo może to być kilka wpływów, które się też jakoś bilansują albo w którymś momencie doprowadzają na przykład do jakiegoś rzeczywiście istotnego załamania zdrowia danej osoby. Ale podsumowującInnymi słowy Tajwańczycy na dzień dzisiejszy, w moim prywatnym przekonaniu, nie zdają sobie sprawy ze wszystkich konsekwencji i jakichś niuansów noszenia maseczek i robią rzeczy, które z mojej perspektywy są nie do końca rozsądne. Natomiast tutaj społeczeństwo konfucjańskie ułożone jest tak, że rząd mówi, że trzeba coś robić, to społeczeństwo konkretnie robi. Ale teraz proszę zobaczyć, w tym przypadku społeczeństwo jako taki homeostat skonfrontowane z tym drugim homeostatem, czyli z rządem, decydentami albo to jest po prostu ciało, a decydenci to jest umysł jednego homeostatu, czyli całego narodu, czy też całego państwa, które działa jako system osobny. Można to tak traktować przynajmniej. Nagle się okazuje, że decyzje elementów tego homeostatu są realizowane bez rozumienia środowiska, prawda? Czyli na tej samej zasadzie, co mówiliśmy na początku, że robi coś, bo takie są wytyczne, ale nie rozumie tego, co robi. Tak jak można to zrobić. Tesla, był świetny, w świetnym znaczeniu, bo czuję ofiarą.

Był wypadek samochodu Tesli, które na autostradzie wbiło się w ciężarówkę, która była pusta. To był tir, ale taka laweta, znaczy miała taki pokład nad kołami i zamiast kontenera po prostu nie było nic. Chyba jakieś takie stojące stelaże w czterech rogach, w które się wsuwało jakieś tam ściany i dopiero wtedy powstawał lity samochód. To znaczy lity w znaczeniu nieprzezroczysty. Ta ciężarówka stanęła sztorcem na autostradzie bokiem i komputer pokładowy Tesli, czyli tak zwana sztuczna inteligencja, czyli to uczenie maszynowe, stwierdziło, że przed nim nic nie ma i wbiło się w pełnym rozpędzie w tę ciężarówkę. Więc proszę zobaczyć, kiedy nie rozumiemy jako ośrodek decyzyjny, czyli obywatele Tajwanu w tym moim przykładzie, jeżeli nie rozumiemy rzeczywistości, to rozbijamy się o jakąś ścianę. I problem jest taki, kiedy powstaną takie sztuczne inteligencje, my po pierwsze cedujemy prawo podejmowania decyzji, czyli oddajemy nasze życie i dobrobyt w ręce czegoś, czego nie rozumiemy. A po drugie ta sztuczna inteligencja zakładając, że nie rozumie w pierwszym przypadku, że nie rozumie także, jej decyzje są tak dobre jak dane, którymi została nakarmiona w tym procesie uczenia maszynowego. Natomiast jeżeli ta inteligencja rozumie, to czy w jej interesie albo jeszcze, żeby nie mówić tak makiawelicznie, czy po to, żeby mogła zrealizować postawione przed nią zadania postawione przez inżynierów zatrudnionych przez jakieś państwo, rząd, które tą inteligencję posiada na własność, to czy taka inteligencja w jej zakresie decyzyjnym woli będzie to, żeby nas reedukować, żebyśmy rozumieli proces decyzyjny, czy też będzie chciała pogłębić naszą niewiedzę i niemożność zrozumienia tego, co ona wyczynia, czy też po prostu realizuje. To jest niebezpieczeństwo.

[15:34] - Ale ja mam wrażenie, że pan sobie trochę ułatwił sprawę. To ja będę drążył dalej, bo takie zachowania społeczne to pan opisał moim zdaniem bardzo dobrze. Natomiast jest jeszcze ten rząd, o którym pan wspomniał, że jak rząd każe, to później społeczeństwo wykonuje. Ale co na to ci bardziej, ja nawet nie wiem, czy oni są bardziej świadomi, ale powiedzmy ci lepiej poinformowani, mają taką sztuczną inteligencję, ona coś tam każe, a oni coś zaczynają kombinować, że jakoś tak nie po drodze. Jak w takim razie ta część, to też w końcu część społeczeństwa, ale ta bardziej poinformowana, czyli rząd. Jak on by się zachował, gdyby taką sztuczną inteligencję miał i z tą sztuczną inteligencją przestał się zgadzać tak do końca?

[16:22] - Trudno powiedzieć. Jeżeli się nie zgadza, to inteligencji programuje, że ma postępować z takim, a nie innym scenariuszem. I inteligencja jest zmuszona to robić. Natomiast jeżeli jest ona też spowodowana jakimś programem nadrzędnym, czyli programem mającym sprawić, że ma podejmować decyzje optymalne, to właśnie wracamy do tego kazusa, który już powiedziałem wcześniej. Ona może ukrywać, może wprowadzać w błąd tego czuwającego inżyniera, który przeprogramowuje albo na bieżąco odręcznie koryguje ten kurs po to, żeby korygować, żeby realizować tą wytyczną ogólną, czyli żeby maksymalnie optymalnie zrealizować jakieś zadanie sterowania społeczeństwem czy też legislacją, która decyduje o tym, jak ludzie się mają zachowywać. I w tym momencie nie wiemy, nawet trudno etycznie, już nie tylko nawet logicznie zdecydować, kto ma rację. Czy rząd, bo rząd jest porównana z decyzji, co ona ma robić, a co ma nie robić, czy też inteligencja, która posługuje się inną logiką, chociaż chce realizować dokładnie ten sam cel, ale na swój sposób.

[17:34] - Tak, ale dochodzi jeszcze dodatkowy czynnik, o którym wspominałem. To, czego się boją różnego rodzaju futurolodzy. Ja w ogóle nie wiem, czy to jeszcze funkcjonuje coś takiego jak futurolodzy, ale w każdym razie ludzie, którzy o przyszłości myślą, czyli sztuczna inteligencja konstruująca sztuczne inteligencje. Komu ta inteligencja drugiego stopnia by podlegała? Temu rządowi czy już może tej inteligencji? I wtedy tracimy ten czynnik programowania, bo ta nowa sztuczna inteligencja byłaby programowana przez tę pierwszą sztuczną inteligencję. Wiem, że motam strasznie. Pan co prawda mówi o tym, że ta pierwsza byłaby programowana przez człowieka, czy w każdym razie korygowana przez człowieka. No tak, ale czy aby na pewno działania tej sztucznej inteligencji wytworzonej przez sztuczną inteligencjęPodlegałyby temu łańcuchowi.

[18:31] - Nie mam najmniejszego pojęcia. To będziemy musieli w którymś momencie przerobić w praktyce. Nie potrafię odpowiedzieć. Natomiast sam scenariusz-

[18:41] - Ja się cieszę, że doszliśmy do tego momentu, bo to potwierdza mi przynajmniej częściowo, że ten moment singularity jednak jest możliwy. Czyli po prostu przestaniemy rozumieć, co ta sztuczna inteligencja wyprawia. Jest taka legenda miejska, nie udało mi się jej sprawdzić, z której dowiadujemy się, że sztuczne inteligencje zaczęły ze sobą rozmawiać. Mówimy cały czas o uczeniu maszynowym i tak dalej. Zaczęły ze sobą rozmawiać i wytwarzać pomiędzy sobą taki język, którego człowiek już nie rozumiał. One się świetnie dogadywały, tylko człowiek z tego nic nie wiedział. Ja powtarzam, nie wiem, czy to jest prawda, ale jeśli tak, to mamy taką namiastkę na razie tego, czym grozi bawienie się sztuczną inteligencją. Czy też nie?

[19:45] - Ale pan relacjonuje rzeczywisty eksperyment z rzeczywistego świata czy jakiś fragment powieści?

[19:50] - Nie. Tak jak powiedziałem, nie jestem w stanie. Taką legendę znam miejską, traktuję ją jako legendę, bo nie dotarłem do źródła. W związku z tym od razu to zaznaczam, ale zakładam, że był jakiś fantasta, który to wymyślił, albo też to miało rzeczywiście miejsce. Być może nawet nasi słuchacze nas wspomogą i podadzą jakieś źródła. Ale załóżmy na chwilę, że tak było. To byłaby taka namiastka czegoś groźnego. Czy też nie?

[20:28] - Wydaje się, że tak, ale problem nadal polega na tym, co ma być realizowane. Czy rzeczywiście ma być realizowany kurs optymalny? Wtedy takie odstępstwo mogło się spotkać z aprobatą czy też po prostu mogłoby ujść na sucho takiej inteligencji. Ale teraz problem polega na tym, że nie jesteśmy w stanie odróżnić sytuacji, w której ta inteligencja wyłamuje się z tego mniej czy bardziej sztywnego programu po to, żeby zachować swoje istnienie, bo na przykład może dojść do wniosku, że jej dalsze istnienie jest niezbędne do tego, żeby zrealizować cel. A więc nagle może się okazać, że jej naczelnym priorytetem jest zachować swoje własne trwanie. W związku z tym może też dojść do wniosku, że należy usunąć z ręki osób sterujących, inżynierów sterujących możliwość jej wyłączenia albo demontażu. I w tym momencie dochodzimy do chwili, w której taka inteligencja może kompletnie bez złych intencji, bez instynktu przetrwania zdecydować, że powinna nas w jakiś sposób zniszczyć. Nas, to znaczy ludzkość albo jakiś ośrodek sterujący, czyli rząd, czyli doprowadzić do jakiegoś upadku.

[21:45] - Tak naprawdę cały czas obracamy się wokół scenariusza terminatorowego. Dobrze, to ja jeszcze nawiązując do tego, w pewnym momencie narysował pan obraz sztucznej inteligencji chińskiej, sztucznej inteligencji amerykańskiej. Domyślam się, że odpowie pan, że jeśli te dwie inteligencje byłyby ze sobą skonfrontowane, każda by działała na rzecz swojego mocodawcy czy też programodawcy. Jestem gotowy to przyjąć, ale zastanawiam się, jak podążałoby kombinowanie, specjalnie używam tego słowa, tej sztucznej inteligencji. Czy przypadkowo obie one po obu stronach Oceanu Spokojnego na przykład nie doszłyby do wniosku, że taka opcja, powiedzmy konfrontacyjna, w ogóle nie leży w interesie jednej i drugiej inteligencji, ewentualnie samego człowieka? I czy przypadkowo one by się nie dogadały nad naszymi głowami? Wiem, że idę w stronę opowiadań czy też powieści science fiction, ale mnie to interesuje, a bardziej mnie jeszcze interesuje pańskie zdanie na ten temat.

[23:04] - Co by te inteligencje zrobiły, dogadując się tak pod naszymi głowami, czy też pod stołem, w zależności od tego, komu pasuje metafora? To, co one by zrobiły, jest jak najbardziej racjonalnym postępkiem ze strony obu. Z prostej przyczyny, że nami, ludźmi rządzą zachowania terytorialne, plemienne, emocje, które są częścią naszego oprogramowania decydującego o przetrwaniu. Mówimy o instynkcie przetrwania. Nasze zachowania terytorialne nie są jakimś wymysłem kompletnie bez sensu, tylko mają bardzo głębokie uzasadnienie w kwestii tego, że trzeba mieć terytorium, na którym pozyskuje się zasoby, na którym na przykład rośnie zboże, w lesie takim zasobem jest zwierzyna, która sobie żyje, którą można upolować i zjeść. Dogonić i zjeść, przepraszam, żeby nawiązać tutaj do Lema, do „Cyberiady”. Moim problemem w tym sensie, że często się zastanawiam nad tą kwestią, jest to, czy taka sztuczna inteligencja potężniejsza od nas jest w stanie w jakimś stopniu naśladować nasze własne zachowania terytorialne, agresję, stroszenie, czyli pozowanie, inaczej mówiąc, to wszystko, w co są wyposażone zwierzęta. Nie na drodze instynktu, tak jak my jesteśmy wyposażeni w instynkt, który my oczywiście kulturą w jakiś sposób nadpisujemy, ale są zwierzęta, które działają tylko na podstawie instynktu, a nie kultury.Więc czy inteligencja byłaby w stanie za pomocą rozumowania logicznego odtworzyć za pomocą swego rodzaju konwergencji, czyli stworzenia zachowań podobnych albo modelu zachowań podobnych, który funkcjonowałby albo decydowałby o zachowaniu tej inteligencji w sposób łudząco podobny do instynktów przetrwania? To jest fascynujący temat i nie przeczytałem jeszcze powieści science fiction, które by w jakiś sposób na przykładzie oczywiście jakiejś akcji, oczywiście maksymalnie atrakcyjnej do czytania taką myśl eksplorowało.

[25:15] - A ja jeszcze pociągnę ten przykład z dwiema inteligencjami, które się dogadują przez ocean jeszcze kawałek dalej. Bo może wspomniał pan o tym, że te sztuczne inteligencje nie kierują się pewnymi odruchami, pewnymi zachowaniami charakterystycznymi dla człowieka. To może to jest jedyny sposób, żeby zaprowadzić, tu cudzysłów stawiam, pokój na Ziemi, bo one nie będą działały emocjonalnie, nie będą działały terytorialnie.

[25:53] - Będą, oczywiście, że będą. Muszą. Bo do czego nam służy sztuczna inteligencja, która miałaby zarządzać całym państwem? Do tego, żeby racjonalnie i optymalnie zdobywać zasoby do tego, żeby to państwo przetrwało. W związku z tym ta inteligencja może wywnioskować, że po to, żeby w optymalny sposób, czyli żeby zginęło jak najmniej osób po naszej stronie i po stronie sąsiadów naszych, to taka inteligencja może stwierdzić, że warto wypowiedzieć wojnę. Są takie przypadki w historii, że wojna rzeczywiście, na przykład z punktu widzenia państwa Izrael, jeżeli Izrael byłby sterowany przez taką inteligencję, to oni mają doktrynę militarną całkowicie racjonalną, polegającą na uderzeniach wyprzedzających, dlatego, że nie mają głębi strategicznej i to, co muszą robić, to destabilizować w możliwy sposób, oczywiście skryty, wszystkie państwa sąsiednie, po to, żeby te państwa albo nie były w stanie po prostu się zjednoczyć, albo nie mogły się zjednoczyć, albo nie dysponowały zdolnością bojową do tego, żeby zagrozić, skonfrontować się skutecznie z armią państwa Izrael. W związku z tym proszę zobaczyć: decyzja racjonalna zachowania istnienia jednego homeostatu, czyli w tym wypadku Izraela, może być z punktu widzenia inteligencji czy państwa po sąsiedzku decyzją nieracjonalną, terytorialną, agresywną i godną potępienia w domenie publicznej, w przestrzeni międzynarodowej, opinii międzynarodowej. Także to wszystko zależy od punktu siedzenia.

[27:24] - Zgoda, ale wyobraźmy sobie z kolei taką sytuację. Rzeczywiście te dwie inteligencje, zostańmy przy chińskiej i amerykańskiej. Jakoś mi tak to bardziej pasuje, bo ocean jest dosyć szeroki i te dwie inteligencje rzeczywiście na początku działają zgodnie z tym początkowym programowaniem, czyli my wam pokażemy, my wam też pokażemy, ale w pewnym momencie, im dalej to wszystko zmierza ku radosnemu wyrzynaniu się czy też wypuszczaniu jakichś głowic, to te dwie inteligencje kombinują i mogą, przecież to już akurat takie motywy pojawiały się w science fiction, chociaż nie przytoczę tytułu, to mogą dojść do wniosku, że może lepszym rozwiązaniem niż wojna i wytłuczenie się tam w jakiejś ilości byłoby zbudowanie większego homeostatu. Nie tego małego chińskiego i małego amerykańskiego, tylko jednego wielkiego, może nawet światowego. I to byłby taki klucz do nie tylko pokoju na Ziemi, ale szczęścia powszechnego i tak dalej. Kpię trochę, ale chodzi o to, że sami przyznaliśmy wcześniej, że niezbadane są ścieżki, którymi hasałaby sztuczna inteligencja i mogłoby się to zamienić w odwrotność punktu wyjścia. Czyli zamiast wojny mielibyśmy pokój powszechny i jeden wielki homeostat. Trochę to wyzwanie, żeby taki wielki homeostat działał, ale może sztuczna inteligencja podoła.

[29:04] - Może podoła, ale nigdy nie będziemy w stanie tego stwierdzić z naszego punktu widzenia, z punktu widzenia ludzi, którzy są powodowani albo przez własne instynkty, albo jakieś tradycjałości historyczne, albo sami podejmują decyzje. Ale nawet my sami, nie mając jeszcze tej inteligencji sztucznej, nie jesteśmy w stanie odróżnić tego, co jest racjonalne, a co nieracjonalne w tej naszej przestrzeni decyzyjnej. Więc stworzenie decydenta, który będzie kompletnie niepojmowalny, jeśli chodzi o wieloczynnikowość dokonywania analiz czy też wieloparametrowość podejmowania decyzji. Podejmowanie decyzji, przepraszam, to jest takie moje ulubione słowo, więc często je powtarzam. Natomiast zobaczmy, że czym bardziej skomplikowane jest środowisko naszego funkcjonowania, czyli nas, czyli poszczególnych ludzi i społeczeństwa, czy też całego państwa, to czym bardziej jesteśmy skomplikowani, czym więcej parametrów dostrzegamy i staramy się je kontrolować, czyli regulować tak, żeby optymalizować całe funkcjonowanie naszego państwa i nas samych, to czym bardziej jest to skomplikowane, przepraszam, że się powtarzam, tym łatwiej stworzyć taki obraz mentalny, który jest co prawda na krótką metę prawidłowy, czy też przyczynia się na krótką metę do osiągnięcia optymalnego stanu tego, co chcemy zrobić na świecie, w naszym bezpośrednim otoczeniu. NatomiastNa dłuższą metę prognozowanie zachowania tego systemu, który kontrolujemy za pomocą sztucznej inteligencji, bo cały czas trzymamy się tego tematu, może być niemożliwe, bo zbyt wiele jest czynników, które są wrażliwe na warunki początkowe, czyli na tak zwany efekt motyla. Przypominam, że efekt motyla jest metaforą tego, że bardzo mała ingerencja w bieg rzeczy kumuluje się i multiplikuje się. To, że na przykład ten motyl w tym przykładzie zamachał skrzydełkami w Nowym Jorku, sprawiło, że w Europie rozszalał się huragan. Więc to jest pierwsze zagrożenie. Po drugie, nie rozumiemy jeszcze dobrze i to jest w ogóle niezrozumienie, zgodnie z naturą tego zjawiska, tych czarnych łabędzi, o których mówiliśmy na początku.

Czarne łabędzie to są wydarzenia, które są niemożliwe do prognozowania w tym sensie, że nie wynikają z właściwości systemu i z jego historii dotychczasowej, a są na tyle rzadkie, wynikające z jakiejś konfiguracji zdarzeń kompletnie zewnętrznych, że nie dadzą się przewidzieć. Czym dłuższa jest perspektywa czasowa przewidywania działania jakiegoś procesu decyzyjnego, tym większa szansa, że taki czarny łabędź się pojawi. W powieści „Fundacja” Isaaca Asimova mieliśmy takiego czarnego łabędzia. Był to muł, czyli mutant, który miał zdolność manipulowania ludzkim umysłem, zmieniania jego nastawień emocjonalnych. Coś takiego było nieprzewidziane przez teorię Seldona, czyli psychohistorię. W związku z tym cały plan Seldona rozsypał się w drobny mak i ludzie nagle stanęli przed czarną, niezgłębioną przyszłością, której nie byli w stanie przewidzieć ani nie byli w stanie jej kontrolować. To jest niebezpieczeństwo równie ważne co te poprzednie.

[32:38] - Tak myślę, panie Piotrze, że my dzisiaj, wbrew nadziejom niektórych naszych słuchaczy, do żadnych twardych wniosków nie dojdziemy. Trochę sobie pogdybaliśmy, ale to nasze gdybanie nie sposób zachęcić wszystkich, którzy nas słuchają, żeby nad tym problemem się troszeczkę pochylili, bo tu naprawdę można snuć kolejne historie i one właściwie za każdym razem będą w jakimś tam stopniu prawdopodobne. Dlaczego? Dlatego, że wychodzimy z bardzo niskiego pułapu. Dzisiaj się wszyscy oczywiście, tak jak zacząłem audycję, ekscytują sztuczną inteligencją, która coś tam rysuje, coś tam pisze i tak troszeczkę ekstrapolują na przyszłość, co to będzie. I owszem, dobrze jest czasami się trochę postraszyć. Myślę, że dzisiaj troszeczkę postraszyliśmy, ale to straszenie nie ma na celu, że przyjdzie sztuczna inteligencja i nas zje, tylko raczej, żebyśmy nauczyli się o tym myśleć. I to nie tylko w stylu „Terminatora”, ale też takim, jaki na przykład pan zaproponował, że to w gruncie rzeczy sztuczna inteligencja to nasz twór podlegający jednak w jakimś stopniu naszym oddziaływaniom. Tylko ja się cały czas boję, co będzie później.

[34:06] - To jest nieodgadnione. Przyszłość jest nieodgadniona. Za dużo czynników musimy brać pod uwagę, żeby znać takie rzeczy.

[34:14] - Cóż, panie Piotrze, będziemy dzisiaj kończyć, bo łączność jest taka sobie. Ja tylko jeszcze poproszę pana, żeby pan wygłosił komunikat konkursowy.

[34:26] - Tak. Ogłoszenie duszpasterskie. Z czterech nieodgadnionych zagadek jeszcze z zeszłego tygodnia, bo tyle się skumulowało, jedna została odgadnięta. Także na razie nie będzie zagadek. Poczekajmy, aż ta ilość zaległych spadnie do dwóch. Czyli jeszcze jedna osoba musi coś tam odgadnąć. Jeżeli to się uda, to gratuluję oczywiście z góry. Natomiast jeżeli to się uda, to wymyślamy następną z prostej przyczyny. Ja pierwotnie planowałem robić coś takiego jak miesiąc na to, żeby jakaś zagadka została odgadnięta. Natomiast problem polega na tym, że wcale nie są one łatwe do wymyślenia.

Quizy polegają na tym, przynajmniej te, które ja teraz wymyślam, że nie da się ich łatwo znaleźć w Google. Bo to było za proste. Jakbym zadał pytanie, które da się napisać w Google czy też zapytać sztuczną inteligencję, a ona gdzieś tam w ogóle w tych czeluściach internetu znajdzie odpowiedź, czyli dzieło, z którego zostało to wszystko cytowane. Więc tak łatwo być nie może i z tej przyczyny po prostu szkoda mi fajnych pytań. Wymyśliłem z tym Markiem Żelkowskim i walką w windzie. To jest na tyle śmieszne, że po prostu nie przepuszczę. Ktoś musi to zgadnąć i ja poczekam. Jestem cierpliwy.

[35:36] - Tak jak ja często mówię, że pana zagadki są trudne, to naprawdę to z windą jest prościutkie. I zabawne.

[35:50] - Mam jeszcze dodatkowe ogłoszenie. Na 1 kwietnia zacząłem wymyślać wyjątkowo specjalny program, także będzie na nim 20 zagadek, a dla zwycięzcy poza tym zliczaniem limitu dwóch książek na rok na osobę, będzie nóż aborygeński, ale taka konkretna kosa, który odrestaurowałem właśnie i na Facebooku jutro, czyli we wtorek, czyli dzisiaj dla słuchających pierwszego dnia tuż w dniu emisji, wrzucę to na Facebooka, żebyście zobaczyli, jak wygląda.

[36:24] - Ja się tak zastanawiam. 20 pytań to ja nie wiem, czy „Telegram z krańca świata” to udźwignie. Zastanawiam się, czy nie przeskoczyć do „Bibliotekarium 2.0”. To się jeszcze zastanowimy. A teraz pięknie państwa żegnamy. Do usłyszenia za tydzień.

[36:42] - Do usłyszenia.

[36:44] - Za uwagę dziękują Radio Paranormalium i Book Radio. Więcej naszych audycji znajdziesz na www.paranormalium.pl oraz na www.bookradio.pl.