Úvod

Mysl je složitý výtvor, spředený z mnoha různých pramenů a zahrnující mnoho různých plánů. Některé z těchto prvků jsou tak staré jako život sám a některé jsou nové jako současná technologie. Naše mysl je v mnoha ohledech docela jako mysl jiných živočichů, zatímco v mnoha jiných je naprosto odlišná. Můžeme vůbec poznat, co se odehrává v mysli někoho jiného? Můžeme poznat, o čem přemýšlí kůň? Myslí pavouk, když spřádá své sítě, nebo je jenom automatem bez vědomí? Existuje vůbec nějaký propastný rozdíl mezi myslí člověka a zvířete, který by je natolik odlišoval?

Evoluce

Faktem, který dnes již nelze popřít je to, kolik toho máme společného s ostatními živočišnými druhy kolem nás. Nemyslím tím pouze šimpanze, ale především ty druhy, kterým ze svého pohledu nepřisuzujeme inteligenci. Krásou evoluce je to, kolik se s jednoduchým počátečním pravidlem, tedy přežít za účelem replikace sebe sama, objevuje variace díky adaptaci druhů na své okolí. Díky odlišnostem, které skýtají různá prostředí, existuje nekonečné množství typů chování – nekonečné množství druhů. Ta chování, která jsou úspěšná, zůstávají, ta, která jsou neúspěšná, zanikají. V jiné době a v jiném prostředí mohou být hodnotící kritéria prostředí odlišná a zvítězí chování jiné. Mutace, jakožto hnací motor evoluce způsobuje to, že se v prostředí vyskytne druh, jehož, mutací získaná, výhoda umožní jeho rozvoj. Ustrne-li však ve svém lokálním maximu vývoje, objeví se v prostředí druh jiný, který obsadí jeho prostor k existenci.

O evoluci mluvím hlavně z toho důvodu, abych ukázal, kam až sahají náznaky inteligence. Některé molekuly mají tu pozoruhodnou vlastnost, že ponechají-li se plavat ve vhodně vybaveném médiu, začnou konstruovat a potom vypouštět přesné – či téměř přesné – kopie sebe sama. Takovými makromolekulami jsou DNA i její předchůdkyně, RNA; ty jsou základem všeho života na této planetě a tudíž historicky nutně předcházejí všem myslím. Po zhruba milion let před tím, než se na zemi objevily jednoduché jednobuněčné organismy, existovaly sebe-replikující makromolekuly, které bez přestání mutovaly, rostly, a dokonce se opravovaly a stávaly se v tom stále lepšími – znovu a znovu se replikovali. U makromolekul DNA se stáváme svědky zrodu konatelství. DNA však (s nějvětší pravděpodobností), neví co činí.
Podívejme se na tento popis činnosti fágu RNA – replikujícího se viru:

Virus především potřebuje materiál, do kterého by zabalil a v němž by chránil svou vlastní genetickou informaci. Za druhé potřebuje prostředky zavedení své informace do hostitelské buňky. Za třetí vyžaduje nějaký mechanismus pro specifickou replikaci své informace za přítomnosti obrovského přebytku RNA hostitelské buňky. A nakonec musí připravit půdu pro šíření své informace, pro proces, který obvykle vede k destrukci hostitelské buňky. Virus dokonce buňku přiměje, aby prováděla jeho replikaci; jeho jediným příspěvkem je jeden bílkovinný faktor, speciálně přizpůsobený pro virovou RNA. Tento enzym se nezaktivuje, dokud se na virové RNA neukáže “heslo”. Když vidí heslo, reprodukuje s velkou účinností virovou RNA a přitom ignoruje mnohem větší počet molekul RNA hostitelské buňky. V důsledku toho je buňka brzy zaplavena virovou RNA. Ta je balena do obalové bílkoviny viru, která je také syntetizována ve velkém množství, a nakonec se buňka rozprskne a uvolní spousty dceřiných virových částic. Všechno tohle je program, který běží automaticky a je prováděn do nejmenších podrobností. (Eigen, 1992, str. 40)

Z těchto slov plyne, že makromolekuly jsou systematické, účinné, jsou vhodným způsobem citlivé na variance, jsou vychytralé a zvrhlé. Mohou však být oklamány tím, s čím se jejich předkové doposud nesetkali. Nelze pochybovat, že potomky, těchto sebe-replikujících robotů jsme my. Jsme savci a všichni savci se vyvinuli z plazích předků, jejichž předky byly ryby, jejichž předky byli mořští tvorové podobní červům, kteří se zase před několika sty miliony lety vyvinuli z jednodušších mnohobuněčných tvorů, kteří se vyvinuli z jednobuněčných tvorů, kteří se vyvinuli ze sebe-replikujících makromolekul, a to asi před třemi miliardami let. Máme společného předka s každou řasou, šimpanzem i stéblem trávy.

Samoorganizace

Samoorganizace je jednou z teorií o vzniku života na naší planetě. Současná věda poukazuje na fakt, že hmota je schopna sama sebe organizovat a vytvářet struktury. Tímto způsobem je možno vysvětlit vznik života na zemi, jako samoorganizující se proces. Je to proces, při němž organizace určitého systému roste spontánně, tedy bez ovládání prostředí, nebo zásahu nějakého jiného vnějšího systému.
Příkladem může být mraveniště a mravenec. Samotný mravenec je jen primitivním automatem, ať už se jedná o mravence posledního z posledních nebo královnu. Každý z nich dělá jen přesně specifikovanou množinu úkonů a nic víc. Přesto mraveniště jako takové funguje jako perfektně řízený celek, který umí flexibilně a tudíž inteligentně reagovat na nečekané a nepřirozené podněty. Znamená to snad, že si mraveniště uvědomuje samo sebe, že si uvědomuje fakt, že je hromadou jehličí s nějakým hmyzem uvnitř?
Formálně je pojem samoorganizace vysvětlován pomocí pojmu entropie, který určuje míru neuspořádanosti daného systému. Čím je entropie větší, tím větší je míra neuspořádanosti. Samoorganizace pak vzniká v sytému, který se skládá z velkého množství samostatných jednotek, které tvoří menší systémy, mezi nimiž dochází k tokům entropie. Vzniká tedy mezi částmi tvořící celek. Dochází ke vzniku dispativních struktur. Struktur, kde dochází k úniku energie do okolí systému, které mají dva základní rysy. Tím prvním je to, že si vždy vyměňují energii s okolím a tím druhým je fakt, že je dřív nebo později čeká smrt. U živých organismů je to smrt taková, jak ji známe u jiných struktur, jako jsou chemické reakce, je to zánik reakce, ale v každém případě vede k ukončení samoorganizačního procesu.

Systémy a emergence

Systém je celek, jehož fungování závisí na jeho částech a vztazích mezi nimi. Části vytváří celek, celek dává smysl částem.
Emergence je vznik takových charakteristik systému, které nejsou popsatelné v rámci jednotlivých prvků tvořících tento systém. Např. elementární částice nepohlcují nějakou specifickou vlnovou délku elmag. záření a proto nemají barvu. Ale systém elementárních částic (např. soubor molekul) již nějakou vlnovou délku může pohlcovat a tedy má barvu. Barva je tedy emergentní jev, který není popsatelný prvky systému.
Stejně tak vědomí nikde v organismu nenajdeme. Organismus je systémem vzájemně propojených buněk, které se sdružují do tkání a tyto tkáně vytváří orgány a ty tvoří organismus.
Analogií k organismu je například ekonomika. Systém ekonomiky reaguje podobně jako živý organismus a vznikla na základě potřeby uspokojit potřeby člověka. Je však už víc než člověk. Zpětně ho ovlivňuje to, co sám vytváří tím, jak se chová. Je to vysoce propojený systém. Právě v tom, že se prvky na určité úrovni propojí, umožňují vznik vyššího celku, který má nové vlastnosti.

Systémové myšlení

Kolem roku 1930 se stal tématem život, který byl v rozporu s redukcionismem a mechanistickým pojetím. Systémové myšlení (holismus) si uvědomuje, že fyzikálně a chemicky je těžké rozlišit mezi životem, umíráním a smrtí (např. DNA je stejná). Zabývá se problémy jako stabilita – ta je ve fyzice spojená s minimalizací energie (např. těleso je stabilní, pokud je těžiště na nejnižším místě a potenciální energie je minimální.) Organismus, organizace a např. výrobní linka jsou stabilní při stavu vysoké energie.
Lidské systémy se podobají živým organismům (viz. celulární automaty). Jak mohou ve světě neřízeného fyzikálně chemického pohybu vzniknout stroje? Hodiny se samy nepostaví. Je možné naprogramovat embryo nebo mozek na regulaci při nekonečném počtu různých výkyvů? Je tu stálá výměna součástí. Systémy řídí nějaký řád. Mechanismy jsou v něm zakomponovány. U uzavřených systémů roste entropie s časem. U organismů, které jsou systémem otevřeným platí toto pravidlo teprve v okamžiku smrti.

Celulární automaty

Ve 40. letech 20. století vznikly pod záštitou Johna von Neumanna, který hledal způsob, jakým vytvořit sebe-reprodukující se stroje, první celulární automaty. Ty pak umožnily vytvořit fyzikální modely reálných situací. Sloužily k časové i prostorové diskrétní idealizaci fyzikálních systému, kde hodnoty veličin nabývají pouze diskrétních hodnot v průběhu času. Pomocí jednoduchých pravidel bylo a je možné vytvořit celulární automat se složitým dynamickým chováním, čehož v roce 1970 využil John H. Conway se svou Hrou života. Ta vyšla v časopise Scientific American. Vydavatel tehdy napsal:

Hra života ihned po vydání proslavila Conwaye, ale také otevřela nové pole matematického výzkumu celulárních automatů. Stalo se tak hlavně z důvodu analogií hry a růstu, úpadku a změn ve společnosti živých organismů.

Jeho vydání vyvolalo velký čtenářský ohlas a brzy na to byl vydán další článek, který se zabýval technickým provedením hry. V roce 1971 byl založen samostatný časopis LifeLine, který vycházel čtvrtletně do roku 1973.
Počáteční výzkum Hry života provázely dvě zásadní otázky – “Může nějaký tvar růst bez omezení?” a “Existuje taková konfigurace, která se vyskytuje v druhé a už v žádné další generaci?”
První otázka byla zodpovězena vytvořením struktury, která se nazývá dělo (gun), další strukturou pak byl pak kouřící vlak, který se hýbe sám a zanechává za sebou stopu. Obě struktury vymyslel R. William Gosper, který za to byl Conwayem oceněn.
Druhé otázce se také říká Problém existence dědečka (The Grandfather problem). Otázka nebyla doposud zodpovězena. V nedávné době se objevily pokusy o vytvoření teoretických počítačových systémů založených na Hře života (1,2).

Hra života

Svět Hry života je tvořen nekonečným dvourozměrným polem (teoreticky; prakticky mají výpočetní zařízení omezenou pamět), kde každá z buněk (prvky pole) je buďto mrtvá, nebo živá. Na začátku hry se nastaví počáteční konfigurace a v následujících diskrétních momentech (tick) probíhá interakce buňky s okolím. Pravidla jsou uplatňována v každé generaci buněk za vzniku generace nové. V průběhu hry vznikají různé tvary, které se dělí do kategorií jako jsou zátiší, oscilátory, děla a další. Každá z buněk interaguje se svým okolím následujícím způsobem:

  • Jakákoliv živá buňka s méně než dvěma živými sousedy zahyne
  • Jakákoliv živá buňka s dvěma, nebo třemi živými sousedy přežívá
  • Jakákoliv žívá buňka s více než třemi živými sousedy zahyne – přemnožení
  • Jakákoliv mrtvá buňka se třemi živými sousedy se stává živou buňkou – reprodukce

Tato konkrétní pravidla se nazývají S23/B3. Čísla před lomítkem říkají kolik sousedů musí buňka mít, aby přežila, čísla za lomítkem říkají kolik sousedů potřebuje mrtvá buňka k ožití. Tato pravidla byla vybrána vědomě s cílem zajistit, aby populace živých buněk rostla nepředvídatelně. Konkrétně jde o splnění požadavků, že by:

  • neměl existovat žádný počáteční vzor, pro který by šlo snadno dokázat, že populace může růst nade všechny meze
  • měly existovat počáteční vzory zdánlivě nade všechny meze rostoucí
  • a že by měl existovat takový počáteční vzor, který se určitou dobu vyvíjí než úplně vymizí, přejde do stabilní podoby a nebo do oscilační fáze.

Rozpoznané herní struktury

Z těchto jednoduchých pravidel pak vznikají útvary se specifickým chováním:

  • Zátiší je stabilní konfigurací – vzor je svým vlastním rodičem (rodič je přímý předchůdce). Jsou často označované jako invariantní formy, jelikož se v průběhu hry nemění. Jsou složené z konečného počtu živých buněk. Další definice říká, že zátiší nesmí být možné rozdělit způsobem, při kterém by jeho části zůstaly stabilní samostatně. Pokud zátiší nevyhovuje druhé definici, mluvíme o pseudozátiší.
  • Oscilátor je nestabilním vzorem, který je svým vlastním předchůdcem. S určitou periodicitou se vzor opět navrací do své původní konfigurace. Oscilátory s periodou 2 se nazývají alternátory. Oscilátory s periodou 3 se nazývají pulzary.
  • Dělo je stacionárním vzorem, který do nekonečna vytváří vzory, které se po herním poli pohybují.
  • Posunovací se vzor se pohybuje po hracím poli a s určitou periodicitou se navrací ke své původní podobě – oscilátor. U těchto vzorů se mimo periodicity určuje také jejich rychlost. Základní jednotka rychlosti je definována jako jedna buňka za generaci a představuje nejvyšší rychlost, kterou se ve hře může buňka pohybovat – ve hře se označuje také jako rychlost světla c. Nejznámějším vzorem je křídlo, které se pohybuje rychlostí c/4.
  • Kuřák (Puffer) se pohybuje a zanechává za sebou stopu.
  • Rajská zahrada (také označována jako sirotek) je konfigurace, která se může objevit pouze v nulté generaci. Jeho existenci předpověděl Edward F. Moore a John Myhill. Moorův-Myhillův teorém říká, že pokud má nějaká konfigurace více než jednoho předka, tak existuje taková konfigurace, která žádného předka nemá a naopak. Teorém se vysvětluje na příkladu: Pokud se hrací plocha skládá z konečného množství buněk N a každá buňka se může nacházet ve dvou stavech, potom celkový počet možných konfigurací je 2^N v každé generaci. Pakliže dvě různé konfigurace vytvoří v další generaci totožnou konfiguraci, pak přechodovou funkcí bylo vygenerováno pouze 2^(N-1) konfigurací a jedna konfigurace tedy nemá předchůdce. První praktický vzor nalezl v roce 1971 Roger Banks.
  • Metuzalém (Methuselah) je malý vroz, jehož stabilizace trvá dlouhou dobu. R-pentomino se stabilizuje až po 1103 generacích, žalud po 5206 generacích a králíkům přechod trvá 17332 generací.
  • Agar (Agar) je vzor pokrývající celé herní pole a je periodický jak v prostoru, tak čase.
  • Pilový zub (Sawtooth) je vzor, jehož populace neustále roste, ale neroste do nekonečna. Po určité době růstu se ustálí na určitou konstantní hodnotu. První takový vzor sestrojil v roce 1991 Dean Hickerson.
  • Knotem (Wick) je dlouhá sekvence opakujících se vzorů složená ze zátiší a oscilátorů. Na jedné straně může být zapálen a uhořívat.

Ve hře života můžeme vidět, jak struktury s určitou počáteční konfigurací přežívají a jiné umírají. Analogie s evolucí je také v samo-organizační povaze struktur. Ze světa přírody se zde dostáváme do světa počítačové simulace, jejíž struktury vykazují chování podobné živým organismům. Hra podpořila také rozvoj neuronových sítí, u kterých se v 90. letech ukázala překvapující virtuozita jednoduchých sítí, které svůj “život” začínaly náhodným zapojením a na základě odezvy okolí získávaly zkušenosti upravující jejich chování.

Rozdělení organismů dle D. Dennetta

Na počátku byla darwinovská evoluce druhů přirozeným výběrem. Víceméně svévolnými procesy rekombinace a mutace genů byla slepě vytvořena řada organismů-kandidátů. Tyto organismy byly prověřovány svým okolím a přežily pouze ty nejlepší z nich. Organismy tohoto typu nazývá D. Dennett darwinovskými tvory.

Některé z těchto organismů mohly být přizpůsobovány událostem, které se vyskytly během prověřování. Ty pak zkoušely různé druhy chování v rámci této fenotypické plastičnosti. Zvolené chování dostalo od svého okolí positivní, či negativní signál. Organismy, které měly tuto schopnost pak Dennett nazývá jako skinnerovské (podle behaviorálního psychologa B. F. Skinnera). Kde končilo vrozené chování darwinovských tvorů, nastupovala vrozená měnitelnost procesu chování.

Chování pokus-omyl je výhodné, pokud nejste zabiti jednou z vašich raných chyb. Lepší systém zahrnuje předvýběr mezi všemi možnými způsoby chování nebo činy, takže ty skutečně hloupé tahy jsou odhaleny dříve, než jsou riskantně uplatněny. Organismy s touto schopností formuloval filosof Sir Karl Popper, který chování popsal tak, že “dovoluje nechat namísto nás umírat naše hypotézy”. Popperovští tvorové přežívají, jelikož jsou dost chytří na to, aby první tahy udělali lepší než jen čistě náhodně. Tito tvorové jsou vybaveni vnitřním prostředím, které shromažďuje informace o prostředí okolním. Čím více faktických informací z okolí mají, tím lépe se dokáží rozhodovat.

Intencionalita

Fridrich Nietzsche ve svém díle Vůle k moci napsal:

Něčeho si všimnu a hledám k tomu důvod: to pro mě znamená: hledám v tom úmysl a především někoho, kdo má úmysly, subjekt, konatele: každá událost je činem – dříve viděl člověk úmysly ve všech událostech, to je náš nejstarší zvyk. Mají je i živočichové?

V jednoduchém systému hry života jsme viděli struktury, které reagovali na své prostředí, avšak tuto skutečnost si neuvědomovali. Na druhou stranu reaguje člověk také na své okolí, avšak má možnost vědomě zvážit důvody pro a proti. Koná tedy úmyslné – intencionální – činy. Kde je však ten přechod mezi vědomím a nevědomím? Kde je ten přechod mezi skinnerovským a popperovským tvorem?

Society of mind

Marvin Minsky hledal inteligenci organismů a rozděloval konatele (agenty) na jejich podčásti tak dlouho, dokud nenalezl agenta bez inteligence – vykonavatele. Ve svém díle Society of Mind ukázal, že činnosti, které považujeme za inteligentní (např. stavba věže z kostek), sestává ze spousty podprocesů, které lze také dále členit. Pokud chceme postavit věž z kostek, musíme umět vyhledat kostku, zvolit kostku, která není použitá, uchopit kostku, přesunout ji, volit správné místo, na které by kostka měla přijít, atd. Ačkoliv to tak na první pohled nemusí vypadat, výběr kostky je už velice komplexním procesem. Kostka může být už použita, nebo je k dispozici nepoužitá kostka. Na této úrovni musíme rozpoznat struktury, které jsou před námi – krabice, věž. Rozpoznání kostky, kterou můžeme vytáhnout z věže a znovu ji použít, abychom udělali věž vyšší, zahrnuje agenty, kteří se zabývají rozpoznáním těžiště věže a projektují možnosti, které mohou nastat ve chvíli, když bychom kostku vytahovali. Výběr kostky tedy využívá agenta pro úchop kostky. Úchop kostky využívá agenta na rozpoznání tlaku, kterým ruka působí. Tlakového agenta používá mnoho dalších agentů. Tato provázanost dle Minského vytváří inteligenci – resp. vytváří komplexní systém propojení neinteligentních agentů, které se díky své komplexitě jeví tak, že obsahuje inteligenci.

Intermezzo

Ukázali jsme si, jak se přirozené organismy vyvíjejí, aby reagovali na své okolí. Jejich získané zkušenosti jsou obsaženy v DNA. Ve hře života jsme si ukázali, jak se rozvíjejí struktury, která vznikly postupným vývojem dle stanovených pravidel. Pravidla mohou být jednoduchá, struktury vysoce komplexní. Vlastní chování a interakce struktur se může jevit také velmi komplexně. Je však stále založena na těch samých pravidlech.

Ukázali jsme si také, že organismus je více než jeho části – systém je více než pouhý součet svých částí. V propojení částí vznikají struktury, které mají nové vlastnosti.

Důvod pro sdružování a propojování je vývoj organismu, který se adaptuje na své okolí. Svým vývojem zvyšuje komplexitu okolí pro ostatní organismy a podněcují tak jejich rozvoj.

Poznali jsme, že organismy lze rozlišovat podle toho, jakým způsobem interagují s prostředím. Nalezli jsme čistě reaktivní interakci, interakci se “slepou” adaptivitou a intencionální adaptaci, která řeší problémy reakce na podněty “uvnitř” – dříve než něco vykoná.

Člověk

Podle mého názoru jsou v našem okolí živočichové, kteří vědomí mají také. Avšak je to vědomí v jiné úrovni. Pes určitě nebude přemýšlet ve větách typu:

“Ten červený kbelík je plný hovězího.”

Problémem je to, že organismům kolem nás přisuzujeme lidské uvažovaní. Lidský jazyk a kategorie věcí kolem nás jsou lidským systémem. Tyto systémy člověk projektuje do svého okolí a zpětně člověka ovlivňují – stejně jako ekonomika. Pes určitě nebude nad barvou kbelíku uvažovat jako nad červenou. Rozpozná rozdíl, ale určitě mu nepřisoudí pojem “červený”. To, že my takový pojem rozlišujeme, umožňuje nám např. postavit systém, ve kterém budeme zkoumat to, jak nás, lidi, červená barva ovlivňuje.

Vývoj organismu je reakcí na okolní prostředí. Co způsobilo tak velký rozdíl mezi člověkem a ostatními druhy? Myslím si, že je to právě tím, že se člověk naučil řeči, jakožto reprezentaci vnitřních stavů. Stavy kategorizoval a na těchto kategoriích dále staví. Tím, že pomocí kategorií charakterizujeme své okolí, vytváříme sami sobě systém, který je pilířem pro náš rozvoj. Tím, že něco vyčleníme z okolí a zkoumáme to samostatně však ještě nevzniká poznání a vědomí, jehož jsme dosáhli. To vzniká propojením těchto pojmů v systémy vyšší hierarchie. Pokud zůstaneme u barev, teprve nedávno byla vytvořena kategorie pro fialovou barvu. Neustále vyvíjíme systémy, které reflektují naše aktuální poznatky. S těmito systémy se i utváří naše vědomí.

Nad vědomím přemýšlím jako nad aktuální úrovní uvědomění si sebe sama a svého okolí. Čím vyšší propojenost pojmů máme, tím vyšší úrovně vědomí dosahujeme. Nesmíme však opomíjet to, kdo člověk opravdu je. Z určité perspektivy není člověk ničím jiným než živočichem. Má stejné charakteristiky jako ostatní živočichové – musí jíst, je smrtelný, má své pudy, atd. Co s naší racionalizací udělá pěkná dívka, kterou vidíme na ulici, možnost získat něco za výhodnou cenu, nebo možnost ukončování trápení v podobě útěku ze situace. Mnohé charakteristiky zůstávají, avšak čím větší máme povědomí o tom, co se v nás a kolem nás děje, jsme schopni efektivněji řešit tyto konflikty. Jak interpersonální tak intrapersonální.

Závěr

V práci byl ukázán účel vývoje organismů a způsoby jejich adaptace na okolí. Závěr je takový, že vědomí je emergentní vlastností organismů, která je důsledkem adaptace organismů na své prostředí. Vědomí existuje v “mnoha příchutích” podle toho, v jakém prostředí organismus žije. Vědomí je reakcí na konflikty, které vznikají díky vzrůstající komplexitě okolí. Slouží k tomu, aby byly tyto konflikty vyřešeny a systém se mohl navrátit do stavu minimální energie. To, že lidé řeší otázky typu: “Co je to krása?” je z důvodu poznání principů organizace okolí a rozpoznání tohoto minimálního stavu energie.

Zdroje

  • KNAPOVSKÝ, Martin. VŠE FIS. Hra života: Semestrální práce. Praha, 2014.
  • DENNETT, Daniel Clement. Druhy myslí: k pochopení vědomí. Vyd. 2., upr., v Academii 1. Překlad Jaroslav Peregrin. Praha: Academia, 2004, 174 s. Mistři vědy, sv. 4. ISBN 80-200-1177-3.
  • MINSKY, Marvin a Illustrations by Juliana LEE. The society of mind: k pochopení vědomí. First Touchstone Edition, 1988. Překlad Jaroslav Peregrin. New York: Simon and Schuster, 1986, 174 s. Mistři vědy, sv. 4. ISBN 978-067-1657-130.
  • JACKSON, Michael C a Illustrations by Juliana LEE. Systems thinking: creative holism for managers. First Touchstone Edition, 1988. Překlad Jaroslav Peregrin. Hoboken, N.J.: John Wiley, c2003, xxiii, 352 p. Mistři vědy, sv. 4. ISBN 04-708-4522-8.