Technologická singularita

Při zakreslení do logaritmického grafu ukazuje 15 samostatných seznamů posunů paradigmat pro klíčové události v lidské historii exponenciální trend. Seznamy připravené mimo jiné Carlem Saganem, Paulem D. Boyerem, University of Arizona, sestavené Rayem Kurzweilem.

Technologická singularita je teoretickým budoucím bodem bezprecedentního technologického pokroku, způsobeného částečně schopností strojů zdokonalovat se pomocí umělé inteligence.

Statistik I. J. Good nejprve napsal o „inteligenční explozi“ a naznačil, že pokud by stroje mohly alespoň trochu překonat lidský intelekt, mohly by vylepšit své vlastní návrhy způsoby, které jejich konstruktéři nepředpokládali, a tím se rekurzivně rozrůst do mnohem větších inteligencí. První taková vylepšení by mohla být malá, ale jak by se stroj stal inteligentnějším, stal by se inteligentnějším, což by mohlo vést k exponenciálnímu a zcela náhlému růstu inteligence.

Vernor Vinge později nazval tuto událost „singularitou“ jako analogii mezi rozpadem moderní fyziky v blízkosti gravitační singularity a drastickou změnou ve společnosti, o které tvrdí, že by nastala po explozi inteligence. V 80. letech 20. století Vinge popularizoval singularitu v přednáškách, esejích a sci-fi. V poslední době někteří významní technologové jako Bill Joy, zakladatel společnosti Sun Microsystems, vyjádřili znepokojení nad potenciálním nebezpečím Vingeovy singularity (Joy 2000). Po jejím uvedení ve Vingeových příbězích, zejména Marooned in Realtime a A Fire Upon the Deep, se singularita také stala běžným dějovým prvkem v celé sci-fi.

Jiní, nejvýrazněji Ray Kurzweil, definují singularitu jako období extrémně rychlého technologického pokroku. Kurzweil tvrdí, že taková událost je implikována dlouhodobým vzorcem zrychlující se změny, který zobecňuje Moorův zákon na technologie předcházející integrovanému obvodu a o kterých tvrdí, že budou pokračovat na další technologie, které ještě nebyly vynalezeny. Kritici Kurzweilovy interpretace ji považují za příklad statické analýzy s poukazem na konkrétní selhání předpovědí Moorova zákona.

Robin Hanson tvrdí, že v průběhu dějin došlo k mnohonásobným „singularitám“, které dramaticky ovlivnily tempo růstu ekonomiky. Technologická singularita by stejně jako minulé zemědělské a průmyslové revoluce zvýšila hospodářský růst 60krát až 250krát. Inovace, která by umožnila nahradit prakticky veškerou lidskou práci, by mohla tuto singularitu vyvolat.

Kritici poznamenávají, že zastánci „singularity“ mají tendenci ignorovat všechny negativní dopady technologie a zaměřují se pouze na pozitivní účinky. Singularita také sklízí kritiku od zastánců anarchoprimitivismu a environmentalismu.

Good (1965) spekuloval o důsledcích strojů chytřejších než lidé:

Matematik a autor Vernor Vinge velmi zpopularizoval pojem inteligenční exploze v 80. letech minulého století a nazval vytvoření prvního ultrainteligentního stroje Singularitou. Vinge se tématu poprvé věnoval v tištěné podobě v lednovém čísle časopisu Omni z roku 1983. Vinge (1993) obsahuje často citovaný výrok: „Do třiceti let budeme mít technologické prostředky k vytvoření nadlidské inteligence. Krátce poté skončí lidská éra.“ Vinge zpřesňuje svůj odhad časové škály a dodává: „Budu překvapen, pokud tato událost nastane před rokem 2005 nebo po roce 2030.“

Vinge pokračuje předpovědí, že nadlidské inteligence, ať už jsou vytvořeny jakkoli, budou schopny vylepšit svou vlastní mysl rychleji než lidé, kteří je vytvořili. „Až bude pokrok pohánět inteligence vyšší než člověk,“ píše Vinge, „bude tento pokrok mnohem rychlejší.“ Tato zpětná vazba sebezdokonalující se inteligence, předpovídá, způsobí během krátké doby velké množství technologického pokroku.

Navzdory četným spekulovaným prostředkům pro zesilování lidské inteligence je umělá inteligence (konkrétně umělá inteligence osiva) nejpopulárnější možností pro organizace snažící se o prosazení singularity, což je volba, kterou se zabýval Singularity Institute for Artificial Intelligence (2002). Hanson (1998) je také skeptický k rozšiřování lidské inteligence a píše, že jakmile člověk vyčerpá „nízko visící ovoce“ snadných metod pro zvyšování lidské inteligence, bude stále obtížnější najít další zlepšení.

Je obtížné přímo srovnávat hardware na bázi křemíku s neurony. Berglas (2008) však poznamenává, že počítačové rozpoznávání řeči se blíží lidským schopnostem a že tato schopnost zřejmě vyžaduje 0,01% objemu mozku. Tato analogie naznačuje, že moderní počítačový hardware je o několik řádů výkonnější než lidský mozek. Je také poznamenáno, že celý lidský genom tvoří jen asi 750 megabajtů dat, z nichž pouze 1,5% kóduje geny, z nichž většina nemá nic společného s inteligencí. Existuje také jen asi 1% rozdíl v genech člověka a šimpanze. To naznačuje, že „software“ v mozku, s nímž se rodíme, je poměrně malý – jednoduše neexistuje žádný úložný prostor pro obrovský, libovolný program.

Doporučujeme:  Paracelsus

Dalším faktorem, který může singularitu uspíšit, je pokračující rozšiřování komunity, která na ní pracuje, což je důsledkem nárůstu vědeckého výzkumu v rozvojových zemích.

Dramatické změny v tempu hospodářského růstu nastaly v minulosti kvůli určitému technologickému pokroku. Na základě populačního růstu se ekonomika od paleolitu až do neolitické revoluce zdvojnásobovala každých 250 000 let. Tato nová zemědělská ekonomika se začala zdvojnásobovat každých 900 let, což je pozoruhodný nárůst. V současné éře, počínaje průmyslovou revolucí, se hospodářský výkon světa zdvojnásobuje každých patnáct let, šedesátkrát rychleji než v éře zemědělství. Pokud vzestup nadlidských inteligencí způsobí podobnou revoluci, dalo by se očekávat, že se ekonomika zdvojnásobí alespoň čtvrtletně a možná i týdně.

Stroje schopné vykonávat většinu duševních a fyzických úkolů stejně jako lidé by způsobily růst mezd u pracovních míst, v nichž lidé stále předčí. Náhlé rozšíření strojů podobných lidem by však pravděpodobně způsobilo čistý pokles mezd, protože lidé soutěží s roboty o pracovní místa. Bohatství technologické singularity se také může koncentrovat v rukou jen několika jedinců. Těchto pár bohatých by byli ti, kteří vlastní prostředky masové výroby inteligentní robotické pracovní síly. Na druhé straně by z radikálního poklesu cen většiny zboží a služeb měli prospěch všichni.

Nadlidské inteligence mohou mít cíle neslučitelné s lidským přežitím a prosperitou. Výzkumník umělé inteligence Hugo de Garis naznačuje, že umělé inteligence mohou jednoduše zlikvidovat lidskou rasu a lidé by byli bezmocní je zastavit.

Berglas (2008) tvrdí, že na rozdíl od člověka není inteligence založená na počítači vázána na žádné konkrétní tělo, což by jí poskytlo radikálně odlišný pohled na svět. Zejména softwarová inteligence by byla v podstatě nesmrtelná, a tak by neměla potřebu plodit nezávislé děti, které žijí dál po její smrti. Neměla by tedy evoluční potřebu lásky. Měla by však evoluční potřebu moci, protože první umělá inteligence, která chce a může ovládnout zemi, ovládne zemi.

Mezi další často citovaná nebezpečí patří ta, která jsou běžně spojována s molekulární nanotechnologií a genetickým inženýrstvím. Tyto hrozby jsou hlavními tématy jak pro zastánce singularity, tak pro kritiky a byly předmětem článku Billa Joye v časopise Wired „Proč nás budoucnost nepotřebuje“ (Joy 2000).

Bostrom (2002) rozebírá scénáře vymírání lidí a jako možnou příčinu uvádí superinteligenci:

Moravec (1992) tvrdí, že i když superinteligence v podobě strojů může člověka v jistém smyslu učinit zastaralým jako špičkovou inteligenci, v ekologii bude pro člověka stále prostor.

Eliezer Yudkowsky navrhl, aby byl proveden výzkum s cílem vytvořit přátelskou umělou inteligenci, která by se zabývala nebezpečími. Poznamenal, že pokud by první skutečná umělá inteligence byla přátelská, měla by náskok v sebezdokonalování a mohla by tak zabránit dalším nepřátelským umělým inteligencím ve vývoji. Singularity Institute for Artificial Intelligence se této věci věnuje. Bill Hibbard se také zabývá otázkami bezpečnosti a morálky umělé inteligence ve své knize Super-Intelligent Machines. Nicméně Berglas (2008) poznamenává, že neexistuje přímá evoluční motivace k tomu, aby umělá inteligence byla přátelská k člověku.

Tři zákony robotiky od Isaaca Asimova jsou jedním z nejranějších příkladů navrhovaných bezpečnostních opatření pro AI. Zákony mají zabránit uměle inteligentním robotům, aby ublížili lidem. V Asimovových příbězích mají jakékoli domnělé problémy se zákony tendenci vznikat v důsledku nedorozumění ze strany nějakého lidského operátora; roboti se sami vypnou v případě skutečného konfliktu. Na druhou stranu v dílech, jako je film Já, robot z roku 2004, který byl velmi volně založen na Asimovových příbězích, je zkoumána možnost, kdy AI převezme úplnou kontrolu nad lidstvem za účelem ochrany lidstva před sebou samým. V roce 2004 spustil Singularity Institute internetovou kampaň nazvanou 3 zákony nebezpečné, aby zvýšil povědomí o otázkách bezpečnosti AI a zejména o neadekvátnosti Asimovových zákonů (Singularity Institute for Artificial Intelligence 2004).

Doporučujeme:  Vzdělávací program pro nadanou mládež na Stanfordově univerzitě

Mnoho Singularitarianů považuje nanotechnologie za jedno z největších nebezpečí, kterým lidstvo čelí. Z tohoto důvodu se často domnívají, že umělá inteligence (AI, která je schopna se sama učinit chytřejší) by měla nanotechnologii předcházet. Jiní, například Foresight Institute, obhajují snahy o vytvoření molekulární nanotechnologie a tvrdí, že nanotechnologie může být bezpečná pro použití před singularitou nebo může urychlit příchod prospěšné singularity.

Kurzweil píše, že díky posunům paradigmat se trend exponenciálního růstu rozšiřuje od integrovaných obvodů k dřívějším tranzistorům, vakuovým trubicím, relé a elektromechanickým počítačům.

Někteří zastánci singularity argumentují její nevyhnutelností prostřednictvím extrapolace minulých trendů, zejména těch, které se týkají zkracování mezer mezi zlepšeními technologie. V jednom z prvních použití termínu „singularita“ v kontextu technologického pokroku Ulam (1958) vypráví o rozhovoru s Johnem von Neumannem o zrychlování změn:

Hawkins (1983) píše, že „mindsteps“, dramatické a nezvratné změny paradigmat nebo pohledů na svět, se zrychlují ve frekvenci, jak je kvantifikováno v jeho rovnici mindstep. Jako příklady takových změn uvádí vynálezy psaní, matematiky a počítače.

Analýza historie Raye Kurzweila dochází k závěru, že technologický pokrok sleduje vzorec exponenciálního růstu, podle toho, co nazývá Zákon zrychlujících se návratů. Zobecňuje Moorův zákon, který popisuje geometrický růst v integrované polovodičové složitosti, aby zahrnoval technologie z daleka před integrovaným obvodem.

Kdykoliv se technologie přiblíží k nějaké bariéře, píše Kurzweil, nové technologie ji překročí. Předpovídá, že změny paradigmat budou stále častější, což povede k „technologickým změnám tak rychlým a hlubokým, že představují prasklinu v tkanivu lidských dějin“ (Kurzweil 2001). Kurzweil věří, že singularita nastane před koncem 21. století, datum je stanoveno na rok 2045 (Kurzweil 2005). Jeho předpovědi se od Vingeových liší v tom, že předpovídá postupný vzestup k singularitě, spíše než Vingeovu rychle se zlepšující nadlidskou inteligenci.

To vede k závěru, že umělá inteligence, která je schopna vylepšovat svůj vlastní design, je také konfrontována se singularitou. Tuto myšlenku zkoumá Dan Simmons ve svém románu Hyperion, kde kolekce umělých inteligencí debatuje o tom, zda se mají či nemají stát zastaralými vytvořením nové generace „ultimátní“ inteligence.

Nadace Acceleration Studies Foundation, vzdělávací nezisková nadace založená Johnem Smartem, se zabývá osvětou, vzděláváním, výzkumem a obhajobou zrychlujících se změn (Acceleration Studies Foundation 2007). Pořádá konferenci Accelerating Change na Stanfordově univerzitě a udržuje vzdělávací stránku Acceleration Watch.

Někteří kritici tvrdí, že žádný počítač ani stroj nikdy nedosáhne lidské inteligence, zatímco jiní tuto možnost nevylučují. Theodore Modis a Jonathan Huebner tvrdí, že rychlost technologických inovací nejenže přestala stoupat, ale ve skutečnosti nyní klesá. Smart (2005) kritizuje Huebnerovu analýzu. Některé důkazy pro tento pokles jsou, že růst rychlosti počítačových hodin se zpomaluje, i když Mooreova předpověď exponenciálně rostoucí hustoty obvodů nadále trvá.

Jiní navrhují, že další „singularity“ lze nalézt analýzou trendů světové populace, světového HDP a dalších indexů. Andrej Korotajev a další tvrdí, že historické hyperbolické růstové křivky lze připsat zpětnovazebním smyčkám, které přestaly ovlivňovat globální trendy v 70. letech, a proto by se hyperbolický růst neměl očekávat ani v budoucnu.

Doporučujeme:  Anomalistická psychologie

William Nordhaus v knize The Progress of Computing tvrdil, že před rokem 1940 sledovaly počítače mnohem pomalejší růst tradiční průmyslové ekonomiky, a proto odmítal extrapolace Moorova zákona na počítače 19. století. Schmidhuber (2006) naznačuje, že rozdíly v paměti nedávných a vzdálených událostí vytvářejí iluzi zrychlujících se změn a že tyto jevy mohou být zodpovědné za minulé apokalyptické předpovědi.

Singularita je někdy řešena ve fiktivních dílech, aby se vysvětlila absence události. Série Gridlinked od Neala Ashera představuje budoucnost, kde lidé žijící v Polity jsou ovládáni umělou inteligencí a zatímco někteří jsou rozmrzelí, většina věří, že jsou mnohem lepšími vládci než kterýkoliv člověk. Ve čtvrtém románu, Polity Agent, je zmíněno, že singularita je daleko opožděná, přesto se většina umělých inteligencí rozhodla se jí neúčastnit z důvodů, které znají jen oni. Flash-back postava v románu Kena MacLeoda z roku 1998 The Cassini Division přezíravě odkazuje na singularitu jako na „nanebevzetí pro nerdy“, ačkoliv singularita se stejně děje dál.

Mezi oblíbené filmy, v nichž se počítače stávají inteligentními a přemáhají lidskou rasu, patří Colossus: The Forbin Project, série Terminátor, Já, robot a série Matrix. Těmito tématy se zabývá i televizní seriál Battlestar Galactica.

Isaac Asimov ve své povídce Poslední otázka vyjádřil myšlenky podobné post-Kurzweilovské singularitě. Asimovova budoucnost si představuje realitu, kde kombinace silné umělé inteligence a post-lidí pohltí vesmír, v době, kterou Kurzweil popisuje jako „vesmír se probouzí“, poslední z jeho šesti fází kosmické evoluce, jak je popsáno v knize Singularita je blízko. Post-lidské entity v různých časových obdobích příběhu se ptají umělé inteligence v rámci příběhu, jak bude zabráněno entropii smrti. AI odpovídá, že nemá dostatek informací, aby dospěla k závěru, až do konce příběhu, kdy AI skutečně dospěje k řešení, a demonstruje ho opětovným vytvořením vesmíru, v božské řeči a módě, od nuly. Zejména tak činí, aby splnila svou povinnost odpovědět na otázku lidí.

Chemik z Univerzity sv. Edwarda Eamonn Healy pojednává o urychlování změn ve filmu Probuzení života. Rozděluje dějiny do stále kratších období a odhaduje „dvě miliardy let pro život, šest milionů let pro hominidy, sto tisíc let pro lidstvo, jak ho známe“. Přistupuje k lidské kulturní evoluci, dává časové měřítko deset tisíc let pro zemědělství, čtyři sta let pro vědeckou revoluci a sto padesát let pro průmyslovou revoluci. Zdůrazňuje informace jako základ nového evolučního paradigmatu, jehož vyvrcholením je umělá inteligence. Dochází k závěru, že nakonec vytvoříme „neolidi“, kteří si uzurpují současnou roli lidstva ve vědeckém a technologickém pokroku a umožní exponenciálnímu trendu urychlování změn pokračovat za hranice lidských schopností.

Urychlení pokroku se objevuje v některých sci-fi dílech a je ústředním tématem v románu Charlese Strosse Accelerando. Mezi další významné autory, kteří se zabývají otázkami spojenými se singularitou, patří Karl Schroeder, Greg Egan, Ken MacLeod, David Brin, Iain M. Banks, Neal Stephenson, Tony Ballantyne, Bruce Sterling, Dan Simmons, Damien Broderick, Fredric Brown, Jacek Dukaj, Nagaru Tanigawa a Cory Doctorow. Dalším relevantním dílem je pokračující komiksová série Warrena Ellise newuniversal.

V epizodě „Turek“ z Terminátora: Letopisy Sarah Connorové se John Connor zmiňuje o singularitě. Terminátorská franšíza je založena na konceptu počítačového systému navrženého člověkem, který si začne uvědomovat sám sebe a rozhodne se zničit lidstvo. Nakonec dosáhne superinteligence.

Celovečerní dokumentární film Transcendent Man je založen na Rayi Kurzweilovi a jeho knize The Singularity Is Near. Film dokumentuje Kurzweilovu snahu odhalit osud lidstva.