Když budou počítače

inteligentnější než lidé

Jiří Wiedermann

Akademie věd ČR

Podporováno grantem GA ČR P202/10/1333

Miesto pre Vaše logo

Situace, kdy umělá inteligence dosáhne úroveň lidské inteligence,

se v odborné literatuře nazývá singularitou. Dle mínění expertů

singularita nastane v horizontu dvaceti či třiceti let. Poté lze

očekávat explozi inteligence, protože počítače (či roboti) budou

schopné svou inteligenci evolučně vylepšovat. Praktické důsledky

dosažení singularity jsou jenom stěží představitelné.

V přednášce uvedeme argumenty, převážně z oblasti

exponenciálního rozvoje technologií a poznání činnosti lidského

mozku, které vedou zmíněné experty k takovým závěrům. Jako

protiklad uvedeme argumenty z oblasti výpočetní složitosti, které

naznačují, že očekávaní ohledně exponenciálního rozvoje

inteligence jsou možná přehnaná.

Miesto pre Vaše logo

The Coming Technological Singularity

Vernor Vinge (1993)

“Within thirty years, we will have the

technological means to create superhuman

intelligence. Shortly thereafter, the human era will

be ended…

When greater-than-human intelligence drives

progress, that progress will be much more rapid”

Credit: Wikipedia

Miesto pre Vaše logo

Singularita: myšlenka, že exponenciálně se zrychlující technologie povedou k

vytvoření umělého intelektu s nadlidskými schopnostmi, jež

znemožní jakoukoliv předpověď budoucnosti.

• Původní myšlenka od V. Vingeho z r. 1993

• rozšiřována Rayem Kurzweilem v několika knihách

• název úmyslně evokuje horizont černé díry

• jako primární příčiny se citují rozvoj tzv. umělé obecné inteligence (Artificial General

Intelligence – AGI), genetiky a nanotechnologií

• důsledkem bude asymptotické dosažení hranic inteligence, síly a schopnosti manipulovat realitu

• dalším důsledkem bude konec existence lidské společnosti ve stávající podobě

• o singularitě se hovoří jak v pesimistické tak i v optimistické podobě

• o dosažení singularity málokdo pochybuje

• důsledky v oblasti super-inteligence však podléhají limitům výpočetní složitosti

Miesto pre Vaše logoCredit : Ray Kurzweil

„Napřed sestrojíme prostředky a tyto pak sestrojí nás“M. McLuhan

Miesto pre Vaše logo

Lineární versus logaritmický graf

•Credit: Ray Kurzweil

Miesto pre Vaše logo•Credit: Ray Kurzweil

Miesto pre Vaše logo•Credit: Ray Kurzweil

Miesto pre Vaše logo

Další příklady exponenciálního růstu:

• cena RAM pamětí

• průměrná cena tranzistoru

• rychlost mikroprocesorů

• cena mikroprocesorů

• počet transistorů na mikroprocesoru

• Moorův zákon

• počet internetových serverů

• datový provoz na internetu

• čtení DNA

• velikost genomické banky

• citace článků z oblasti nanověd

• velikost mechanických strojů

• počat US patentů v oblasti nanověd

• Rezoluce neinvazivního skenování mozku

• rychlost obrazové rekonstrukce mozkového skenu

Credit: Kurzweil – The Singularity is Near

Miesto pre Vaše logo

Tři zdroje a tři součásti singularity

Nanotechnologie

Robotika

Genetika

Singularita

Miesto pre Vaše logo

Genetika: průsečník informací a biologieMůžeme žít věčně?

• RNA interference –“vypínaní“ škodlivých genů, způsobujících např. rakovinu

• Buněční terapie – pěstování částí či celých orgánů přímo v těle

• Somatická buněční terapie (genetická terapie nereproduktivních buněk) – řízení

a změna genetické výbavy člověka

• Zvrácení degenerativních změn

• Potlačení srdečních chorob

• Překonání rakoviny

• Zvrácení stárnutí

• Terapeutické klonování – neinvazivní náhrada „starých“ orgánů a tkání za nové

Zdroj: Kurzweil – The Singularity is Near

Nanobot opravující DNA

Miesto pre Vaše logo

Nanotechnologie - průsečník informací a fyzického světa

•Biologický asembler

• Upgrade buněčného jádra

• nanopočítačem a nanobotem

• Nanoboti v krvi

•Recei-

•ver

•Sender

•Sender

Quorum sensing

Receptor

• Finte state transducer

Emitter

•Random bit

•generator

Miesto pre Vaše logo

Robotika: „silná“ umělá inteligence (AGI)

Nástroje:

• expertní systémy

• Markovovské modely

• neuronové sítě

• genetické algoritmy

• rekurzivní prohledávání

Výpočetní paradigmata a technologie:

• molekulární výpočty

• sebestavování

• DNA výpočty

• spinové výpočty

• počítaní se světlem

• kvantové výpočty

• nanovýpočty

• amorfní výpočty

Miesto pre Vaše logo

První cesta k získání softwaru lidské inteligence: reverzní inženýrství mozku

(„whole brain emulation“)

Credit: University of

California, Los Angeles

(UCLA), Health Sciences

Miesto pre Vaše logo

Druhá cesta k získání softwaru lidské inteligence:

výpočetní modely vtělené kognice

Miesto pre Vaše logo

Impakt: Human Body Ver. 2.0:• jedení pro radost

• přestavba digestivního systému

• programovatelná krev

• nanoboti namísto srdce

• nanoboti namísto orgánů, produkující

hormony

• samo-opravující se kostra

• rekonstrukce/opravy mozku

Human Body Ver. 3.0 (po

r. 2030):• morfologická rekonfigurace a

reinstantizace

Mozek:• realistická virtuální realita prostřednictvím

•nanobotů simulujících všechny smysly

• „převtělování“ - jaké je to být…..

• projekce zážitků a pocitů

• bezdrátová komunikace mozek-mozek a mozek - ne-

biologická inteligence

Nesmrtelnost:• fyzická, ve standardním smyslu – morfologie těla jako

projekce naší inteligence

• virtuální (přechod na ne-biologickou existenci)

• skenovaní mozku „zevnitř“ pomocí nanobotů

• re-instantizace struktury a funkce v ne-biologickém

mediu

Miesto pre Vaše logo

PRIMO POSTHUMAN

By Natasha Vita-More

(media artist, futurist, cultural catalyst,

proponent of morphological freedom)

Credit:natasha.cc

Miesto pre Vaše logo

Datum singularity, která bude představovat hlubokou a

skokovou transformaci lidských schopností, jsem

odhadl na rok 2045.

Ne-biologická inteligence vytvořená v tomto roce bude

miliardkrát výkonnější než dnešní inteligence celého lidstva

dohromady.

Immortality

Source: Google

Ray Kurzweil

Miesto pre Vaše logo

Systém umělé obecné inteligence (AGIS) musí být • interaktivní - aby mohl komunikovat se svým okolím, reflektovat jeho změny,

dostávat zpětnou vazbu, apod.

• evoluční – aby se mohl vyvíjet přes generace

• potenciálně časově neomezený – aby jeho existence neměla pevný konec

Rozšířená Church-Turingova teze (van Leeuwen, Wiedermann, 2001): libovolný

interaktivní evoluční časově neohraničený výpočet je ekvivalentní výpočtu nějakého

interaktivního Turingova stroje s rádcem, resp. nekonečné posloupnosti interaktivních

neuniformních konečných automatů.

input

output

advice•…Q1 Q2 Q3 …

Miesto pre Vaše logo

Výpočetní síla AGIS se měří pomocí velikosti

množin různých reakcí (resp. chování) které

tyto systémy mohou produkovat během jejich

potenciálně nekonečných interakcí s okolím

Proč jsou AGIS super-Turingovské:

• nekonečné výpočty

• interaktivita

• neuniformní softwarová a hardwarová evoluce během

výpočtů podmíněná nepredikovatelnými interakcemi

Výsledky:

• výpočetní síla AGIS je větší než výpočetní síla

Turingových strojů

• existuje nekonečná hierarchie výpočetně stále

silnějších AGIS

• někde v této hierarchii je bod singularity

• výpočetní síla AGIS potřebná na překonání

rozdílu mezi “zajímavými“ stupni této hierarchie

musí růst rychleji než jakákoliv vypočitatelná funkce

Příklady interaktivních evolučních

výpočetních systémů:

• internet

• dynamické sítě mobilních bezdrátově

komunikujících agentů

• vývojová větev živých organizmů

• rostoucí kolonie bakterií

• lidská společnost

• vesmír (?)

Miesto pre Vaše logo

Výpočetní meze inteligence

inte

llige

nce

Computational

power

Human

intelligence•The Singularity

Intelligence of simple

organisms

2 level

3 level

Logarithmic scaleLogarithmic scale

Výpočetní síla AGIS potřebná na překonání rozdílu mezi jednotlivými stupni aritmetické hierarchie musí růst rychleji

než jakákoliv vypočitatelná funkce, tzn., že pravděpodobně se nikdy nedostaneme za singularitu

x y F(x,y,w)

Miesto pre Vaše logo

Literatura:

• Chalmers, D. J.: The Singularity: A

Philosophical Analysis, 2009, cf.

http://consc.net/papers/singularity.pdf

• Kurzweil, R.: The Singularity is Near. Viking

Books, 652 pages, 2005

„One might think that the singularity would be of great interest to

academic philosophers, cognitive scientists, and artificial intelligence

researchers. In practice, this has not been the case. ... I think this

resistance is a shame, as the singularity idea is clearly an important

one. The argument for a singularity is one that we should take

seriously. And the questions surrounding the singularity are of

enormous practical and philosophical concern.“

D. J. Chalmers