OOTiJ 00x Subject - pecinovsky.czvyuka.pecinovsky.cz/prezentace/Technologicka_singularita.pdf ·...

Copyright © Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze 1.01.6994, uloženo pá 28.7.2017 – 00:15 1 z 42

Technologická

singularita

Rudolf Pecinovský COMMON 2015


Obsah Zajímavé starší předpovědi 1/3 Zajímavé starší předpovědi 2/3 Zajímavé starší předpovědi 3/3 Co to je? I. J. Good Moje zkušenost Opozice proti singularitě Stephen Hawking & spol. – The Independent Názor AI × AGI (Artificial General Intelligence) Co stroje umějí a neumějí – příklady NAI Jak vytvořit AGI Postupné budování AGI Další knihy z dané oblasti 1/2 Další knihy z dané oblasti 2/2 Lineární × exponenciální růst Seznamovací příklad: šachy Exponenciála v lineální a logaritmické stupnici Příklad 1: Analýza genomu Příklad 2: Vývoj života

Lineární stupnice Logaritmická stupnice Srovnání 15 různých analýz Moorův zákon Nejvýkonnější superpočítače své doby Typické počítače své doby Zvyšování výkonu počítačů Nezávislost na měřené oblasti Stabilita změny Kdy bude počítač umět něco lépe než člověk Jiné odhady 1/2 Jiné odhady 2/2 Vernor Vinge Vlastní příchod singularity Dlouhodobý vývoj – 6 etap Skeptické názory 1/2 Skeptické názory 2/2 KONEC


Zajímavé starší předpovědi 1/3

► „Jízda vlakem vysokou rychlostí není možná, protože cestující nebudou moci dýchat a zemřou na udušení.“

Dr. Dionysys Larder (1793–1859)

► „Fonograf nemá žádnou možnost komerčního využití.“ Thomas Alva Edison (1880)

► „Rentgenové paprsky jsou jen takový hoax.“ Lord Kelvin, prezident královské společnosti (1883)

► „Žádný stroj těžší než vzduch nemůže letět.“ Lord Kelvin (1895)

► „Rádio nemá žádnou budoucnost.“ Lord Kelvin (1897)



► „Kdo by ksakru chtěl poslouchat, jak herci mluví?“ H. M. Warner, spoluzakladatel Warner Brothers (1927)

► „Není sebemenšího náznaku, že by se podařilo využít jadernou energii. Muselo by to znamenat rozbití atomu.“

Albert Einstein (1932)

► „Raketa nikdy nebude schopna opustit atmosféru.“ New York Times (1936)

► „Televize se neuchytí, protože lidé nevydrží koukat na dřevěnou krabici každý večer.“

Darryl Zanuck, 20th Century Fox (1946)

► „Vysavače na jaderný pohon budou realitou do deseti let.“ Alex Lewyt, prezident společnosti Lewyt vyrábějící vysavače (1955)



► „Světový trh je schopen dohromady využít možná tak pět počítačů.“ Thomas Watson, IBM (1943)

► „Mikroprocesor? A k čemu je to dobré?“ Robert Lloyd z IBM (1968)

► „Neexistuje důvod, proč by kdokoli chtěl doma počítač.“ Ken Olson, DEC (1977)

► Nepřidávejte svoji případnou skeptickou předpověď do předchozí galerie „slavných“


Co to je?

► Technologická singularita nebo zkráceně Singularita (s velkým počátečním písmenem, v angličtině The Singularity) je ve futurologii, kybernetice, informatice, moderní mytologii a v literatuře typu science fiction označení zlomového bodu technologického výzkumu

► Za bod zlomu je považován okamžik, kdy člověkem navržený stroj dokáže samostatně navrhnout a vytvořit stroj, který bude dokonalejší než stroj, který jej navrhl

► Termín poprvé použil von Neumann v roce 1958

● Neustále se zrychlující vývoj technologií musí logicky dojít do okamžiku historické singularity, po němž se lidské bytí radikálně změní

► A. C. Clark: Dostatečně pokročilou technologii nelze odlišit od magie


I. J. Good

► Definujme ultrainteligentní stroj jako stroj, který daleko předčí intelektuální činnosti sebechytřejšího člověka. Protože vývoj strojů je jednou z těchto intelektuálních činností, může ultrainteligentní stroj vyvíjet ještě lepší stroje; V tu chvíli dojde nepochybně k „inteligenční explozi“ a lidská inteligence zůstane daleko vzadu. Nebude-li tento stroj dostatečně „hodný“ na to, aby nám řekl, jak ho můžeme udržet pod kontrolou, bude současně posledním vynálezem, který člověk udělá


Moje zkušenost

► Pro získání kandidátského minima bylo v roce 1980 potřeba napsat odbornou práci z Marxismu-Leninismu

► Zvolil jsem téma: možnosti a nemožnosti umělé inteligence

► Při psaní jsem zjistil, že značná část lidí je pevně přesvědčena, že stroj nemá šanci dosáhnout některých schopností, a přitom se již v době oné předpovědi testovalo dosažení základní verze daných schopností v laboratořích zabývajících se AI

► Inteligence nemá svoji obecně uznávanou definici; řada lidí považuje za inteligenci to, co stroje ještě nedokáží

● Jakmile stroje dokáží zvládnout nějakou činnost lépe než člověk, je tato činnost vzápětí vyjmuta z množiny činností, o nichž se prohlašuje, že jejich zvládnutí vyžaduje uplatnění inteligence


Opozice proti singularitě

► Dlouhou dobu řada vědců možný příchod Singularity nepřipouštěla

► Dnes opozice proti singularitě slábne a diskutéři se již nehádají o to zda, ale kdy

► Odhady se pohybuje mezi lety 2025 – 2045 – 2090

● Záleží také na tom, co přesně si daný prognostik pod dosažením onoho bodu zlomu představuje

► Hodně velká skupina vědců se shoduje na tom, že singularita je pouze jen jeden z mnoha možných scénářů budoucího vývoje. Nicméně je to jediný nekatastrofický scénář


Stephen Hawking & spol. – The Independent

► Mysleli byste si, že čelíc možné budoucnosti singularity s nevypočitatelnými zisky a ztrátami, udělají experti všechno možné proto, aby zabezpečili co nejlepší výsledek? Mýlíte se. Kdyby nám mimozemská civilizace poslala vzkaz: „Přijdeme za několik desetiletí“, odpovíme jen „OK, zavolejte nám, až dorazíte, necháme svítit“? Pravděpodobně ne, jenomže to je to, co se dnes děje s umělou inteligencí.


Názor

► Náš genom, tedy kompletní genetická informace o struktuře celého organismu, je v současnosti na 99,5 % shodná s neandrtálcem či dokonce se šimpanzem. Pouhý půlprocentní rozdíl znamená, že jeden druh stále loupá banány v lese a druhý objeví matematiku, fyziku, podrobí si atomy a létá do vesmíru. Naše inteligence tak možná není tak velká, jak se zdá. Možná je dokonce tak titěrná, že je spíše k smíchu. Prostě jsme chytřejší opičky, co si hrají s „atůmky“.


AI × AGI (Artificial General Intelligence)

► AGI je schopnost dosáhnout komplexních cílů v komplexním prostředí při využití omezených výpočetních zdrojů

► Subjekt vykazující AGI

● Musí být autonomní

● Musí chápat sebe a jiné (musí vykazovat schopnost sebeuvědomění)

● Pochopení toho, „co je problém“ je výrazně obtížnější než známý problém za pomoci známých postupů vyřešit

► Převážná většina výzkumů AI spadá do kategorie Narrow AI (NAI)

● NAI program je (v ideálním případě) schopen kompetentně vyřešit konkrétní (byť komplexní) cíle v konkrétním prostředí

► Historická zkušenost: Úspěch v řešení NAI většinou nejsou příliš užitečné jako podklady pro řešení problémů AGI


Co stroje umějí a neumějí – příklady NAI

► Hraní her: Počítač je schopen porazit mistra světa v šachu či Go, ale prozatím se není schopen naučit hrát zcela novou hru podle zadaných pravidel

● Nicméně již existují programy, s nimiž začnete hrát rozumně jednoduchou hru, kterou vůbec neznají a pouze se dozvídají, kdy vyhrály a kdy prohrály, a ony si samy po odehrání většího počtu her odvodí pravidla a naučí se hrát hru tak, že člověka v dané hře téměř vždy porazí

► Samořiditelná vozidla: Je schopen kvalitně řídit dané auto v provozu, ale není schopen se operativně přizpůsobit řízení různých typů vozidel (nákladní auta, lodě, motorky, …)

► Vyhledávače a asistenti: Umí vyhledat informace na základě jednoduchých požadavků, ale prozatím nejsou schopny kvalitně reagovat na zcela obecné dotazy


Jak vytvořit AGI

► AGI nemůžeme dosáhnout postupným zobecňováním metod NAI

► Abychom dosáhli AGI, musíme se vrátit k základům

● Musíme začít s vytvářením umělých prosťáčků ● Umělá zvířata

● Umělé děti

● Umělé jednoduché osoby

● Musíme začít tyto prosťáčky učit a současně se učit, jak je učit

► Teprve pak můžeme začít uvažovat o nasazení v praktických aplikacích


Postupné budování AGI


► Ben Goertzel tvrdí: Podle současných zkušeností je vše dosažitelné v průběhu příštích deseti let

► Kniha je stáhnutelná na http://goertzel.org/TenYearsToTheSingularity.pdf

http://goertzel.org/TenYearsToTheSingularity.pdf

http://goertzel.org/TenYearsToTheSingularity.pdf


Další knihy z dané oblasti 1/2


Další knihy z dané oblasti 2/2


Lineární × exponenciální růst

► Lidé jsou zvyklí na lineární aproximace probíhajících dějů

● Pravěký lovec musel umět trefit běžící zvěř

● Řidič předvídá chování ostatních účastníků provozu

● Odhadují se doby provedení různých prací, nastudování předmětu apod.

● …

► V okamžiku, kdy je třeba odhadovat nelineárně se měnící děje, lidská schopnost předvídání selhává

● Neumíme odhadnout pohyb padajícího kamene (závislost pozice na čase je kvadratická) jeho trajektorii umíme spočítat, ale neodhadneme

● V okamžiku, kdy se setkáme s exponenciální závislostí, je náš odhad naprosto vykolejený


Seznamovací příklad: šachy

► Známá legenda o mudrci, který naučil čínského císaře hrát šachy a za odměnu chtěl hrst obilí vzniklou tak, že se na první políčko šachovnice dalo jedno zrnko a na každé další dvojnásobek toho, co bylo na předchozím

● 1. řádek = 28 = 511 zrnek = 0,017 kg

● 2. řádek = 216 = 65 535 zrnek = 2 kg

● 3. řádek = 224 = 16×106 zrnek = 559 kg = 0,6 t

● 4. řádek = 232 = 4×1009 zrnek = 143 135 kg = 143 t

● 5. řádek = 240 = 1×1012 zrnek = 37×106 kg = 37 000 t

● 6. řádek = 248 = 3×1014 zrnek = 9×109 kg = 9×106 t

● 7. řádek = 256 = 7×1016 zrnek = 2×1012 kg = 2×109 t

● 8. řádek = 264 = 2×1019 zrnek = 6×1014 kg = 6×1011 t

► V lineárních souřadnicích tvoří graf této závislosti téměř pravý úhel, protože vše před poslední hodnotou je prakticky zanedbatelné


Exponenciála v lineální a logaritmické stupnici


Příklad 1: Analýza genomu

► Projekt odstartován v 90. letech s 15letým horizontem

► Na počátku měli vyřešenu pouze 1/10 000 a málokdo věřil, že se to za 15 let podaří stihnout

► Po 10 letech jim říkali: máte za sebou 2/3 doby vyhrazené na projekt, ale stihli jste analyzovat pouze zlomek

► HIV sekvencovali 15 let, SARS 31 dní


Příklad 2: Vývoj života

► Evoluce RNA-DNA trvala 2 miliardy let, vyvinutá technologie byla následně použita

► Kambrická exploze, doba, kdy se vyvinuly veškeré tělesné části zvířat, trvala pouhých 10 miliónů let – byla 200krát rychlejší

► Poté evoluce použila tyto tělesné části k rozvoji vyšších kognitivních funkcí

► Homo sapiens, první živočišný druh tvořící technologie, se vyvíjel stovky tisíc let

► Poté přišlo další množství interakcí, kterými evoluce docílila toho, že technologie tvořící druh nastolil další etapy

● Kamenné nástroje – oheň – zemědělství – kolo – písmo – knihtisk – strojová výroba – počítače – atd.


Lineární stupnice


Logaritmická stupnice


Srovnání 15 různých analýz


Moorův zákon

► Původní Moorovo tvrzení se týkalo pouze počtu integrovaných tranzistorů na čipu

► Postupně se ukázalo, že obdobný zákon platí i pro další veličiny:

● Velikost paměti

● Výpočetní výkon procesorů

● Přenosová rychlost

● Spotřeba na jednotku výkonu

► Podobná pravidla platila pro všechny druhy počítačů od nanopočítačů (vše na čipu) přes osobní mikropočítače až k největším superpočítačům

► Na následujícím grafu jsou trendy odvozené z let 1965 – 75 – 85 – 95

● Trendy odvozené z pozdější doby jsou rychlejší


Nejvýkonnější superpočítače své doby


Typické počítače své doby


Zvyšování výkonu počítačů

► 1938: OPS

► 1943: kOPS

► 1961: MFLOPS

► 1984: GFLOPS

► 1997: TFLOPS

► 2008: PFLOPS

► 2018: EFLOPS

► 2029: ZFLOPS

► 2040: YFLOPS


Nezávislost na měřené oblasti

► Přesnost dodržení exponenciální křivky je pozoruhodná nezávisle na tom, jakou charakteristiku měříme

► Stejně, jako roste výkon počítačů, rostou i naše medicínské znalosti => lze vbrzku očekávat dramatický nárůst léčitelných chorob

► Neustále roste schopnost mapovat události v mozku

● Rozlišení skenerů mozku se každoročně zdvojnásobuje

● Poslední generace skenerů konečně umožňuje vidění jednotlivých mezineuronových vláken a také vidí zpracování signálu v reálném čase

● Očekává se, že v dohledné době budeme umět nahrát kompletní obsah mozku do nějakého zařízení

● Zvládnutí této technologie zaručuje praktickou nesmrtelnost


Stabilita změny

► Exponenciální růst prokazuje také národní hospodářství

● Růst se udává v meziročních procentních přírůstcích, které jsou sice malé, nicméně závislost je exponenciální

● Růst ekonomiky probíhá v důsledku pomalu, nicméně exponenciálně rostoucí produktivity práce

► Ukazuje se, že exponenciální tempo růstu je stabilní nezávisle na krizích, válkách a jiných pohromách


Kdy bude počítač umět něco lépe než člověk

► Zprůměrované odhady 352 dotázaných vědců z oblasti AI

● 2024 – Překládat články a knihy

● 2027 – Řídit auto

● 2031 – Obchodovat

● 2049 – Psát bestsellery

● 2053 – Operovat lidské pacienty

► Odhady hovoří o tom, kdy bude počítač něčeho schopen, ne o tom, kdy mu to lidé (tj. zákony) povolí

► Odhady jsou z roku 2015

● Dotazovaní vědci tehdy současně odhadovali, že počítač porazí mistra světa v GO v roce 2027 – to se ale podařilo již v roce 2016

● Je vidět, že ani vědci neznají dobře současný stav výzkumu v oblasti, kterou se sami nezabývají, byť je oblastí velmi blízkou té jejich


Jiné odhady 1/2

► 2020

● Počítač bude mít zhruba stejný výpočetní výkon jako lidský mozek ● Stejný výpočetní výkon ale ještě neznamená stejné schopnosti

● Rychlý nástup nanotechnologií. Nanoroboti budou pracovat v lidském těle, budou bránit stárnutí a nemocem. Zejména díky nim budeme moci mluvit o tzv. enhanced human 2.0

► 2030

● Stroj projde Turingovým testem

● Budeme mít technologie s 225 lepším poměrem ceny a výkonu Počítač za tisíc dolarů bude mnohem výkonnější než lidský mozek (alespoň ve smyslu „surového výkonu“)

● Zpětné inženýrství lidského mozku bude dokončeno

● V dalších letech bude možný upload mozku. Nanoroboty operující v lidském těle dramaticky rozšíří schopnosti těla a mozku a umožní člověku lépe komunikovat se strojem i mezi sebou


Jiné odhady 2/2

► 2040

● Human Body ver. 3.0. Různé verze rozšířeného těla. Lidé stráví více času ve virtuální realitě než ve fyzickém světě.

● Budeme mít plně imerzní virtuální realitu simulovanou z vnitřního nervového systému, nanoroboty vypínající signály přicházející ze skutečných lidských smyslů, nahrazující je signály, které by člověk obdržel v právě simulovaném virtuálním prostředí, takže se bude cítit jako by skutečně byl v daném virtuálním prostředí

► 2045

● Nastane singularita


Vernor Vinge

► Když jsem uprostřed 60. let začal psát science fiction, připadalo mi velmi snadné najít nápady, které teprve po desetiletích pronikly do kulturního povědomí; dnes se realizují za nějakých osmnáct měsíců. (Samozřejmě může být na vině ztráta mé představivosti spojená s mým stárnutím, ale tento efekt pozoruji i na ostatních.) Jak nabíráme rychlost přes kritickou hodnotu, Singularita se blíží jako rázová vlna ve stlačitelné kapalině.


Vlastní příchod singularity

► Pokud k technologické singularitě může dojít, stane se tak

● Dokonce, i kdyby všechny vlády světa chápaly tuto "hrozbu" a bály se jí jako čert kříže, vývoj by dále směřoval k tomuto cíli

► Protože se zakládá na lavinovitém růstu inteligence, proběhne pravděpodobně rychleji než jakákoli dosavadní technická revoluce.

► Bleskový účinek bude asi neočekávaný – možná i pro vědce, kteří se na něm budou podílet.

● Budou-li dostatečně rozvinuté sítě (budou zahrnovat i všudypřítomné počítače vestavěné do jiných zařízení), může se zdát, jako by se naše artefakty jako celek náhle probudily

► Poté se lidstvo probudí v posthumanitní éře

● Po příchodu singularity nemusí lidstvu nutně hrozit vyhynutí, ultrainteligentní stroje se mohou chovat k nám obdobně, jako se my chováme ke zvířatům


Dlouhodobý vývoj – 6 etap

1. Fyzika + Chemie ● Sestavování základních součástí hmoty

2. Biologie ● Vznik živých organismů

3. Mozek ● Zdokonaluje se zpracování informací nervovou soustavou

4. Technologie ● Informace se postupně začleňují do HW a SW

5. Sloučení technologie a lidské inteligence ● Objevené metody biologie se roubují do technologie a naopak

6. Rozšíření inteligence po vesmíru ● Vesmír se zaplňuje další inteligencí



Skeptické názory 1/2

► Než se v současném přeregulovaném zdravotnictví rozšíří tak převratná technologie, jako jsou nanoroboti do krve, budeme my všichni už dávno mrtví. Možná se za takovou léčbou budou lidé vydávat do Číny či Singapuru. A možná bude technologie dostupná dříve pro psy. To není až taková sci-fi, veterinární medicína je méně regulovaná a už dnes nabízí mnohé prostředky, které pro člověka k dispozici nejsou. Trh je to obrovský a určitě zde existuje prostor i pro překladače štěkotu či čenichové tablety


Skeptické názory 2/2

► K úspěchu je potřeba zásadnější revoluce v softwarovém inženýrství Samotná ekvivalence výkonu lidského mozku totiž ještě neznamená, že dosáhneme i ekvivalentu jeho funkčnosti. Cožpak neusilujeme o vytvoření inteligentních počítačů již po desetiletí? Zdá se, že umělá inteligence spadá spolu s termojadernou fúzí do kategorie technologických problémů, jejichž vyřešení se pokaždé předpokládá v průběhu příštích dvaceti let, splnění prognózy je však pokaždé třeba odložit. Skeptici se tedy domnívají, že pokud nenastane zásadní změna v oblasti vývoje softwaru, budou nám milionkrát výkonnější počítače dobré leda ke spouštění ještě nabobtnanějších textových editorů.


KONEC

Date post:	05-Dec-2020
Category:	Documents
Upload:	others
View:	2 times
Download:	0 times

OOTiJ 00x Subject - pecinovsky.czvyuka.pecinovsky.cz/prezentace/Technologicka_singularita.pdf ·...

Documents