Opakování k písemné práci

Zadání

(2b)Vysvětlete jak by šlo použít LSQ učení pro rozpoznání vzoru A od vzorů B a C. Jak by vypadaly bipolární vstupy a požadované výstupy y* u tohoto příkladu?

                       

                       

                       

A B C D

sepsat si vzory A, B a CA=(1 1 -1 1 -1 -1 1 1 -1)B=(1 1 1 -1 1 -1 -1 1 -1)C=(1 -1 1 1 -1 1 1 1 1)

Každému vzoru přiřadíme y* podle toho jaký výsledek očekávámeA 1B -1C -1

Sepsané vzory:

Potom vypočítáme váhovou matici pomocí vzorce

Pokud má nulový determinant, tak musíme matici regularizovat

1111111111

1111111111

1111111111

*987654321

C

B

A

yxxxxxxxxx

*1yxxxW TT

xxT

Zadání

(3b)Nakreslete Hammingovu neuronovou síť pro pro rozpoznávání vzoru A od B a C.

                       

                       

                       

A B C D

Vzory

111111111

111111111

111111111987654321

C

B

A

xxxxxxxxx

½ x před neurony

½

½

½

½ A

- ½ - ½ 1

½ -1

½ -1

½ 1 - ½

- ½ ½ -1

½ 1 B -1 - ½ -½

- ½ -1

½

-½ -1 ½ -1

½ ½ -1 C

½ 1

- ½ - ½

½

9/2

9/2

9/2

0

0+

0+

0+

x1

X2

x3

x4

x5

x6

x7

x8

x9

y

Zadání

(3b)Použijte Hebbovo učení pro rozpoznání vzoru C od vzorů A a B. Bude síť správně odpovídat, když tyto tři vzory přijdou na vstup?

                       

                       

                       

A B C D

VzoryC=(1 -1 1 1 -1 1 1 1 1)A=(1 1 -1 1 -1 -1 1 1 -1)B=(1 1 1 -1 1 -1 -1 1 -1)

Každému vzoru přiřadíme y* podle toho jaký výsledek očekávámeA -1B -1C 1

1

1

1

*

y Spočítáme váhy Wi

1. sloupec je prahová hodnota w0

1111111111

1111111111

0200002022

1111111111

1111111111

1111111111

0000000000

2

1

0

W

C

W

B

W

A

W

-1 y

-1

-1

-1

1

-1

1

1

-1

1

x9

x8

x7

x6

x5

x4

x3

x2

x1

do sítě pustíme vzory podle: vzor ∙ W + w0Pro A fungujePro B fungujePro C funguje

Zadání

(3b)Vypočítejte váhovou matici pro autoasociativní síť, která si zapamatuje vzory B a C.

                       

                       

                       

A B C D

vzoryB=(1 1 1 -1 1 -1 -1 1 -1)C=(1 -1 1 1 -1 1 1 1 1)

Spočítáme si BBT

111111111

111111111

111111111

111111111

111111111

111111111

111111111

111111111

111111111

BBT

Obdobně spočítáme i Obě matice sečteme a vyjde nám váhová

matice

CCT

n

i

iTi xxW

1

Výsledná váhová matice

202222020

020000202

202222020

202222020

202222020

202222020

020000202

202222020

020000202

1

n

i

iTi xxW

Zadání

(3b)Vypočítejte váhovou matici pro heteroasociativní síť, která si zapamatuje vzory B a C. Požadované odpovědi sítě jsou

Zjistěte odpověď sítě pro vzor D.

                       

                       

                       

A B C D

)1,1,1(),1,1,1( ** CB yy

Zadané vzoryB=(1 1 1 -1 1 -1 -1 1 -1)C=(1 -1 1 1 -1 1 1 1 1)

Požadované odpovědi

Vypočítáme si matice WB a WC

)1,1,1(

)1,1,1(*

*

C

B

y

y

*C

TC yCW

T

BW

111111111

111111111

111111111

T

CW

111111111

111111111

111111111

*B

TB yBW

Matice WB a WC sečteme

Transponujeme matici W a vynásobíme se vzorem D=(1 1 1 -1 -1 -1 -1 -1 -1)

T

W

020000202

202222020

202222020

DWT

Odpověď pro vzor D získáme jako sign(DWT) = (1 1 1)

288

022

200

022

022

022

022

200

022

200

111111111

DW