Státnicové otázky: Fuzzy logika & Neuronové sítě

Fuzzy logika: Svaz s negací a vlastnosti operátorů

Fuzzy logika je zobecněním klasické (booleovské) logiky. Nepracuje pouze s hodnotami 0 a 1, ale s celým intervalem $[0, 1]$. Algebraickým základem fuzzy konjunkce a disjunkce je struktura zvaná svaz.

1. Definice svazu (Lattice)

Svazem rozumíme strukturu:

• $L$ je nosná množina (typicky interval $[0, 1]$)
• $\wedge$ – průsek (fuzzy konjunkce / „a zároveň") – standardně $a \wedge b = \min(a, b)$
• $\vee$ – spojení (fuzzy disjunkce / „nebo") – standardně $a \vee b = \max(a, b)$

2. Dvanáct pravidel svazu

Operace musí splňovat 12 axiomů rozdělených do pěti skupin:

3. Rozšíření o negaci – svaz s negací

Pokud ke svazu přidáme unární operaci negace $\neg$, dostaneme strukturu:

Standardní fuzzy negace:

Tři pravidla pro negaci (celkem tedy 15 pravidel)

Trojici $\langle \wedge, \vee, \neg \rangle$ říkáme De Morganův triplet — operátory jsou navzájem provázané právě De Morganovými zákony.

4. Klíčový rozdíl oproti Booleově algebře

Fuzzy logika: Reziduovaný svaz a vlastnosti operátorů

Reziduovaný svaz je pokročilejší struktura, která rozšiřuje klasický svaz o dvě nové operace: silnou konjunkci (t-normu) $\otimes$ a fuzzy implikaci $\rightarrow$. Je to algebraický základ pro fuzzy implikaci a tedy pro pravidla typu „když–pak".

1. Definice reziduovaného svazu

Struktura musí splňovat:

• Základní svaz: $\langle [0,1], \wedge, \vee, 0, 1 \rangle$ je svaz (viz Otázka 6).
• Komutativní monoid: $\langle [0,1], \otimes, 1 \rangle$ s vlastnostmi:
  • uzavřenost: $a \otimes b \in [0,1]$
  • komutativita: $a \otimes b = b \otimes a$
  • asociativita: $(a \otimes b) \otimes c = a \otimes (b \otimes c)$
  • jednička jako neutrální prvek: $a \otimes 1 = a$
• Izotonicita (monotonie): $a \le b \Rightarrow a \otimes c \le b \otimes c$
• Adjunkce (reziduace) – nejdůležitější vztah:

Tento vztah „svazuje" konjunkci a implikaci dohromady.

2. Fuzzy implikace jako supremum

Z adjunkce přímo vyplývá explicitní definice implikace:

3. Modus Ponens ve fuzzy

V klasické logice: $A$ a $A \Rightarrow B$ implikuje $B$. Ve fuzzy se to změkčuje:

• Pravidlo $a \rightarrow c$ je omezené zdola hodnotou $r \in [0,1]$.
• Závěr $c$ je pak omezen zdola hodnotou $a \otimes r$.
• Klíčová nerovnost: $x \otimes (x \rightarrow y) \le y$.

4. Odvozené identity (užitečné u zkoušky)

5. Tři hlavní reprezentanti

Konkrétní reziduované svazy se liší volbou t-normy. Tři klasické rodiny:

Teorie generátorů: nilpotentní, idempotentní a striktní t-normy

T-norma je formálně funkce $T: [0,1]^2 \rightarrow [0,1]$ modelující silnou fuzzy konjunkci („a zároveň"). Musí splňovat 4 axiomy:

1. Čtyři axiomy t-normy

2. Klasifikace t-norem (chování při $x \otimes x$)

Vlastnosti se nejlépe demonstrují tím, co se stane, když do operátoru dáme dvakrát stejný prvek:

A. Idempotentní t-norma — Gödel

Platí $x \otimes x = x$. Jediná spojitá idempotentní t-norma je minimum.

• Vzorec: $a \otimes b = \min(a, b)$
• Výpočet: $0{,}7 \otimes 0{,}7 = \min(0{,}7;\ 0{,}7) = 0{,}7$
• Lidsky: opakováním stejného argumentu pravdivost neklesá.

B. Striktní t-norma — Součinová (Goguen)

Spojitá a striktně monotónní. Pro $x \in (0,1)$ je $x \otimes x < x$, ale nikdy nedosáhne čisté nuly, dokud není jeden z prvků nula.

• Vzorec: $a \otimes b = a \cdot b$
• Výpočet: $0{,}7 \otimes 0{,}7 = 0{,}49$
• Lidsky: hodnota plynule klesá, ale „k nule se blíží až v nekonečnu".

C. Nilpotentní t-norma — Łukasiewicz

Existuje $x \in (0,1)$ takové, že $x \otimes x = 0$. T-norma dokáže „spadnout" do nuly i pro nenulové vstupy.

• Vzorec: $a \otimes b = \max(0,\ a+b-1)$
• Výpočet: $0{,}4 \otimes 0{,}4 = \max(0;\ -0{,}2) = 0$
• Lidsky: dva „dostatečně slabé" předpoklady → systém je vyhodnotí jako úplnou nepravdu.

3. Archimedovská vlastnost — princip „neustálého propadu"

Kde $a^n = a \otimes a \otimes \dots \otimes a$ ($n$-krát). Lidsky: opakovaným násobením prvku samým se sebou se vždy propadneme pod jakoukoliv hranici $b$.

            [ Všechny t-normy ]
            /                \
[ Ne-archimedovské ]   [ Archimedovské ]
        |                /         \
  Idempotentní     Striktní     Nilpotentní
   (Gödel)         (Součin)    (Łukasiewicz)
    

4. Teorie generátorů

Klíčová myšlenka: nemusíme t-normy vymýšlet od základu. Můžeme je vygenerovat z jediné obyčejné funkce — aditivního generátoru $f$.

Vezme se klesající funkce $f: [0,1] \rightarrow [0, \infty]$ s $f(1) = 0$. Pak:

kde $f^{(-1)}$ je pseudo-inverze ke $f$ (s ošetřením přetečení).

Generování součinové t-normy

Volíme $f(x) = -\ln(x)$, takže $f^{-1}(y) = e^{-y}$.

1. $f(a) + f(b) = -\ln a - \ln b = -\ln(ab)$
2. $f^{-1}(-\ln(ab)) = e^{\ln(ab)} = a \cdot b$ ✅

Generování Łukasiewiczovy t-normy

Volíme omezený generátor $f(x) = 1 - x$.

1. $f(a) + f(b) = 2 - a - b$
2. Klasická inverze $f^{-1}(y) = 1 - y$ by dala $a + b - 1$ — to ale může být záporné!
3. Proto použijeme pseudo-inverzi s pojistkou $\max(0, \cdot)$:

5. Generování implikace

Když máme generátor $f$, dopočítáme i reziduovanou implikaci:

• Pokud $x \le y$:   $x \rightarrow y = 1$
• Pokud $x > y$:   $x \rightarrow y = f^{-1}\bigl(f(y) - f(x)\bigr)$

Tedy: t-norma = generátor přes součet, implikace = generátor přes rozdíl.

6. Proč Gödel NEMÁ generátor

7. Souhrnná tabulka

Aplikace fuzzy množin: fuzzifikace a defuzzifikace

Fuzzy logika se v praxi (pračky, ABS, hodnocení rizik v bankách) používá v cyklu fuzzifikace → inference → defuzzifikace. Vezme se ostré číslo ze senzoru, přeloží se do lidské řeči („střední riziko"), zpracují se pravidla a výsledek se převede zpět na ostré číslo.

1. Fuzzy množina

Fuzzy množina je uspořádaná dvojice:

• $U$ (univerzum): všechny možné hodnoty (reálná čísla, věk, gramáž, …).
• $\mu_A$ (funkce příslušnosti / membership function): přiřazuje každému prvku z $U$ číslo z $[0, 1]$ — míru jeho příslušnosti k množině $A$.

Anatomie fuzzy množiny

• Jádro (Core): prvky, pro které $\mu_A(x) = 1$ — patří do množiny stoprocentně.
• Suport (Support): prvky, pro které $\mu_A(x) \neq 0$ — patří alespoň trochu.

2. Alfa řez ($\alpha$-cut)

Způsob, jak z fuzzy množiny udělat zase ostrou (klasickou) množinu. Zvolíme hladinu přísnosti $\alpha$ a vyhodíme vše pod ní:

3. Fuzzifikace

Proces převodu ostrého čísla → fuzzy hodnot. Na ose $x$ je vstupní proměnná (váha, teplota, skóre), na ose $y$ míra příslušnosti k jednotlivým lingvistickým pojmům (Malé, Střední, Velké).

Standardní křivky

• Z-křivka – pro pojem „Malé" (z 1 klesá na 0)
• S-křivka – pro pojem „Velké" (z 0 roste na 1)
• Trojúhelník/lichoběžník – pro pojem „Střední" (kombinace Z+S)

Ořezávací funkce, která zaručí výsledek v $[0,1]$:

Pro $x_0 < x_1$:

4. Defuzzifikace

Opačný směr: výstupní fuzzy množinu (vzniklou kombinací oříznutých trojúhelníků) převedeme na jedno ostré číslo.

A. Metoda centroidu (těžiště)

Výsledný tvar se bere jako fyzická deska a hledá se její těžiště. Diskrétní vzorec:

B. Metody založené na maximech (FOM, LOM, MOM)

Pracují jen s oblastí, kde funkce příslušnosti dosahuje maximální výšky (často plateau).

Pro plateau na intervalu $[4, 8]$ s výškou 0,8:

• FOM (First Of Maxima): nejmenší $x$ s maximem → $x^* = 4$
• LOM (Last Of Maxima): největší $x$ s maximem → $x^* = 8$
• MOM (Mean Of Maxima): průměr maxim → $x^* = (4 + 8)/2 = 6$

Obecně:

5. Srovnání metod

6. Celý cyklus fuzzy regulace

1. Vstup: ostré číslo (např. skóre 660).
2. Fuzzifikace: převod na fuzzy vektor $[0;\ 0{,}9;\ 0{,}1]$.
3. Inference: aplikace pravidel typu „když $x$ je střední, pak risk je střední".
4. Defuzzifikace: převod výsledného fuzzy tvaru na ostré číslo (např. risk = 46 %).

Topologie neuronových sítí: MIN-MAX, MLP a RBF

Topologii umělé neuronové sítě lze formálně popsat aparátem teorie grafů — neurony jsou vrcholy, synapse jsou hrany.

1. Grafový popis topologie

• Vrcholy (uzly): $V = \{v_1, v_2, \dots, v_n\}$ — každý vrchol je jeden neuron.
• Hrany: reprezentují synaptická spojení mezi neurony.
  • Orientované hrany – jednosměrné spojení (neuron $v_i$ ovlivňuje $v_j$, ne naopak).
  • Neorientované hrany – oboustranné spojení.
• Matice sousednosti $A$: element $A_{ij}$ je síla spojení (váha) mezi neurony $v_i$ a $v_j$. Pro orientovaný graf obecně $A_{ij} \ne A_{ji}$, pro neorientovaný platí $A_{ij} = A_{ji}$.
• Vstupní / výstupní uzly: přijímají data zvenčí, resp. předávají výsledek ven.
• Skryté vrstvy: vrstva = množina uzlů se stejnými sousedy.

2. Dvě základní globální topologie

3. Síť MIN-MAX

Pojem „MIN-MAX" má v kontextu neuronových sítí dva významy.

A. Fuzzy MIN-MAX síť (architektura pro klasifikaci)

Typicky tři vrstvy: vstupní, MinMax (hyperbox), výstupní.

• Vstupní vrstva: počet uzlů = dimenze vstupu, pouze distribuuje hodnoty.
• MinMax vrstva (hyperboxy): každý uzel reprezentuje jeden hyperbox — n-rozměrný „kvádr" v prostoru (2D = obdélník, 3D = kvádr). Hyperbox je definován dvěma protilehlými body:
  • minimální bod (uložen v matici $V$)
  • maximální bod (uložen v matici $W$)
  Tyto body se získávají z trénovací množiny. Body uvnitř hyperboxu patří do stejné třídy. Hyperboxy stejné třídy se mohou překrývat. Při překryvu hyperboxů odlišných tříd se musí jejich rozměry v dané dimenzi zmenšit.
• Výstupní vrstva: jeden uzel na třídu, dává 0 nebo 1 podle toho, zda obdržel signál z MinMax vrstvy.

Užití: klasifikace dat, rozpoznávání vzorů.

B. MIN-MAX jako optimalizační princip (GAN)

Druhý význam — koncept z optimalizace dvou protichůdných modelů. Formálně:

• $\theta_G$ – parametry modelu, který ztrátu minimalizuje (Generátor).
• $\theta_D$ – parametry modelu, který ji maximalizuje (Diskriminátor).

Typický příklad: GAN (Generative Adversarial Network) — Generátor vyrábí falešná data, Diskriminátor je rozeznává od pravých. Hra končí v Nashově rovnováze. Princip se používá i v Reinforcement Learningu.

4. Síť MLP (Multilayer Perceptron)

Klasická dopředná architektura složená ze standardních neuronů (perceptronů). O MLP mluvíme, má-li alespoň 3 vrstvy:

• Vstupní: počet neuronů = dimenze vstupu, pouze rozdistribuuje data.
• Skrytá: jedna nebo více vrstev výpočetních neuronů.
• Výstupní: počet neuronů = dimenze výstupu.
  • Binární klasifikace → aktivace sigmoid.
  • Více tříd → výstup přes softmax + cross-entropy.

MLP je typicky plně propojený (fully connected) — každý neuron vrstvy je hranou napojen na všechny neurony následující vrstvy.

Užití: klasifikace obrazů, klasifikace obecných dat, predikce časových řad.

5. Síť RBF (Radial Basis Function)

Alternativa k MLP. Klíčový rozdíl: zatímco MLP používá skalární součin, RBF používá vzdálenost (typicky Euklidovskou).

RBF jednotka — matematika

Každá jednotka má střed $\mathbf{c} = (c_1, \dots, c_n)$ a šířku $b$ (obdoba biasu).

1. Spočítáme vzdálenost vstupu od středu a vydělíme šířkou:
   $$\xi = \frac{\lVert \vec{x} - \vec{c} \rVert}{b}$$
2. Na $\xi$ aplikujeme radiální funkci, typicky Gaussovu $\phi(z) = e^{-z^2}$:
   $$y(\vec{x}) = e^{-\left(\frac{\lVert \vec{x} - \vec{c} \rVert}{b}\right)^2}$$

Topologie RBF sítě

Striktně tři vrstvy:

• Vstupní: distribuuje vstup.
• Radiální (skrytá): RBF jednotky, nelineární transformace vstupního prostoru podle vzdálenosti od středů.
• Výstupní: lineární kombinace — výstupy RBF jednotek vynásobí vahami a sečte.

Užití: predikce časových řad, regrese.

6. Souhrnné srovnání

Umělý neuron a modely chování (skalární součin / vzdálenost)

Umělý neuron je základní stavební jednotka neuronové sítě, inspirovaná biologickými neurony. Funguje jako výpočetní jednotka, která přijímá signály, matematicky je zpracovává a generuje výstup.

1. Struktura neuronu

• Vstupy: hodnoty $x_1, x_2, \dots, x_n$ — buď přímo vstupní data, nebo výstupy z neuronů předchozí vrstvy.
• Váhy: $w_1, w_2, \dots, w_n$ — určují, jak významný je daný vstup pro tento neuron.
• Vnitřní součet (lineární kombinace):
  $$z = w_1 x_1 + w_2 x_2 + \dots + w_n x_n + b$$
  kde $b$ je bias (přídavný člen). V praxi se bias často realizuje jako další vstup s konstantní hodnotou 1 a vlastní vahou $b$. Pak:
  $$\mathbf{w} = (w_1, \dots, w_n, b), \quad \mathbf{x} = (x_1, \dots, x_n, 1)$$
• Aktivační funkce: $\phi(z)$ — transformuje lineární kombinaci na finální výstup.
• Výstup: skalár $\hat{y} = \phi(z)$.

2. Přehled aktivačních funkcí

3. Dva modely chování neuronu

Rozdíl mezi modely je v kroku 3 struktury (vnitřní součet). Zbytek (vstupy, váhy, aktivace, výstup) je stejný.

A. Model se skalárním součinem (standardní perceptron)

Vnitřní součet je skalární součin mezi vstupy a váhami:

• Geometrický význam: projekce vstupního vektoru do směru váhového vektoru.
• Princip: čím více jsou si směry vstupu a vah blízké, tím větší je projekce — tím silněji se neuron aktivuje.
• Užití: klasický perceptron, MLP, hluboké učení (CNN, transformery).

B. Model se vzdáleností

Místo projekce měříme, jak blízko je vstup k „prototypu" (váhovému vektoru). Standardně Euklidovská vzdálenost:

• Princip aktivace: neuron se aktivuje silně, pokud je $\mathbf{x}$ blízko $\mathbf{w}$; s rostoucí vzdáleností výstup exponenciálně klesá.
• Užití: RBF sítě (radiální bázové funkce).

Aktivace u RBF — Gaussova funkce

• $\sigma$ velké: neuron je tolerantní, reaguje na širší okolí.
• $\sigma$ malé: neuron je selektivní, reaguje jen na vstupy velmi blízko $\mathbf{w}$.

4. Ztrátové funkce (Loss functions)

Hodnotí, jak dobře si model vede — měří rozdíl mezi predikcí $\hat{y}_i$ a skutečnou hodnotou $y_i$.

MSE (Mean Squared Error) — pro regresi

Citlivá na odlehlé hodnoty (outliery).

MAE (Mean Absolute Error) — pro regresi

Méně citlivá na outliery než MSE.

Binary Cross-Entropy — pro binární klasifikaci

$\hat{y}_i$ je predikovaná pravděpodobnost třídy 1.

MultiClass Cross-Entropy — pro klasifikaci do více tříd

• $m$ — počet tříd.
• $y_{ij} \in \{0, 1\}$ — zda pozorování $i$ patří do třídy $j$.
• $\hat{y}_{ij}$ — predikovaná pravděpodobnost, že $i$ patří do $j$.