http://hlavsa.net/pages/school.php
1. Informace Informace –
Zpráva, kterou jsme schopni vnímat, rozlišit a porozumět Zpráva, které mění entropii systému Je přenášena pomocí signálu
Entropie – vyjadřuje míru neurčitosti ( ve fyzice míra neuspořádeného pohybu částic ) Zpráva – nositel informace s informační hodnotou Znak – nejmenší jednotka zprávy Abeceda – dohodnuté znaky, které může zpráva obsahovat, dohoda mezi vysílačem a přijímačem
2. Kódování samoopravný opakovací kód délky 3 Vlivem šumu na mn méně spolehlivých linkách dochází k řadě chyb. n = množství bitů p = pravděpodobnost chyby u jednoho bitu Při odeslání neupravených dat bude šance na bezchybné doručení (1 – p)n . Při 100 bitech a p= 0.01 je tedy pravděpodobnost bezchybného příjmu 37%. Jako ošetření proti chybám můžeme každý znak poslat třeba 3x: 1 -> 101; většinová hodnota: 1 – 111, 110, 101,011 0 - 000, 001, 010, 100 [ ( 1 – p )3 + 3p ( 1 – p )2 ] – výpočet šance na správné doručení jednotlivých bitů, 97% při stejných podmínkách.
Hammingův kód - základem je Fanova rovina -> - každý z kódů se liší alespoň ve třech bodech - [ ( 1 – p )7 + 7p ( 1 – p )6 ]n - Oproti opakovacímu kódu: o Spolehlivost z 97% klesla na 95% o Objem dat klesl o více než třetinu
http://hlavsa.net/pages/school.php
3. Kompresní algoritmy Před čtením nutno dekomprimovat, komprimovaná data nejsou čitelná. Ztrátové JPEG – založena na faktu, že lidské oko nevnímá tolik změnu odstínu jako změnu jasu -matice pixelů, slévání odstínů Zvuk – záleží na vzorkovací frekvenci a bitové hloubce
Ořezání vysokých a nízkých frekvencí Delta kódování Stereo může mít 1 stopu + rozdíl druhé
Obraz - oko nejvíce vnímá zelenou, proto je v ní ponecháno nejvíce informací U filmu mnohdy statické pozadí s drobnými změnami, mění se pouze pohyblivé objekty Bezztrátové RLE – jednoprůchodová komprese
Znak, který se opakuje 3x a více je zapsán jako „počet – znak - oddělovač“ .gif
Huffmanovo kódování – dvouprůchodové
Nejčetnějším znakům jsou přiřazeny nejkratší kódy přiřazením do stromu, který je součástí komprimovaného souboru Je výpočetně nenáročný, jednoduše implementovaný Nevýhodou přenášení stromu -> možnost použít standardizované stromy
LZW – slovníková, jednoprůchodová
Při kompresi sestavuje slovník posloupnosti jazyka Slovník není potřeba přenášet, sestaví se sám při dekompresi Do slovníku vkládá řetězce pod čísly 256 a výše Hojně využívaná u .zip
Delta kódování – namísto hodnot ukládá rozdíly 1 2 4 5 8 9 12 14 16 -> 1 1 2 1 3 1 3 2 2 používá se pouze pro celá čísla
http://hlavsa.net/pages/school.php
4. Automaty -
-
mají vstupy, produkují výstupy jsou to stroje: o diskrétní – nespojité, čas neplyne plynule ale po jistých bodech o abstraktní – myšlenkové, model-představa; nezabýváme se realizací o sekvenční – seriovost, provádí jednu věc za druhou; 1 vstup -> 1 výstup o deterministické – jasně určený; podle vstupu jednoznačný výstup o dynamické – neměnné, nehybné jsou zadány výčtem, tabulkou, grafem, stromem
Typy automatů Mealyho ME(S, I, O, s0, λ, δ), stav1>vstup>výstup>stav2 (může se vrátit do původního stavu) je dán: -
přechodovou fcí λ výstupní fcí δ množinou stavů S vstupní abecedou I výstupní abecedou O počátečním stavem s0
Mooreův prvního typu MO(S,I,O,s0,δ,µ), stav1>výstup>vstup>stav2; každý stav odpovídá výstupní hodnotě, nemá tedy skutečnou výstupní fci -
množinou stavů přechodovou fcí vstupní abecedou výstupní abecedou
Mooreův druhého typu - stav1>vstup>stav2>výstup Převod jde pouze z Mooreových na Mealyho. Automaty mohou vykazovat podobné vlastnosti -
-
strukturální podobnost: vnitřně stejné, nejvyšším stupněm je identita o injekce – každému prvku prvního lze přiřadit prvek druhého (v prvním méně prvků) M2 realizuje M1 o bijekce (vzájemná jednoznačnost) – pro každý prvek prvního je právě jeden prvek druhého (nic nikde nezbyde) = izomorfismus o surjikce – v prvním více prvků, několika prvkům je tedy přiřazen společný v druhém M2 redukuje M1 funkční podobnost: stejně se chovají Redukt – funkčně zaměnitelný automat, který již nelze dále zmenšovat – konečný stav (konečné řešení automatové otázky)
http://hlavsa.net/pages/school.php Rozklad automatu - substituční vlastnost (SV) – všechny stavy dané třídy rozkladu odkazují do jedné rozkladové třídy - konzistence – všechny stavy dané třídy rozkladu mají na daném vstupu stejné výstupy Pokud je rozklad SV + konzistentní nazývá se podílový automat. Pokud již nejde nijak rozložit (tedy nejmenší SV+K podílový automat), jedná se o redukt. δ a B A D C A A
A B C D E F
b C C E B F E
β a 0 0 1 0 1 1
b 1 1 0 1 0 0
[A,B] – třída (SV+K) [A,B,D] – pouze konzistentní [E,F] – třída (SV+K) [[A,B] [C] [D] [E,F]] = REDUKT
Karnaughova mapa - umožňuje graficky zjednodušit výsledný obvod C B 1 1 0 1 1 x x x A 1 x x x D 1 0 1 1 -
Před použitím zázračného přípravku /A/B/C/D + /AB/C/D + /A/BC/D + A/B/C/D + A/B/CD + /A/B/CD + /ABCD + /A/BCD Po použití zázračného přípravku /B + /C/D + CD
http://hlavsa.net/pages/school.php
5. Neumanův a Turingův stroj Neumanův stroj 50 let starý koncept s novou myšlenkou – programovatelný stroj může dělat cokoliv na základě programu. Na stejném konceptě fungují i dnešní PC. Řadič nejdůležitější částí – řídí veškerou komunikaci ALU – Aritmeticko logická jednotka ALU + řadič -> CPU DMA technologie – přímý přístup do paměti Program – sada po sobě následujících instrukcí typu sečti, pošli na výstup, přesuň Instrukční sada Motorola 8086 (6b) Instrukční a datová část paměti; časem zrychlení – 2x ALU ( na férovku dual-core :D ) „multi-tasking“ – nedokáže víc věcí najednou, ale rychle mezi nimi přepíná podle priorit procesů Sběrnice – kanál na zařízení
Turingův stroj Jiný pohled na stejnou problematiku, pouze matematický model, nelze naprogramovat. Automat, nemá využití v praxi. -
Nekonečně dlouhá páska s ploškami, nad páskou hlava (<, >, zapsat, vymazat) řízena stavovým automatem Výhodou oproti Neumanovu stroji je nekonečná paměť (by se mi chtělo to po 50 letech přetáčet)
http://hlavsa.net/pages/school.php
6. Neuronové sítě -
Určeny k řešení dosud neřešitelných úloh Jsou složeny z neuronů tak, že výstup jednoho neuronu je vstupem jednoho nebo více neuronů Jejich propojení určuje architekturu/ topologii neuronové sítě Neurony jsou vstupní, pracovní a výstupní Matematický neuron má předlohu v biologickém Síť se nastavuje pomocí algoritmu učení
Nauron – elementární jednotka pro zpracování informace Perceptron – nejjednodušší jednovrstvá neuronová síť, X vstupů, 1 pracovní neuron, bias a práh jsou totožné, na vstup může i nereagovat Synapse – propojení mezi jednotlivými neurony (káždá má svou kladnou či zápornou váhu) 3 úrovně práce se sítí - Organizační – změna topologie sítě - Aktivní – změna stavu neuronů (výpočty - Adaptivní – změna vah synapsí (učení) Typy neuronových sítí - Cyklická – obsahuje alespoň jeden cyklus – skupinu neuronů spojených v kruhu - Acyklická – neboli dopředná, neobsahuje cykly Hebbovo učení - Založeno na myšlence, že váhové hodnoty na spojení mezi dvěma neurony, které jsou současně ve stavu „on“, budou narůstat a naopak: ve stavu „off“ se budou zmenšovat. algoritmus: 0. 1. 2. 3. 4.
inicializace vah: wi = 0 (i = 1 až n) pro každý vstup (s) a příslušný výstup (t) opakovat kroky 2-4 aktivovat vstupní neurony: xi = si (i = 1 až n) aktivovat výstupní neuron: y = t aktualizovat váhy podle: wi(new) = wi(old) +xiy aktualizovat biasy podle: b(new) = b(old) + y AND vstupy x1 x2 1 1 1 -1 -1 1 -1 -1
bias výstup b y 1 1 1 -1 1 -1 1 -1
w1 1 0 1 2
váhy w2 1 2 1 2
b 1 0 -1 -2
OR vstupy x1 x2 1 1 1 -1 -1 1 -1 -1
bias výstup b y 1 1 1 1 1 1 1 -1
w1 1 2 1 2
váhy w2 b 1 1 0 2 1 3 2 2
výsledná rovnice separující roviny: w1x1 + w2x2 +b = 0 AND: 2x1 + 2x2 -2 = 0 -> x2 = - x1 + 1 OR: 2x1 + 2x2 +2 = 0 -> x2 = - x1 - 1
http://hlavsa.net/pages/school.php
7. Umělá inteligence AI – artificial intelligence -
za umělou inteligenci považujeme systém vykazující známky inteligentního chování etalonem je lidská inteligence (problématické)
projevy inteligentního systému -
schopnost rozpoznávání a práce s reálnými objekty a situacemi schopnost upřesňovat modely učením zobecňování poznatků a vytváření nových pojmů stanovování nových cílů
Systém, který měří hrany daného objektu není považován za inteligentní. AI nikdy nepoužívají hrubou sílu pro nalezení řešení, ale zkoumají pouze taková řešení, která mají smysl – na základě algoritmu nebo zkušenosti. Většina systémů AI je založena na využití znalostí o úloze – ty musí být správně pochopeny a použity. Reprezentace znalostí je základním problémem systémů umělé inteligence. Problémy řešené AI -
-
-
řešení úloh výchozí stav > přípustné kroky > cílový stav dokazování matematických vět zkoumat pouze rozumná odvození, z předpokladu dojít k závěru porozumění přirozenému jazyku uvědomovat si souvislosti, mnoho informací v krátké větě – odvozování věta je fragmentem sdělujícího, informace zapadá do modelu příjemce expertní systémy analytické úlohy – diagnostika (medicína, technika) syntetizující úlohy – plánování postupů, výběr konstrukčních prvků vnímání prostředí zpracování optické informace – popisný model – analýza scény analogie lidského vnímání