1 TECHNICKÁ UNIVERZITA V LIBERCI Fakulta mechatroniky, informatiky a mezioborových studií Metody zpracování obrazu pro časově náročné úlohy Disertační...
TECHNICKÁ UNIVERZITA V LIBERCI Fakulta mechatroniky, informatiky a mezioborových studií
Metody zpracování obrazu pro časově náročné úlohy Disertační práce
2012
Ing. Jaroslav Vlach
ii
TECHNICKÁ UNIVERZITA V LIBERCI Fakulta mechatroniky, informatiky a mezioborových studií
Metody zpracování obrazu pro časově náročné úlohy Digital Image Processing Methods for the Time-Consuming Problems
Disertační práce
Autor: Studijní program: Obor: Školitel: Rok:
Ing. Jaroslav Vlach P 2612 Elektrotechnika a informatika 2612V045 Technická kybernetika doc. Ing. Milan Kolář, CSc. 2012
iii
iv
Prohlášení Byl jsem seznámen s tím, že na mou disertační práci se plně vztahuje zákon č. 121/2000 Sb., o právu autorském, zejména §60 (školní dílo). Beru na vědomí, že Technická univerzita v Liberci (TUL) nezasahuje do mých autorských práv užitím mé disertační práce pro vnitřní potřebu TUL. Užiji-li disertační práci nebo poskytnu-li licenci k jejímu využití, jsem si vědom povinnosti informovat o této skutečnosti TUL; v tomto případě má TUL právo ode mne požadovat úhradu nákladů, které vynaložila na vytvoření díla, až do jejich skutečné výše. Disertační práci jsem vypracoval samostatně s použitím uvedené literatury a na základě konzultací se školitelem.
Datum
Podpis
v
vi
II
Poděkování Dovoluji si poděkovat svému školiteli doc. ing. Milanovi Kolářovi, CSc., za jeho vstřícný a odborný přístup k mé práci. Za inspirativní podněty a odborné rady při zpracování tématu práce rovněž děkuji svým kolegům z Úseku rozvoje firmy PRECIOSA, a. s., Jablonec nad Nisou, Josefovi Havlíčkovi a ing. Petrovi Šťastnému. Velký dík patří mé manželce Drahomíře za připomínky při psaní a zejména pak za trpělivost při tvorbě práce.
Jaroslav Vlach
III
IV
Veritas est adaequatio rei et intellectus. (Pravda je shoda skutečnosti s poznáním) Tomáš Akvinský (*1225, †1274)
V
VI
Anotace Záměrem disertační práce bylo přispět k dlouhodobému požadavku firmy PRECIOSA, a. s., Jablonec nad Nisou vyrábět a prodávat kvalitní a konkurenceschopné výrobky – strojně broušené bižuterní a šperkové kameny. Ve výrobním procesu hraje důležitou roli posuzování kvalitativních vlastností výrobků (velikost, tvar a vady) a jejich měření a třídění. Zvyšující se požadavky na efektivitu výroby cílevědomě vedou k využívání moderních aplikačních metod s cíleným omezením nestabilního lidského činitele. Významným krokem vedoucím k naplnění vytčených úkolů je aplikování matematických metod zpracování obrazu hodnocených výrobků a následně jejich klasifikace. V práci je také velká pozornost věnována rozboru možností aplikace nástrojů fuzzy logiky, fuzzy transformace a obrazové fúze jako zajímavé a účinné alternativy pro kvalitativní hodnocení vlastností bižuterních výrobků. První kapitola přináší stručný úvod do problematiky výroby bižuterních kamenů včetně krátkého historického přehledu a nástinu možnosti aplikování počítačového zpracování obrazu v popsané průmyslové oblasti. Kapitola 2 shrnuje cíle disertační práce a předpoklady dalšího vývoje při zpracování obrazu pro hodnocení bižuterních výrobků. V kapitole 3 je uveden úvod do problematiky zpracování obrazu a základních metod pro identifikaci objektu v obrazu a jeho rozpoznávání. Kapitola 4 se poměrně obšírně věnuje aplikování metod fuzzy logiky. Je zde proveden návrh a diskuse algoritmů fuzzy logiky s využitím pravidel IF–THEN a fuzzy transformace jako významných nástrojů aproximace reálných funkcí jedné a více proměnných s hlavním důrazem k použití při analýze obrazu pro průmyslové aplikování. V kapitole 5 jsou uplatněny algoritmy z předchozí části pro analýzu více obrazů jednoho zkoumaného předmětu s pomocí obrazové fúze. Pomocí navržených metod je na konkrétních obrazech vysvětlen princip i možnosti aplikování navržených algoritmů pro kvalitativní klasifikaci bižuterních kamenů, zejména s ohledem na předpokládané jejich objektivní hodnocení. Kapitola 6 stručně popisuje možnosti aplikace moderních technických prostředků pro zpracování obrazové informace, zejména pak při stoupajících nárocích na výpočetní rychlost. Problematika optické soustavy pro získání optimálního obrazu předmětů pro následné počítačové hodnocení v bižuterním průmyslu je popsána v kapitole 7. Kapitola 8 je věnována praktickým aplikacím poznatků a algoritmů, která byly navrženy a popsány v předchozích částech. Zde je hlavním zájmem analýza a kvalitativní hodnocení konkrétních bižuterních kamenů a zejména pak jeho úspěšnost. Hlavním těžištěm této části je uplatnění metod fuzzy logicky a fuzzy transformace a dále pak praktické využití obrazové fúze. Při těchto konkrétních aplikacích je použito programové prostředí LabVIEW. Na řadě konkrétních příkladů je ukázán postup vedoucí k vytvoření metodiky pro kvalitativní hodnocení bižuterních kamenů s vysokou mírou objektivity a s potenciálem aplikování pro účely kvalitativního měření a třídění přímo v průmyslovém prostředí v časově náročných úlohách. V závěrečné kapitole je provedeno shrnutí dosažených výsledků a naznačen další postup pro praktické aplikování navržených metod. Klíčová slova: bižuterní kámen, zpracování obrazu, fuzzy transformace, F-transformace, obrazová fúze, LabVIEW
VII
VIII
Abstract The topic of the Ph. D. study comes from long-term business needs – to produce and sell high quality and competitive products – machine-cut jewelry stones in company PRECIOSA, a. s., Jablonec nad Nisou. Very important role in the production process therefore plays an assessment of qualitative product characteristics (size, shapes and any defects) and their measurement and classification. The increasing demands for efficiency have become the modern application methods with the targeted elimination of unstable human factor. An important step toward the fulfillment of the requisite tasks is to apply the mathematical methods of image analysis of jewelry products, and subsequently evaluated for classification. In this study, much attention is paid to the possibility of the analysis tools applying of fuzzy logic, fuzzy transformation and image fusion as attractive and effective alternatives for the qualitative evaluation of properties of jewelry products. Chapter 1 gives a brief introduction to jewelry stones production including a short historical overview and outline the ability to apply digital image processing described in the industrial area. Chapter 2 summarizes the aims and assumptions for the further development of image processing for defect assessment in jewelry production. Chapter 3 describes an introduction to image processing and basic methods for identifying the object in the image and its recognition. Chapter 4 is devoted to quite extensively applying the methods of fuzzy logic. There is discussion and design of fuzzy logic algorithms using IF–THEN rules and fuzzy transformation as important instruments of approximation of real functions of one or more variables with the main emphasis for use in image analysis for industrial application. In Chapter 5 are applied algorithms described in the previous section, for analysis of multiple images with one studied subject by using image fusion. Using the proposed methods is explained in concrete images and the ability to apply the principle of the proposed algorithms for qualitative classification of jewelry stones, particularly with regard to their intended objective evaluation. Chapter 6 briefly describes the application of modern technical means for processing visual information, especially with rising demands for computing speed. Problems of optical systems to obtain optimal image of objects of for subsequent computer evaluation in jewelry industry is described in Chapter 7 Chapter 8 is devoted to practical applications of knowledge and algorithms that were designed and described in previous sections. Here is the main concern analysis and qualitative assessment of specific jewelry stones and especially its success. The main focus of this section is to apply the methods of fuzzy logic and fuzzy transformation and the practical use of image fusion. In these specific applications is used LabVIEW software. The number of concrete examples is shown in the process leading to the creation of a methodology for qualitative assessment of jewelry stones with a high degree of objectivity and the potential for applying qualitative measurement and classification in the industrial environment in time-consuming tasks. The final chapter is a summary of achievements made and outlined next steps for the practical application of the proposed methods. Keywords: jewelry stone, image processing, fuzzy transform, F-transform, image fusion, LabVIEW
IX
X
Obsah Seznam obrázků ....................................................................................................................................... 3 Seznam tabulek ........................................................................................................................................ 4 Seznam použitých symbolů ..................................................................................................................... 5 Seznam použitých pojmů a zkratek ......................................................................................................... 7 Úvod ............................................................................................................................................................. 9 1. Současný stav ................................................................................................................................ 11 1.1 Popis bižuterních kamenů ......................................................................................................... 11 1.2 Počítačové zpracování obrazu ................................................................................................... 11 2. Cíle disertační práce ...................................................................................................................... 13 3. Základní pojmy ............................................................................................................................. 15 3.1 Obraz a obrazová funkce .......................................................................................................... 15 3.2 Zpracování obrazu .................................................................................................................... 16 3.2.1 Předzpracování obrazu ..................................................................................................... 16 3.2.2 Integrální transformace .................................................................................................... 21 3.2.3 Segmentace ...................................................................................................................... 24 3.2.4 Metody rozpoznávání ....................................................................................................... 25 3.2.5 Houghova metoda rozpoznávání ...................................................................................... 26 3.3 Shrnutí ....................................................................................................................................... 29 4. Fuzzy logika .................................................................................................................................. 31 4.1 Historické základy .................................................................................................................... 31 4.2 Základní nástroje a motivace pro aplikaci fuzzy logiky ........................................................... 32 4.3 Některé základní pojmy fuzzy logiky ....................................................................................... 33 4.3.1 Fuzzy pravidla IF – THEN ............................................................................................... 34 4.3.2 Fuzzy transformace (F-transformace) .............................................................................. 36 4.3.3 Algoritmy fuzzy transformace ......................................................................................... 40 4.4 Využití metod fuzzy logiky pro zpracování obrazu .................................................................. 44 4.4.1 Fuzzy pravidla IF – THEN ............................................................................................... 44 4.4.2 Fuzzy transformace .......................................................................................................... 49 4.5 Shrnutí ....................................................................................................................................... 54 5. Obrazová fúze (Image Fusion) ...................................................................................................... 55 5.1 Základní úvahy.......................................................................................................................... 55 5.2 Další algoritmy obrazové fúze .................................................................................................. 57 5.3 Shrnutí ....................................................................................................................................... 61 6. Využití FPGA a GPU .................................................................................................................... 63 6.1 Systémy FPGA.......................................................................................................................... 63 6.1.1 Karty s obvody FPGA ...................................................................................................... 63 6.1.2 Průmyslové systémy CompactRIO a SingleBoardRIO .................................................... 64 6.1.3 Aplikování obvodů FPGA pro zpracování obrazu ........................................................... 65 6.2 Aplikace GPU a CUDA ............................................................................................................ 65 6.3 Shrnutí ....................................................................................................................................... 67 7. Problematika optické soustavy ...................................................................................................... 69 7.1 Osvětlovač................................................................................................................................. 69 7.2 Snímací soustava....................................................................................................................... 71 7.2.1 Objektiv ............................................................................................................................ 72 7.2.2 Kamera ............................................................................................................................. 73 7.3 Řádková kamera........................................................................................................................ 74 7.4 Kalibrace optické soustavy ....................................................................................................... 75 7.5 Shrnutí ....................................................................................................................................... 76 8. Aplikace algoritmů pro zpracování obrazu v bižuterním průmyslu .............................................. 77 8.1 Obecná formulace postupu ....................................................................................................... 77 8.2 Využití prostředí LabVIEW ...................................................................................................... 78 8.2.1 Základní popis prostředí LabVIEW ................................................................................. 78 8.2.2 Ukázka aplikace – hranový filtr s použitím konvoluce .................................................... 79 8.2.3 Využití FPGA a GPU ....................................................................................................... 80
8.3 Porovnávání vzorů a tvarů (Pattern Matching) ......................................................................... 81 8.4 Měření rozměrů a tvarů ............................................................................................................. 81 8.5 Aplikace fuzzy logiky ............................................................................................................... 84 8.5.1 Aplikace fuzzy pravidel IF – THEN ................................................................................ 84 8.5.2 Algoritmy fuzzy transformace (F-transformace) .............................................................. 86 8.6 Obrazová fúze ........................................................................................................................... 89 8.6.1 Optická soustava pro obrazovou fúzi ............................................................................... 89 8.6.2 Aplikace algoritmu pro obrazovou fúzi ............................................................................ 90 8.6.3 Další zpracování získaných výsledků ............................................................................... 96 8.7 Shrnutí a návrh dalšího postupu ................................................................................................ 99 Závěr ......................................................................................................................................................... 101 Rejstřík ..................................................................................................................................................... 103 Přílohy ...................................................................................................................................................... 105 Literatura .............................................................................................................................................. 113 Odkazy na internetové stránky ............................................................................................................. 116 Publikace autora ................................................................................................................................... 117
2
Seznam obrázků Obr. 1.1 Obecný tvar BK (vlevo – diamantový výbrus, vpravo – šatonový výbrus) Obr. 1.2 Příklad optické soustavy pro zkoumání BK Obr. 3.1 Příklad obrazu (a) a jeho jasového histogramu (b) Obr. 3.2 Ukázka aplikace konvoluce a vyhlazení Obr. 3.3 Prostorové tvary operátorů Obr. 3.4 Zpracování obrazu v prostorové nebo frekvenční oblasti Obr. 3.5 Příklad okenní funkce při Fourierově transformaci Obr. 3.6 Příklady některých používaných vlnek (wavelets) Obr. 3.7 Schéma rozpoznávacího systému Obr. 3.8 K výkladu Houghovy transformace pro hledání linie Obr. 3.9 K výkladu Houghovy transformace pro hledání kružnice Obr. 4.1 Příklady funkce příslušnosti fuzzy čísla „asi u0“ Obr. 4.2 Příklad aproximace funkce fuzzy funkcí Obr. 4.3 Příklad fuzzy rozkladu (pro n = 4) Obr. 4.4 Průběh trojúhelníkové funkce příslušnosti Ai dle vztahu (4.10) Obr. 4.5 K výkladu fuzzy transformace funkce f(u, v) Obr. 4.6 Graf závislosti poměru počtu operací QFT/QeFT na kroku rozkladu h Obr. 4.7 Prahování obrazu Obr. 4.8 Struktura fuzzy zpracování obrazu Obr. 4.9 Funkce příslušnosti fuzzy množiny Obr. 4.10 K příkladu fuzzy metodiky hledání hran Obr. 4.11 Příklad fuzzy pravidel IF – THEN Obr. 4.12 Příklad zpracování obrazu s pomocí pravidel IF – THEN Obr. 4.13 Příklad aplikace algoritmu FTransform EDA Obr. 4.14 Průběhy jasových hodnot řádku č. 99 Obr. 4.15 Příklad aplikace FTransform EDA pro rozmazaný obraz Obr. 5.1 Model degradace obrazu Obr. 5.2 Model metody obrazové fúze Obr. 5.3 Příklad jednoduché obrazové fúze Obr. 5.4 Idea algoritmu obrazové fúze dvou vstupních obrazů Obr. 5.5 Příklad obrazové fúze s využitím F-transformace Obr. 5.6 Obrazová fúze vstupních obrazů z obr. 5.3a a 5.3b s využitím fuzzy transformace Obr. 6.1 Příklady průmyslových systémů FPGA Obr. 6.2 Zjednodušené blokové schéma systému CompactRIO Obr. 6.3 Architektura programových prostředků CompactRIO Obr. 6.4 Blokové schéma zařazení GPU na sběrnici PCIe Obr. 6.5 Princip paralelizace výpočtu v GPU Obr. 6.6 Porovnání vlastností technologií CPU, FPGA a GPU Obr. 7.1 Příklad optické soustavy Obr. 7.2 Typické osvětlovače Obr. 7.3 Náčrt kolimátoru Obr. 7.4 Náčrt snímací soustavy: objektiv a obrazová rovina (snímací prvek kamery) Obr. 7.5 Náčrt geometrie perspektivní projekce do roviny Obr. 7.6 Náčrt snímací soustavy s telecentrickým objektivem Obr. 7.7 Příklady průmyslových kamer Obr. 7.8 Možné uspořádání optické soustavy pro měření BK Obr. 7.9 K výkladu zlepšení hloubky ostrosti při šikmém uspořádání optické soustavy Obr. 7.10 Idea aplikace optické soustavy s řádkovou kamerou Obr. 7.11 Příklad kalibračních mřížek Obr. 8.1 Příklad postupu zpracování obrazu Obr. 8.2 Blokový diagram programu – hranový filtr Obr. 8.3 Výřez čelního panelu programu – hranový filtr Obr. 8.4 Příklad aplikace Houghovy transformace pro hledání přímky 3
Obr. 8.5 Algoritmus Houghovy transformace pro hledání linie (HoughT Line) Obr. 8.6 Algoritmus Houghovy transformace pro hledání kružnice (Hough T Circle) Obr. 8.7 Výsledek aplikace algoritmu Houghovy transformace pro hledání kružnice Obr. 8.8 Příklad zpracování obrazu algoritmem Fuzzy IfThen Edge Obr. 8.9 Příklad dalšího zpracování obrazu – hledání zlomových bodů Obr. 8.10 Příklad doplnění množiny fuzzy pravidel IF – THEN Obr. 8.11 Funkční bloky (SubVI) eFT.vi (vlevo) a eDFT.vi (vpravo) Obr. 8.12 Blokové schéma algoritmu pro detekci hran FTransform EDA Obr. 8.13 Aplikace algoritmu FTransform EDA na bižuterní kámen Obr. 8.14 Modelová optická soustava (ELCOM) Obr. 8.15 Idea nasvícení BK pro aplikaci obrazové fúze Obr. 8.16 Idea algoritmu pro obrazovou fúzi s nalezením hran ImF_Edge Obr. 8.17 Vstupní obrazy BK s hodnocením „dobrý“ s různým zaostřením Obr. 8.18 Výsledky obrazové fúze BK z obr. 8.17 pro h = 2 Obr. 8.19 Výsledky obrazové fúze BK z obr. 8.17 pro h = 5 Obr. 8.20 Vstupní obrazy BK s hodnocením „dobrý“ s různým nasvícením Obr. 8.21 Výsledky obrazové fúze BK z obr. 8.20 Obr. 8.22 Vstupní obrazy BK s hodnocením „poškrábaná tabulka“ s různým zaostřením Obr. 8.23 Výsledky obrazové fúze BK z obr. 8.22 pro h=2 Obr. 8.24 Funkce IMAQ Count Objects 2 Obr. 8.25 Výsledky detekce objektů na obrazech BK získaných z obrazové fúze Obr. 8.26 Nastavení parametrů pro funkci IMAQ Count Objects 2 Obr. 8.27 Grafické znázornění získaných hodnot „počet objektů“ Obr. 8.28 Grafické znázornění získaných hodnot „počet pixelů“ Obr. A.1 Výřez blokového diagramu algoritmu Fuzzy IfThen Edge v prostředí LabVIEW Obr. A.2 Výřez blokového diagramu SubVI pro F-transformaci eFT.vi Obr. A.3 Výřez blokového diagramu SubVI pro zpětnou F-transformaci eDFT.vi Obr. A.4 Algoritmus FTransform EDA.vi Obr. B.1 Příklady obrazové fúze bižuterních kamenů s různými vlastnostmi Obr. B.2 Příklady obrazové fúze bižuterního kamene s definovanou vlastností Obr. B.3 Příklady detekce objektů na obrazech BK získaných z obrazové fúze
Seznam tabulek Tab. 6.1 Srovnání některých parametrů CPU a GPU (s použitím [W10]) Tab. 8.1 Popis hodnocených objektů (BK)
4
Seznam použitých symbolů A, B, C Ai, Bi Ai Bi A, A(u) Ai(u) A(a, b) A(φi, rj) (Ai, Bi) Ai Ci Di Ei e(x) e(u, v) f(x, y) f <0, 255> f(m, n) = zmn f(k, l) R ( ) F(f) = [F1, F2, … Fn] [ ]( ) F[f]kl [ ] f←g fg fA k f G(x, y), G(r) hi h(t) f(t) h1, h2, h3 h4, h8 Hf(z) i, j, k, l, m, n, p, M, N x, y, t j M×N min {µA, µB}