Modern medical imaging techniques have revolutionized health care over the last decades, providing clinicians with high-resolution 3D images of the inside of the patient's body without the need for invasive procedures. Detailed images of the vascular anatomy can be captured by angiography, providing a valuable source of information when deciding whether a vascular intervention is needed, for planning treatment, and for analyzing the success of therapy. However, increasing level of detail in the images, together with a wide availability of imaging devices, lead to an urgent need for automated techniques for image segmentation and analysis in order to assist the clinicians in performing a fast and accurate examination. To reduce the need for user interaction and increase the speed of vascular segmentation,  we propose a fast and fully automatic vascular skeleton extraction algorithm. This algorithm first analyzes the volume's intensity histogram in order to automatically adapt the internal parameters to each patient and then it produces an approximate skeleton of the patient's vasculature. The skeleton can serve as a seed region for subsequent surface extraction algorithms. Further improvements of the skeleton extraction algorithm include the expansion to detect the skeleton of diseased arteries and the design of a convolutional neural network classifier that reduces false positive detections of vascular cross-sections. In addition to the complete skeleton extraction algorithm, the thesis presents a segmentation algorithm based on modified onion-kernel region growing. It initiates the growing from the previously extracted skeleton and provides a rapid binary segmentation of tubular structures. To provide the possibility of extracting precise measurements from this segmentation we introduce a method for obtaining a segmentation with subpixel precision out of the binary segmentation and the original image. This method is especially suited for thin and elongated structures, such as vessels, since it does not shrink the long protrusions. The method supports both 2D and 3D image data. The methods were validated on real computed tomography datasets and are primarily intended for applications in vascular segmentation, however, they are robust enough to work with other anatomical tree structures after adequate parameter adjustment, which was demonstrated on an airway-tree segmentation.

<p>Energy minimization approach is widely used in image processing applications.<br />Many image processing problems can be modelled in a form of a minimization<br />problem. This thesis deals with two crucial tasks of image analysis workflows:<br />image restoration and segmentation of images corrupted by blur and noise. Both<br />image restoration and segmentation are modelled as energy minimization<br />problems, where energy function is composed of two parts: data fidelity term and<br />regularization term. The main contribution of this thesis is development of new<br />data fidelity and regularization terms for both image restoration and<br />segmentation tasks.<br />Image restoration methods (non-blind and blind deconvolution and superresolution<br />reconstruction) developed within this thesis are suited for mixed<br />Poisson-Gaussian noise which is encountered in many realistic imaging<br />conditions. We use generalized Anscombe variance stabilization transformation<br />for removing signal-dependency of noise. We propose novel data fidelity term<br />which incorporates variance stabilization transformation process into account.<br />Turning our attention to the regularization term for image restoration, we<br />investigate how sparsity promoting regularization in the gradient domain<br />formulated as Total Variation, can be improved in the presence of blur and mixed<br />Poisson-Gaussian noise. We found that Huber potential function leads to<br />significant improvement of restoration performance.<br />In this thesis we propose new segmentation method, the so called coverage<br />segmentation, which estimates the relative coverage of each pixel in a sensed<br />image by each image component. Its data fidelity term takes into account<br />blurring and down-sampling processes and in that way it provides robust<br />segmentation in the presence of blur, allowing at the same time segmentation at<br />increased spatial resolution. In addition, new sparsity promoting regularization<br />terms are suggested: (i) Huberized Total Variation which provides smooth object<br />boundaries and noise removal, and (ii) non-edge image fuzziness, which<br />responds to an assumption that imaged objects are crisp and that fuzziness is<br />mainly due to the imaging and digitization process.<br />The applicability of here proposed restoration and coverage segmentation<br />methods is demonstrated for Transmission Electron Microscopy image<br />enhancement and segmentation of micro-computed tomography and<br />hyperspectral images.</p> / <p>Поступак минимизације функције енергије је често коришћен за<br />решавање проблема у обради дигиталне слике. Предмет истраживања<br />тезе су два круцијална задатка дигиталне обраде слике: рестаурација и<br />сегментација слика деградираних шумом и замагљењем. И рестaурација<br />и сегментација су моделовани као проблеми минимизације функције<br />енергије која представља збир две функције: функције фитовања<br />података и регуларизационе функције. Главни допринос тезе је развој<br />нових функција фитовања података и нових регуларизационих функција<br />за рестаурацију и сегментацију.<br />Методе за рестаурацију (оне код којих је функција замагљења позната и<br />код којих је функцију замагљења потребно оценити на основу датих<br />података као и методе за реконструкцију слике у супер-резолуцији)<br />развијене у оквиру ове тезе третирају мешавину Поасоновог и Гаусовог<br />шума који се појављује у многобројним реалистичним сценаријима. За<br />третирање такве врсте шума користили смо нелинеарну трансформацију<br />и предложили смо нову функцију фитовања података која узима у обзир<br />такву трансформацију. У вези са регуларизационим функцијама смо<br />тестирали хипотезу да се функција Тоталне Варијације која промовише<br />ретку слику у градијентном домену може побољшати уколико се користе<br />тзв. потенцијалне функције. Показали смо да се употребом Хуберове<br />потенцијалне функције може значајно побољшати квалитет рестауриране<br />слике која је деградирана замагљењем и мешавином Поасоновог и<br />Гаусовог шума.<br />У оквиру тезе смо предложили нову методу сегментације која допушта<br />делимичну покривеност пиксела објектом. Функција фитовања података<br />ове методе укључује и модел замагљења и смањења резолуције. На тај<br />начин је постигнута робустност сегментације у присуству замагљења и<br />добијена могућност сегментирања слике у супер-резолуцији. Додатно,<br />нове регуларизационе функције које промовишу ретке репрезентације<br />слике су предложене.<br />Предложене методе рестаурације и сегментације која допушта делимичну<br />покривеност пиксела објектом су примењене на слике добијене помоћу<br />електронског микроскопа, хиперспектралне слике и медицинске ЦТ слике.</p> / <p>Postupak minimizacije funkcije energije je često korišćen za<br />rešavanje problema u obradi digitalne slike. Predmet istraživanja<br />teze su dva krucijalna zadatka digitalne obrade slike: restauracija i<br />segmentacija slika degradiranih šumom i zamagljenjem. I restauracija<br />i segmentacija su modelovani kao problemi minimizacije funkcije<br />energije koja predstavlja zbir dve funkcije: funkcije fitovanja<br />podataka i regularizacione funkcije. Glavni doprinos teze je razvoj<br />novih funkcija fitovanja podataka i novih regularizacionih funkcija<br />za restauraciju i segmentaciju.<br />Metode za restauraciju (one kod kojih je funkcija zamagljenja poznata i<br />kod kojih je funkciju zamagljenja potrebno oceniti na osnovu datih<br />podataka kao i metode za rekonstrukciju slike u super-rezoluciji)<br />razvijene u okviru ove teze tretiraju mešavinu Poasonovog i Gausovog<br />šuma koji se pojavljuje u mnogobrojnim realističnim scenarijima. Za<br />tretiranje takve vrste šuma koristili smo nelinearnu transformaciju<br />i predložili smo novu funkciju fitovanja podataka koja uzima u obzir<br />takvu transformaciju. U vezi sa regularizacionim funkcijama smo<br />testirali hipotezu da se funkcija Totalne Varijacije koja promoviše<br />retku sliku u gradijentnom domenu može poboljšati ukoliko se koriste<br />tzv. potencijalne funkcije. Pokazali smo da se upotrebom Huberove<br />potencijalne funkcije može značajno poboljšati kvalitet restaurirane<br />slike koja je degradirana zamagljenjem i mešavinom Poasonovog i<br />Gausovog šuma.<br />U okviru teze smo predložili novu metodu segmentacije koja dopušta<br />delimičnu pokrivenost piksela objektom. Funkcija fitovanja podataka<br />ove metode uključuje i model zamagljenja i smanjenja rezolucije. Na taj<br />način je postignuta robustnost segmentacije u prisustvu zamagljenja i<br />dobijena mogućnost segmentiranja slike u super-rezoluciji. Dodatno,<br />nove regularizacione funkcije koje promovišu retke reprezentacije<br />slike su predložene.<br />Predložene metode restauracije i segmentacije koja dopušta delimičnu<br />pokrivenost piksela objektom su primenjene na slike dobijene pomoću<br />elektronskog mikroskopa, hiperspektralne slike i medicinske CT slike.</p>