عنوان

یادگیری وفقی دیکشنری بیش کابل برای نمایش اسپارس سیگنال ها

‭۱۳۸۰۹پ‬

per

یادگیری وفقی دیکشنری بیش کابل برای نمایش اسپارس سیگنال ها

/یاشارنادراحمدیان

: مهندسی برق و کامپیوتر

، ‮‭۱۳۹۴‬

، راشدی

چاپی

دکتری

مهندسی برق،گرایش مخابرات(سیستم)

‮‭۱۳۹۴/۰۷/۲۲‬

تبریز

امروزه علاقه فراوانی در جهت نمایش اسپارس سیگنال‌ها وجود دارد .در این روش سعی بر این است که با کمک یک دیکشنری بیش‌کامل، نمایشی اسپارس از سیگنال براساس یک ترکیب خطی تشکیل شده از تعداد کمی از ستون‌های دیکشنری ارائه داده شود .این روش نمایش سیگنال، کاربردهای بسیاری در زمینه‌های مختلف می‌تواند داشته باشد که از آن جمله می‌توان به فشرده‌سازی، استخراج ویژگی‌ها، طبقه‌بندی و ... اشاره کرد .به‌طورکلی فعالیت‌ها در این زمینه بر روی دو مسئله عمده تمرکز دارد ‮‭(۱)‬ :الگوریتم‌های تجزیه اسپارس سیگنال یا اسپارس کدینگ ‮‭(۲)‬ روش‌های ایجاد دیکشنری .دسته اول با مسئله تعقیب سروکار دارد که در آن به ازای سیگنال و دیکشنری معلوم، هدف پیدا کردن کوچک‌ترین مجموعه از ستون‌های دیکشنری برای بیان سیگنال به‌صورت یک ترکیب خطی از آن‌ها می‌باشد .از آنجایی که حل این مسئله از درجه سختی ‮‭NP‬ است، الگوریتم‌های تقریبی بسیاری برای حل آن ارائه شده است که از آن جمله می‌توان به روش‌های ‮‭FOCUSS‬ ، ‮‭BP‬، ‮‭MP‬و انواع تغییر یافته‌های آن‌ها اشاره کرد .کارهایی که در این زمینه انجام می‌شود به‌طور عمده بر روی بررسی عملکرد این الگوریتم‌ها و پیش‌بینی میزان موفقیت آن‌ها تمرکز دارد .دسته دوم شامل روش‌های ساخت دیکشنری برای خانواده‌ی مشخصی از سیگنال‌ها است که نهایتا بتوان با کمک دیکشنری طراحی شده، یک نمایش اسپارس از سیگنال‌ها را ارائه کرد .این شیوه نمایش سیگنال بسیار جالب و کاربردی است، چراکه با کمک آن می‌توان دیکشنری را برای نمایش دسته خاصی از سیگنال‌ها محدود و بهینه کرد و در کاربردهای خاصی مانند فشرده سازی، طبقه‌بندی سیگنال‌ها و ... از آن‌ها استفاده کرد .روش‌های ساخت دیکشنری در حالت کلی به دو دسته کلی دیکشنری‌های ساختار یافته و دیکشنری‌های تعلیم یافته تقسیم می‌شود .دیکشنری‌های ساختار یافته به دلیل استفاده از پایه‌های استاندارد محدود بوده و برای دسته خاصی از سیگنال‌ها قابل استفاده هستند .اما دیکشنری‌های تعلیم یافته ساختار خود را از روی سیگنال مورد آزمایش به دست می‌آورند و بر روی دسته وسیعی از سیگنال‌ها قابل استفاده هستند .در این رساله روشی بر خط و وفقی برای یادگیری دیکشنری جهت نمایش اسپارس سیگنال‌ها ارائه می‌شود .دیکشنری مورد نظر از نوع دیکشنری تعلیم یافته بوده و ساختار خود را از روی سیگنال مورد آزمایش به دست می‌آورد .در نمایش اسپارس سیگنال‌ها تنها تعداد محدودی از اتم‌های دیکشنری در بیان آن‌ها نقش دارند .در روش ارائه شده در این رساله فقط اتم‌های مرتبط با نمایش داده تعلیمی جدید به‌روز رسانی شده و سایر اتم‌ها بدون تغییر باقی می‌مانند .همچنین برخلاف روش‌های یادگیری دیکشنری پیشین، به‌روز رسانی اتم‌های مرتبط با داده تعلیمی جدید، با کمک بخشی از داده‌های تعلیمی که با اتم‌های مورد نظر همبستگی دارند انجام می‌شود .در روش پیشنهادی این رساله به دلیل کاهش تعداد اتم‌ها و داده‌های تعلیمی شرکت کننده در به‌روز رسانی دیکشنری در هر مرحله، قادر هستیم از روش حداقل مربعات با پیچیدگی محاسباتی کمتری نسبت به روش‌های پیشین استفاده کنیم .همچنین در این رساله برای هر یک از داده‌های تعلیمی وزن‌های متفاوتی اختصاص یافته تا مطابقت آن‌ها با دیکشنری تحت تعلیم به‌طور وفقی در نظر گرفته شود .نتایج شبیه‌سازی نشان می‌دهد که ضریب اضافه شده باعث همگرایی سریع‌تر و کاهش خطای نمایش اسپارس الگوریتم پیشنهادی شده است .نشان داده‌ایم که الگوریتم پیشنهادی در این رساله قادر به بازیابی کامل دیکشنری اصلی فقط با یک تکرار بر روی داده‌های تعلیمی است و نیازی به تصحیح دیکشنری ندارد .به عنوان کاربرد از روش یادگیری دیکشنری پیشنهادی برای بازیابی تصاویر ‮‭MRI‬ استفاده کرده و آن‌را با روش‌های یادگیری دیکشنری پیشین مقایسه و نشان داده‌ایم که روش پیشنهادی نتایج بهتری از نظر ‮‭PSNR‬ و‮‭HFEN‬ نمایش به‌دست می‌آورد .همچنین در این رساله از روش حداقل مربعات بازگشتی برای حل تابع هزینه پیشنهادی استفاده کرده‌ایم و با معرفی ضریب تصحیح به عنوان وزن برای داده تعلیمی ورودی به الگوریتم، به‌طور وفقی میزان مطابقت آن‌را با دیکشنری تحت تعلیم در نظر گرفته‌ایم .نشان داده‌ایم که ضریب اضافه شده به‌طور وفقی گام به‌روز رسانی دیکشنری را کنترل کرده و مقاومت الگوریتم در برابر داده‌های پرت را به‌طور قابل ملاحظه‌ای بهبود می‌دهد

Nowadays there is a great interest in sparse representation of signals. In this method signals are represented by a linear combination of a few number of columns of the spanning set called dictionary. This kind of signal representation has many applications in different areas such as compression, feature extraction, classification, etc. The research activities in this field are concentrated in two main categories: (1) Sparse decomposition or sparse coding algorithms (2) Dictionary learning algorithms. The first one deals with the pursuit algorithms in which for a given signal and dictionary the goal is to represent the signal as a linear combination of the smallest subset of the dictionary columns. The exact solution to this problem is NP hard, therefore, approximate algorithms such as MP, BP, FOCUSS are introduced to solve this problem. The research in this area are mainly concentrated on the transient and steady state analysis of these methods. The second one includes methods for creating and learning dictionary for a specific family of signals which can be used for sparse representation of these signals. This type of signal representation is interesting and applicable since using this method a dictionary can be restricted and optimized for a specific family of signals and can be used in particular applications such as compression and classification. Dictionary learning and construction methods are divided to two main groups, structured dictionaries and trained dictionaries. The structured dictionaries use standard basis therefore they can be applied for a specific type of signals. However, the trained dictionaries can be applied for a wide range of signals since they obtain their structure from the training data. In this thesis we introduce an adaptive overcomplete dictionary learning method for sparse representation of signals. Our proposed dictionary learning method is a trained one and finds its structure from the training data. In sparse scenario, only a few atoms of the dictionary are involved in the representation. In this thesis, we propose a new online and adaptive dictionary learning method. In the new update method only the atoms involved in the sparse representation of new training data are adaptively updated. The adaptive update also includes using the previous training data correlated with selected atoms. This reduces the number of training data contributing in the dictionary update and the number of atoms updating at each iteration, and enables us to use the least squares method with low complexity. In the proposed algorithm different weights are given to training-data so each one has the proper level of influence in the dictionary update. The simulation results show this improves the performance of the algorithm, in convergence speed and representation error. We also show that our algorithm has the ability of full recovery of dictionary with only one trial over training data and does not need any dictionary pruning to remove the unused atoms of the dictionary. The proposed dictionary learning method is used in the sparse representation of MRI images. Comparison with K-SVD method shows that the proposed method improves the PSNR and HFEN of the representation.

نادر احمدیان، یاشار، پژوهشگر

طینتی، محمد علی، استاد راهنما

موسوی نیا، میر جواد، استاد مشاور

سیاه و سفید

نمایه‌سازی قبلی