خبر

طراحی یک شبکه عصبی جدید با قابلیت گرفتن تصمیم های هوشمند امنیتی

استفاده از سیستم‌های هوش مصنوعی که به آنها «شبکه­ های عصبی عمیق» هم گفته می‌شود برای گرفتن تصمیم‌های مهم و حیاتی در حوزه‌هایی همچون خودروهای هوشمند و تشخیص پزشکی مدام در حال افزایش است. این شبکه‌های عصبی برای کمک به تصمیم گیری بهتر می توانند الگوها را در مجموعه داده‌های بزرگ و پیچیده شناسایی کنند. با این حال سؤالی که مطرح می شود این است آیا عملکرد آنها درست است؟ الکساندر امینی و همکارانش در دانشگاه ‌های هاروارد و ام‌آی‌تی به دنبال یافتن پاسخی مناسب برای این پرسش هستند.

این گروه، روش سریعی برای تحلیل داده‌ها توسط یک شبکه عصبی طراحی کرده‌اند که علاوه بر پیش‌بینی رویدادها، سطح اطمینان پیش‌بینی صورت گرفته را نیز بر اساس کیفیت داده‌های ارایه شده مشخص می‌نماید. با توجه به اینکه امروزه از یادگیری عمیق در حوزه‌های مهم و حیاتی استفاده می شود بنابراین ممکن است این اختراع به نجات جان انسان‌ها کمک کند. شایان ذکر است سطح اطمینان یک شبکه عصبی می‌تواند تأثیر چشمگیری در تصمیم‌گیری‌های اخذ شده توسط سیستم‌هایی مثل خودروهای هوشمند داشته باشد.

روش‌های فعلی که برای ارزیابی میزان اطمینان از خروجی شبکه‌های عصبی مورد استفاده قرار می‌گیرند، از نظر محاسباتی بسیار سنگین بوده و ممکن است سرعت تصمیم‌گیری را به شدت کاهش دهند. راهکار ارایه شده توسط آقای امینی به نام «رگرسیون عمیق مبتنی بر شواهد» منجر به تسریع این فرایند شده و می‌تواند به نتایج و پیامدهای امن‌تری برسد. به گفته وی: «ما باید مدل‌هایی با سطح کارایی بالا داشته و بتوانیم تشخیص دهیم در چه مواقعی نمی‌توان به عملکرد این مدل‌ها مطمئن بود».

یکی از همکاران ایشان نیز در این خصوص می ­گوید: «این ایده، مهم و تا حدود زیادی عملی است. این روش قابلیت ارزیابی محصولاتی که متکی بر مدل‌های آموزش داده شده هستند را دارد. با تخمین میزان قطعیت مدل می‌توان مشخص کرد خطای مدل چقدر است و چه داده‌هایی می‌توانند به بهبود عملکرد آن کمک کنند».

 

عدم قطعیت این مدل

پس از فراز و نشیب های زیاد، قابلیت‌های یادگیری عمیق در انجام کارهای مختلف به خوبی اثبات شده و حتی دقت آن در برخی موارد نیز از انسان‌ها بیشتر بوده است. به نظر می‌رسد امروزه یادگیری عمیق، همگام با علوم رایانه‌ای بوده و روز به روز بر کاربردهای آن افزوده می‌شود. در حال حاضر برای ایجاد نتایج بهتر در خروجی موتورهای جستجو، تشخیص چهره و سایر موارد از یادگیری عمیق استفاده می‌شود. به گفته آقای امینی: «ما در زمینه استفاده از یادگیری عمیق به موفقیت‌های قابل توجهی رسیده ایم. شبکه‌های عصبی در ۹۹ درصد از مواقع خیلی خوب می‌توانند ما را به پاسخ درست و مناسبی برسانند. هنگامی که جان انسان‌ها در میان باشد، خطای یک درصدی هم از اهمیت بسیار زیادی برخوردار است».

ایشان گفته: «یکی از انگیزه‌های مطالعه ما این بود که شبکه‌های عصبی بتوانند تشخیص دهند چه مواقعی ممکن است اشتباه کرده و این موضوع را به ما اعلام نمایند. این ۱ درصد واقعاً برای ما اهمیت دارد و سعی می‌کنیم همین ۱ درصد را با اطمینان و قاطعیت تشخیص دهیم».

شبکه‌های عصبی، ساختارهای بسیار بزرگی هستند و گاهی وقت ها ممکن است میلیاردها متغیر داشته باشند. بنابراین این احتمال وجود دارد که دستیابی به یک خروجی و همچنین تخمین سطح اطمینان از نظر محاسباتی، فعالیت بسیار سنگین و زمان بری باشد. تحلیل میزان قطعیت خروجی شبکه‌های عصبی بحث جدیدی نیست اما روش‌های قبلی که متکی بر یادگیری عمیق بودند نیاز به اجرا و نمونه برداری‌های مکرر از عملکرد یک شبکه عصبی داشتند تا بتوانند میزان قطعیت آن را مشخص نمایند. این فرایند مستلزم صرف زمان و حافظه زیادی بود که ممکن است مناسب هر شرایطی نباشد.

این محققان روشی ابداع کرده اند که می‌تواند تنها با یک بار اجرای شبکه عصبی، میزان قطعیت خروجی آن را تخمین بزند. آنها شبکه را طوری طراحی نموده اند که علاوه بر تصمیم‌گیری، یک توزیع احتمالی جدید تولید کند که حاوی شواهدی برای حمایت از تصمیم‌گیری انجام شده باشد. این توزیع‌ها که به آنها «توزیع مبتنی بر شواهد» گفته می‌شود، به صورت مستقیم سطح اطمینان پیش‌بینی‌های مدل را مشخص می‌کنند. در نتیجه هر گونه عدم قطعیتی که در داده‌های ورودی یا تصمیم نهایی مدل وجود دارد، شناسایی می‌شود. این توزیع می‌تواند مشخص کند که آیا امکان کمتر شدن عدم قطعیت با تغییر خود شبکه عصبی وجود دارد یا اینکه داده‌های ورودی مدل دارای نویز بوده‌اند یا خیر؟

 

بررسی سطح اطمینان مدل

محققان، مدل خودشان را با یک پروژه بینایی سنجی رایانه ای ارزیابی کرده اند. آنها شبکه عصبی را آموزش دادند تا یک تصویر چشمی را مشاهده کرده و میزان عمق هر پیکسل (یعنی فاصله هر پیکسل از لنز دوربین) را تخمین بزند. خودروهای هوشمند نیز از چنین روشی که کار ساده ای هم نیست برای ارزیابی میزان فاصله با یک عابر پیاده یا خودروی دیگر استفاده می‌کنند.

عملکرد این شبکه عصبی در حد مدل‌های جدید بود. این شبکه عصبی قابلیت تخمین میزان اطمینان خروجی را نیز داشت. همانطور که محققان امیدوار بودند، این شبکه عدم قطعیت را برای پیکسل‌هایی که عمق آنها را اشتباه تخمین زده بود، بیشتر در نظر گرفته بود. به گفته امینی: «این مدل به خوبی توانست خطاهای شبکه عصبی را تشخیص دهد که به نظر ما این کار یکی از مهمترین نکات برای قضاوت درباره عملکرد سیستم تشخیص عدم قطعیت است».

همچنین این تیم نشان داده این شبکه عصبی برای داده‌هایی که خارج از محدوده توزیع احتمالی (یعنی داده‌های کاملاً جدیدی که شبکه عصبی حین آموزش با آنها روبرو نشده) قرار داشتند، عدم قطعیت بیشتری را در نظر می‌گیرد. این گروه پس از آموزش شبکه عصبی با تصاویری از فضای داخل منزل، تعدادی عکس از فضای بیرون را به آن نمایش دادند. این شبکه عصبی دائماً به آنها هشدار می‌داد که تصمیم‌گیری‌هایش درباره تصاویر جدید قابل اطمینان نیست. این آزمایش نشان داد که این شبکه عصبی می‌تواند در مواقع لازم به کاربران هشدار بدهد که تصمیم‌گیری‌هایش قابل اطمینان نیستند. به گفته آقای امینی: «در چنین شرایطی متوجه می‌شویم که مثلاً در یک برنامه پزشکی نمی‌توان به تشخیص مدل مطمئن بود و باید به دنبال یک نظر دیگر هم باشیم».

این شبکه عصبی توانایی تشخیص دستکاری تصاویر را هم دارد. این قابلیت می‌تواند به حفاظت از داده‌ها در برابر حملات جعل و دستکاری کمک کند. محققان در آزمایشی دیگر سطح نویز را در مجموعه تصاویر ورودی شبکه افزایش دادند. هر چند تغییر ایجاد شده برای چشم انسان چندان قابل مشاهده نبود ولی شبکه عصبی آنها را تشخیص داد و عدم قطعیت آنها را بالا در نظر گرفت. این ویژگی می‌تواند به شناسایی و جلوگیری از وقوع حملاتی که امروزه با کمک فناوری جعل عمیق (Deepfake) انجام می‌شوند، کمک کند.

به گفته رایا ‌هادسل، محقق هوش مصنوعی در دیپ‌مایند: «رگرسیون عمیق مبتنی بر شواهد، روش ساده و فوق العاده‌ای است که به پیشرفت عرصه تخمین عدم قطعیت کمک کرده و برای سیستم‌های رباتیک و سایر سیستم‌های کنترل که در دنیای واقعی هستند، اهمیت زیادی دارد. این کار به روشی جدید انجام شده که تعدادی از جنبه‌های اضافی روش‌های قبلی مثل نمونه برداری یا گروه‌بندی را حذف می‌کند و علاوه بر دقت بالا از نظر محاسباتی، بسیار سریعتر هم می باشد».

رگرسیون عمیق مبتنی بر شواهد می‌تواند امنیت تصمیم‌گیری‌های صورت گرفته به کمک هوش مصنوعی را افزایش دهد. آقای امینی می‌گوید: «خیلی از این مدل‌های شبکه عصبی از فضای آزمایشگاه خارج شده و وارد دنیای واقعی و شرایطی می‌شوند که با جان انسان‌ها سروکار دارند. کاربران این روش‌ها که ممکن است یک پزشک در مطبش یا سرنشین یک خودرو باشد باید از میزان اطمینانی که نسبت به تصمیم‌گیری این مدل‌ها وجود دارد، اطلاع کافی داشته باشند».

او بر این باور است که این سیستم‌ها علاوه بر تشخیص سریع عدم قطعیت می‌توانند در شرایط پرخطر مثل نزدیک شدن یک خودروی هوشمند به تقاطع، تصمیم‌گیری بهتری کنند. وی معتقد است: «هر عرصه‌ای که به دنبال یادگیری ماشینی قابل پیاده سازی باشد باید از میزان عدم قطعیت مدل‌ها اطلاع داشته باشد».

 

منبع: techxplore

 

نمایش بیشتر

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

چهار × 5 =

دکمه بازگشت به بالا