یادگیری تدریجی یا Incremental Learning چیست؟

یادگیری تدریجی یا Incremental Learning چیست؟ یادگیری تدریجی (Incremental Learning) روشی از یادگیری ماشین است که در آن یک مدل هوش مصنوعی دانش خود را به‌تدریج و بدون فراموش‌کردن اطلاعات کسب‌شده قبلی یاد می‌گیرد و افزایش می‌دهد. در اصل، الگوهای یادگیری انسان را با به‌دست‌آوردن اطلاعات جدید در طول زمان تقلید می‌کند، درحالی‌که دانش قبلی را حفظ و توسعه می‌دهد. یادگیری تدریجی در سناریوهایی که داده‌ها به‌ترتیب به دست می‌آیند یا در جایی که ذخیره همه داده‌ها برای پردازش امکان‌پذیر نیست بسیار مهم است.

یادگیری تدریجی چیست؟

در یادگیری دسته‌ای سنتی (batch learning) مدل یادگیری ماشین روی کل مجموعه داده‌ها به‌طور همزمان آموزش داده می‌شود. بااین‌حال یادگیری تدریجی رویکرد متفاوتی را دنبال می‌کند. از نقاط داده جدید که در دسترس قرار می‌گیرند یاد می‌گیرد و پارامترهای مدل خود را به‌صورت تدریجی به‌روز می‌کند که در تضاد کامل با روش‌ یادگیری دسته‌ای است.

برای مثال، یک مدل فیلتر ایمیل اسپم را در نظر بگیرید. با batch learning مدل با مجموعه بزرگی از ایمیل‌ها به‌طور همزمان آموزش داده می‌شود و سپس برای ایمیل‌های بعدی اعمال می‌شود. اگر ماهیت ایمیل‌های اسپم تغییر کند، ممکن است مدل شکست بخورد، مگر آنکه در دسته‌ای از ایمیل‌های جدید که ویژگی‌های اسپم به‌روزشده را شامل است دوباره آموزش داده شود.

همچنین یک فیلتر اسپم مبتنی بر یادگیری تدریجی خود را با رسیدن ایمیل‌های جدید تطبیق می‌دهد و به‌تدریج درک خود را از اسپم به‌روزرسانی می‌کند. اگر استراتژی‌های اسپم تغییر کند، این نوع مدل می‌تواند به‌طور بالقوه یاد بگیرد که سبک‌های اسپم جدید را بدون نیاز به مجموعه جدیدی از داده‌های آموزشی تشخیص دهد.

مزیت‌های یادگیری تدریجی چیست؟

مزیت‌های یادگیری تدریجی به‌صورت کلی از این قرار است:

استفاده بهینه از منابع

مدل‌های یادگیری تدریجی (Incremental Learning) به ذخیره داده‌های کمتری در یک زمان نیاز دارند که می‌تواند به صرفه‌جویی قابل‌توجهی در حافظه بینجامد؛ برای مثال، یک سیستم تشخیص تقلب در یک بانک می‌تواند مدل خود را با هر تراکنش به‌روز کند، نه‌آنکه همه تراکنش‌ها را ذخیره کند تا بعداً آن‌ها را پردازش کند.

سازگاری به شکل بلادرنگ

این مدل‌ها می‌توانند با تغییرات در زمان واقعی سازگار شوند. یک سیستم توصیه خبری مبتنی بر هوش مصنوعی می‌تواند تنظیمات ترجیحی کاربر را در طول زمان بداند و مقالاتی را بر اساس جدیدترین علایق آن‌ها توصیه کند.

یادگیری کارآمد

شکستن یک تسک به قطعات کوچک‌تر می‌تواند توانایی مدل یادگیری ماشین را برای یادگیری سریع و مؤثر وظایف جدید افزایش دهد؛ علاوه‌براین، یادگیری تدریجی در بهبود دقت مدل‌ها مفید است.

یادگیری از داده‌های غیر ثابت

در دنیایی که داده‌ها می‌توانند به‌سرعت تکامل یابند مدل‌های یادگیری تدریجی بسیار ارزشمند هستند؛ برای مثال، یک مدل پیش‌بینی آب‌وهوا می‌تواند به‌طور مداوم پیش‌بینی‌های خود را براساس جدیدترین داده‌های اقلیمی تطبیق دهد.

محدودیت‌های یادگیری تدریجی چیست؟

یادگیری تدریجی، مانند انواع دیگر یادگیری، محدودیت‌هایی دارد که باید در نظر گرفته شوند:

فراموشی فاجعه‌بار (Catastrophic forgetting)

یکی از چالش‌های اصلی یادگیری تدریجی «فراموشی فاجعه‌بار» است. در این حالت مدل تمایل دارد اطلاعات قدیمی را با یادگیری داده‌های جدید فراموش کند.

مشکل در مدیریت رانش مفهومی

اگرچه یادگیری تدریجی برای مدیریت داده‌های در حال تکامل طراحی شده است، مدیریت تغییرات ناگهانی یا «انحراف مفهومی» (concept drift) در روند داده‌ها می‌تواند چالش‌برانگیز باشد.

خطر بیش‌برازش (Overfitting)

از آنجا که یادگیری تدریجی به جریانی از داده‌ها متکی است، می‌تواند پارامترهای خود را براساس داده‌های اخیر بیش‌ازحد تنظیم کند؛ درنتیجه ممکن است توزیع کلی را نشان ندهد؛ برای مثال، یک مدل پیش‌بینی سهام می‌تواند بیش‌ازحد به نوسان‌های کوتاه‌مدت بازار حساس شود و پیش‌بینی‌های بلندمدت کمتری را رقم بزند.

پیشنهاد می‌کنیم درباره بیش برازش (Overfitting) هم مطالعه کنید.

نمونه‌هایی از کاربردهای یادگیری تدریجی در دنیای واقعی

برخی از نمونه‌های یادگیری تدریجی یا Incremental Learning در دنیای واقعی و زندگی روزمره از این قرار است:

وسایل نقلیه خودمختار

در حوزه خودروهای خودران یادگیری تدریجی (Incremental Learning) نقشی اساسی در افزایش درک خودرو از محیط اطراف خود دارد. برای مثال، سیستم Autopilot تسلا را در نظر بگیرید. این خودروها به‌گونه‌ای طراحی شده‌اند که به‌صورت تدریجی از حجم وسیعی از داده‌های جمع‌آوری‌شده از ناوگان خودروهای تسلا در جاده‌ها یاد بگیرند. تجربه هر خودرو (مانند شناسایی نوع جدیدی از مانع یا پیمایش در یک تقاطع دشوار) به سرورهای تسلا ارسال می‌شود، جایی که برای به‌روزرسانی مدل‌های یادگیری ماشین استفاده می‌شود. سپس این مدل‌های به‌روزشده به ناوگان بازگردانده می‌شوند و درک هر وسیله نقلیه از سناریوهای مختلف رانندگی را افزایش می‌دهند و عملکرد کلی آن‌ها را بهبود می‌بخشند.‌

سیستم‌های توصیه اخبار

پلتفرم‌های خبری آنلاین از یادگیری تدریجی (Incremental Learning) برای شخصی‌سازی محتوا برای خوانندگان خود استفاده می‌کنند. یک نمونه از این بخش «For You» در اپل‌نیوز است. این ویژگی از یادگیری تدریجی برای درک عادت‌ها و ترجیح‌های خواندن کاربر در طول زمان استفاده می‌کند. همان‌طور که کاربر مقاله‌های بیشتری را درمورد موضوع‌های خاص یا از ناشران خاص می‌خواند، مدل‌های یادگیری ماشین برنامه به‌روز می‌شوند تا این اولویت‌ها را منعکس کنند. با گذشت زمان، مدل‌ها می‌توانند مقاله‌هایی را پیش‌بینی و توصیه کنند که کاربر احتمالاً آن‌ها را جالب می‌بیند و تجربه مصرف اخبار بسیار شخصی‌سازی شده را ارائه می‌کند.

کشف تقلب در بانکداری

بانک‌ها از الگوریتم‌های یادگیری تدریجی (Incremental Learning)  برای شناسایی تراکنش‌های متقلبانه استفاده می‌کنند، مانند سیستم تشخیص کلاهبرداری بلادرنگ که Mastercard استفاده می‌کند. با هر تراکنش سیستم Mastercard بیش از ۱۰۰ متغیر مختلف (مانند اندازه تراکنش، مکان و نوع تراکنش) را برای ارزیابی احتمال تقلب تجزیه‌وتحلیل می‌کند. این سیستم از یادگیری تدریجی برای انطباق با الگوهای در حال تحول تراکنش‌های متقلبانه استفاده می‌کند؛ برای مثال، اگر سیستم متوجه نوع جدیدی از الگوی تقلب شود، می‌تواند این الگو را بیاموزد و مدل را برای شناسایی تلاش‌های مشابه در آینده به‌روزرسانی کند؛ بنابراین دقت کلی کشف تقلب را بهبود می‌بخشد.

پیاده‌سازی الگوریتم‌های یادگیری تدریجی (Incremental Learning)

وقتی به پیاده‌سازی یادگیری تدریجی در پروژه‌ها نوبت می‌رسد، چندین الگوریتم به‌طور خاص برای انجام‌دادن این کار طراحی شده‌اند که در این بخش به چند مورد محبوب آن اشاره می‌کنیم:

نزول گرادیان تصادفی (SGD)

SGD یک انتخاب محبوب برای یادگیری تدریجی  (Incremental Learning) است. پارامترهای مدل را با استفاده از یک نمونه در یک زمان یا یک دسته کوچک از نمونه‌ها به‌روز می‌کند. این رویکرد به مدل اجازه می‌دهد تا در حین آنکه دسته‌ای پس از دیگری را پردازش می‌کند، به‌صورت تدریجی یاد بگیرد. SGD به‌طور گسترده در برنامه‌های مختلف، از رگرسیون خطی ساده تا مدل‌های یادگیری عمیق پیچیده، استفاده می‌شود.

برای مثال، در توسعه یک سیستم تعمیر و نگهداری پیش‌بینی‌کننده برای یک کارخانه تولیدی، SGD می‌تواند برای آموزش تدریجی یک مدل با داده‌های حسگر، تنظیم پارامترهای مدل با ورود داده‌های جدید استفاده شود. به‌این ترتیب، مدل می‌تواند خرابی‌های احتمالی تجهیزات را با دقت بیشتری در طول زمان پیش‌بینی کند.

ماشین‌های بردار پشتیبان آنلاین (SVM)

SVM‌های آنلاین اقتباسی از الگوریتم سنتی SVM برای مدیریت یادگیری تدریجی (Incremental Learning) هستند. آن‌ها با به‌روزرسانی مدل SVM با ورود هر دسته جدید از داده کار می‌کنند و آن را برای جریان‌های داده یا برنامه‌های کاربردی در مقیاس بزرگ که در آن آموزش مجدد مدل با هر نمونه جدید غیرعملی است مناسب می‌کند.

برای مثال، یک SVM آنلاین می‌تواند در یک تسک طبقه‌بندی متن برای یک خبرگزاری در مقیاس بزرگ استفاده شود که در آن مقالات باید به موضوع‌های مختلف به‌شکل بلادرنگ طبقه‌بندی شوند. SVM می‌تواند به‌صورت تدریجی از هر مقاله جدید بیاموزد و دقت طبقه‌بندی خود را در طول زمان بهبود بخشد.

پیشنهاد می‌کنیم درباره الگوریتم ماشین بردار پشتیبان (Support Vector Machine) هم مطالعه کنید.

درختان تصمیم تدریجی (Incremental Decision Trees)

درختان تصمیم نوعی الگوریتم یادگیری ماشین هستند که می‌توانند از یادگیری تدریجی نیز پشتیبانی کنند. الگوریتم‌های درخت تصمیم تدریجی، مانند درخت Hoeffding یا درخت تصمیم بسیار سریع (VFDT)، درخت تصمیم را به‌صورت تدریجی می‌سازند و از روش‌های آماری برای تصمیم‌گیری زمان تقسیم گره‌ها استفاده می‌کنند.

تصور کنید یک شرکت مخابراتی می‌خواهد ریزش مشتری را در زمان واقعی پیش‌بینی کند. آن‌ها می‌توانند از یک درخت تصمیم تدریجی برای یادگیری از هر تعامل با مشتری استفاده کنند و به‌تدریج توانایی مدل را برای پیش‌بینی مشتریانی که احتمالاً از بین می‌روند بهبود می‌بخشند.

مدل‌های یادگیری عمیق تدریجی (Incremental Deep Learning Models)

مدل‌های یادگیری عمیق، به‌ویژه شبکه‌های عصبی بازگشتی (RNN) و انواع خاصی از شبکه‌های عصبی کانولوشنال (CNN)، می‌توانند برای یادگیری تدریجی سازگار شوند. این مدل‌ها از داده‌های جدید با به‌روزرسانی تدریجی وزن خود یاد می‌گیرند که به آن‌ها اجازه می‌دهد تا داده‌های  streamingیا محیط‌هایی را که در طول زمان تغییر می‌کنند مدیریت کنند.

برای مثال، یک پلتفرم تجارت الکترونیک می‌تواند از یک مدل یادگیری عمیق تدریجی برای ارائه توصیه‌های محصول در زمان واقعی به کاربران خود استفاده کند. این مدل از هر تعامل کاربر یاد می‌گیرد و وزن‌های خود را به‌صورت تدریجی به‌روزرسانی می‌کند تا ترجیحات کاربران را بهتر دریافت کند و توصیه‌های دقیق‌تری ارائه کند.

نکته پایانی

یادگیری تدریجی (Incremental Learning) نوید زیادی برای توسعه تجارب هوش مصنوعی تطبیقی ​​و شخصی‌سازی‌شده دارد. با یادگیری مداوم از داده‌ها و تجربه‌های جدید، به‌جای آموزش مجدد کامل از ابتدا، سیستم‌ها می‌توانند سریع‌تر به تغییرات واکنش نشان دهند و در سطح دقیق‌تری سازگار شوند. این توانایی برای به‌روزرسانی تدریجی مدل‌ها، سیستم‌های هوش مصنوعی را کارآمدتر و مقیاس‌پذیرتر می‌کند.

در حال حاضر، یادگیری تدریجی در حال رشد است. با ظهور هوش مصنوعی مکالمه‌ای، تقاضا برای تجارب چت‌بات قابل تنظیم که زمینه مکالمه را درک می‌کنند و از رفتارهای کاربر درس می‌گیرند، وجود دارد. به جای ساخت و آموزش مدل‌های زبانی بزرگ، می‌توانیم با استفاده از مدل‌های زبانی یادگیری تدریجی کوچک‌تر که کاملاً برای رفتارهای فردی کاربر سفارشی شده‌اند، تجربیات شخصی‌سازی‌شده‌تری ارائه کنیم.

پرسش‌های متداول

یادگیری تدریجی در یادگیری ماشین چیست؟

یادگیری تدریجی (Incremental Learning) یک روش در یادگیری ماشین است که در آن مدل‌های هوش مصنوعی دانش خود را به‌تدریج و بدون فراموشی اطلاعات قبلی افزایش می‌دهند.

چگونه یادگیری تدریجی از یادگیری دسته‌ای (Batch Learning) متفاوت است؟

در یادگیری دسته‌ای مدل‌ها روی کل داده‌ها همزمان آموزش داده می‌شوند، اما در یادگیری تدریجی مدل‌ها با دریافت داده‌های جدید به صورت پیوسته و تدریجی به‌روزرسانی می‌شوند.

مزایای اصلی یادگیری تدریجی چیست؟

یادگیری تدریجی منابع را بهینه استفاده می‌کند، به‌طور بلادرنگ به تغییرات واکنش نشان می‌دهد، یادگیری را کارآمدتر می‌کند و قابلیت سازگاری با داده‌های غیر ثابت را دارد.

چالش‌های اصلی در پیاده‌سازی یادگیری تدریجی چیست؟

چالش‌های عمده شامل فراموشی فاجعه‌بار (Catastrophic Forgetting) مدیریت رانش مفهومی (Concept Drift) و خطر بیش‌برازش (Overfitting) هستند.

کاربردهای عملی یادگیری تدریجی در کجا مشاهده می‌شود؟

یادگیری تدریجی در حوزه‌های متنوعی مانند خودروهای خودران، سیستم‌های توصیه‌گر خبری و سیستم‌های کشف تقلب در بانکداری کاربرد دارد.

یادگیری تحلیل داده را از امروز شروع کنید!

ورود به این شاخه جذاب با ورود به دنیای دیتا ساینس یا علم داده آغاز می‌شود. اگر دوست دارید به این حوزه وارد شوید، پیشنهاد می‌کنیم با سرزدن به این لینک قدم اول را همین حالا بردارید. مشاوران کافه‌تدریس به شما کمک می‌کنند مسیر یادگیری برای ورود به این حوزه را شروع کنید:

دوره جامع دیتا ساینس و ماشین لرنینگ