آشنایی با داده‌کاوی (Data Mining) و کاربردهای آن به زبان ساده

زمان مطالعه: حدود 6 دقیقه / 21 گفتگو

امروزه با پیشرفت فناوری و حضور گسترده‌ی آن در زندگی روزمره‌مان شاهد کاربرد پررنگ داده و اطلاعات هستیم، یکی از روش‌های استخراج اطلاعات از داده‌های خام دیتاماینیگ یا داده‌کاوی می‌باشد، در ادامه با همیار آی تی همراه باشید تا با مفاهیم داده‌کاوی و کاربردهای آن آشنا شویم.

داده کاوی چیست؟

قبل از اینکه با مفهموم Data Mining آشنا شویم بهتر است ابتدا تعریف داده (Data) و اطلاعات (Information) را بشناسیم و پس از آن به سراغ داده‌کاوی و کاربردهای آن برویم.

تفاوت داده (Data) و اطلاعات (Information) چیست؟

داده (Data) که بعضا از آن با عنوان داده‌ی خام نیز یاد می‌شود، گونه‌ای از اطلاعات به صورت خام و دست نخورده است که میتواند بسیار درهم و حتی به صورت عادی غیر قابل استفاده باشد، مجموعه‌ای از اعداد و ارقام درهم و شاید بدون معنای خاص می‌توانند به عنوان داده در نظر گرفته شوند، اما نتایج حاصل از پردازش و تجزیه و تحلیل این داده‌ها به عنوان اطلاعات تلقی می‌شوند، حتما متوجه شده‌اید که اطلاعات نیز می‌توانند مجددا به عنوان داده‌ی ورودی سیستم مورد استفاده قرار گیرند.

بنابراین با توجه به توضیحات بالا در حالت کلی اطلاعات و ورودی‌های خام را داده (Data) و نتایج حاصل از پردازش داده‌های خام را اطلاعات (Information) می‌نامیم.

به عنوان مثال نمرات دانشجویان یک کلاس، داده و نتایج حاصل از پردازش روی این نمرات، شامل میانگین، میزان افزایش یا کاهش نمرات، نمودارها و… می‌توانند به عنوان اطلاعات در نظر گرفته شوند.

داده‌کاوی چیست؟

به فرایند استخراج و کشف همبستگی‌ها و الگوهای مفید از میان حجم زیادی از داده‌های خام که با استفاده از الگوریتم و سازوکارهای هوشمند انجام می‌گیرد دیتاماینینگ یا داده‌کاوی می‌گویند، به زبان ساده‌تر، استخراج دانش از میان‌ مجموعه‌ای از داده‌ها را داده‌کاوی می‌نامند.

البته لازم به ذکر است، برای اینکه این الگوریتم بتواند دانش را به خوبی استخراج کند نیاز به یک‌سری پیش‌پردازش بر روی داده‌های اولیه و همچنین یک‌سری پس‌پردازش بر روی اطلاعات خروجی خواهد داشت.

یک مثال عملی و جالب از فرایند داده‌کاوی!

اگر از سایت اشتراک ویدئوی یوتیوب استفاده کرده باشید حتما می‌دانید که قبل از نمایش ویدئوی اصلی یک تبلیغ چند ثانیه‌ای به شما نمایش داده می‌شود، اما آیا تا به حال به محتوای این تبلیغ دقت کرده‌اید؟ می‌دانستید اگر وارد حساب کاربری گوگل خود شده باشید، به‌طور صد درصد یک تبلیغ مرتبط با علاقه‌ی خود را مشاهده خواهید کرد؟!

به نظر شما گوگل چگونه می‌تواند متوجه علاقه‌ی شما شود؟ پاسخ این سوال بسیار ساده است، گوگل شما را از خودتان نیز بهتر می‌شناسد!

داده کاوی در گوگل
در فرایند داده‌کاوی، اطلاعات با ارزش از حجم انبوهی از داده‌‌های به ظاهر نامرتبط استخراج می‌شود.

گوگل به واسطه‌ی موتور جستجوی خود و تاریخچه‌ی جستجوی‌های شما (در صورتی که وارد حساب کاربری خود شده باشید) می‌تواند به سایت‌هایی که معمولا به آن‌ها سر می‌زنید دسترسی داشته باشد، بدین ترتیب پس از گذشت مدت زمانی به علایق شما پی خواهد برد، این‌ موارد داده‌های خام و به ظاهر نامرتبطی هستند که شاید از نظر ما چندان مفید و کاربری نباشند.

اما این غول جستجو، با کمک الگوریتم‌های پیشرفته‌ی داده‌کاوی خود می‌تواند اطلاعات بسیار با ارزشی را از انبوه داده‌هایی که از شما در اختیار دارد به دست آورد.

بدین ترتیب به راحتی به علایق شما پی برده و از این اطلاعات در شخصی‌سازی تبلیغات نمایش داده‌شده به شما استفاده کند، این کار علاوه‌بر اینکه می‌تواند شما را به مشاهده‌ی ادامه‌ی تبلیغات ترغیب کند، به طرز حیرت‌انگیزی به افزایش درآمد گوگل از نمایش تبلیغات و افزایش نرخ تبدیل آن نیز کمک خواهد کرد، این مورد به ظاهر ساده یکی از ابتدایی‌ترین کاربردهای داده‌کاوی بود، اما در ادامه برخی کاربردهای دیگر فرایند داده کاوی را با هم مرور می‌کنیم.

کاربردهای اصلی داده‌کاوی

همانطور که گفتیم، داده‌کاوی یعنی استخراج اطلاعات مفید از مجموعه‌ی داده‌های خام و نامفهوم که این اطلاعات شامل اجزای مختلفی هستند، از جمله کاربردهای دیگر داده‌کاوی عبارتند از:

  • کشف الگوی میان داده‌ها
  • پیش‌بینی حدودی نتایج
  • به‌دست آوردن اطلاعات کاربردی
  • تمرکز بر روی داده‌های بزرگ

به‌طور کلی فرایند داده‌کاوی علاوه‌بر اینکه به ما کمک می‌کند داده‌های نامرتبط و بلااستفاده را از مجموعه‌ی خود حذف کنیم، از طرفی اطلاعات بسیار مفید و کاربردی را در اختیار ما (سازمان) قرار می‌دهد و همچنین به فرایندهای تصمیم‌گیری سرعت می‌بخشد.

فرایند انجام Data Mining

همانگونه که در نمودار پایین مشاهده می‌کنید، داده‌کاوی به صورت کلی و عمومی در ۶ مرحله‌ی اصلی انجام می‌شود، در ابتدا داده‌های مورد نیاز (داده‌های هدف) جمع‌آوری می‌شوند و مورد پردازش و پاکسازی قرار می‌گیرند، یعنی داده‌های اضافه حذف شده و تنها داده‌های مورد نیاز وارد سیستم می‌شوند.

در مرحله‌ی بعدالگوی میان داده‌ها کشف و ارزیابی و سپس الگوریتم و متد‌های Data Mining بر روی داده‌ها انجام خواهد شد.

در نهایت نیز اطلاعات به‌دست آمده از فرایند داده‌کاوی در قالب فرمت‌های قابل درک برای انسان مانند نمودار، تصویر، گزارش و… ارائه شده و دانش مورد نظر که از میان انبوه داده‌های خام استخراج شده‌است در اختیار سازمان قرار خواهد گرفت.

مراحل انجام داده‌کاوی
نمودار فرایند انجام داده‌کاوی

مشکلات اساسی که بر سر راه دیتاماینینگ وجود دارند

به طور کلی اکثر سیستم‌های داده‌کاوی با دو مشکل اساسی دست‌و‌پنجه نرم می‌کنند، این مشکلات عبارتند از:

  • حجم بالای داده‌های موجود در ورودی
  • عدم اطمینان کامل به اطلاعات خروجی

برای حل مشکل اول یعنی حجم بالای داده‌ها می‌توان از الگوریتم‌های سریع‌تر، روش‌های کاهش پیچیدگی زمانی، بهینه‌سازی، پردازش موازی و… استفاده کرد، همچنین می‌توانیم با استفاده از روش‌هایی مانند نمونه گیری، گسسته‌سازی، کاهش ابعاد و… حجم داده‌های ورودی را با توجه به نیاز داده‌کاوی کاهش دهیم و یا اینکه در نهایت با استفاده از قابلیت‌های ذخیره و بازیابی اطلاعات موجود در دیتابیس‌ها از روش‌های ارائه‌ی رابطه‌ای استفاده کنیم.

برای حل مشکل دوم یعنی عدم اطمینان کامل به اطلاعات خروجی باید ورودی خود را کنترل کنیم، در صورتی که در داده‌های ورودی اطلاعات کامل نباشند، یعنی در داده‌ها مشخصه‌هایی وجود داشته باشد که مقدار معتبری برای آن‌ها درج نشده است و یا اینکه اطلاعات ناسازگار باشند (داده‌ها با تداخل رو به رو شده باشند) و در نتیجه مقادیر ثبت‌شده با مقادیر واقعی یکسان نباشند، می‌تواند باعث ایجاد عدم اطمینان (عدم قطعیت) در اطلاعات خروجی گردد، که راه برطرف کردن آن بررسی صحت داده‌های ورودی می‌باشد.

برخی از پلتفرم‌های مورد استفاده در فرایند داده‌کاوی

داده‌کاوی معمولا در سازمان‌هایی مانند ادارات بیمه، مراکز آموزشی بزرگ، تولید کنندگان، بانک‌ها و سازمان‌های مالی، خرده فروشی‌ها و… کاربردهای بسیاری دارد، اکثر سازمان‌های از ابزارهای زیر برای انجام فرایند داده‌کاوی استفاده می‌کنند:

  • زبان برنامه‌نویسی آر (R)
  • زبان برنامه‌نویسی پایتون
  • زبان برنامه‌نویسی متلب
  • نرم‌افزار SPSS
  • نرم‌افزار Weka
  • نرم‌افزار RapidMiner

معرفی الگوریتم CRISP (کریسپ) در داده‌کاوی

واژه‌ی CRISP (کریسپ) از سرواژه‌های عبارت CRoss Industry Standard Process for Data Mining و به معنی فرایندهای استاندارد صنعت متقابل برای داده‌کاوی در اصل یکی از روش‌های تحلیلی متفاوت برای فرایند داده‌کاوی است، همانگونه که در نمودار زیر مشاهده می‌کنید متدلوژی CRISP شامل ۶ مرحله‌ی اصلی می‌شود که عبارتند از:

  • فهم تجاری (Business Understanding)
  • درک داده (Data Understanding)
  • آماده‌سازی داده (Data Preparation)
  • مدل‌سازی (Modeling)
  • ارزیابی (Evaluation)
  • توسعه (Development)
آشنایی با داده‌کاوی (Data Mining) و کاربردهای آن به زبان ساده
متدولوژی خوشه‌بندی CRISP برای فرایند داده‌کاوی

فهم تجاری: شامل گردآوری موارد مورد نیاز و گفتگو با مدیران ارشد برای تعیین اهداف.

درک داده: نگاه نزدیک و بررسی دسترسی به داده‌ها برای فرایند دیتاماینینگ که شامل گردآوری، توصیف، کشف و تغییر کیفیت داده‌ها می‌شود.

آماده سازی داده: این مرحله یکی از مهم ترین و همچنین زمان‌برترین بخش‌های داده‌کاوی است که شامل انتخاب، پاک‌سازی، ساختاربندی، و ادغام داده‌ها می‌شود.

مدل سازی: هم‌اکنون داده‌ها آماده‌ی فرایند داده‌کاوی‌اند و نتایج راه حل‌هایی را برای مشکل تجاری مطرح شده نشان می‌دهند، تکنیک‌های انتخاب مدل‌سازی، ایجاد یک طراحی آزمون، ساخت مدل‌ها، و ارزیابی مدل این مرحله را می‌سازند.

ارزیابی: در این مرحله نتایج ارزیابی شده، فرایند انجام کار بازبینی و مراحل بعدی انجام می‌شوند.

توسعه: نتایج به‌دست آمده توسعه یافته و برای بهبود عملکرد سازمان به کار گرفته می‌شوند.

شما یک گام جلوتر از دیگران باشید! اگر به آی‌تی و تکنولوژی علاقه‌مندید و دوست دارید سریع‌تر در این زمینه پیشرفت کنید، همین حالا به جمع ۲۷۴۶ عضو همیار آی‌تی بپیوندید، دسترسی به تمام آموزش‌های پریمیوم، دریافت جدیدترین آموزش‌های کاربردی مرتبط با آی‌تی و استفاده از مشاوره‌ی رایگان، برخی از مزایای عضویت در سایت هستد، شما نیز به کاربران همیار پیوسته و همین حالا وارد دنیای حرفه‌ای‌ها شوید... من هم می‌خواهم عضو ویژه‌ی همیار شوم

21 گفتگو

در بحث‌‌ پیرامون این مقاله شرکت کنید، سوالات شما توسط کارشناسان همیار آی‌تی پاسخ داده می‌شود...

  1. Avatar مبین فاضلی فرد گفت:

    گرامی ایا میتوانم ازموجودی کیف پولم خریدکنم

    1. فرشاد گوهری فرشاد گوهری گفت:

      سلام، بله می‌تونید.
      کافیه محصولات مورد نظرتون رو انتخاب کنید و در مرحله‌ی پرداخت گزینه‌ی استفاده از موجودی کیف پول رو فعال کنید، با انجام اینکار، مبلغی که در کیف پولتون دارید از کل هزینه‌ی خرید کسر میشه و فقط کافیه باقی‌مونده‌ی هزینه رو پرداخت کنید.

  2. Avatar مبین فاضلی فرد گفت:

    سایتی ارزشمند وقابل استفاده

    1. فرشاد گوهری فرشاد گوهری گفت:

      سلام مبین عزیز
      خوشحالیم که وبسایت برای شما مفید بوده

  3. Avatar مبین فاضلی فرد گفت:

    عالیه .بسیارارزنده است.به لطف مستمرشما عزیزان . موجب رونق کارمامیگردد

  4. Avatar محمد مهدی گفت:

    با عرض سلام و خسته نباشید
    بابت مطالب آموزنده ای که در این سایت ارائه نمودید بسیار سپاسگزارم. من تجربه کار کردن با دیتا ماینینگ ندارد و با مفهوم آن در همین سایت آشنا شده ام. از محضرتان یک سوال دارم:

    اینکه ما با استفاده از برنامه نویسی، کدی را تهیه می کنیم که در آن کد از ما صرفا چند ورودی گرفته می شود و سپس حجم زیادی از محاسبات را انجام می دهد و در ظرف چند ثانیه و یا دقیقه به ما جواب مطلوب ارائه می دهد هم می تواند دیتا ماینینگ باشد یا خیر؟

    با سپاس از راهنماییهایتان

    1. فرشاد گوهری فرشاد گوهری گفت:

      سلام محمد مهدی عزیز، خیلی خوشحالیم که این آموزش برای شما مفید واقع شده.
      دیتاماینینگ در حقیقت تکنیکی هست که الگوهای مشخصی رو از حجم زیادی داده استخراج می‌کنه (این الگوها معمولا مخفی هستند و انسان نمی‌تونن به صورت عادی اون‌ها رو متوجه بشه) اگر برنامه‌ی نوشته شده می‌تونه الگوهای پنهان (معمولا به شکل اطلاعات آماری هستند) رو استخراج کنه، می‌تونم به عنوان یه ابزار دیتاماینینگ ازش اسم ببریم.

  5. Avatar محمد طهماسبی گفت:

    بسیار عالی بود . دمتون گرم

    1. فرشاد گوهری فرشاد گوهری گفت:

      سلام محمد عزیز، خیلی خوشحالیم که این آموزش از همیار آی‌تی برای شما مفید بوده.

  6. Avatar BAHman گفت:

    سلام واقعا خسته نباشید عالی بود
    دوستان از این ساده تر نمیشد این مبحث رو توضیح داد این مبحث به خودی خود بسیار پیچیده اس

  7. Avatar داده کاوی گفت:

    اااااااااا سایت شما چقدر خفنه
    وقتی میزنی داده کاوی اولین سایتی که میاد ویکی پدیاست
    https://fa.wikipedia.org/wiki/داده‌کاوی
    ولی داخل همین مطلب ویکی پدیا از سایت شما به عنوان منبع اسم برده

    1. Avatar نگین گفت:

      تازه به نظر من ساده ترین و کاربردی ترین آموزشی که درباره مفاهیم داده کاوی هم وجود داره مال همین سایته، من چند روزه با همیار آی تی آشنا شدم و عاشقشونم، خیلی مطالب عالی دارند

  8. Avatar ساحل گفت:

    خیلی ممنونم از پست عالی شما
    سرچ کردم داده کاوی چیست هرچقدر سایتا رو نگاه میکردم هیچکدوم خوب نبودن تا اینکه به سایت شما رسیدم خیلی ممنونم از اموزش خوبی که در خصوص مفاهیم داده کاوی گذاشتید

  9. Avatar اشکان گفت:

    داده کاوی توی دنیای آینده به شدت مورد استقبال قرار میگیره.

  10. Avatar ناشناس گفت:

    سلام

  11. Avatar کوتاه کننده لینک گوگل گفت:

    سلام ممنونم مطلب عالی بود

  12. Avatar ALI گفت:

    عه همیار ???
    این پستای سخت از شما بعیده

    1. فرشاد گوهری فرشاد گوهری گفت:

      دوست عزیز، ما سعی کردیم تا جای ممکن همه چیز رو به زبان ساده برای شما توضیح بدیم، دیگه ساده‌تر از این نمیشه چنین موضوعاتی رو آموزش داد

  13. Avatar ناشناس گفت:

    سخت بودا O.o

  14. Avatar H N گفت:

    همیار جان خیلی تخصصی بودا ?
    نیم ساعته نشستم دارم تجزیه تحلیل میکنم واس خودم ?