پرش به محتوای اصلی
رامین خاورزاده فهم امروز، پیش‌بینی فردا با داده و هوش مصنوعی
آمار و داده · رامین خاورزاده · · 1 دقیقه مطالعه

معرفی برترین خزشگر های تحت وب و متن باز برای داده کاوی

معرفی برترین خزشگر های تحت وب و متن باز برای داده کاوی

فهرست مطالب

    sdata.ir

    معرفی برترین خزشگر های تحت وب و متن باز برای داده کاوی

    خزنده‌ی وب، (انگلیسی: Web Crawler) یک برنامه‌ای رایانه‌ای است که توانایی مرور و ثبت اطلاعات را از وب‌سایت‌ها به صورت خودکار دارد. “خزنده‌ی وب” به چندین شکل مختلف تعریف می‌شود که برخی از آنان :
    • عنکبوت‌های وب (انگلیسی: Web Spider)
    • فهرست سازان خودکار (انگلیسی: Automatic Indexers)
    • ربات‌های نرم‌افزاری خودکار (انگلیسی: Web Robots)
    • نرم‌افزارهای FOAF
    را شامل می‌شود. به عنوان مثال موتورهای جستجوگر با بهره‌گیری از این گونه نرم‌افزارها به صورت خودکار صفحات مختلف وب سایت‌ها را ثبت ، آنالیز و رده‌بندی می‌کند. حال در این پست به شما ۵۰ خزشگر برتر تحت وبی که مجانی و متن باز می باشند را معرفی می کنیم.  
    Name Language Platform
    Heritrix Java Linux
    Nutch Java Cross-platform
    Scrapy Python Cross-platform
    DataparkSearch C++ Cross-platform
    GNU Wget C Linux
    GRUB C#, C, Python, Perl Cross-platform
    ht://Dig C++ Unix
    HTTrack C/C++ Cross-platform
    ICDL Crawler C++ Cross-platform
    mnoGoSearch C Windows
    Norconex HTTP Collector Java Cross-platform
    Open Source Server C/C++, Java PHP Cross-platform
    PHP-Crawler PHP Cross-platform
    YaCy Java Cross-platform
    WebSPHINX Java Cross-platform
    WebLech Java Cross-platform
    Arale Java Cross-platform
    JSpider Java Cross-platform
    HyperSpider Java Cross-platform
    Arachnid Java Cross-platform
    Spindle Java Cross-platform
    Spider Java Cross-platform
    LARM Java Cross-platform
    Metis Java Cross-platform
    SimpleSpider Java Cross-platform
    Grunk Java Cross-platform
    CAPEK Java Cross-platform
    Aperture Java Cross-platform
    Smart and Simple Web Crawler Java Cross-platform
    Web Harvest Java Cross-platform
    Aspseek C++ Linux
    Bixo Java Cross-platform
    crawler4j Java Cross-platform
    Ebot Erland Linux
    Hounder Java Cross-platform
    Hyper Estraier C/C++ Cross-platform
    OpenWebSpider C#, PHP Cross-platform
    Pavuk C Lunix
    Sphider PHP Cross-platform
    Xapian C++ Cross-platform
    Arachnode.net C# Windows
    Crawwwler C++ Java
    Distributed Web Crawler C, Java, Python Cross-platform
    iCrawler Java Cross-platform
    pycreep Java Cross-platform
    Opese C++ Linux
    Andjing Java
    Ccrawler C# Windows
    WebEater Java Cross-platform
    JoBo Java Cross-platform
     
    منبع :

    bigdata-madesimple

    اشتراک‌گذاری:

    نظرات

    هنوز نظری ثبت نشده است؛ اولین نفر باشید.

    ارسال دیدگاه