دانلود مقاله و خرید ترجمه:پراکراست: یک جریان داده و شتاب دهنده برای شبکه عصبی مصنوعی پراکنده - 2020
بلافاصله پس از پرداخت دانلود کنید
مقالات ترجمه شده شبکه های عصبی ( Neural Networks )
  • Procrustes: a Dataflow and Accelerator for Sparse Deep Neural Network Training پراکراست: یک جریان داده و شتاب دهنده برای شبکه عصبی مصنوعی پراکنده
    دانلود مقاله | مقاله انگلیسی رایگان | خرید ترجمه فارسی مقاله

    سال انتشار:

    2020


    ترجمه فارسی عنوان مقاله:

    پراکراست: یک جریان داده و شتاب دهنده برای شبکه عصبی مصنوعی پراکنده


    عنوان انگلیسی مقاله:

    Procrustes: a Dataflow and Accelerator for Sparse Deep Neural Network Training


    منبع:

    Appears in the Proceedings of the 53rd IEEE/ACM International Symposium on Microarchitecture (MICRO 2020)


    نویسنده:

    Dingqing Yangy, Amin Ghasemazary∗, Xiaowei Reny∗, Maximilian Golubz, Guy Lemieuxy, and Mieszko Lisy


    چکیده انگلیسی:

    The success of DNN pruning has led to the development of energy-efficient inference accelerators that support pruned models with sparse weight and activation tensors. Because the memory layouts and dataflows in these architectures are optimized for the access patterns during inference, however, they do not efficiently support the emerging sparse training techniques. In this paper, we demonstrate (a) that accelerating sparse training requires a co-design approach where algorithms are adapted to suit the constraints of hardware, and (b) that hardware for sparse DNN training must tackle constraints that do not arise in inference accelerators. As proof of concept, we adapt a sparse training algorithm to be amenable to hardware acceleration; we then develop dataflow, data layout, and loadbalancing techniques to accelerate it. The resulting system is a sparse DNN training accelerator that produces pruned models with the same accuracy as dense models without first training, then pruning, and finally retraining, a dense model. Compared to training the equivalent unpruned models using a state-of-the-art DNN accelerator without sparse training support, Procrustes consumes up to 3.26× less energy and offers up to 4× speedup across a range of models, while pruning weights by an order of magnitude and maintaining unpruned accuracy.


    چکیده فارسی:

    موفقیت DNN به توسعه استنتاج انرژی سبب شده‌است که از مدل‌های سرشاخه با وزن پراکنده و تنسور های فعال‌سازی پشتیبانی می‌کند . از آنجا که چیدمان ‌های حافظه و جریان داده ها در این ساختارها برای الگوهای دسترسی طی استنتاجی بهینه‌سازی شده‌اند ، با این حال ، آن‌ها به طور موثر از تکنیک‌های پیشرفته آموزش پراکنده پشتیبانی نمی‌کنند . (الف)در این مقاله ، ما نشان می‌دهیم که تسریع آموزش پراکنده نیازمند یک رویکرد طراحی مشترک است که در آن الگوریتم‌ها با محدودیت‌های سخت‌افزاری سازگار می‌شوند ، و ( ب ) سخت‌افزار برای آموزش DNN پراکنده باید با محدودیت‌هایی که در شتاب دهنده استنتاج بوجود نمی‌آیند ، مقابله کند . به عنوان اثباتی بر مفهوم ، ما یک الگوریتم آموزشی پراکنده را با سرعت سخت‌افزار سازگار می‌کنیم ؛ سپس جریان داده ، چیدمان داده‌ها ، و تکنیک‌های توازن بار برای تسریع آن را توسعه می‌دهیم . سیستم حاصل یک شتاب‌دهنده آموزشی پراکنده است که سرشاخه را با دقت یکسان به عنوان مدل‌های متراکم بدون آموزش اول ، سپس شاخه و در نهایت ، یک مدل متراکم ، تولید می‌کند . در مقایسه با آموزش مدل‌های معادل بدون متراکم با استفاده از یک شتاب‌دهنده - art DNN بدون پشتیبانی آموزشی پراکنده ، پراکراست انرژی کمتری مصرف می‌کند و چهار سرعت را در دامنه مدل‌ها ارایه می‌دهد، در حالی که اوزان با ترتیب اندازه و حفظ دقت بدون سرشاخه افزایش می‌یابد .


    سطح: متوسط
    تعداد صفحات فایل pdf انگلیسی: 14
    تعداد صفحات فایل doc فارسی(با احتساب مراجع): 44

    وضعیت ترجمه عناوین تصاویر و جداول: به صورت کامل ترجمه شده است

    وضعیت ترجمه متون داخل تصاویر و جداول: به صورت کامل ترجمه شده است

    حجم فایل: 0 کیلوبایت


    قیمت: 40000 تومان    32000 تومان (20 % تخفیف)


    توضیحات اضافی:

    یک مقاله عالی دز زمینه یادگیری عمیق و شبکه های عصبی




اگر این مقاله را پسندیدید آن را در شبکه های اجتماعی به اشتراک بگذارید (برای به اشتراک گذاری بر روی ایکن های زیر کلیک کنید)

تعداد نظرات : 0

الزامی
الزامی
الزامی
rss مقالات ترجمه شده rss مقالات انگلیسی rss کتاب های انگلیسی rss مقالات آموزشی
logo-samandehi