معرفی سخت افزار های شبکه عصبی

[mjs1990s]

سلام
میخوام تو این تاپیک سخت افزار هایی که میشه شبکه عصبی رو توشون پیاده سازی کرد رو معرفی کنم
سعی میکنم لینک سایت ها و مقاله های مربوط به این موضوع رو هم بذارم
شما هم اگه اطلاعاتی دارید همکاری کنید.

این چارت یه دسته بندی کلی از سخت افزار هایی هست که میشه باهاشون شبکه عصبی رو پیاده کرد
که به موقعش هر کدوم رو توضیح میدم.

[mjs1990s]

پاسخ : معرفی سخت افزار های شبکه عصبی

خب این عکس یه خلاصه ای از تاریخچشه
اینم عکس یکی از اولین سخت افزار هایید هست که برای شبکه عصبی ساخته شده
در واقع این یه نورونه :eek:

ظاهرا اولین سخت افزار ساخته شده وزناش یه سری مقاومت متغییر بودن که با موتور اونا رو کنترل میکردن!!!
به سایت زیر یه سری بزنید چیزای خوبی گیرتون میاد
http://cyberneticzoo.com/

[mjs1990s]

پاسخ : معرفی سخت افزار های شبکه عصبی

خب دیگه از تاریخچه میایم بیرون

پیاده سازی نرم افزاری:

• [li]مزایا[/li]

انعطاف پذیری بالا
پیاده سازی آسان انواع الگریتم های یادگیری

• [li]محدودیت ها[/li]

عدم امکان محاسبه همزمان
سرعت پایین
هزینه بالا


پیاده سازی سخت افزاری:

• [li]مزایا[/li]

سرعت بالا
هزینه پایین
پیاده سازی ساده تر

• [li]محدودیت ها[/li]

عدم نمایش داده ها برای تست صحت
مشکل در انجام محاسبات (ضرب، جمع و ...)
قدرت مانور پایین
محدودیت در انتخاب نوع شبکه
محدودیت در انتخاب روش آموزش

[mjs1990s]

پاسخ : معرفی سخت افزار های شبکه عصبی

چند وقت پیش یه کنفرانس تو این زمینه ارائه دادم گفتم اینجا هم یه خلاصه ای بگم که همه بتونن استفاده کنن
یه سری مطلب در مورد ملاک انتخاب سخت افزار هست که ازش میگذرم.
برای هر نورون هم یه سری مدل تعریف شده مثل مدل هوچکین-هاکسلی یا مدل نورون لوئیس که خودتون یه سرچی کنین ببینین چی هستن.
https://www.google.de/search?q=Hodgkin%E2%80%93Huxley+model&ie=utf-8&oe=utf-8&rls=org.mozilla:en-USfficial&client=firefox-a&gfe_rd=ctrl&ei=gxkzU5pwq4HQBeLzgegH& gws_rd=cr
الآن دیگه میریم سراغ چیپ های موجود.

اول میریم سراغ آنالوگ ها
عکس زیر مربوط به پردازشگر آنالوگ شبکه عصبی که دانشگاه MIT اونو ساخته

پرداشگر های آنالوگ سرعت خیلی خیلی بالایی دارن
ولی مشکلای خودشونو دارن که مهم ترینش اینه که نمیشه وزن ها رو ذخیره کرد!

تو این جدول دو تا از پردازنده های آنالوگ با ویژگیهایی که دارن رو قرار دادم
به سرعت اولی که نگاه کنید نوشته 2 GCPS که یعنی 2 گیلا سیکل در ثانیه
حالا بعدا که پردازشگر های دیجیتال رو معرفی کردم میبینید که سرعتش واقعا خیلی بشتر از اوناس!
یه نکته دیگه ای که این پردازنده های آنالوگ دارن اینه که قابلیت یادگیری تو خودشون ندارن.

اگه کسی هست که اطلاعات بیشتری داره ممنون میشم در اختیارمون قرار بده.

[mjs1990s]

پاسخ : معرفی سخت افزار های شبکه عصبی

خب حالا میریم سراغ دیجیتال ها
دیجیتال ها سرعتشون خیلی پایین تر آنالوگ هاست ولی مزایا خیلی زیادی دارن
مثلا میشه وزن ها رو داخل یه حافظه ذخیره کرد مصرفشونم خیلی کمتره یه سریاشون قابلت آموزش دیدن رو دارن که خیلی ویژگی مهمی میتونه باشه دقتشون هم خیلی بالاتر از آنالوگ هاست.
پردازنده های دیجیتال رو به چهار دسته تقسیم میکنیم.
Slice Architectures
SIMD
Systolic Array
Radial Basis Functions
که هر کدوم رو معرفی میکنیم.
اولین جدول مربوط میشه به Slice Architectures (اسم این دسته منطقی نیست!) میتونید ویژگی های هر کدوم رو ببینید.

اگه به سرعت هاشون نگاه کنید میبینید که بیشترینش 720 مگا سیکل در ثانیه است که در برابر 2G سرعتی که نوع آنالوگ داشت خیلی ناچیزه

این دسته هم قابلیت آموزش دیدن رو ندارن
جالبه بیشتر پردازنده ها معماری Feedforward و ML رو پشتیبانی میکنن.
البته فکر میکنم یکی از معماری های خوب واسه شبکه RBF هست که جلوتر میبینید تراشه هاش چه قابلیت های خوبی دارن.
دسته بعدی SIMD هست که تو جدول های زیر میبینیدشون
یه سرچ بزنید مقاله در موردشون هست

https://www.google.com/search?q=SIMD+neural+network&ie=utf-8&oe=utf-8&aq=t&rls=org.mozilla:en-USfficial&client=firefox-a

میبینید که این پردازنده ها به جز دو موردش بقیشون قابلیت یادگیری دارن
که بیشترشون از طریق برنامه است
ولی دو مدل Hitachi هست که از یادگیری Hopfield و BP پشتیبانی میکنن
SIDM ها معماری های بیشتری هم پشتیبانی میکنن

[mjs1990s]

پاسخ : معرفی سخت افزار های شبکه عصبی

امروز ادامه دیجیتال ها رو معرفی میکنم
میریم سراغ پردازنده های Systolic Array

https://www.google.com/search?q=Neural+Networks+and+Systolic+Array++.pdf& amp;ie=utf-8&oe=utf-8&aq=t&rls=org.mozilla:en-USfficial&client=firefox-a#q=Neural+Networks+Systolic+Array+.pdf&rls=or g.mozilla:en-USfficial

Systolic Array در واقع یه جور پردازش موازیه که معمولا داده ها به صورت دو تا آرایه وارد میشن و چندین پردازنده جداگانه به صورت ماتریسی روی داده ها پردازش انجام میدن.

cm1k یکی از پردازنده هایی هست که با معماری Systolic Array ساخته شده
این تراشه مصرف پایینی داره طوری که میشه اونو تو دستگاه های هوشمند مثل دوربین استفاده کرد.
یکی از کاربرد های این تراشه پردازش تصویر هستش
یکی از ویژگی های خوب این تراشه اینه که میشه چند تاشون رو با هم موازی کرد!
قیمت این تراشه حدود $94 هستش که بعید میدونم تو ایران پیدا بشه
(خودمون باید آستین بالا بزنیم اینا رو وارد کنیم و تو پروژه هامون استفاده کنیم چیزای جالبتری هم هست که به زودی معرفی میکنم مثلا یه کنترلر شبکه عصبی هست که میتونه کار تشخیص پلاک رو انجام بده! فکر کنید چقدر کار رو راحت میکنه)
به این ویدئو نگاه کنید ، تو شیلات برای جدا سازی ماهی ها از پردازش تصویر استفاده شده که با این چیپ ها کار پردازش انجام میشه

https://www.youtube.com/watch?v=75PPhIDuxsM

این ویدئو رو هم ببینید

http://www.engineeringtv.com/video/CogniMem-CM1K-Neural-Network-Ch;Freescale-Technology-Forum-2011

مشخصات CM1K :
1024 نورون به صورت موازی در یک تراشه
یادگیری و تشخیص الگو ها تا256 bytes
طبقه بندی الگوهای تا 32768 مجموعه
RBF & KNN
ذخیره و بازیابی دانش (فک کنید چه قابلیت خوبیه )
ابعاد کوچک ، هزینه پایین ، کم مصرف (0.5 وات)
قابلیت اتصال تراشه های هم نوع با 28 خط

آخرین دسته دیجیتال ها Radial Basis Functions هستند که تو جدول زیر نمونه هاش و ویژگیهاشون رو میبینید.

دو مدل پردازنده دیجیتال دیگه هم هست
MCE MT19003 که معماری های FeedForward , ML رو پشتیبانی میکنه قابلیت آموزش دیدن هم نداره سرعتشم 200MCPS هست
و SAND که معماری های FeedForward , ML , RBF , kohonen رو پشتیبانی میکنه (این تنها تراشه ای بود که من دیدم kohonen رو پشتیبانی میکنه) اینم قابلیت یادگیری تو خودش نداره و سرعتشم 32MCPS هست.

دفعه دیگه پردازنده های Hybrid رو معرفی میکنم.

[mjs1990s]

پاسخ : معرفی سخت افزار های شبکه عصبی

پردازنده های Hybrid :
تو این پردازنده ها هم زمان هم از مدار های آنالوگ و هم از مدار های دجیتال استفاده شده
پردازنده هایی که به این شکل طراحی شدن هم سرعت خیلی بالایی دارن هم قابلیت هایی مثل یادگیری
تو جدول زیر چهار نمونش رو میتونید ببینید.

Mesa Research Neuralclassifier ببینید چه سرعت بالایی داره!
یا Ricoh RN-200 با سرعت بالاش قابلیت یادگیری هم داره

[mjs1990s]

پاسخ : معرفی سخت افزار های شبکه عصبی

امروز یه سری بردای کاربردی رو معرفی میکنم که با پردازنده هایی که معرفی کردم کار میکنن

مثلا این برد PCI که عکسش رو میبینید از پردازنده دیجیتال SAND استفاده کرده

اینم ویژگیهاش:

SAND (Simply-Applicable Neural Device)

multilayer perceptrons (MLP), 512-64-64-64-64 (I-H-H-H-O)
radial basis function networks (RBF), 512-64-64-64-64 (I-H-H-H-O)
Kohonen Feature maps, 512-256 (I-O)]

میبینید برای هر معماریی چند تا ورودی و چند تا لایه مخفی با چند تا نرون داره

http://www.eit.uni-kl.de/koenig/gemeinsame_seiten/projects/htm/mneuro97.html

اینا هم یه سری کنترلر شبکه عصبی هستن که لینک گذاغشتم برید خصوصیاتشون رو ببینید دیگه من توضیح نمیدم

http://www.ocrtech.com/hardware_keys.html
http://www.arhungary.hu/101125/contleft/1041/content.htm
http://www.arhungary.hu/contleft/1042/content.html

[mjs1990s]

پاسخ : معرفی سخت افزار های شبکه عصبی

امروز میخوام pRAM ها رو معرفی کنم

در مورد این تراشه بر خلاف قبلی ها اطلاعات خیلی زیادی وجود داره
تو لینک زیر بیشتر اطلاعاتش هست از جمله دیتاشیتش
http://clarkson.me.uk/academic/pram.htm

اینم خلاصه خصوصیاتش:

256 pRAM برای هر 6 ورودی
ارتباطات قابل تنظیم بین pRAM ها
دارا بودن واحد آموزش بر روی خود تراشه
آموزش میتواند Global , Local و یا رقابتی باشد.
هر چرخه کاری 5120 سیکل طول می کشد (در فرکانس 33MHz )
هر چرخه آموزش 8192 سیکل طول می کشد (در فرکانس 33MHz )
RAM استاتیک و خارجی برای ذخیره سازی وزن ها

اینم یه pc bord هست که توش از pRAM استفاده کردن

چه خوب میشد اگه اینا تو بازار ایران هم پیدا میشد!

[mjs1990s]

پاسخ : معرفی سخت افزار های شبکه عصبی

امروز Neuro Chips رو معرفی میکنم ، البته اینا سخت افزاری نیست که بخواید ازش استفاده کنید فقط جهت اطلاع معرفی میکنم

Neuro chip ها تراشه های عصبی هستن که از ترکیب یک سیستم الکتریکی با یک سیستم زیستی ساخته میشن.

برای ارتباط با سلول ها هم از الکترود هایی در ابعاد میکرو و نانو استفاده میکنند که میتونه سلول رو با استفاده از میدان الکتریکی پالسی تحریک کنه یا پاسخ سلول را دریافت کنه.

اینم یه انیمیشن که حتما باید ببینید.


http://www.lme.ei.tum.de/fileadmin/w00bhy/www/img/Forschung/lab-on-chip/Sensor-Technologien/neurochip_platine_video.swf

ظاهرا این سلول ها مدت زیادی زنده نمیمونن ، در آینده قصد دارن یه همچین سیستمی رو داخل بدن موجود زنده کار بذارن تا بتونن از سلول هاش استفاده کنن. شایدم تا حالا این کارو کرده باشن...

این لینک هم بهش سر بزنید بد نیست

http://www.worldit.ir/6442/%DA%86%DB%8C%D9%BE-%D9%87%D8%A7%DB%8C-%DA%AF%D8%B1%D8%A7%D9%81%DB%8C%DA%A9%DB%8C-%D8%A7%D9%86%D9%88%DB%8C%D8%AF%DB%8C%D8%A7-%D8%A8%D8%A7-%D9%82%D8%AF%D8%B1%D8%AA-%D9%85%D8%AD%D8%A7%D8%B3%D8%A8%D9%87.html

[Solsal]

پاسخ : معرفی سخت افزار های شبکه عصبی

امروز میخوام pRAM ها رو معرفی کنم

در مورد این تراشه بر خلاف قبلی ها اطلاعات خیلی زیادی وجود داره
تو لینک زیر بیشتر اطلاعاتش هست از جمله دیتاشیتش
http://clarkson.me.uk/academic/pram.htm

اینم خلاصه خصوصیاتش:

256 pRAM برای هر 6 ورودی
ارتباطات قابل تنظیم بین pRAM ها
دارا بودن واحد آموزش بر روی خود تراشه
آموزش میتواند Global , Local و یا رقابتی باشد.
هر چرخه کاری 5120 سیکل طول می کشد (در فرکانس 33MHz )
هر چرخه آموزش 8192 سیکل طول می کشد (در فرکانس 33MHz )
RAM استاتیک و خارجی برای ذخیره سازی وزن ها

اینم یه pc bord هست که توش از pRAM استفاده کردن

چه خوب میشد اگه اینا تو بازار ایران هم پیدا میشد!

سلام جناب جباری گرامی

تاپیک بسیار جالبی را شروع نموده اید و جای تبریک دارد.

==================================================

نمونه مورد اشاره در پست بالایی، مشخصا" برای دوران 1995 می باشد ( قدیمی است )

آی سی های DIP و باس ISA در کامپیوترهای آن زمان رایج بود

==================================================

در نمونه های امروزی، انتظار سرعت کلاک در رده گیگاهرتز و باس PCI , ....

مانند نمونه SAND
, Mesa Research Neural Classifier

درود

[mjs1990s]

پاسخ : معرفی سخت افزار های شبکه عصبی

فیلم رباتی که با مغز موش کار میکنه!!!
ببینید Neuro Chips داره به کجا میرسه

شاید تا چند سال دیگه لازم باشه به کامپیوترامون غذا بدیم

https://www.facebook.com/photo.php?v=626325787439512

[AliRezaDAVE]

پاسخ : معرفی سخت افزار های شبکه عصبی

فیلم رباتی که با مغز موش کار میکنه!!!
ببینید Neuro Chips داره به کجا میرسه

شاید تا چند سال دیگه لازم باشه به کامپیوترامون غذا بدیم

https://www.facebook.com/photo.php?v=626325787439512

نمیشه یه جای دیگه پلودش کنید؟؟؟

[mjs1990s]

پاسخ : معرفی سخت افزار های شبکه عصبی

این لینک رو امتحان کنید شاید بدون فیلتر شکن دانلود بشه

https://fbcdn-video-a.akamaihd.net/hvideo-ak-xpa1/v/t42.1790-2/1599147_626325937439497_1719179249_n.mp4?oh=0a9584 0d395ac68ac1694889be3af9ac&oe=538C8645&__g da__=1401719066_b4936fb680368416ea7c0a8516149f32

[riple]

پاسخ : معرفی سخت افزار های شبکه عصبی

میشه توضیحی راجع به کاربردهای این چیپ ها هم بدین . مخصوصا چیپ های آنالوگ و دیحیتال