در حال آمادهسازی...
مفاهیم و اصطلاحات هوش مصنوعی را عمیق‌تر بشناس.
سازوکار توجه؛ بخشی از مدل‌های ترانسفورمر که روی قسمت‌های مهم‌تر ورودی تمرکز می‌کند. این سازوکار به مدل کمک می‌کند هنگام پردازش یک بخش از ورودی، ارتباط آن با بخش‌های مهم دیگر را بهتر در نظر بگیرد.
مشاهدهٔ جزئیاتخودرمزگذار؛ شبکه عصبی که یاد می‌گیرد داده‌ها را فشرده و سپس دوباره بازسازی کند. این معماری در کارهایی مانند کاهش حجم داده، حذف نویز و یادگیری نمایش فشرده از داده‌ها استفاده می‌شود.
مشاهدهٔ جزئیاتپسانتشار؛ روش محاسبه گرادیان خطا نسبت به وزن‌های شبکه با حرکت معکوس از خروجی به ورودی؛ پایه آموزش بیشتر شبکه‌های عصبی امروزی.
مشاهدهٔ جزئیاتنرمالسازی بچ؛ تکنیکی برای پایدار کردن و سریع‌تر کردن آموزش شبکه‌های عصبی. این تکنیک با نرمال‌سازی فعال‌سازی‌های لایه‌ها می‌تواند آموزش شبکه‌های عمیق را پایدارتر و در بسیاری از موارد سریع‌تر کند.
مشاهدهٔ جزئیاتظرفیت مدل؛ توانایی مدل برای یادگیری الگوهای پیچیده (مدل‌های بزرگ ظرفیت بیشتری دارند). ظرفیت بیشتر به مدل اجازه می‌دهد الگوهای پیچیده‌تری را یاد بگیرد، اما به‌تنهایی تضمین‌کننده عملکرد بهتر نیست.
مشاهدهٔ جزئیاتیادگیری عمیق؛ زیرشاخه‌ای از یادگیری ماشین که از شبکه‌های عصبی چندلایه استفاده می‌کند. این روش در حوزه‌هایی مانند تصویر، صدا و زبان طبیعی به‌ویژه زمانی که داده زیادی وجود دارد، بسیار قدرتمند است.
مشاهدهٔ جزئیاتشبکه عصبی گراف؛ مدلی برای داده‌هایی که ساختار شبکه‌ای یا گراف دارند. GNN برای مسائلی مانند شبکه‌های اجتماعی، ارتباط بین کالاها، مولکول‌ها و سیستم‌های دارای رابطه مناسب است.
مشاهدهٔ جزئیاتلایه مخفی؛ لایه‌های میانی شبکه عصبی که بین ورودی و خروجی قرار دارند. تعداد و ساختار این لایه‌ها بخشی از معماری شبکه را تشکیل می‌دهد و بر توانایی یادگیری مدل اثر دارد.
مشاهدهٔ جزئیاتحالت پنهان؛ برداری که وضعیت داخلی شبکه عصبی در هر گام پردازش را خلاصه می‌کند؛ در مدل‌های بازگشتی نقش حافظه کوتاه‌مدت را دارد.
مشاهدهٔ جزئیاتاتصال پرشی؛ ارتباط مستقیم بین لایه‌های غیرمتوالی در شبکه‌های عصبی. اتصال پرشی اجازه می‌دهد اطلاعات یا گرادیان مسیر کوتاه‌تری بین لایه‌ها داشته باشد و در معماری‌های عمیق به بهبود آموزش کمک می‌کند.
مشاهدهٔ جزئیاتحافظه کوتاه‌مدت بلند؛ نوعی شبکه عصبی بازگشتی برای کار با داده‌های دنباله‌ای مثل متن و زمان. LSTM با سازوکار حافظه‌ای خود می‌تواند برخی وابستگی‌های بلندمدت در داده‌های ترتیبی را بهتر مدیریت کند.
مشاهدهٔ جزئیاتلایه؛ بخش‌های متوالی در شبکه عصبی که داده از آن‌ها عبور می‌کند. هر لایه می‌تواند نوع خاصی از تبدیل را روی داده انجام دهد و مجموعه لایه‌ها معماری شبکه را می‌سازد.
مشاهدهٔ جزئیاتمخلوط خبرگان؛ معماری‌ای که چند زیرمدل تخصصی را ترکیب می‌کند تا بهره‌وری و کیفیت بهتر شود. در MoE معمولا برای هر ورودی فقط بخشی از Expertها فعال می‌شوند و همین موضوع می‌تواند استفاده از مدل بزرگ را کارآمدتر کند.
مشاهدهٔ جزئیاتفشردهسازی عصبی؛ کاهش حجم داده یا مدل با شبکه عصبی، به‌جای کدک‌های کلاسیک، برای نمونه ذخیره اطلاعات در حافظه شبکه.
مشاهدهٔ جزئیاتشبکه عصبی؛ مدل الهام‌گرفته از مغز انسان با نورون‌ها و ارتباطات بین آن‌ها. شبکه عصبی با یادگیری وزن ارتباط‌ها می‌تواند الگوهای پیچیده‌ای را از داده استخراج کند.
مشاهدهٔ جزئیاتپرسپترون؛ ساده‌ترین نوع شبکه عصبی با یک لایه. پرسپترون می‌تواند یک تصمیم دودویی ساده بگیرد و یکی از پایه‌های تاریخی شبکه‌های عصبی مدرن محسوب می‌شود.
مشاهدهٔ جزئیاتشبکه عصبی بازگشتی؛ نوعی شبکه عصبی برای پردازش دنباله‌ها مثل متن یا داده زمانی. RNN برای داده‌های ترتیبی طراحی شده و در گذشته در پردازش متن و سری‌های زمانی کاربرد زیادی داشته است.
مشاهدهٔ جزئیاتتوجه به خود؛ سازوکاری که به مدل اجازه می‌دهد ارتباط و اهمیت بخش‌های مختلف یک ورودی را نسبت به یکدیگر بررسی کند.
مشاهدهٔ جزئیاتترانسفورمر؛ معماری شبکه عصبی که پایه بسیاری از مدل‌های زبانی مدرن مثل GPT است. مکانیزم Attention یکی از اجزای کلیدی Transformer است و این معماری پایه بسیاری از مدل‌های زبانی و چندحالته امروزی است.
مشاهدهٔ جزئیاتمعماری ترانسفورمر؛ معماری شبکه عصبی مبتنی بر Attention که پایه بسیاری از مدل‌های زبانی و مدل‌های چندوجهی مدرن است.
مشاهدهٔ جزئیاتوزن؛ پارامتر شبکه عصبی که قدرت ارتباط بین نورون‌ها را تعیین می‌کند. وزن‌ها در طول آموزش تغییر می‌کنند تا شبکه بتواند رابطه‌های موجود در داده را بهتر یاد بگیرد.
مشاهدهٔ جزئیات