موقعیت مقطع دکتری در بهینه‌سازی معماری عصبی برای مدل‌های زبانی کوچک

این موقعیت دکتری در دانشگاه پاریس-ساکله، که در آزمایشگاه CEA میزبانی می‌شود، بر حل مشکل مصرف بالای منابع در مدل‌های هوش مصنوعی مولد از طریق بهینه‌سازی مدل‌های زبانی کوچک (SLM) برای سیستم‌های توبیه‌شده خودمختار تمرکز دارد. این پژوهش شامل طراحی تکنیک‌های بهینه‌سازی معماری عصبی پس از آموزش برای جایگزینی لایه‌های سنگین ترانسفورمر با گزینه‌های سبک‌وزن تحت محدودیت‌های سخت‌افزاری است. کاندیدای موفق معیارهای عملکردی را برای گزینه‌های مختلف لایه پیشنهاد خواهد کرد و متدولوژی جامعی را برای هدایت فشردهسازی مدل‌های زبانی کوچک توسعه خواهد داد. نتایج این پروژه از طریق کنفرانس‌های برتر هوش مصنوعی منتشر شده و در ابزارهای کاربردی توسعه‌یافته در CEA ادغام خواهند شد.