ساخت برنامه‌های کاربردی با هوش مصنوعی مولد شباهت کمتری به برنامه‌نویسی سنتی دارد و بیشتر شبیه مدیریت یک کارآموز باهوش اما غیرقابل پیش‌بینی است. توسعه برنامه‌های هوش مصنوعی مولد پارادایمی را معرفی می‌کند که در آن کدهای قطعی با مدل‌های احتمالی تلاقی می‌کنند و بنیان مهندسی نرم‌افزار را تغییر می‌دهند. مسئله اصلی این فصل، پیچیدگی عبور از یک پرامپت ساده به یک سیستم پایدار در محیط عملیاتی است. بدون درک عمیق مهندسی هوش مصنوعی، تیم‌ها به‌سرعت در خروجی‌های توهم‌آمیز، هزینه‌های سرسام‌آور ابری و یکپارچه‌سازی‌های شکننده غرق می‌شوند. مدل زبانی بزرگ را مانند موتوری تصور کنید که کتاب‌های زیادی خوانده اما قطب‌نما ندارد؛ بدون داربست‌های مناسب، با اعتمادبه‌نفس کامل پاسخ نادرست تولید می‌کند. در پایه این اکوسیستم، مدل‌های زبانی بزرگ و مدل‌های پایه (Foundation Models) قرار دارند که حجم عظیمی از داده‌های چندوجهی شامل متن، کد، صوت و ویدیو را پردازش می‌کنند تا وظایفی مانند خلاصه‌سازی و کشف را انجام دهند. برای محیط‌های با منابع محدود، گزینه‌های کوچک‌تر و بهینه‌سازی‌شده تحت عنوان مدل‌های زبانی کوچک (SLMs) کارایی چشمگیری ارائه می‌دهند. هنگامی که مدل‌های استاندارد در منطق‌های پیچیده ناکام می‌مانند، مدل‌های تخصصی و استدلالی با طی کردن مراحل تفکر درونی وارد عمل می‌شوند. برای فراتر رفتن از تولید متن ایستا، توسعه‌دهندگان از عوامل هوش مصنوعی مولد بهره می‌برند که با کمک معماری‌های عامل، مدل‌ها، ابزارهای خارجی و حافظه را برای اجرای خودکار یکپارچه می‌کنند. با این حال، انتقال این سیستم‌ها به محیط عملیاتی با بده‌بستان‌های (Trade-offs) جدی در توسعه، دیپلوی و نگهداری مواجه است. چالش‌های توسعه شامل مدیریت خروجی‌های غیرقطعی است، در حالی که دیپلوی با محدودیت نرخ درخواست و تاخیر دست‌وپنجه نرم می‌کند. نگهداری نیز مستلزم نظارت مداوم بر پدیده انحراف و توهم است که با پلتفرم‌های مدرن و شیوه‌های مدیریت عوامل کاهش می‌یابد. [ ] تشخیص توانایی‌ها و محدودیت‌های مدل‌های زبانی بزرگ، کوچک و مدل‌های پایه چندوجهی [ ] طراحی معماری‌های عامل چندمرحله‌ای با ترکیب ارکستراسیون، حافظه و ابزارهای خارجی [ ] شناسایی و کاهش آسیب‌پذیری‌های امنیتی خاص هوش مصنوعی مانند تزریق پرامپت و توهم [ ] ارزیابی بده‌بستان‌های میان سرعت، عمق استدلال و هزینه‌های عملیاتی در انتخاب مدل [ ] پیاده‌سازی استراتژی‌های مدیریت تولید شامل توسعه، دیپلوی و نگهداری سیستم‌ها