چالشهای استفاده از هوش مصنوعی عاملمحور در مهندسی نرمافزار و راهکارهای مدیریت آن
در سالهای اخیر، هوش مصنوعی عاملمحور (Agentic AI) به عنوان بخشی اساسی از فرآیند مهندسی نرمافزار وارد شده است و توانسته است با افزایش چشمگیر سرعت تولید کد، تحولی بزرگ در توسعه نرمافزارها ایجاد کند. با این حال، سوالی که بسیاری از مدیران کسبوکار مطرح میکنند این است که با وجود افزایش سرعت تولید کد، چرا کیفیت و بهبود محصولات نرمافزاری به همان نسبت رشد نکرده است؟
پاسخ این سوال در ماهیت فرآیند توسعه نرمافزار نهفته است. نوشتن کد هرگز محدودکننده اصلی نبوده است. چالشهای واقعی در تعریف دقیق نیازمندیها، ادغام با سیستمهای پیچیده و نگهداری نرمافزار در شرایط واقعی محیط عملیاتی قرار دارد. استفاده گسترده از هوش مصنوعی عاملمحور باعث افزایش حجم کد تولید شده میشود، اما این موضوع پیچیدگیها و ابهامات موجود را کاهش نمیدهد بلکه آنها را تشدید میکند.
یکی از مشکلات مهمی که با گسترش تولید کد توسط هوش مصنوعی به وجود آمده، افزایش بار بررسی انسانی است. مهندسان نرمافزار به دلیل حجم بالای کد تولید شده توسط عوامل هوش مصنوعی، توانایی حفظ زمینه و درک کامل کد را از دست میدهند و این امر باعث افزایش احتمال خطا و کاهش کیفیت نهایی محصولات میشود. شرکتهایی که این واقعیت را درک کنند، با دقت و برنامهریزی پیش خواهند رفت و حتی نقشهای جدیدی را در سازمان ایجاد خواهند کرد. اما شرکتهایی که این موضوع را نادیده بگیرند، به اشتباه به کاهش نیروی انسانی و افزایش هزینههای هوش مصنوعی روی خواهند آورد که میتواند پیامدهای مخربی داشته باشد.
برای مدیریت این چالشها، یک راهبرد سه مرحلهای پیشنهاد میشود:
مرحله اول: حاکمیت مالی و مدیریت ریسک
در این مرحله، باید از زیرساختها محافظت کرد و هزینههای مالی را کنترل نمود. حاکمیت هوش مصنوعی باید به عنوان یک ریسک اصلی در نظر گرفته شود. اجازه دادن به تیمها برای آزمایش بدون ساختار مرکزی، منجر به فرآیندهای پراکنده، کارهای تکراری و هزینههای غیرقابل کنترل خواهد شد. بنابراین، باید استانداردهای مشترکی تعریف شود که در عین حال به تیمها اجازه میدهد در چارچوبهای مشخص به نوآوری بپردازند.
همچنین باید دسترسیهای عوامل هوش مصنوعی محدود شود و هرگز نباید اجازه داد که یک عامل هوش مصنوعی به طور کامل دسترسیهای انسانی را به ارث ببرد، زیرا مهندسان انسانی با قضاوت زمینهای و مسئولیت نهایی این دسترسیها را دارند. جداسازی دقیق بین دسترسیهای خواندنی و نوشتنی/اجرایی باید اعمال شود و برای اقدامات مخرب یا تغییرات در محیط تولید، تایید انسانی الزامی باشد.
از نظر مالی نیز باید بودجه هوش مصنوعی کنترل شود و محدودیتهایی برای مصرف منابع در نظر گرفته شود. نمونههایی از شرکتهایی که به دلیل عدم کنترل هزینهها با مشکلات مالی مواجه شدهاند، وجود دارد که نشاندهنده اهمیت این موضوع است.
مرحله دوم: استراتژی فنی
در این مرحله، باید موتور هوش مصنوعی مناسب انتخاب و موفقیت آن اندازهگیری شود. استفاده از چند مدل و چند فروشنده توصیه میشود، زیرا هیچ مدل واحدی نمیتواند در همه زمینهها بهترین عملکرد را داشته باشد. این کار باعث کاهش ریسک تمرکز و افزایش قابلیت اطمینان سیستم میشود.
همچنین باید به جای صرفهجویی صرف در هزینه مدلها، به کیفیت خروجی و کاهش نیاز به بازنگریهای پرهزینه توجه شود. معیارهای سنجش باید به جای خطوط کد یا تعداد درخواستهای ادغام، بر نتایج کسبوکار و دوام مهندسی متمرکز باشند. به عنوان مثال، میزان پذیرش ویژگیها، نرخ نگهداری کاربران، نرخ خطاهای تغییر و میزان بقای کد در طول زمان از جمله معیارهای مهم هستند.
مرحله سوم: استعداد و سازمان
در این مرحله، باید نیروی انسانی با توجه به گلوگاههای جدید بازتعریف شود. با توجه به اینکه عوامل هوش مصنوعی بخش عمدهای از تولید کد را بر عهده دارند، بازبینی انسانی و همسویی معماری سیستمها به گلوگاههای اصلی تبدیل شدهاند. بنابراین، سازمانها باید مهارتهای کارکنان خود را به سمت تفکر سیستمی و مدیریت عوامل هوش مصنوعی سوق دهند.
همچنین باید معیارهای عملکرد و انگیزهدهی بازنگری شود، زیرا تولید حجم زیاد کد دیگر معیار مناسبی برای سنجش عملکرد نیست. به جای آن، باید به تاثیر کسبوکاری، قابلیت اطمینان سیستمهای چندگانه و مدیریت موثر عوامل هوش مصنوعی توجه شود. کاهش نیروی انسانی بدون تطبیق استراتژیها میتواند به کاهش کیفیت و افزایش ریسکها منجر شود.
هوش مصنوعی عاملمحور جایگزین قضاوت مهندسی نیست بلکه ابزاری برای افزایش توان آن است. در سیستمهای ساختاریافته، این فناوری میتواند به طور ایمن سرعت تحویل را افزایش دهد، اما در سیستمهای نامفهوم، میتواند باعث افزایش شکستها شود. مشکلاتی مانند قطعیها، افزایش بدهی فنی و هزینههای غیرمنتظره ناشی از پذیرش بدون مدیریت هوش مصنوعی، نمونههایی از این موضوع هستند.
بنابراین، اشتباه سازمانها در پذیرش هوش مصنوعی، کند بودن آن نیست بلکه پذیرش بدون درک کامل نقاط ضعف و محدودیتهای آن است. در نهایت، برای مدیران ارشد کسبوکار، درک این دینامیک دیگر اختیاری نیست بلکه عامل تعیینکننده در موفقیت یا شکست در این عصر فناوری است. سرعت اجرای هوش مصنوعی از توانایی مدیریت پیامدهای آن پیشی گرفته و نیازمند رویکردی دقیق و حسابشده است تا از قدرت این ابزار به بهترین نحو بهرهبرداری شود.