مطالعه MIT نشان می‌دهد توسعه‌دهندگان هوش مصنوعی عامل به ندرت جزئیات ایمنی را منتشر می‌کنند
در پژوهشی تازه که توسط محققان موسسه فناوری ماساچوست (MIT) انجام شده است، مشخص شده است که توسعه‌دهندگان هوش مصنوعی عامل (Agentic AI) به ندرت اطلاعات دقیق و جامعی درباره چگونگی آزمایش‌های ایمنی این ابزارها منتشر می‌کنند. این یافته نگرانی‌هایی را در زمینه شفافیت و مسئولیت‌پذیری در توسعه فناوری‌های پیشرفته هوش مصنوعی ایجاد کرده است.
هوش مصنوعی عامل به سیستم‌هایی اطلاق می‌شود که قادر به انجام وظایف پیچیده به صورت خودکار و با سطحی از استقلال هستند. این فناوری‌ها در حوزه‌های مختلفی از جمله رباتیک، سیستم‌های تصمیم‌گیری خودکار و نرم‌افزارهای پیشرفته کاربرد دارند. با توجه به تأثیرات گسترده این فناوری‌ها بر زندگی روزمره و صنایع مختلف، ایمنی و اطمینان از عملکرد صحیح آن‌ها اهمیت ویژه‌ای یافته است.
مطالعه MIT با بررسی مقالات، گزارش‌ها و مستندات منتشر شده توسط توسعه‌دهندگان این نوع هوش مصنوعی نشان داد که اطلاعات مربوط به روش‌ها و نتایج آزمایش‌های ایمنی به صورت محدود و ناقص ارائه می‌شود. این موضوع می‌تواند به افزایش ریسک‌های ناشناخته و عدم امکان ارزیابی دقیق عملکرد سیستم‌ها منجر شود.
یکی از دلایل اصلی این کمبود شفافیت، نگرانی‌های مربوط به حفظ اسرار تجاری و رقابت در بازار فناوری است. توسعه‌دهندگان اغلب ترجیح می‌دهند جزئیات فنی حساس را منتشر نکنند تا از مزیت رقابتی خود محافظت کنند. با این حال، این رویکرد می‌تواند مانع از ایجاد استانداردهای مشترک و همکاری‌های گسترده‌تر در زمینه ایمنی هوش مصنوعی شود.
علاوه بر این، فقدان چارچوب‌های قانونی و مقررات مشخص در حوزه ایمنی هوش مصنوعی عامل، به این مشکل دامن زده است. در حالی که برخی کشورها و سازمان‌های بین‌المللی در حال تدوین قوانین مرتبط با هوش مصنوعی هستند، هنوز استانداردهای جهانی و الزام‌آور برای انتشار اطلاعات ایمنی وجود ندارد.
محققان MIT تأکید کرده‌اند که برای پیشرفت مسئولانه و ایمن هوش مصنوعی عامل، نیاز به افزایش شفافیت و همکاری میان توسعه‌دهندگان، پژوهشگران و نهادهای نظارتی است. آن‌ها پیشنهاد داده‌اند که ایجاد بسترهای مشترک برای به اشتراک‌گذاری داده‌های آزمایشی و نتایج ارزیابی ایمنی می‌تواند به بهبود کیفیت و اعتماد عمومی نسبت به این فناوری‌ها کمک کند.
در نهایت، این مطالعه به عنوان هشداری برای جامعه فناوری و سیاست‌گذاران مطرح شده است تا به اهمیت ایمنی و شفافیت در توسعه هوش مصنوعی عامل توجه بیشتری داشته باشند و اقدامات لازم را برای تضمین استفاده ایمن و اخلاقی از این فناوری‌ها انجام دهند.