افشای وجود برنامههای هوش مصنوعی تولید تصاویر غیرمجاز در فروشگاههای اپل و گوگل
در گزارشی تازه، مشخص شده است که فروشگاههای اپلیکیشن اپل و گوگل میزبان تعداد قابل توجهی از برنامههای هوش مصنوعی هستند که قادر به تولید تصاویر عریان غیرمجاز و ساختگی (دیپفیک) میباشند. این برنامهها که تحت عنوان “nudify apps” شناخته میشوند، توانایی ایجاد تصاویر عریان از افراد بدون رضایت آنان را دارند که این موضوع نگرانیهای جدی در زمینه امنیت، حریم خصوصی و اخلاقیات به وجود آورده است.
این نوع برنامهها با استفاده از فناوریهای پیشرفته یادگیری ماشین و هوش مصنوعی، قادرند تصاویر یا ویدئوهای افراد را به گونهای دستکاری کنند که ظاهراً آنها در حالت عریان یا نیمهعریان نشان داده شوند. این تصاویر ساختگی میتوانند به راحتی در فضای مجازی منتشر شده و به اعتبار و حریم خصوصی افراد آسیب جدی وارد کنند. به خصوص که این برنامهها بدون هیچ محدودیتی در فروشگاههای رسمی اپل و گوگل در دسترس عموم قرار دارند.
مسئله اصلی این است که بسیاری از این برنامهها بدون هیچ گونه کنترل یا بررسی دقیق از سوی مدیران فروشگاهها، به راحتی منتشر میشوند و کاربران میتوانند آنها را دانلود و استفاده کنند. این موضوع باعث شده تا نگرانیها درباره سوءاستفادههای احتمالی از این فناوریها افزایش یابد. کارشناسان حقوقی و فعالان حوزه حریم خصوصی هشدار دادهاند که استفاده از این برنامهها میتواند منجر به نقض حقوق افراد، تهدید امنیت روانی و حتی جرایم سایبری شود.
از سوی دیگر، شرکتهای اپل و گوگل که به عنوان دو غول فناوری و ارائهدهنده بزرگترین فروشگاههای اپلیکیشن در جهان شناخته میشوند، تاکنون واکنش مشخص و موثری در قبال این موضوع نشان ندادهاند. این در حالی است که انتظار میرود این شرکتها با اعمال سیاستهای سختگیرانهتر و استفاده از فناوریهای تشخیص محتوا، از انتشار برنامههای مخرب جلوگیری کنند.
تحلیلگران فناوری معتقدند که این وضعیت نشاندهنده خلأهای قانونی و نظارتی در حوزه فناوریهای نوین و هوش مصنوعی است. قوانین فعلی به طور کامل قادر به مقابله با تهدیدات ناشی از تولید محتوای ساختگی و غیرمجاز نیستند و نیازمند بازنگری و بهروزرسانی هستند. همچنین، آموزش کاربران درباره خطرات استفاده از این برنامهها و افزایش آگاهی عمومی از اهمیت حفظ حریم خصوصی در فضای دیجیتال ضروری به نظر میرسد.
در نهایت، این مسئله به یک چالش بزرگ برای صنعت فناوری تبدیل شده است که چگونه میتوان تعادلی میان پیشرفتهای فناورانه و حفظ حقوق انسانی برقرار کرد. برنامههای هوش مصنوعی که قابلیتهای گستردهای در تولید محتوا دارند، اگر بدون کنترل و نظارت مناسب مورد استفاده قرار گیرند، میتوانند به ابزاری برای نقض حقوق افراد و تهدید امنیت جامعه تبدیل شوند.
بنابراین، انتظار میرود که در آینده نزدیک شاهد اقدامات جدیتر از سوی شرکتهای اپل و گوگل و همچنین نهادهای قانونگذار برای مقابله با این مشکل باشیم. این اقدامات میتواند شامل بهروزرسانی سیاستهای فروشگاههای اپلیکیشن، استفاده از فناوریهای پیشرفته تشخیص محتوا و همچنین تدوین قوانین جدید در حوزه هوش مصنوعی و حریم خصوصی باشد. همچنین همکاری بینالمللی میان دولتها و شرکتهای فناوری برای مقابله با این تهدیدات اهمیت ویژهای دارد.
با توجه به رشد روزافزون فناوریهای هوش مصنوعی و کاربردهای گسترده آن در حوزههای مختلف، ضروری است که هم کاربران و هم شرکتهای فناوری مسئولیتهای خود را در قبال حفظ امنیت و حریم خصوصی به خوبی درک کنند و اقدامات لازم را انجام دهند تا از سوءاستفادههای احتمالی جلوگیری شود.