گوگل قابلیت ساخت تصاویر گمراهکننده در گوگل ارث با هوش مصنوعی را حذف کرد
در روزهای اخیر، شرکت گوگل قابلیت جدیدی را در سرویس گوگل ارث معرفی کرد که به کاربران اجازه میداد با استفاده از هوش مصنوعی تصاویر ماهوارهای را به صورت دلخواه ویرایش کنند. این ویژگی که به سرعت مورد توجه قرار گرفت، امکان ساخت تصاویر گمراهکننده و دستکاری شده را فراهم میکرد. با این حال، گوگل پس از کمتر از یک روز، این قابلیت را به دلیل نگرانیهای امنیتی و احتمال سوءاستفاده از آن، به سرعت حذف کرد.
گوگل ارث یکی از محبوبترین سرویسهای نقشهبرداری و مشاهده تصاویر ماهوارهای در جهان است که میلیونها کاربر روزانه از آن استفاده میکنند. اضافه شدن قابلیت ویرایش تصاویر با هوش مصنوعی میتوانست امکانات جدیدی برای کاربران فراهم کند، اما در عین حال خطرات جدی در زمینه انتشار اطلاعات نادرست و تصاویر جعلی به همراه داشت.
کارشناسان فناوری و امنیت سایبری هشدار دادند که چنین ویژگیهایی میتوانند به ابزاری برای انتشار اخبار جعلی، دستکاری در اطلاعات جغرافیایی و حتی ایجاد مشکلات امنیتی تبدیل شوند. به همین دلیل، گوگل تصمیم گرفت تا این قابلیت را به سرعت از دسترس کاربران خارج کند و در حال بررسی روشهای بهتری برای کنترل و مدیریت آن است.
این اقدام گوگل نشاندهنده حساسیت روزافزون شرکتهای فناوری نسبت به خطرات ناشی از هوش مصنوعی و تأثیرات آن بر جامعه است. با گسترش فناوریهای هوش مصنوعی، شرکتها باید تعادل مناسبی بین نوآوری و مسئولیتپذیری اجتماعی برقرار کنند تا از سوءاستفادههای احتمالی جلوگیری شود.
به طور کلی، این رویداد نمونهای از چالشهای پیش روی توسعه فناوریهای نوین است که نیازمند نظارت دقیق و سیاستگذاریهای مناسب است. کاربران و توسعهدهندگان باید آگاه باشند که هر فناوری جدید میتواند هم فرصت و هم تهدید به همراه داشته باشد و استفاده مسئولانه از آن اهمیت بالایی دارد.
در نهایت، گوگل اعلام کرده است که به منظور ارتقاء امنیت و حفظ اعتماد کاربران، در حال بازنگری و بهبود سیاستهای خود در زمینه استفاده از هوش مصنوعی در سرویسهای خود است و به زودی نسخهای امنتر و کنترلشدهتر از این قابلیت را ارائه خواهد داد.