اتهام شرکتهای چینی به سوءاستفاده از ربات گفتگو کلود برای بهبود مدلهای هوش مصنوعی
شرکت آنتروپیک، توسعهدهنده ربات گفتگو هوش مصنوعی کلود، اخیراً سه شرکت چینی فعال در حوزه هوش مصنوعی را به سوءاستفاده از این ربات برای ارتقاء مدلهای خود متهم کرده است. این شرکت در بیانیهای رسمی اعلام کرد که شرکتهای DeepSeek، Moonshot و MiniMax با استفاده از روشهایی موسوم به «حملات تقطیر» (Distillation Attacks) به صورت گسترده و غیرمجاز قابلیتهای کلود را استخراج کردهاند.
مفهوم تقطیر در دنیای هوش مصنوعی به فرایندی اشاره دارد که در آن مدلهای ضعیفتر از پاسخهای مدلهای قدرتمندتر برای آموزش خود استفاده میکنند. این فرایند به خودی خود امری معمول و گاه مفید است، اما آنتروپیک هشدار داده که در مواردی میتواند به شکل سوءاستفاده و حمله مورد استفاده قرار گیرد. به گفته این شرکت، سه شرکت چینی یادشده بیش از 16 میلیون تبادل اطلاعات با کلود را از طریق حدود 24 هزار حساب کاربری جعلی انجام دادهاند تا به طور غیرقانونی از قابلیتهای کلود بهرهبرداری کنند.
آنتروپیک با استناد به شواهدی مانند همبستگی آدرسهای IP، متادیتای درخواستها و شاخصهای زیرساختی، با اطمینان بالا این حملات را به این شرکتها نسبت داده است. همچنین این شرکت با دیگر فعالان حوزه هوش مصنوعی همکاری کرده تا رفتارهای مشابه را شناسایی و تأیید کند.
این اتهامات در حالی مطرح میشود که پیشتر شرکت OpenAI نیز ادعا کرده بود که رقبایش در حال انجام حملات تقطیر بر مدلهای هوش مصنوعی آن هستند و در واکنش، حسابهای مشکوک را مسدود کرده است. آنتروپیک نیز اعلام کرده که در حال بهروزرسانی سیستمهای خود برای سختتر کردن و شناسایی آسانتر حملات تقطیر است.
از سوی دیگر، آنتروپیک خود با پرونده حقوقی از سوی ناشران موسیقی مواجه است که این شرکت را به استفاده غیرمجاز از نسخههای کپیشده آثار موسیقی برای آموزش ربات کلود متهم کردهاند. این موضوع نشاندهنده چالشهای حقوقی و اخلاقی گستردهای است که شرکتهای فعال در حوزه هوش مصنوعی با آن روبرو هستند.
این رویدادها بار دیگر اهمیت حفاظت از مالکیت فکری و توسعه مسئولانه فناوریهای هوش مصنوعی را برجسته میکند و نشان میدهد که رقابت در این حوزه میتواند به اقدامات غیرقانونی و غیراخلاقی منجر شود. همچنین، این موضوع توجه به نیاز به قوانین و چارچوبهای نظارتی دقیقتر در زمینه هوش مصنوعی را افزایش میدهد.
در نهایت، این اتهامات میتواند تأثیر قابل توجهی بر روابط تجاری و همکاریهای بینالمللی شرکتهای هوش مصنوعی داشته باشد و بر روند توسعه فناوریهای نوین در این صنعت تأثیرگذار باشد. آنتروپیک با اعلام این موضوع، خواستار اقدام جمعی و همکاری بیشتر در صنعت هوش مصنوعی برای مقابله با سوءاستفادههای احتمالی شده است.