هشدارهای پیشین درباره جسی ون روتسلاار پیش از تیراندازی در تامبلر ریج

در ماه‌های منتهی به حادثه تیراندازی جمعی در تامبلر ریج، بریتیش کلمبیا، جسی ون روتسلاار، مظنون اصلی این حادثه، با گفتگوهایی در پلتفرم ChatGPT نگرانی‌هایی جدی را در میان کارکنان شرکت OpenAI به وجود آورد. این گفتگوها که شامل توصیف‌هایی از خشونت مسلحانه بود، سیستم بازبینی خودکار چت‌بات را فعال کرد و باعث شد چندین کارمند نسبت به احتمال وقوع خشونت واقعی هشدار دهند.

بر اساس اطلاعات منتشر شده، در ماه ژوئن سال جاری، جسی ون روتسلاار با استفاده از ChatGPT به بیان مواردی پرداخت که به نظر می‌رسید نشانه‌هایی از تمایل به اعمال خشونت‌آمیز باشد. این موضوع باعث شد کارکنان OpenAI نگرانی خود را به مدیران ارشد منتقل کنند و پیشنهاد دهند که موضوع به مراجع قانونی اطلاع داده شود. با این حال، در نهایت تصمیم گرفته شد که اقدامی در این زمینه انجام نشود.

سخنگوی OpenAI، کایلا وود، در گفتگو با رسانه‌ها اعلام کرد که هرچند شرکت در نظر داشت حساب کاربری مرتبط را به مراجع قانونی معرفی کند، اما در نهایت این تصمیم اتخاذ نشد. این موضوع سوالات گسترده‌ای درباره مسئولیت شرکت‌های فناوری در مواجهه با نشانه‌های احتمالی خشونت در فضای مجازی ایجاد کرده است.

حادثه تیراندازی در تامبلر ریج که منجر به بروز خسارات جانی و روانی فراوان شد، توجه‌ها را به اهمیت نظارت دقیق‌تر بر فعالیت‌های کاربران در پلتفرم‌های هوش مصنوعی جلب کرده است. کارشناسان امنیت سایبری و روانشناسی اجتماعی معتقدند که شناسایی به موقع نشانه‌های هشداردهنده و همکاری موثر میان شرکت‌های فناوری و نهادهای قانونی می‌تواند از وقوع چنین حوادثی جلوگیری کند.

OpenAI به عنوان یکی از پیشگامان توسعه فناوری‌های هوش مصنوعی، همواره در تلاش است تا با به‌کارگیری سیستم‌های پیشرفته بازبینی و کنترل محتوا، از سوءاستفاده‌های احتمالی جلوگیری کند. با این حال، این حادثه نشان داد که حتی با وجود چنین سیستم‌هایی، چالش‌های جدی در تشخیص و پیشگیری از رفتارهای خشونت‌آمیز وجود دارد.

از سوی دیگر، این موضوع بحث‌های گسترده‌ای را درباره حریم خصوصی کاربران و حدود دخالت شرکت‌های فناوری در زندگی شخصی افراد به راه انداخته است. برخی معتقدند که نظارت بیش از حد ممکن است به نقض حقوق فردی منجر شود، در حالی که دیگران بر ضرورت مداخله به موقع برای حفظ امنیت عمومی تاکید دارند.

در نهایت، این حادثه به عنوان یک نمونه هشداردهنده مطرح شده است که نیازمند بازنگری در سیاست‌ها و فرآیندهای شرکت‌های فناوری در زمینه مدیریت محتوا و تعامل با کاربران است. همچنین، همکاری نزدیک‌تر میان بخش‌های مختلف جامعه از جمله فناوری، قانونگذاری و روانشناسی برای پیشگیری از حوادث مشابه ضروری به نظر می‌رسد.