آیا تا به حال به این فکر کرده‌اید که شاید آن پیام عاشقانه، پیشنهاد سرمایه‌گذاری وسوسه‌انگیز یا هشدار جدی پلیس که در شبکه‌های اجتماعی دریافت می‌کنید، توسط یک هوش مصنوعی فوق‌پیشرفته نوشته شده باشد؟ ما در عصری زندگی می‌کنیم که فناوری‌های نوین دیگر تنها ابزاری برای افزایش بهره‌وری نیستند، بلکه به سلاحی کارآمد در دست شبکه‌های جنایی سازمان‌یافته تبدیل شده‌اند. گزارش اخیر شرکت OpenAI پرده از یک واقعیت تکان‌دهنده برمی‌دارد: یک باند بزرگ کلاهبرداری در کامبوج با استفاده از چت‌جی‌پی‌تی (ChatGPT) اقدام به فریب هزاران قربانی در سراسر جهان کرده است. این عملیات نشان می‌دهد که چگونه مرز میان فناوری و جنایت تا این حد باریک شده است. اما OpenAI چگونه توانست این شبکه تاریک را ردیابی و متلاشی کند و این اتفاق چه پیامی برای آینده امنیت دیجیتال دارد؟ در ادامه این گزارش تحلیلی عمیق، ابعاد مختلف این پرونده را بررسی می‌کنیم.

پیشینه و تاریخچه: تکامل سوءاستفاده از هوش مصنوعی

از زمان معرفی ChatGPT در اواخر سال ۲۰۲۲، بحث امنیت و سوءاستفاده از مدل‌های زبانی بزرگ (LLM) همواره یکی از چالش‌های اصلی توسعه‌دهندگان بوده است. در ابتدا، نگرانی‌ها به تقلب‌های تحصیلی یا نگارش ایمیل‌های فیشینگ ساده محدود می‌شد. اما با گذشت زمان و پیشرفت این مدل‌ها، هکرها و گروه‌های جنایی نیز ابزارهای خود را ارتقا دادند. شرکت OpenAI در سال‌های اخیر گزارش‌های متعددی از شناسایی و مسدودسازی حساب‌های وابسته به دولت‌ها (مانند روسیه، چین و ایران) منتشر کرده بود که از این ابزار برای تولید کدهای مخرب یا کمپین‌های نفوذ استفاده می‌کردند. با این حال، پرونده اخیر نشان‌دهنده یک جهش بزرگ در تاکتیک‌های مجرمان است؛ جایی که هوش مصنوعی نه به عنوان یک ابزار کمکی ساده، بلکه به عنوان هسته مرکزی مدیریت عملیات‌های چندلایه کلاهبرداری و حتی مدیریت داخلی باندهای قاچاق انسان به کار گرفته شده است.

جزئیات کامل خبر: متلاشی شدن شبکه کامبوجی توسط OpenAI

بر اساس گزارش رسمی منتشر شده در تاریخ ۳۱ جولای ۲۰۲۶، شرکت OpenAI یک شبکه هماهنگ از حساب‌های ChatGPT را که در شهر «پوی‌پت» (Poipet) در استان «بانتای میانچی» کامبوج فعالیت می‌کردند، مسدود کرده است. این منطقه پیش از این نیز در گزارش‌های بین‌المللی به عنوان یکی از مراکز اصلی استقرار کمپ‌های کلاهبرداری آنلاین و قاچاق انسان شناخته شده بود. این تحقیقات پس از دریافت سیگنال‌های اولیه از سوی تیم امنیتی واتس‌اپ (تحت مالکیت متا) آغاز شد و به یک همکاری گسترده میان‌صنعتی انجامید.

مجرمان از مدل‌های OpenAI برای اهداف چندگانه زیر استفاده می‌کردند:

• خلق هویت‌های جعلی: ساخت پروفایل‌های جذاب در شبکه‌های اجتماعی و اپلیکیشن‌های دوست‌یابی برای جلب اعتماد قربانیان.
• کلاهبرداری‌های ترکیبی: هدایت گفتگوهای عاشقانه طولانی‌مدت و سپس ترغیب قربانیان به سرمایه‌گذاری در پلتفرم‌های جعلی ارز دیجیتال و معاملات طلا.
• جعل اسناد: تولید تصاویر واقع‌گرایانه از پاسپورت‌ها، تاییدیه‌های خرید سهام، اسناد حقوقی و رابط‌های کاربری پلتفرم‌های شرط‌بندی.
• جعل هویت پلیس: تظاهر به عنوان ماموران قانون و تهدید قربانیان به پرداخت جریمه برای جرایم ساختگی.

نکته تکان‌دهنده دیگر در این گزارش، استفاده از ChatGPT برای امور اداری داخلی این باند است. مجرمان از این ابزار برای ترجمه پیام‌ها بین کارکنان، نگارش اطلاعیه‌های داخلی و مستندسازی موارد مربوط به استخدام، وضعیت مهاجرت، شرایط کاری و حتی تنبیه انضباطی کارکنان استفاده می‌کردند. گزارش‌ها نشان می‌دهد بسیاری از اپراتورهای این سیستم‌ها خود قربانیان قاچاق انسان بوده‌اند که با وعده کار کاذب به این کمپ‌ها کشانده شده و تحت شرایط سخت مجبور به کلاهبرداری شده‌اند.

🔍 تحلیل نیکای

این اقدام OpenAI نشان‌دهنده یک تغییر پارادایم در استراتژی دفاع سایبری شرکت‌های فناوری بزرگ است. اکنون غول‌های هوش مصنوعی مانند OpenAI، گوگل و آنتروپیک دیگر نمی‌توانند صرفاً ارائه‌دهنده فناوری باشند؛ آن‌ها باید نقش پلیس‌های فعال در فضای سایبری را ایفا کنند. همکاری نزدیک OpenAI و واتس‌اپ در این پرونده، الگویی حیاتی برای مبارزه با تهدیدات نسل جدید است. برای کاربران در سراسر جهان و به ویژه در بازار ایران که به دلیل محدودیت‌های بین‌المللی و عدم دسترسی به مراجع قضایی جهانی، آسیب‌پذیری بیشتری در برابر کلاهبرداری‌های کریپتویی و مهندسی اجتماعی دارند، این خبر یک زنگ خطر جدی است. مجرمان با استفاده از هوش مصنوعی، سد زبانی را شکسته و می‌توانند با فارسی روان و بی‌پقص اقدام به فریب کاربران ایرانی کنند. پیش‌بینی می‌شود در ۳ تا ۶ ماه آینده، شرکت‌های امنیتی ابزارهای تشخیص متن تولیدشده توسط هوش مصنوعی را در پلتفرم‌های پیام‌رسان ادغام کنند تا کاربران را در زمان واقعی از احتمال تعامل با یک ربات آگاه سازند.

💡 نکات کلیدی

• همکاری بین‌صنعتی: این عملیات با سرنخ ارائه شده توسط واتس‌اپ آغاز شد که اهمیت تبادل اطلاعات امنیتی میان شرکت‌های بزرگ فناوری را اثبات می‌کند.
• کلاهبرداری‌های چندلایه: مجرمان دیگر به یک روش محدود نیستند؛ آن‌ها کلاهبرداری‌های عاطفی، کریپتویی و جعل هویت پلیس را با هم ترکیب می‌کنند.
• ارتباط با قاچاق انسان: شواهد نشان می‌دهد اپراتورهای این شبکه‌ها خود قربانیان سیستم‌های کار اجباری و بدهی در جنوب شرق آسیا هستند.
• استفاده اداری از AI: مجرمان از ChatGPT حتی برای مدیریت منابع انسانی، ترجمه داخلی و تدوین قوانین انضباطی کمپ‌های خود استفاده می‌کردند.

🎯 برای چه کسانی مهم است؟

این گزارش برای متخصصان امنیت سایبری، توسعه‌دهندگان پلتفرم‌های هوش مصنوعی، فعالان حوزه رمزارز و بلاک‌چین و همچنین تمامی کاربران شبکه‌های اجتماعی که در معرض پیام‌های ناشناس قرار دارند، حیاتی است. آگاهی از این روش‌ها بهترین زره دفاعی در برابر مهندسی اجتماعی مدرن است.

سؤال: به نظر شما شرکت‌های فناوری چگونه می‌توانند بدون نقض حریم خصوصی کاربران، جلوی سوءاستفاده‌های این‌چنینی از هوش مصنوعی را بگیرند؟ نظرات خود را با ما به اشتراک بگذارید.

منبع: وبلاگ رسمی OpenAI