چک پوینت هشدار داد که ChatGPT حتی می تواند برای “تسهیل فعالیت کلاهبرداری” مورد استفاده قرار گیرد، زیرا این سرویس همچنین قادر به ایجاد اسکریپت های بازار برای دارک وب با استفاده از API های شخص ثالث برای “دریافت ارزهای دیجیتال به روز (Monero) بود. ، بیت کوین و اتریوم) قیمت ها به عنوان بخشی از سیستم پرداخت بازار تاریک وب.”
به لطف چت ربات OpenAI، کاربران انجمن هک زیرزمینی که توسط Check Point تجزیه و تحلیل شد، توانستند یک دزد مبتنی بر پایتون ایجاد کنند که انواع فایل های رایج را جستجو می کند، آنها را در پوشه Temp کپی می کند، آنها را ZIP می کند و آنها را در یک سرور FTP با کد سخت آپلود می کند. تجزیه و تحلیل Lather تایید کرد که کد مخرب می تواند کار کند.
Check Point قبلاً تلاش خود را در خودکارسازی کل جریان عفونت کامل با یک ایمیل فیشینگ و کد مخرب Excel VBA انجام داده است. علاوه بر این، محققان همچنین از Codex – یک سیستم کدساز دیگر مبتنی بر هوش مصنوعی – برای ایجاد انواع دیگری از قطعات پیچیده کد (بالقوه) مخرب استفاده کردند.
در مورد ChatGPT، محققان می گویند که هنوز برای تصمیم گیری در مورد اینکه آیا چت بات به ابزار مورد علاقه جدید شرکت کنندگان در دارک وب تبدیل خواهد شد یا خیر، زود است. با این حال، جامعه زیرزمینی قبلاً علاقه زیادی به “پرش به این روند اخیر برای تولید کدهای مخرب” نشان داده است. ChatGPT باید شامل برخی حفاظت ها برای جلوگیری از سوء استفاده باشد، اما نویسندگان بدافزار و بچه های اسکریپت نشان داده اند که می توانند به راحتی از این حفاظت ها عبور کنند.
نمونه دوم که توسط همان کاربر ایجاد شد، یک قطعه کد مبتنی بر جاوا بود که می‌توانست یک کلاینت SSH/Telnet (PuTTY) را دانلود کند و سپس آن را به طور مخفیانه روی سیستم با استفاده از Powershell اجرا کند – عملکردی که می‌توان آن را برای دانلود و اجرای هر کدام تغییر داد. برنامه سایر «بازیگران تهدید» با توانایی کمتر از ChatGPT برای ایجاد یک ابزار رمزگذاری استفاده کردند تا بتوانند به راحتی کلیدهای رمزنگاری را تولید کنند، فایل‌ها را رمزگذاری کنند، هش‌ها و موارد دیگر را با هم مقایسه کنند.
یک سیب زمینی داغ: علیرغم اینکه ChatGPT فقط یک نسخه بتا است، در حال حاضر قابلیت‌های چشمگیری را به کل طیف جوامع اینترنتی، از جمله انجمن‌های زیرزمینی، نشان می‌دهد، جایی که مجرمان سایبری کارکشته نشان داده‌اند که چگونه هوش مصنوعی می‌تواند ایجاد بدافزار کاربردی را بسیار آسان‌تر کند.
چک پوینت سازمانی امنیتی اخیراً انجمن‌های جرایم سایبری را در جستجوی کدهای مخرب به کمک ChatGPT قرار داده است. آنها آنچه را که در جستجوی آن بودند پیدا کردند، زیرا ChatGPT ظاهراً هم به عنوان یک ابزار “آموزشی” و هم به عنوان یک پلت فرم خالص برای ایجاد بدافزار استفاده می شود.
در حالی که مدارس شهر نیویورک تصمیم گرفته اند ChatGPT را از شبکه و دستگاه های خود ممنوع کنند، جنایتکاران اینترنتی زیرزمینی به دنبال استفاده از فناوری جدید برای ایجاد سریع تر بدافزار هستند. چت ربات مبتنی بر یادگیری ماشین برای تعامل به روش مکالمه، پاسخ به سوالات بعدی و اعتراف به اشتباهات خود طراحی شده است، و به نظر می رسد محققان OpenAI آنقدر خوب کار کرده اند که این سرویس حتی می تواند کدی را بنویسد که تنها با چند تنظیمات در اینجا کار می کند. و آنجا
