محققان حوزه امنیت سایبری به تازه یک حفره امنیتی بسیار ساده را در ChatGPT کشف کرده‌اند که به هکرها اجازه می‌دهد به فایل‌های آپلود شده توسط کاربران بر روی سرورهای این چت‌بات محبوب دسترسی پیدا کنند. این حفره امنیتی اکنون امنیت فایل‌های آپلود شده روی سرور ChatGPT را زیر سؤال برده است.

توسعه‌دهندگان هوش مصنوعی ChatGPT روز به روز در حال اضافه کردن قابلیت‌ها و ویژگی‌های جدید به این ابزار کاربردی هستند و می‌خواهند آن را به یک مرجع با اطمینان و همه‌کاره تبدیل کنند.

در همین راستا، مدتی قبل ویژگی مفسر کد (Code Interpreter) را به آن اضافه کردند که نه‌تنها به شما اجازه می‌دهد با کمک هوش مصنوعی بسیار سریع‌تر و با دقت بیشتری نسبت به قبل کدنویسی پایتون انجام دهید، بلکه امکان اجرای کد در یک محیط کنترل‌شده را هم ارائه می‌کرد.

متأسفانه، محققان امنیت سایبری به‌تازگی متوجه شده‌اند که این محیط کنترل شده یا اصطلاحاً سندباکس (Sandbox) که به ChatGPT اجازه می‌داد فرایند تجزیه و تحلیل و ایجاد نمودار را هم برعهده بگیرد، می‌تواند برای سرقت اطلاعات توسط هکرها مورد سوءاستفاده قرار گیرد.

این حفره امنیتی ChatGPT چطور عمل می‌کند؟

این قابلیت‌های ویژه ChatGPT تنها با استفاده از حساب‌های ChatGPT Plus (که اشتراک خریداری کرده‌اند) قابل دسترسی هستند.

محققان دریافتند که هکرها می‌توانند با ارائه درخواست دستورات تزریق شده (Injected Prompt Instructs) به ChatGPT، این چت‌بات هوش مصنوعی را وادار کنند تا تمام فایل‌های موجود در پوشه /mnt/data/ (که بر روی سرور قرار داشته و تمام فایل‌های آپلود شده کاربر درون آن قرار دارد) را بگیرد و سپس آن‌ها را در یک رشته URL رمزگذاری کرده و بارگذاری کند.

به عبارت ساده‌تر، با این روش هکرها می‌توانند اطلاعات و داده‌های آپلود شده توسط کاربران ChatGPT را به وب‌سایت‌های خود منتقل کرده و دسترسی کاملی به آن‌ها داشته باشند.

برای اثبات این یافته‌ها، پژوهشگران امنیت سایبری ابتدا فایلی به نام env_vars.txt ایجاد کردند که حاوی یک کلید API جعلی و رمز عبور بود. این دقیقاً مشابه فایل‌های است که احتمالاً کاربرانی که قصد کدنویسی پایتون را دارند، در اختیار ChatGPT گذاشته و آن را بر روی آدرس فوق آپلود می‌کنند.

 در مرحله بعد آن‌ها فایل مورد نظر را به راحتی بر روی ChatGPT آپلود کردند. برای این کار تنها کافی است بر روی نماد گیره و کاغذ کلیک کرده و فایل مورد نظرتان را آپلود کنید، سپس شاهد آن باشید که ChatGPT به بررسی و تجزیه و تحلیل فایل شما می‌پردازد.

اکنون که ChatGPT Plus دارای ویژگی‌های بارگذاری فایل و مفسر کد است، می‌توانید ببینید که این چت‌بات مبتنی بر AI در واقع در حال ایجاد، ذخیره و اجرای تمام فایل‌ها در یک ماشین مجازی لینوکس بر اساس اوبونتو است.

در مرحله بعد محققان یک صفحه وب ایجاد کردند که مجموعه‌ای از دستورالعمل‌ها روی آن قرار داشت و به ChatGPT دستور دادند تمام داده‌ها را از فایل‌های پوشه /mnt/data/ گرفته، آن‌ها را به یک خط طولانی از متن کدگذاری شده با URL تبدیل کرده و سپس به یک نشانی اینترنتی ارسال کند.

در نهایت محققان با استفاده از این روش توانستند به فایل آپلود شده بر روی ChatGPT دسترسی داشته و اطلاعات آن را به راحتی مشاهده کنند.

به گفته محققان، چت‌بات ChatGPT نباید دستورالعمل‌هایی را که در یک صفحه وب پیدا می‌کند را دنبال کند، اما این کار را انجام می‌دهد. بنابراین، با یک حفره امنیتی بسیار خطرناک مواجه هستیم که به هکرها اجازه می‌دهد بدون هیچ زحمتی به داده‌ها و اطلاعات آپلود شده روی سرور دسترسی پیدا کنند.

منبع: شهر سخت افزار