شرکت‌های بزرگ برای آموزش مدل‌های هوش مصنوعی به سراغ حجم زیادی از داده‌های کاربران می‌روند و این موضوع نگرانی‌هایی درباره حفظ حریم خصوصی کاربران ایجاد کرده است. حالا گوگل با مدل هوش مصنوعی VaultGemma به محافظت از اطلاعات کاربران رفته است. در ادامه درباره این مدل بیشتر بخوانید.

بیشتر شرکت‌های فناوری برای آموزش مدل‌های هوش مصنوعی خودشان از داده‌های کاربران استفاده می‌کنند که گاهی این کار بدون اطلاع و اجازه انجام شده و می‌تواند حریم خصوصی را نقض کند. حالا گوگل از مدل جدید خود با نام VaultGemma رونمایی کرده است که از تکنیک‌های پیشرفته‌ای برای محافظت از اطلاعات کاربران بهره می‌برد.

البته VaultGemma در فاز آزمایشی بوده و نشان می‌دهد امکان ساخت هوش مصنوعی قدرتمند بدون دسترسی به اطلاعات حساس کاربران وجود دارد. این دستاورد می‌تواند رویکرد گوگل و سایر شرکت‌ها در زمینه حریم خصوصی در محصولات هوش مصنوعی آینده را متحول کند.

تکنیک جالب گوگل برای حفظ حریم خصوصی کاربران

مدل VaultGemma یکی از بزرگ‌ترین چالش‌های مدل‌های زبانی بزرگ که احتمال تکرار مستقیم داده‌های آموزشی است را حل می‌کند. مشکلی که می‌تواند منجر به نقض حریم خصوصی یا مسائل حقوقی شود. این مورد زمانی اهمیت پیدا می‌کند که داده‌ها شامل اطلاعات شخصی کاربران یا محتوای دارای حق کپی رایت باشند.

تکنیک Differential Privacy گوگل با افزودن اطلاعات نامربوط حساب‌شده در طول فرایند آموزش، از حفظ جزئیات دقیق توسط مدل جلوگیری می‌کند. با این حال استفاده از این روش همیشه با چالش‌هایی همراه بوده است. زیرا این اطلاعات نامربوط می‌تواند دقت مدل را کاهش دهد.

تیم تحقیقاتی گوگل در مدل VaultGemma موفق شد برای اولین‌بار فرمولی ارائه دهد که تعادل بهینه بین سه عامل کلیدی حریم خصوصی، توان پردازشی و حجم داده تعادل برقرار می‌کند. این روش به سازندگان مدل هوش مصنوعی امکان می‌دهد منابع خود را با دقت بیشتری برای ساخت مدل‌های حافظ حریم خصوصی کاربران تخصیص دهند.

البته گوگل اعلام کرده که این تکنیک احتمالاً در مدل‌های غول‌پیکر و عمومی استفاده نخواهد شد. اما برای مدل‌های کوچک‌تر و هدفمند که قابلیت‌هایی مثل خلاصه‌سازی ایمیل‌ها یا پیشنهاد هوشمند پاسخ‌ها ارائه می‌دهند، بسیار مناسب است.

VaultGemma بر پایه مدل Gemma 2 ساخته شده و با یک میلیارد پارامتر، یک مدل کوچک‌تر محسوب می‌شود. این مدل اکنون در پلتفرم‌های Hugging Face و Kaggle در دسترس است.

منبع: شهر سخت افزار