فعال‌سازی خودکار تنظیمات آموزش داده در چت‌جی‌پی‌تی؛ هشدار جدی برای حریم خصوصی
گزارش‌های کاربران در هکرنیوز نشان می‌دهد اوپن‌ای‌آی تنظیمات مربوط به اجازه آموزش روی داده‌های شخصی را بدون اطلاع قبلی دوباره فعال می‌کند.
کاربران در انجمن هکرنیوز گزارش داده‌اند که گزینه اجازه برای آموزش مدل‌های هوش مصنوعی روی داده‌های شخصی در حساب‌های کاربری آن‌ها به طور خودکار فعال شده است. این اتفاق در حالی رخ می‌دهد که این افراد پیش‌تر به صورت دستی این گزینه را غیرفعال کرده بودند تا از حریم خصوصی خود محافظت کنند. این رفتار پلتفرم باعث شده تا تردیدهای جدی درباره شفافیت سیاست‌های نگهداری داده در شرکت‌های بزرگ فناوری ایجاد شود.
تجربه کاربران از بازگشت تنظیمات به حالت پیش‌فرض
یکی از کاربران با بررسی دقیق حساب خود متوجه شد که با وجود خاموش کردن گزینه اجازه آموزش در چندین نوبت، این تنظیم دوباره به حالت فعال بازگشته است. او با یادداشت‌برداری از زمان دقیق تغییرات، متوجه شد که سیستم بدون درخواست یا تایید او، دسترسی به داده‌ها را برای بهبود مدل‌ها باز کرده است. این موضوع به ویژه برای کسانی که از ابزارهای هوش مصنوعی برای تحلیل داده‌های حساس کاری یا شخصی استفاده می‌کنند، یک زنگ خطر محسوب می‌شود.
در پلتفرم‌های بین‌المللی، معمولاً گزینه‌ای برای عدم مشارکت در بهبود مدل‌ها وجود دارد. با این حال، اگر این تنظیمات به صورت دوره‌ای و بدون اطلاع کاربر ریست شوند، عملاً حق انتخاب از فرد سلب می‌شود. برای کاربر ایرانی که ممکن است اطلاعات پروژه‌های بومی یا داده‌های تجاری خود را در این چت‌بات‌ها وارد کند، این نشت داده می‌تواند پیامدهای جبران‌ناپذیری داشته باشد.
راهکار جایگزین و اهمیت بسترهای بومی
برای جلوگیری از چنین مشکلاتی، پیشنهاد می‌شود کاربران به طور منظم بخش تنظیمات و حریم خصوصی حساب‌های بین‌المللی خود را چک کنند. هرچند این کار زمان‌بر است، اما فعلاً تنها راه اطمینان از عدم استفاده از داده‌ها توسط مدل‌های خارجی به شمار می‌رود.
در مقابل، استفاده از زیرساخت‌های داخلی مانند هوش مصنوعی نهال، این دغدغه را به شکل ریشه‌ای حل می‌کند. در نهال، مدل‌های بین‌المللی در بستری ایزوله و فارسی در اختیار شما قرار می‌گیرند. این یعنی شما بدون نگرانی از سیاست‌های متغیر شرکت‌های خارجی، به همان قدرت پردازشی دسترسی دارید، با این تفاوت که مدیریت داده‌ها و پرداخت‌های تومانی در یک ساختار شفاف انجام می‌شود.
ایجنت‌ها و امنیت داده در سازمان‌ها
وقتی صحبت از خدمات هوش مصنوعی سازمانی و ساخت دستیارها می‌شود، امنیت داده اولویت اول است. اگر یک دستیار هوشمند برای بخش پشتیبانی یک شرکت ایرانی طراحی شود، بازگشت خودکار تنظیمات آموزش در مدل‌های پایه می‌تواند منجر به خروج اسرار تجاری شود. هوش مصنوعی نهال با ارائه سرویس‌های اختصاصی و ایجنت‌های هوشمند، این اطمینان را می‌دهد که داده‌های ورودی صرفاً برای خدمت‌رسانی به همان مجموعه استفاده شوند و وارد چرخه آموزش عمومی مدل‌های جهانی نشوند.
جمع‌بندی و هشدار
تغییرات خودکار در تنظیمات حساب‌های کاربری نشان‌دهنده لزوم هوشیاری دائمی کاربران است. اگر از نسخه‌های رایگان یا اشتراکی مستقیم سرویس‌های خارجی استفاده می‌کنید، همین حالا بخش Data Controls را در تنظیمات خود بررسی کنید. برای پروژه‌های حساس‌تر، کوچ به بسترهایی که کنترل کامل داده را به کاربر می‌سپارند، منطقی‌ترین گام برای حفظ امنیت اطلاعات است.
منبع: news.ycombinator.com