نگرانی توسعه‌دهندگان از فعال‌سازی مجدد و خودکار تنظیمات آموزش مدل در OpenAI — OpenAI seems to be silently re-enabling model training on Codex chats
خلاصه
بر اساس گزارش کاربران هکرنیوز، تنظیمات اشتراک‌گذاری داده و آموزش مدل در ابزارهای OpenAI بدون اطلاع قبلی مجدداً فعال شده است. این موضوع دغدغه‌های جدی امنیتی برای شرکت‌هایی ایجاد کرده که نگران افشای کدهای اختصاصی خود هستند.
ماجرا چیست؟
یکی از دغدغه‌های همیشگی توسعه‌دهندگان و شرکت‌های نرم‌افزاری، حفاظت از Intellectual Property یا همان مالکیت فکری و کدهای منبع در برابر ابزارهای هوش مصنوعی است. بسیاری از تیم‌ها با دقت تنظیمات حریم خصوصی را بررسی و اشتراک‌گذاری داده‌ها را غیرفعال می‌کنند تا پرامپت‌ها و کدهایشان برای آموزش مدل‌های هوش مصنوعی استفاده نشود.
اما اخیراً گزارشی در هکرنیوز منتشر شده که نشان می‌دهد تنظیمات مربوط به آموزش مدل در Codex به طور خودکار و بدون اطلاع کاربران مجدداً فعال (Re-enabled) شده است. این مسئله موجب نگرانی مهندسان و تیم‌های امنیتی شده که روی عدم خروج داده‌های سازمانی حساب باز کرده بودند.
جزئیات فنی و نحوه بررسی
اگر در شرکت خود از ابزارهای OpenAI استفاده می‌کنید، بررسی تنظیمات زیر توصیه می‌شود:
- مراجعه به بخش تنظیمات داده در ChatGPT در آدرس
https://chatgpt.com/settings/data-controls - بررسی گزینه "Improve the model for everyone" و اطمینان از خاموش بودن آن
- استفاده از لینک کنترل حریم خصوصی در
https://privacy.openai.com/policies?modal=take-controlبرای اعمال کنترل‌های بیشتر
دیدگاه‌ها و تحلیل کاربران هکرنیوز
بحث‌های شکل‌گرفته در بخش کامنت‌های هکرنیوز ابعاد جالب دیگری را روشن کرد:
- مسئله زیرساخت و کنترل داخلی: برخی کاربران اشاره کردند که اگر شرکتی واقعاً نگران افشای IP خود است، نباید امنیت خود را به چند چک‌باکس در سایت‌های شخص ثالث گره بزند؛ بلکه باید به سمت اجرای مدل‌ها به صورت لوکال و مدیریت مستقل اینفرنس برود.
- پیشنهاد لایه واسط: یکی از مدیران پیشنهاد داد که شاید به ابزارهایی برای ایجاد یک لایه حفاظتی نیاز داریم تا کدهای حساس به صورت قطعی و پیش از رسیدن به ایجنت‌های کدنویسی فیلتر شوند و مانند متون محیطی (Environment Variables) امن بمانند.
- پنهان‌سازی آمار مصرف: کامنت دیگری به این نکته اشاره کرد که OpenAI دسترسی به برخی آمار مصرف در منوها را محدود کرده است که این امر گمانه‌زنی‌ها درباره تغییرات آتی در محدودیت‌های مصرف (Rate Limits) را افزایش داده است.
این مطلب به‌صورت کاملاً خودکار و با هوش مصنوعی از مطلب اصلی و بحث هکرنیوز تهیه شده و ممکن است خطا داشته باشد. حقوق مطلب اصلی متعلق به نویسندهٔ آن است. قوانین و گزارش مشکل