بررسی فنی مدل TensorFlow Lite در تلویزیون‌های Samsung؛ ردیابی بازی‌ها یا هدررفت منابع؟ — Samsung running a TensorFlow lite model on 960x540 image to track you
خلاصه
پژوهشگران امنیتی دریافتند تلویزیون‌های هوشمند Samsung با سیستم‌عامل Tizen، مدلی از TensorFlow Lite را روی تصاویر اجرا می‌کنند تا نوع بازی در حال اجرا را تشخیص دهند. این فرآیند سنگین که با کوانتیزاسیون INT8 انجام می‌شود، انتقاد شدید مهندسان را به خاطر هدررفت CPU و مسائل حریم خصوصی برانگیخته است.
جامعه مهندسی نرم‌افزار و امنیت این روزها درگیر کشفیات جدیدی درباره سیستم‌عامل Tizen در تلویزیون‌های هوشمند Samsung است. پژوهشگران امنیتی با بررسی دقیق رفتار این دستگاه‌ها، به لایه‌های پنهانی از پردازش‌های هوش مصنوعی رسیده‌اند که روی سخت‌افزار تلویزیون‌های خانگی اجرا می‌شود.
ماجرای پردازش‌های پنهان Tizen
ماجرا از بررسی‌های یک مهندس معکوس و پژوهشگر حوزه امنیت به نام mike با شناسه mike64_t شروع شد. او پس از تحلیل فعالیت‌های پس‌زمینه دستگاه، متوجه شد که تلویزیون به‌طور مرتب از تصاویر اسکرین‌شات می‌گیرد و آن‌ها را پردازش می‌کند. این پژوهشگر در شبکه اجتماعی X نوشت:
«من این موضوع را بررسی کردم و مشخص شد که یک مدل TensorFlow Lite روی تصاویر ۹۶۰ در ۵۴۰ با کوانتیزاسیون INT8 هر چند ثانیه یک بار اجرا می‌شود تا بفهمد چه بازی‌ای در حال انجام است.»
این مدل که با نام alex.tflite شناخته می‌شود، پیاده‌سازی سبک‌سازی‌شده‌ای از معماری معروف AlexNet است و ظاهراً کدهای آن با مدل استاندارد torchvision.models.alexnet همخوانی دارد. نکته عجیب این است که مدل مذکور تلاش می‌کند با مقایسه‌های ویژگی مبتنی بر همسایه نزدیک (nearest neighbor) روی یک پایگاه داده، نتایج را استخراج کند؛ اما طبق بررسی‌ها، در ۹۹ درصد مواقع عملاً کار نمی‌کند و نتیجه آن در نهایت دور ریخته می‌شود چرا که بررسی رضایت‌نامه کاربر (consent gate) تازه بعد از این مرحله انجام می‌شود!
ابعاد فنی و نگرانی‌های حریم خصوصی
این کشف بخشی از یک مستند جامع‌تر و بزرگ‌تر درباره زوایای پنهان سیستم‌عامل Tizen است که توسط پژوهشگران امنیتی روی دستگاه‌های واقعی تحلیل شده است. اجرای مداوم مدل‌های یادگیری ماشین روی تصاویر تلویزیون، چالش‌های جدی فنی را به همراه دارد:
- הدررفت منابع سخت‌افزاری: اجرای مدل‌های سنگین بینایی ماشین روی پردازنده تلویزیون، منابع سیستم را درگیر کرده و باعث هدررفت CPU و مصرف انرژی می‌شود.
- پردازش پیش از کسب اجازه: پردازش داده‌های تصویری پیش از بررسی رضایت کاربر، نگرانی‌های بزرگی درباره نقض حریم خصوصی ایجاد کرده است.
- کارایی پایین: عملکرد ضعیف این مدل و رها کردن خروجی‌ها در فضای ابری یا حافظه موقت، این شائبه را تقویت کرده که شاید کدهای مذکور حاصل پروژه‌های رهاشده یا تست‌های داخلی باشند.
دیدگاه جامعه توسعه‌دهندگان در Hacker News
بحث پیرامون این موضوع در Hacker News بسیار داغ بوده و مهندسان ابعاد مختلف آن را زیر ذره‌بین قرار داده‌اند:
- برخی کاربران با طنز تلخ اشاره کرده‌اند که این پردازش‌های سنگین، بهایی است که کاربران برای یارانه‌ای شدن قیمت سخت‌افزار تلویزیون‌ها می‌پردازند.
- عده‌ای از کاربران از این موضوع انتقاد کرده‌اند که چرا وقتی هنوز رضایت‌نامه صریح از کاربر گرفته نشده، پردازش تصویر انجام می‌شود و در نهایت هم خروجی دور ریخته می‌شود که معنایی جز هدر دادن برق و توان پردازشی ندارد.
- گروهی از توسعه‌دهندگان نیز آرزو کرده‌اند که کاش سیستم‌عامل Tizen به طور کامل روت می‌شد تا مهندسان بتوانند یک رابط کاربری سبک‌تر و سفارشی روی این سخت‌افزارها نصب کنند تا از شر این پردازش‌های اضافی خلاص شوند.
این اتفاق بار دیگر اهمیت ممیزی نرم‌افزاری دستگاه‌های IoT (اینترنت اشیا) و لزوم شفافیت شرکت‌های بزرگ در قبال پردازش داده‌های کاربران در خانه‌ها را یادآوری می‌کند.
این مطلب به‌صورت کاملاً خودکار و با هوش مصنوعی از مقالهٔ اصلی و بحث هکرنیوز تهیه شده و ممکن است خطا داشته باشد. حقوق مطلب اصلی متعلق به نویسندهٔ آن است. قوانین و گزارش مشکل