در راستای توسعه زیرساختهای پردازش هوش مصنوعی بر روی دستگاه (On-Device AI) و ارتقای سطح حریم خصوصیت کاربران، شرکت گوگل از مدل چندوجهی جدیدی با نام EmbeddingGemma 2 و اپلیکیشن اختصاصی مک به نام AI Edge Foresight رونمایی کرد. این ابزار کاربردی با بهرهگیری از توان پردازشی تراشههای سری Apple Silicon و بدون نیاز به اتصال اینترنت، میتواند یادداشتهای کوتاه و خلاصهوار شما را در جلسات آنلاین یا حضوری به متون تحلیلی و کامل تبدیل کند.
معماری فنی و قابلیتهای مدل چندوجهی EmbeddingGemma 2
مدل جدید EmbeddingGemma 2 بخشی از خانواده مدلهای متنباز و سبک گوگل است که بهطور خاص برای اجرا در محیطهای با منابع پردازشی محدود و سیستمهای سمت کاربر (Edge Devices) بهینهسازی شده است. گوگل این مدل را بهعنوان یک موتور تصمیمگیری محلی با تاخیر بسیار پایین (Ultra-low-latency) معرفی میکند که تضمینکننده امنیت و حفظ حریم خصوصی در سطح سختافزار است.
یکی از شاخصترین ویژگیهای EmbeddingGemma 2، ماهیت چندوجهی (Multimodal) آن است. این مدل توانایی بازخوانی، نمایه سازی و بازیابی اطلاعات را بهصورت همزمان از میان فایلهای متنی، تصاویر، فریمهای ویدئویی و فایلهای صوتی دارا میباشد. این رویکرد به برنامهنویسان و توسعهدهندگان اجازه میدهد تا سامانههای جستجوی برداری (Vector Search) و سیستمهای بازیابی افزوده شده با تولید (RAG) را کاملاً بهصورت محلی پیادهسازی کنند.
مشخصات فنی مدل EmbeddingGemma 2 و اپلیکیشن AI Edge Foresight
- توسعهدهنده: گوگل (Google AI)
- پلتفرم هدف اپلیکیشن: macOS (تراشههای Apple Silicon M1 و جدیدتر)
- معماری پردازش: تماماً محلی و آفلاین (On-Device Processing)
- ورودیهای پشتیبانی شده: متن، تصویر، فریمهای ویدئویی، سیگنالهای صوتی و جریان صوتی سیستم
- قابلیتهای کلیدی: تبدیل بالتپوینت به متن کامل، پرسش و پاسخ زنده (Live Q&A)، استخراج دانش از پایگاه داده محلی
بررسی عملکرد اپلیکیشن AI Edge Foresight در محیط macOS
گوگل برای نمایش توانمندیهای عملیاتی مدل EmbeddingGemma 2، نرمافزار کاربردی جدیدی تحت عنوان AI Edge Foresight را برای پلتفرم مک منتشر کرده است. این نرمافزار به صورت رایگان در دسترس کاربران قرار گرفته و فرایند نصب و بارگذاری مدلهای محلی آن تنها چند دقیقه به طول میانجامد.
عملکرد اصلی این برنامه در طول جلسات کاری مشخص میشود؛ جایی که به میکروفون و خروجی صوتی سیستمعامل متصل شده و پیادهسازی متنی (Transcription) گفتگوها را به صورت لحظهای انجام میدهد. کاربران میتوانند کلمات کلیدی یا بالتپوینتهای کوتاهی را یادداشت کنند؛ سپس AI Edge Foresight با تحلیل متن جلسات و با استفاده از هوش مصنوعی محلی، آن نقاط کلیدی را به یادداشتهای ساختاریافته، دقیق و رسمی تبدیل میکند.
سیستم پرسش و پاسخ زنده (Live Q&A) و پایگاه دانش محلی
قابلیت برجسته دیگر این نرمافزار، پشتیبانی از پرسش و پاسخ زنده در حین برگزاری جلسات است. مدل EmbeddingGemma 2 قادر است سوالات مطرحشده در جلسه را شناسایی کرده و با پیوند دادن آنها به متن پیادهسازیشده جلسه و همچنین سندها یا پایگاههای دانشی که کاربر به برنامه وارد کرده است، پاسخهای دقیق و مرتبط ارائه دهد.
از آنجا که تمام این فرایندها بدون ارسال داده به سرورهای ابری صورت میپذیرد، شرکتها و سازمانهایی که با دادههای حساس و محرمانه سر و کار دارند میتوانند در زمستان ۱۴۰۳ و سالهای آینده بدون نگرانی از افشای اطلاعات، از این ابزار برای مدیریت جلسات مهندسی و مدیریتی خود بهره ببرند.
آینده پردازش هوش مصنوعی در لبه شبکه (Edge AI)
عرضه EmbeddingGemma 2 نشاندهنده تغییر جهت استراتژیک غولهای فناوری به سمت پردازش محلی هوش مصنوعی است. پیش از این نیز مدلهایی مانند Gemma 2 9B و Gemma 2 27B از سوی گوگل معرفی شده بودند، اما تمرکز بر روی مدلهای تعبیهشده (Embedding) برای اجرا روی سختافزار مصرفکننده، زنجیره ابزارهای محلی را کاملتر میکند.
استفاده از معماریهای پردازش عصبی (NPU) موجود در تراشههای سری M اپل، به این برنامه اجازه میدهد تا بدون ایجاد بار اضافی روی پردازنده اصلی (CPU) یا مصرف بیرویه انرژی، عملیات پردازش زبان طبیعی و پردازش چندوجهی را با بازدهی بالا انجام دهد.