استارتاپ مطرح حوزه هوش مصنوعی، Instinct، که به‌تازگی موفق به جذب سرمایه یک میلیارد دلاری در دور سری C شده است، با معرفی قابلیت جدیدی تحت عنوان Instinct Selections با موجی از انتقادات کاربران مواجه شده است. این قابلیت که با هدف ارائه توصیه‌های شخصی‌سازی‌شده در حوزه‌های سفر، خرید و خدمات طراحی شده، اکنون به دلیل ارسال پیام‌های ناخواسته و شباهت عملکردش به پلتفرم‌های تبلیغاتی، تجربه کاربری را مخدوش کرده است.
معماری توصیه‌های انسانی و تقابل آن با تجربه کاربری
نوآ شین (Noah Shinn)، بنیان‌گذار Instinct، در مهرماه ۱۴۰۵ (سپتامبر ۲۰۲۶) از رویکرد جدید این شرکت برای تزریق «سلیقه انسانی» به نتایج هوش مصنوعی رونمایی کرد. برخلاف مدل‌های زبانی متداول که صرفاً بر اساس داده‌های آموزشی وب فعالیت می‌کنند، این ویژگی از همکاری با متخصصان حوزه‌های مختلف نظیر سرآشپزها، معماران و راهنمایان سفر بهره می‌برد. ایده اولیه، ارائه لیستی از جواهرات پنهان محلی و محصولات تخصصی است که از فیلتر تایید انسانی عبور کرده‌اند.
با این حال، پیاده‌سازی فنی این قابلیت در لایه تعاملی، با انتقادات شدیدی روبرو شده است. کاربران گزارش می‌دهند که سیستم به جای انتظار برای درخواست کاربر، به‌طور فعال و خودکار شروع به پیشنهاد خرید اقلامی کرده است که هیچ تناسبی با نیازهای فعلی آن‌ها نداشته است. این سبک «ارسال محصول» (Product Push) بدون درخواست (Unsolicited)، مرز بین یک دستیار مفید و یک سیستم تبلیغاتی را برای کاربران از بین برده است.
تحلیل فنی و اخلاقی: چرا کاربران «اِو» (ewwww) می‌کنند؟
یکی از دلایل اصلی نارضایتی کاربران، نفوذ سیستم به داده‌های حریم خصوصی برای استخراج سیگنال‌های خرید است. وقتی هوش مصنوعی بر اساس برنامه‌های سفری که در ایمیل‌های کاربر شناسایی کرده، پیشنهاد خرید لوازم جانبی سفر یا تجهیزات کوهنوردی می‌دهد، کاربران احساس می‌کنند حریم خصوصی آن‌ها برای تولید درآمد تبلیغاتی نقض شده است. متخصصان حوزه فناوری بر این باورند که کلید موفقیت چنین سیستم‌هایی، تکنولوژی سیستم‌های توصیه‌گر (Recommender Systems) در لایه کانتکست است؛ یعنی پیشنهادها باید کاملاً با گفتگوی فعلی منطبق باشند و نه با تحلیل‌های پس‌زمینه که کاربر از آن‌ها آگاه نیست.
مشخصات و ابعاد کسب‌وکار Instinct
- ارزش‌گذاری بازار: ۱۰ میلیارد دلار (پس از جذب سری C).
- نوع سرویس: دستیار هوشمند با قابلیت انجام تراکنش‌های مستقیم (Transaction-Agent).
- حجم تراکنش: نزدیک به ۱ میلیارد دلار تراکنش سالانه در پلتفرم.
- تمرکز تجاری: بیش از ۵۰ درصد تراکنش‌های انجام شده مرتبط با حوزه سفر و گردشگری است.
- مدل تعامل: مبتنی بر مدل‌های هوش مصنوعی مولد با تزریق داده‌های انسانی (Human-in-the-loop).
چالش‌های پیش رو برای Instinct
در حالی که رقابت در بازار دستیارهای هوشمند توسط شرکت‌هایی نظیر متا و OpenAI بسیار داغ است، Instinct نیاز دارد تا مدل درآمدی خود را بدون آسیب زدن به اعتماد کاربران نهایی کند. عدم شفافیت درباره مدل‌های همکاری با شرکای تجاری و فقدان گزینه‌های شخصی‌سازی برای غیرفعال کردن پیشنهادات ناخواسته، می‌تواند باعث ریزش کاربران شود. به اعتقاد تحلیلگران، در دنیای هوش مصنوعی، اگر کاربر حس کند دستیار او به «یک ویترین فروشگاهی آمازون» تبدیل شده است، ارزش افزوده هوش مصنوعی برای او به سرعت به صفر می‌رسد.
