آمازون دستیار Muse متا را مسدود کرد

ماجرا چیست؟

به گزارش The Verge AI، آمازون دستیار هوش مصنوعی Muse شرکت متا را از خرید در پلتفرم تجارت الکترونیک خود بازداشته است. بر اساس گزارش GeekWire که The Verge AI به آن استناد کرده، از روز یکشنبه پیامی به کاربران Muse نمایش داده می‌شود که در آن آمده ادامه‌ی دسترسی یک عامل هوش مصنوعی غیرمجاز، شرایط استفاده آمازون را نقض می‌کند؛ شرایطی که به گفته‌ی آمازون، مشتریانش آن را پذیرفته‌اند.

بر پایه‌ی همین گزارش، متا پیش از این به آمازون اطلاع نداده بود که Muse قصد دسترسی به فروشگاه این شرکت را دارد. آمازون همچنین نگرانی‌هایی درباره‌ی حریم خصوصی و امنیت مطرح کرده است؛ از جمله اینکه Muse هنگام مرور وب خودش را معرفی نمی‌کند و به‌نظر می‌رسد اطلاعات ورود مشتریان را هم ثبت می‌کند. سخنگوی آمازون در گفت‌وگو با GeekWire گفته است که به‌نظر این شرکت روشن است که اپلیکیشن‌های شخص ثالثی که خرید از کسب‌وکارهای دیگر را به نمایندگی از مشتری انجام می‌دهند، باید شفاف عمل کنند و به تصمیم ارائه‌دهنده‌ی سرویس درباره‌ی مشارکت یا عدم مشارکت احترام بگذارند. The Verge AI اعلام کرده برای دریافت نظر متا با این شرکت تماس گرفته است.

متا هنگام معرفی Muse در همین ماه گفته بود این دستیار هوش مصنوعی نمی‌تواند جزئیات امن ورود یا اطلاعات پرداخت کارت را ببیند. The Verge AI در جریان آزمایش خود توانسته بود با Muse لباس‌های زیر از آمازون بخرد، در حالی که محصولات دیگری هم در سبد خرید بودند. با این حال، از زمان عرضه، نگرانی‌هایی درباره‌ی حریم خصوصی مطرح شده و گزارش‌هایی منتشر شده که می‌گویند Muse می‌تواند محتوای پیام‌های کاربران را ببیند، هرچند مجوز دسترسی لازم برای این کار فعال نبوده است.

این ماجرا تازه‌ترین تلاش آمازون برای مقابله با رقابت سرویس‌های عاملی هوش مصنوعی و نگه‌داشتن مشتریان در مسیر خرید مستقیم از خودش است. آمازون پیش‌تر در نوامبر سال گذشته از Perplexity شکایت کرده بود؛ اقدامی مشابه برای دور نگه‌داشتن پلتفرم آمازون از تجربه‌ی خرید Comet این ارائه‌دهنده‌ی جست‌وجوی هوش مصنوعی. بر اساس گزارش، در ماه اوت قاضی در آن پرونده به نفع Perplexity رأی داده است. همچنین از ژوئیه، ایمیل‌های تأیید سفارش آمازون به‌شکل محسوسی خلوت‌تر شده‌اند؛ به این معنا که نام دقیق کالا و تصویر محصول از آن‌ها حذف شده تا استخراج این اطلاعات توسط سرویس‌های هوش مصنوعی بیرونی محدود شود.

جزئیات فنی به زبان ساده

برای فهم این ماجرا باید تفاوت دو نوع کاربرد هوش مصنوعی را در نظر گرفت. در حالت ساده، کاربر از یک چت‌بات می‌پرسد چه محصولی بخرد و خودش سفارش را ثبت می‌کند. اما در حالت «عامل» (agent)، هوش مصنوعی به‌جای کاربر وارد سایت فروشنده می‌شود، صفحه‌ها را می‌گردد، محصول را انتخاب می‌کند و حتی مراحل خرید را تا انتها پیش می‌برد. این نوع سرویس به «عامل خرید» یا shopping agent معروف است.

نکته‌ی فنی مهم اینجاست که چنین عاملی معمولاً باید خودش را به سایت مقصد معرفی کند؛ یعنی سایت بفهمد که یک ربات یا سرویس شخص ثالث در حال گردش در صفحات است، نه یک انسان. اگر این معرفی انجام نشود، سایت نمی‌تواند رفتار آن را مدیریت، محدود یا ثبت کند. آمازون در این مورد دو ایراد مطرح کرده است: نخست اینکه Muse هنگام مرور، هویت خود را اعلام نمی‌کند و دوم اینکه به‌نظر می‌رسد اطلاعات ورود مشتریان را ثبت می‌کند. این دو موضوع از منظر امنیتی حساس‌اند، چون ورود خودکار به حساب کاربری و ذخیره‌ی اطلاعات احراز هویت، سطح ریسک را برای کاربر و فروشنده بالا می‌برد.

از سوی دیگر، متا هنگام معرفی Muse تأکید کرده بود که این دستیار به جزئیات امن ورود یا اطلاعات پرداخت کارت دسترسی ندارد. اما گزارش‌هایی که از دیدن محتوای پیام‌های کاربران خبر می‌دهند، حتی اگر مربوط به مجوزی غیرفعال باشد، به بحث اعتماد به این نوع سرویس‌ها دامن می‌زند. در مجموع، مسئله فقط فنی نیست؛ به این برمی‌گردد که چه کسی کنترل تجربه‌ی خرید و داده‌های آن را در دست دارد.

چرا این اتفاق مهم است؟

این ماجرا یک الگوی تکرارشونده را نشان می‌دهد: پلتفرم‌های بزرگ خرده‌فروشی و سرویس‌های عاملی هوش مصنوعی بر سر دسترسی به داده و تجربه‌ی خرید به تقابل رسیده‌اند. آمازون سال‌ها روی جذب مستقیم مشتری به اپ و سایت خود سرمایه‌گذاری کرده و حالا می‌بیند سرویس‌هایی مثل Muse ممکن است این مسیر را دور بزنند؛ کاربر به‌جای گشتن در آمازون، فقط به دستیارش می‌گوید چه می‌خواهد.

برای صنعت هوش مصنوعی، این اتفاق یک هشدار عملی است. سرویس‌هایی که قصد دارند به‌جای کاربر در سایت‌های دیگر اقدام کنند، باید از ابتدا با آن سایت‌ها توافق و پروتکل روشنی داشته باشند. در غیر این صورت، احتمال مسدود شدن یا برخورد حقوقی وجود دارد. پرونده‌ی Perplexity هم نشان می‌دهد که این تنش‌ها به دادگاه کشیده می‌شود و نتیجه‌اش لزوماً به نفع پلتفرم بزرگ نیست؛ چراکه در آن پرونده، قاضی در ماه اوت به نفع Perplexity رأی داد.

برای کاربران هم این پیام را دارد که تجربه‌ی «بگو و بخر» هنوز شکننده است. سرویس ممکن است یک روز کار کند و روز بعد با پیام مسدود شدن روبه‌رو شود. این ناپایداری، به‌ویژه برای کسانی که می‌خواهند خریدهای روزمره را به دستیار هوشمند بسپارند، یک ریسک واقعی است. علاقه‌مندان به روندهای صنعت می‌توانند آخرین اخبار صنعت و سیاست‌گذاری را دنبال کنند.

این خبر برای کاربران چه کاربردی دارد؟

اگر از دستیارهای هوش مصنوعی برای خرید استفاده می‌کنید، این ماجرا نشان می‌دهد که نباید همه‌ی فرایند خرید را بدون نظارت به یک عامل خودکار سپرد. بهتر است پیش از تأیید نهایی، خودتان سفارش، قیمت و مشخصات کالا را بررسی کنید. همچنین اگر سرویسی از شما می‌خواهد اطلاعات ورود یا کارت بانکی را در اختیارش بگذارید، این درخواست را جدی بگیرید و درباره‌ی نحوه‌ی نگهداری آن اطلاعات بپرسید.

نکته‌ی دیگر اینکه محدود شدن دسترسی این دستیارها به فروشگاه‌های بزرگ، می‌تواند به‌سرعت تجربه‌ی کاربری را تغییر دهد. پس اگر یک قابلیت خرید خودکار ناگهان از کار افتاد، احتمالاً مشکل از دستگاه یا حساب شما نیست؛ ممکن است فروشنده دسترسی آن سرویس را بسته باشد. در گزارش منبع به جزئیات دسترسی کاربران در ایران اشاره‌ای نشده است و درباره‌ی آن نمی‌توان اظهارنظر قطعی کرد.

تحلیل: بعد از این چه می‌شود؟

به‌نظر می‌رسد دوره‌ی «دسترسی آزاد» عامل‌های هوش مصنوعی به فروشگاه‌های بزرگ به پایان نزدیک می‌شود. پلتفرم‌ها به‌سرعت یاد گرفته‌اند که داده و مسیر خرید، دارایی راهبردی آن‌هاست و اجازه نمی‌دهند سرویس دیگری آن را واسطه‌گری کند. ممکن است در آینده شاهد شکل‌گیری توافق‌های رسمی میان فروشندگان و ارائه‌دهندگان دستیار هوشمند باشیم؛ چیزی شبیه قراردادهایی که امروز میان پلتفرم‌ها و سرویس‌های شخص ثالث بسته می‌شود.

از سوی دیگر، احتمال دارد شرکت‌هایی مثل متا به‌جای تکیه بر سایت فروشنده، مسیرهای دیگری مثل همکاری مستقیم با برندها یا فروشگاه‌های اختصاصی را در پیش بگیرند. همچنین می‌توان انتظار داشت فشار رقابتی، برخی فروشندگان را به سمت باز کردن API رسمی برای عامل‌های خرید سوق دهد؛ اما این کار نیازمند استانداردهای امنیتی و شفافیت در معرفی ربات‌هاست.

نکته‌ی مهم‌تر، پرونده‌ی حقوقی است. اگر دادگاه‌ها در پرونده‌های مشابه باز هم به نفع سرویس‌های عاملی رأی بدهند، ممکن است پلتفرم‌ها ناچار شوند به‌جای مسدودسازی، سازوکار فنی و قراردادی روشنی برای این دسترسی طراحی کنند. در مقابل، اگر پلتفرم‌ها پیروز شوند، احتمالاً شاهد دیوارهای بلندتر حول داده‌ی خرید خواهیم بود. در هر دو حالت، کاربر نهایی میان راحتی و کنترل، انتخاب دشواری پیش رو دارد.