أحد صفحات التقدم العلمي للنشر
أعمالاخترنا لكالتجارة الإلكترونيةبحثذكاء اصطناعيعلوم الكمبيوتر

الآثار الجانبية الخفية لأنظمة التوصيات

يجب أن يكون كل من المستهلكين والأعمال التجارية على
دراية بالتحيزات الممكنة في اتخاذ القرارات والناتجة
عن التوصيات عبر الإنترنت.

غيديميناس أدومافيسيوس، جيسي بوكستيدت، شون بي. كورلي، جينغ جينغ تشانغ، سام رانسبوتام

تؤثر محركات التوصيات Recommendation engines في الاختيارات التي نجريها كل يوم – ما الكتاب الذي سنقرؤه تالياً، وما الأغنية التي سننزلها، ومن الشخص الذي سنصادفه.

وفي أفضل حالاتها، فإن الأنظمة الذكية تخدم المشترين والبائعين على حد سواء: يوفر المستهلكون Consumers وقت الخوض وجهده في الإمكانات الضخمة للسوق الرقمية، وتبني الأعمال Businesses الولاء وتزيد المبيعات من خلال توفير تجارب متميزة.
لكن كما هي الحال مع العديد من التكنولوجيات الجديدة الأخرى، تكون التوصيات الرقمية أيضاً مصدر عواقب غير مقصودة. ويظهر بحثنا أن التوصيات تفعل أكثر من مجرد عكس تفضيلات المستهلك – إنها في الواقع تُشكِّلُها. وإذا بدا هذا الأمر مثل تمييز دقيق؛ فهو ليس كذلك. فأنظمة التوصيات تتمتع بإمكانية تشجيع التحيزات وتؤثر في المبيعات بطرق غير متوقعة. وللاستنتاجات التي توصلنا إليها انعكاسات مهمة على تصميم محركات التوصيات، ليس فقط في قطاع الموسيقى – أساس دراستنا – بل كذلك في أي إطار يستخدم فيه تجار التجزئة خوارزميات التوصيات لتحسين تجربة العملاء وزيادة المبيعات.

اختيار المستهلكين في سوق مزدحم

أثرت التجارة الإلكترونية E-commerce بشكل كبير في اختيار المستهلكين. فالأعمال، غير المُقيَّدة بالحدود المادية للمباني، تستطيع تقديم خيارات غير محدودة فعلياً من المنتجات بالاتصال بالإنترنت، ما يتيح للمستهلكين الوصول ليس فقط إلى البنود الشعبية بل أيضاً تلك غير المعروفة. وهناك أيضاً مزيد من الفرص ومزيد من العقبات. وفيما يواجه المستهلكون مجموعة أوسع من الخيارات، يجب عليهم ممارسة قدر أكبر من الحرص عند تقييم المنتجات الممكن شراؤها أو استهلاكها. وتُعتبَر البضائع القائمة على التجربة (أو المستندة إلى الذائقة) مثل الموسيقى والكتب والأفلام معقدة بشكل خاص: يجب أن يصرف المستهلكون وقتاً في اختبارها قبل أن يعرفوا ما إذا كانوا يحبونها. وحتى إذا كانت الأسعار الرسمية للبضائع غير مرتفعة، أو جرى تضمين البضائع كجزء من خدمات الاشتراكات، فإن الوقت الذي يجب على المستهلك صرفه لتقييم كل منها يُعتبَر قيماً. والأسوأ من ذلك، أن التكلفة المصروفة على شكل وقت التقييم
غير قابلة للاسترداد: لا يمكن للمستهلكين إلغاء قراءتهم أو مشاهدتهم للبضائع التي يتبين أنها غير مناسبة تماماً.

وفي هذا السياق، فإن الخوارزميات المتطورة القادرة على تقديم توصيات شخصية فاعلة توفر منافع كبيرة. فهي تقلل وقت البحث والتقييم وتدفع المبيعات وتقدم بنوداً جديدة للمستهلكين. ينتج نحو %30 من المشاهدات لصفحات أمازون Amazon عن التوصيات،1 ويأتي أكثر من %80 من المحتوى الذي يشاهده المشتركون في نتفليكس Netflix من خلال توصيات شخصية،2 ويمكن لأكثر من 40 مليون مستمع إلى سبوتيفاي Spotify الآن الوصول إلى قوائم تشغيل شخصية أنشأتها وحدتها المسماة اكتشف أسبوعياً Discover Weekly التي تؤدي إلى أكثر من نصف حالات الاستماع الشهرية إلى أكثر من ثمانية آلاف فنان.3

أكثر من مجرد توصية

بالنسبة إلى المستهلك، تكون الطريقة التي تتوصل بها الأنظمة إلى توصيات شخصية سهلة الفهم نسبياً. فاستناداً إلى الأنشطة السابقة للعميل وتفضيلاته المعلنة، تقدم هذه الأنظمة خيارات جديدة: قوائم انتظار بالبنود المثيرة للاهتمام الممكنة، مثل «الأفلام الأخرى التي يمكنكم الاستمتاع بها» من نتفليكس و«العملاء الذين اشتروا هذا اشتروا أيضاً ذلك» من أمازون. ومع ذلك وكما تظهر أبحاثنا، تفعل توصيات شخصية كهذه أكثر من مجرد تقديم منتجات جديدة للمستهلكين؛ هي تشكل أيضاً تفضيلاتهم وسلوكياتهم المستقبلية بطرق غير متوقعة.

وقد نظرنا في كيفية تأثير التوصيات الشخصية في التفضيلات والاستعداد للدفع في مقابل بضاعة رقمية قائمة على التجربة الشائعة: الموسيقى. وكما هي الحال في القطاعات الأخرى التي تشمل البضائع القائمة على التجربة، تزعزع النماذج الجديدة (مثل سبوتيفاي وأبل ميوزيك Apple Music) قطاع الموسيقى. فقنوات التوزيع الرقمية، بما في ذلك الاشتراكات المدفوعة، والبث حسب الطلب، والتنزيلات الرقمية، تشكل حالياً نحو %80 من سوق الموسيقى في الولايات المتحدة. وبغض النظر عن قناة التوزيع، تؤثر الخوارزميات ومحركات التوصيات بشكل ذي دلالة في الاستهلاك الرقمي للموسيقى، إذ تضيف التوصيات قيمة في تحديد الأغاني غير المعروفة التي من المرجح أكثر أن تهم المستهلك. ومن المثير للدهشة أن أنظمة التوصيات تغير مقدار استعداد المستهلكين إلى دفع ثمن منتج ما بمجرد الاستماع إليه. ولا يفضل المستهلكون فقط ما جربوه ويعرفون أنهم يستمتعون به؛ هم يفضلون أيضاً ما قال النظام إنهم سيحبونه. وهذا أمر مثير للدهشة؛ لأن المستهلكين يجب ألا يحتاجوا إلى نظام

يخبرهم عن مدى استمتاعهم بأغنية سمعوها للتو. وقد يدفعنا ظهور أنظمة التوصيات إلى التشكيك في ذائقتنا الخاصة. فنحن ننتقل من سؤال أنفسنا: «هل يعجبني هذا؟»، لنسأل: «هل يجب أن يعجبني هذا؟»

أنظمة التوصيات قد تدفعنا إلى التشكيك في ذائقتنا الخاصة. فنحن ننتقل من سؤال أنفسنا: «هل يعجبني هذا؟»، لنسأل:
«هل يجب أن يعجبني هذا؟»

تفحص مستهلكي الموسيقى

تستند الاستنتاجات التي توصلنا إليها إلى ثلاث تجارب مختبرية مع ما مجموعه 169 مستهلكاً للموسيقى: كانوا طلاباً جامعيين. ففي التجربة الأولى، استمع المشاركون إلى الأغاني وأخبرونا عن المبلغ الذي سيدفعونه في مقابل كل أغنية. وخصصنا بطريقة عشوائية تقييمات توصيات للأغاني المختارة. وقدمنا هذه التقييمات (بين نجمة وخمس نجوم) كتوقعات لنظام توصية حول تفضيلهم لكل أغنية. وإذا رغب المشاركون، كان يمكنهم الاستماع إلى عينات من الأغاني للحد من عدم اليقين في شأن مدى إعجابهم بالموسيقى. ولم يكن المشاركون على دراية بأننا أنشأنا تقييمات التوصيات بشكل عشوائي واعتقدوا أن التقييمات احتُسِبت على أساس تفضيلاتهم من البيانات السابقة. وغيرت التوصيات بشكل ذي دلالة الاستعداد للدفع، فزيادة في واقع نجمة واحدة في تقييم التوصيات أنشأت زيادة بلغت في متوسط %12 إلى %17 في الاستعداد للدفع. وهذه النتيجة مثيرة، إذ إن التوصيات العشوائية لم تكن مرتبطة بالتفضيلات الفعلية للمشاركين.

وتترتب الآثار نفسها على التوصيات الحقيقة التي تحتوي على أخطاء. وفي تجربتنا الثانية، استخدمنا توصيات حقيقية بأغانٍ مستمدة من خوارزمية متطوّرة تُستخدَم على نطاق واسع. لكننا قدمنا عن عمد خطأً عشوائياً في التقييمات المتوقعة، تراوح من 1.5- نجمة إلى 1.5+ نجمة. ومرة أخرى، كان المشاركون غير مدركين للتلاعب بالتوصيات وأمكنهم الاستماع إلى عينات من الأغاني. وأدت زيادة متعمّدة في تقييم التوصيات الحقيقية بواقع نجمة واحدة من الاستعداد للدفع بنسبة %10 إلى %13، في المتوسط.

وفي أول تجربتين، أمكن للمشاركين الاستماع إلى عينات من أغانٍ مدةُ كل منها 30 ثانية (بما أن الاستماع إلى عينات هي ممارسة شائعة على مواقع بيع الموسيقى بالتجزئة)، لكن الاستماع لم يكن إلزامياً. وهكذا، قد تنبع التغييرات في الاستعداد للدفع من استخدام المشاركين التقييمات بدلاً من الاستماع بأنفسهم، لكننا لا نعرف إلى أي درجة. وعلى الرغم من أنّ من المهم والمفيد معرفة ذلك، فإن من غير المستغرب أن تؤثر التوصيات في الاستعداد للدفع عندما يعرف المستهلكون معلومات أقل عن منتج؛ وهذا هو، على أي حال، الغرض الواضح من أنظمة التوصيات. وفي تجربتنا الثالثة وكطريقة لاستكشاف الأثر الأكثر إثارة للاهتمام والإشكالي ربما عندما يكون المستهلكون على دراية بمنتج، طلبنا إلى المشاركين الاستماع إلى كل عينات الأغاني قبل أن يشيروا إلى استعدادهم للدفع. ومرة أخرى، أثرت تقييمات المراجعات التي أُنشئت عشوائياً بشكل ذي دلالة في رغبة المستهلكين في الدفع. ورأينا زيادة تقريبية بنسبة %8 إلى %12 في الاستعداد للدفع في مقابل كل زيادة بواقع نجمة واحدة في تقييمات التوصيات المعروضة. ولا يزال أثر التوصيات في الاستعداد للدفع قوياً حتى مباشرة بعد الاستهلاك الإلزامي للبند الموصى به، عندما يجب أن يقل عدم اليقين بملاءمة ذلك لتفضيلات المستهلك.

النتيجة بالنسبة إلى المستهلكين وتجار التجزئة

بالنسبة إلى المستهلكين، تمتلك محركات التوصيات جانباً مظلماً محتملا – إذ يمكنها التلاعب بالتفضيلات بطرق لا يدركها المستهلكون. فالتفاصيل الأساسية لخوارزميات التوصيات بعيدة عن الشفافية. وتقترن محركات التوصيات المعيبة التي تقدّر بشكل غير دقيق التفضيلات الحقيقية للمستهلكين بخفض الاستعداد للدفع في مقابل بعض الأشياء وزيادته للبعض الآخر، بغض النظر عن احتمال ملاءمتها الفعلية. وهذا قد يغري المؤسسات الأقل تمسكا بالمعايير الأخلاقية لتضخيم التوصيات بشكل مصطنع. وحتى بغض النظر عن الممارسة السيئة السمعة المتمثلة في التلاعب المباشر، يمثل الخطأ العشوائي مشكلةً حقيقيةً لكل أنظمة التوصيات. مثلاً، أنظمة التوصيات الأفضل أداءً في مسابقة جائزة نتفليكس Netflix Prize التي تبلغ قيمتها مليون دولار، والتي استخدمت أحدث تطورات تعلم الآلة في خوارزميات التوصيات في ذلك الوقت، عانت انحرافا في تقديراتها للتقييمات بلغت نسبته في المتوسط %20 من مقياس التقييم (أي خطأ بلغ نحو 0.8 نجمة على مقياس من نجمة إلى خمس نجوم).

ويمثل التقييم الأكبر مما ينبغي والتقييم الأقل مما ينبغي مشكلتين. فالتقييمات المضخمة تؤدي إلى حضّ المستهلكين على شراء منتجات ربما لا يفكرون في شرائها بخلاف ذلك، فقد يشعِر المستهلكين بخيبة أمل من التوقعات التي لم تجرِ تلبيتها. ومن الممكن أن تؤدي التقييمات المنخفضة إلى تنفير المستهلكين بعيداً عن المنتجات التي قد يشترونها بخلاف ذلك. فالأخطاء ضارة في كلا الاتجاهين.
وتستمر الآثار إلى ما بعد الاستياء من عملية شراء واحدة. فهي تتراكم بمرور الوقت. وبعد أن يختبر المستهلكون منتجاً، تؤثر تعليقاتهم (مثل تقييمات المنتجات أو المشتريات) في التوقعات الشخصية المستقبلية. وقد تلوث الملاحظات المضللة النظامَ وتؤدي إلى حلقة مفرغة من التحيز – وهو في مجال البيع بالتجزئة بالاتصال بالإنترنت مكافئ للملاحظات الصوتية المعبرة عن الانزعاج. ويمكن للمصممين أيضاً الحصول على رؤية مضخمة بشكل مصطنع لدقة التوقع؛ مما يقلِّل من قدرتهم على تحسين الأنظمة. والأسوأ من ذلك حتى، أن الوكلاء العديمي الضمير يستطيعون استخدام نقاط الضعف هذه للتلاعب بأنظمة التوصيات.

وبالنظر إلى أن التوقع المثالي غير ممكن، يجب على تجار التجزئة والمديرين أن يكونوا على دراية بالتضاد الذي قد ينشأ عن الآثار الجانبية غير المقصودة لتوصياتهم. وتوضح الاستنتاجات التي توصلنا إليها أهمية الحد من التحيز في أنظمة التوصيات، مثلاً، من خلال الابتكارات في الخوارزميات، وتصميم واجهة المستخدم، وتوفير الإشراف البشري، كأولوية مستمرة في المستقبل.

غيديميناس أدومافيسيوس Gediminas Adomavicius

غيديميناس أدومافيسيوس Gediminas Adomavicius

أستاذ المعلومات وعلوم القرار من كلية كارلسون للإدارة بجامعة مينيسوتا University of Minnesota.

جيسي بوكستيدت Jesse Bockstedt

جيسي بوكستيدت Jesse Bockstedt

أستاذ مشارك في أنظمة المعلومات وإدارة العمليات في كلية غويزويتا للأعمال بجامعة إيموري Emory University.

شون بي. كورلي Shawn P. Curley

شون بي. كورلي Shawn P. Curley

أستاذ المعلومات وعلوم القرار في كلية كارلسون للإدارة.

جينغ جينغ تشانغ Jingjing Zhang

جينغ جينغ تشانغ Jingjing Zhang

أستاذ مساعد في أنظمة المعلومات من كلية كيلي للأعمال بجامعة إنديانا Indiana University.

سام رانسبوتام Sam Ransbotham (@ransbotham)

سام رانسبوتام Sam Ransbotham (@ransbotham)

أستاذ مشارك في أنظمة المعلومات من كلية كارول للإدارة ببوسطن كوليدج Boston College.

المراجع (3)

  1. A. Sharma, J.M. Hofman, and D.J. Watts, “Estimating the Causal Impact of Recommendation Systems From Observational Data,” Proceedings of the Sixteenth ACM Conference on Economics and Computation (Portland, Oregon, June 15-19, 2015): 453-470.
  2. C.A. Gomez-Uribe and N. Hunt, “The Netflix Recommender System: Algorithms, Business Value, and Innovation,” ACM Transactions on Management Information Systems 6, no. 4 (January 2016): 13
  3. E. Van Buskirk, “The Most Streamed Music From Spotify Discover Weekly,” July 7, 2016.
اظهر المزيد

مقالات ذات صلة

زر الذهاب إلى الأعلى