قضايا

صندوق سكينر للقرن الحادي والعشرين

بقلم: رونالد إي روبرتسون

ترجمة: محمد عبد الكريم يوسف

***

هذه المقالة جزء من العدد الخاص لدينا "الحالة الذهنية المتصلة"، الذي يستكشف تأثير استخدام التكنولوجيا على سلوكنا وعلاقاتنا مع أنفسنا والمحيط.

بدا سؤال البحث وكأنه تقاطع بين الخيال العلمي ونظرية المؤامرة. لم أصدق أننا كنا نطلب ذلك. لكن عالم أسلافنا النفسيين قد تغير، وكان علينا تغيير تفكيرنا لمواكبة ذلك. في عام ٢٠١٣، عملت تحت إشراف روبرت إبشتاين، آخر طالب دكتوراه في بي إف سكينر، لبدء سلسلة من التجارب السلوكية لمعالجة سؤال مقلق: هل يمكن استخدام محرك بحث للتأثير في عقول الناخبين؟

كانت الفكرة بسيطة. يمكن لتأثيرات النظام، وهي إحدى أقدم التأثيرات وأكثرها قوة تم اكتشافها على الإطلاق في العلوم النفسية، أن تمارس تأثيرًا قويًا على المواقف والمعتقدات والسلوكيات من خلال الترتيب الاستراتيجي وعرض المعلومات. هذا يعني أنه يمكنك التأثير على اختيار النبيذ لشخص ما، وتفضيله لنوع واحد من العلاج الطبي على الآخر، والمرشح الذي يختاره على ورقة الاقتراع بناءً على الترتيب الذي تقدمه به . في العالم الرقمي، يصبح التحكم في عرض المعلومات أسهل. من خلال ترتيب المعلومات، يمكن للمنصات المستندة إلى الويب التأثير على اختيار الفندق الذي تحجز لديه، والموسيقى التي تقيمها، وعلى فيسبوك، وعلى اللغة العاطفية التي تستخدمها .

بالنظر إلى هذه النتائج، والعديد من النتائج المماثلة على محركات البحث، ماذا سيحدث إذا تعرض الأشخاص لتصنيفات البحث المتحيزة - نتائج البحث مرتبة لتفضيل مرشح سياسي أو آخر؟

للإجابة على هذه الأسئلة، أنشأنا أنا والدكتور إبشتاين محرك بحث وهمي، واخترنا انتخابات قريبة من المحتمل ألا تكون على دراية بالموضوعات - انتخابات عام ٢٠١٠ لمنصب رئيس وزراء أستراليا - وقمنا بتجميع نتائج بحث حقيقية وصفحات ويب ذات صلة للمرشحين الرائدين، جوليا جيلارد وتوني أبوت. بعد التصنيفات الجماعي لصفحات الويب لتحديد المرشح الذي يفضلونه، اخترنا أفضل ١٥ صفحة ويب تفضل كل مرشح واستخدمنا هذه النتائج الثلاثين لصياغة ثلاث مجموعات من تصنيفات البحث. في إحداها، تم ترتيب النتائج بترتيب تنازلي حسب مدى تفضيلها لجيلارد. في الثانية، تم ترتيب النتائج بترتيب تنازلي حسب مدى تفضيلها لشركة أبوت. والثالث، سيطرتنا، تناوبت النتائج بين تفضيل المرشحين. تم تخصيص الموضوعات بشكل عشوائي لكل مجموعة، واستخدمت نفس النتائج الثلاثين في كل المجموعات. فقط الترتيب متنوع.

هل يمكن استخدام محرك بحث للتأثير في عقول الناخبين؟

في عام ٢٠١٥، بعد خمس تجارب شملت أكثر من ٤٥٠٠ شخص في الولايات المتحدة والهند، اكتشفنا أنه في المتوسط، عندما كان الأشخاص غير ملمين بالمرشحين والانتخابات (باستخدام الانتخابات الأسترالية لعام ٢٠١٠ حول موضوعات أمريكية)، يمكننا تغيير النسبة من الناخبين المترددين الذين أشاروا إلى أنهم سيصوتون لمرشح معين بنسبة ٣٧.١ في المائة، مع حدوث تحولات تصل إلى ٨٠ في المائة في بعض المجموعات الديموغرافية (مثل الجمهوريين المعتدلين).

في تجربتنا الخامسة، استكشفنا تأثير الألفة من خلال تحديث محرك البحث الخاص بنا بالنتائج وصفحات الويب والتصنيفات الجديدة وأجرينا تجربتنا على الناخبين الهنود الحقيقيين المترددين في خضم انتخابات لوك سابها لعام ٢٠١٤ في الهند، وهي أكبر انتخابات ديمقراطية في التاريخ . في المتوسط، تمكنا من تغيير الأصوات بنسبة ٢٠ في المائة أو أكثر، مع حدوث تحولات تصل إلى ٧٢.٧ في المائة في بعض المجموعات الديموغرافية (على سبيل المثال، الذكور العاطلين عن العمل من ولاية كيرالا). لكن الصدمة الأكبر كانت أن ٩٩.٥ بالمائة من الأشخاص في تجربة الهند لم يظهروا أي وعي بتلاعبنا التجريبي - تصنيفات البحث المتحيزة. قمنا بتسمية هذه الظاهرة بتأثير معالجة محرك البحث ونشرنا نتائجنا في المجلة وقائع الأكاديمية الوطنية للعلوم .

توضح تجارب الأكاديمية الوطنية للعلوم مدى سهولة التأثير على المستخدمين دون وعيهم، حتى عندما تكون المخاطر كبيرة. منذ عام ٢٠١٥، أظهرنا أنه يمكن قمع الأكاديمية الوطنية للعلوم إلى حد ما عن طريق تنبيه المستخدمين إلى التصنيفات المتحيزة، لكن القمع التفاعلي للأكاديمية الوطنية للعلوم من خلال التنبيهات لم يتطابق مع المنع المسبق للتأثير الذي رأيناه في مجموعتنا الضابطة. يشير هذا إلى الفعالية المحتملة لقاعدة الوقت المتساوي (على سبيل المثال، الترتيب المتناوب).

لقد ظهر أيضًا أن نشاك الأكاديمية الوطنية للعلوم يمتد إلى موضوعات أخرى، مثل المعتقدات حول التكسير والذكاء الاصطناعي وما إذا كانت المثلية الجنسية خيارًا، وقد أظهر باحثون آخرون أن التأثير يمكن أن يؤثر على المعتقدات حول الوقود الحيوي . في ضوء التقارير الأخيرة التي توثق كيف عثر منكرو تغير المناخ على طريقة للظهور في الجزء العلوي من عمليات بحث غوغل والتقارير الأخرى التي توثق كيفية ظهور كل من " أهم الأخبار" و"مربع الإجابة " في غوغل —مكونات نتائج البحث التي تظهر عادةً بالقرب من الجزء العلوي أو في الأعلى من تصنيفات البحث - روجت للمعلومات المضللة، يجب أن تتوقف القوة المؤثرة للأكاديمية الوطنية للعلوم على الجميع. على الرغم من أن محركات البحث هي الأولى من نوعها الأماكن التي يذهب إليها الأشخاص للعثور على المعلومات، من المهم ملاحظة أن تأثيرات الترتيب تظهر فعليًا على أي نظام أساسي يقوم بتصنيف المحتوى، بما في ذلك فيسبوك و ريديت . لكن هذه التأثيرات تروي جزءًا فقط من القصة .

تشبه الأنظمة عبر الإنترنت إلى حد كبير مربعات الرقمية . تُعرف صناديق سكينر أيضًا بغرف التكييف الفعالة، وتمكن علماء السلوك الأوائل من دراسة مبادئ سلوك الحيوان في بيئة محكومة تمامًا (على سبيل المثال، آليات المكافأة والعقاب في الجرذان والحمام). وبالمثل، في البيئات عبر الإنترنت، يتمتع مصممو الويب بالتحكم المطلق ليس فقط في كل الحافز المتاح لك ولكن تقريبًا جميع خيارات الاستجابة الخاصة بك. على الرغم من ذلك، فإن هذه البيئات تفاعلية وتوفر لك إحساسًا بالتحكم. هذا يتركك منفتحًا على التأثيرات الخفية، مثل التملص من العمل الذي يبقي سائقي أوبر على الطريق لفترة أطول مما لو كانوا يفعلون. غالبًا ما يتم تخصيص هذه البيئات أيضًا لكل مستخدم، ومثل الموضوعات في تجارب الأكاديمية الوطنية للعلوم التي أجريتها أنا وإبشتاين، يبدو أن معظم الناس غير مدركين لهذا التخصيص .

على عكس علماء السلوك في الماضي، فإن المهندسين والمصممين العاملين في شركات مثل غوغل و أمازون و فيسبوك و مايكروسوفت و أبل لديهم حجم هائل من العينات التي يمكن الاستفادة منها، وتسمح لهم طبيعة البيئات الرقمية بتعديل تجاربهم بسرعة أثناء التنقل. غالبًا ما يتم تنسيق شكل ولون الأزرار التي تضغط عليها، وتوقيت كل إشعار تتلقاه، ومحتوى كل معلومة تصل إليك من خلال عملية التجريب الشامل التي تعتمد على البيانات. والشركات لا تجري هذه التجارب مرة واحدة فقط ؛ يديرونها ولكن مرارًا وتكرارًا، يخزنون كل حافز واستجابة، ويخصصون المعززات وجداول التعزيز لزيادة تأثيرهم. بمرور الوقت، يمكّن هذا الشركات من القيام بذلك توقع عادات كل مستخدم وشكلها وحالتها على نطاق لم يكن من الممكن تخيله من قبل. في دراسة متابعة أخرى لـ الأكاديمية الوطنية للعلوم، وجدت أنا وإيبشتاين أنه يمكننا تعزيز تأثير التصنيفات المتحيزة من خلال تكييف الموضوعات لتوقع أن تظهر الإجابات على استفساراتهم دائمًا في أعلى تصنيفات البحث الخاصة بهم.

هناك جانب إيجابي للتجارب عبر الإنترنت التي غالبًا ما نشارك فيها عن غير قصد. إنها تمكننا من العثور على المعلومات بسرعة، والتواصل مع الأشخاص ذوي التفكير المماثل، واكتشاف المحتوى الذي سنستمتع به - مما يوفر لنا الوقت الثمين الذي يمكننا قضاءه في مكان آخر. تكمن المشكلة، على الأقل بالنسبة لوسائل التواصل الاجتماعي ومنصات الترفيه، في أننا قد لا نقضي ذلك الوقت في مكان آخر. قد يكون هذا، بشكل عام، لأن هذا ليس ما صُممت من أجله هذه الأنظمة. تم تصميم العديد من الأنظمة عبر الإنترنت لإبقائنا مشاركين،لإبقاء الجرذ يدفع الرافعة وليس ليتركها، لجذب انتباهنا وتوجيه نقراتنا على الشاشة. لهذا السبب يمكنك التمرير لأسفل في موجز أخبار فيسبوك و تويتر لساعات دون العثور على الجزء السفلي، ولماذا يبدأ تشغيل الفيديو التالي على يوتيوب و نتفلكس تلقائيًا بعد الانتهاء من المقطع الحالي. وهي أبسط الطرق لزيادة احتمالية السلوك هو تسهيل السلوك .

كل ثانية نقضيها على منصة - قراءة منشور، ومشاهدة مقطع فيديو، وتقييم المحتوى - تصبح نقطة بيانات جديدة في ملفك الشخصي للسلوك عبر الإنترنت، وغالبًا ما يتم بيع هذا الملف الشخصي للمعلنين. البيانات الآن سلعة. وصفته مجلة الإيكونوميست بالزيت الجديد، وهذا هو السبب في أن الكتب المتعلقة بتصميم المنتجات التي تشكل الإدمان تتجه بين تلك الموجودة في صناعة التكنولوجيا. سواء أحببنا ذلك أم لا، فقد أصبحنا جزءًا من اقتصاد الانتباه .

الهدف من كل هذا هو القول إن العلوم الاجتماعية قد وصلت البلوغ ثم سن الرشد. أدى الإنترنت إلى ظهور العلوم الاجتماعية الحاسوبية - وهو مجال متعدد التخصصات يعتمد على البيانات ويستفيد من الأساليب الحسابية وبيانات التتبع الرقمية للإجابة على أسئلة العلوم الاجتماعية بمقياس وتفاصيل غير مسبوقين. على سبيل المثال، تم إجراء تجربة فيسبوك رائعة منهجية على تشجيع الأقران في عام ٢٠١٦ على ٤٨.٤ مليون مستخدم غير مرتاب. في التجربة، طُلب من مستخدمي فيسبوك إبداء الإعجاب أو التعليق على منشورات أصدقائهم في كثير من الأحيان، مما شجع هؤلاء الأصدقاء على النشر بشكل متكرر. وبالمثل، أجرى باحثو فيسبوك في عام ٢٠١١ تجربة على ٦١ مليون شخص باستخدام التأثير الاجتماعي لتعبئة الناخبين، مما دفع ٣٤٠.٠٠٠ شخص للتصويت ولم يكن ليصوتوا لولا ذلك. أدى ذلك إلى قيام جوناثان زيترين، أستاذ القانون وعلوم الكمبيوتر بجامعة هارفارد، بإثارة مخاوف بشأن قدرة الشركة على التلاعب الرقمي في عمل الدوائر الانتخابية .

تكمن المشكلة، باستثناء حفنة من الأوراق المنشورة في أماكن أكاديمية، في أن هذا العمل يتم إلى حد كبير خلف الأبواب المغلقة للشركات الخاصة التي لا تتمتع فعليًا بشفافية عامة أو مساءلة . والأسوأ من ذلك، أن الكثير من هذه التجارب تتم آليًا بشكل متزايد من خلال الخوارزميات المعقدة والذكاء الاصطناعي، وقد أعرب المطلعون السابقون عن شكوكهم في أن هذه الشركات يمكنها استيعاب التأثير المجتمعي لأنظمتها بشكل كامل. مع وجود أكثر من مليار مستخدم نشط يستخدمون خدماتهم مليارات المرات في اليوم، كيف يمكنهم ذلك؟ من المؤكد أن العلوم الاجتماعية الحاسوبية لا تخلو من مشاكلها، ومع دخول تقنيات الذكاء الاصطناعي الجديدة، مثل و أمازون ايكو و غوغل هوم، إلى منازل الملايين، فمن المؤكد أن هذه الصعوبات ستزداد.

اتخذ المنظمون في الاتحاد الأوروبي موقفًا أكثر عدوانية بشأن هذه القضايا من نظرائهم في الولايات المتحدة. يتجلى هذا بشكل ملحوظ في تغريم الاتحاد الأوروبي لشركة غوغل مبلغًا قياسيًا قدره ٢.٧ مليار دولار لتحيز تصنيفات البحث لصالح منتجات وخدمات ألفابيت (الشركة الأم لغوغل)؛ كما عرض الاتحاد الأوروبي عقدًا بقيمة ١٢ مليون دولار للباحثين لتطوير أدوات لمراقبة تصنيفات البحث.

في الولايات المتحدة، قدمت مدينة نيويورك أول مشروع قانون محاسبة خوارزمي في البلاد . يستهدف مشروع القانون هذا التمييز وقضايا أخرى في المجالات التي تُستخدم فيها الخوارزميات للمساعدة في صنع القرار. على سبيل المثال، في الأحكام الجنائية، تمت مناقشة مخاطر وفوائد خوارزميات الملكية وخوارزميات الصندوق الأسود التي تهمس بمشورة الحكم في أذن القاضي، ولكن يبدو أن الأدلة مختلطة في أحسن الأحوال حتى الأن . كما يتعرض فيسبوك وتويتر وجوجل أيضًا لضغوط تشريعية لدورهم في نشر الدعاية الروسية خلال الانتخابات الرئاسية الأمريكية لعام ٢٠١٦

ومع ذلك، فإن هذه الغرامات والتشريعات قد تقصر عن حل حجم وفورية المشاكل التي يسعون إلى معالجتها. يمكن للشركات الكبيرة بسهولة دفع الغرامات، وإنفاق الملايين للضغط على الكونغرس للتأثير على المشرعين، والتشريعات التنظيمية بشكل عام عملية بطيئة.

لا يبدو أن طلب استخدام بيانات الصناعة في العمل لتحسين وتعزيز فهمنا للمجتمع والحالة الإنسانية أمر مبالغ فيه، بحيث يتم بناء جسر واسع وشامل بين الصناعة والأوساط الأكاديمية.

في الفترة التشريعية، هناك بعض الأشياء التي قد تساعد في تحديد الحلول، أو على الأقل التخفيف من المشكلات التي نواجهها. وبالتحديد، يمكن للأشخاص إظهار الدعم لمنظمات مثل تايم ويل سبينت التي تقاتل سباق التكنولوجيا لتحقيق الدخل واحتكار اهتمامنا. يمكن للأشخاص أيضًا مشاركة بياناتهم طواعية مع مجتمع تدقيق الخوارزمية للباحثين، مثل المتطوعين ساينس و سيفل سيرفنت، الذين يسعيان إلى فهم ديناميكيات وتأثير التكنولوجيا على المجتمع من خلال التحقيقات الخارجية . على سبيل المثال، يمكنك تثبيت امتداد متصفح يكتشف وينبهك إلى تخصيص السعر المحتمل - عندما تقدم لك مواقع الويب مثل أمازون أو غوغل فلايتس أو برايس لاين أسعارًا تختلف عن الأسعار التي يتلقاها الأشخاص الآخرون لنفس المنتج.

ولكن الأفضل من ذلك، وبالنظر إلى الثقة الهائلة، وإن كانت ضمنية، التي وضعها الجمهور في هذه الشركات ببياناتهم - سجلات شاملة لأفكارهم ورغباتهم ومواقفهم وسلوكهم - لا يبدو أن طلب ذلك يتم استخدام البيانات لتحسين وتعزيز فهمنا للمجتمع والحالة البشرية، بحيث يتم بناء جسر واسع وشامل بين الصناعة والأوساط الأكاديمية.

من الواضح أن هذا لن يكون سهلاً مثل مجرد إصدار البيانات. كما تعلمنا من أخطاء عام ٢٠١٦ في إصدار سجلات بحث المستخدمين، تكثر مشكلات الخصوصية وإخفاء الهوية. حتى عندما تنشر الصناعة نتائج التجارب التي تُجرى داخليًا فقط، فهناك أيضًا خطر رد الفعل العكسي العام، كما تعلم فيسبوك من دراسات العدوى الخاصة بالناخبين والعاطفية . من المحتمل أيضًا أن مثل هذه الدراسات لن تجتاز مجلس المراجعة المؤسسية، وهي الإجراءات الأخلاقية التي يجب على الأكاديميين الحصول عليها قبل إجراء البحوث التي تنطوي على مواضيع بشرية.

ومع ذلك، إذا كانت هذه التقنيات تهدد بشكل شرعي عمليتنا الديمقراطية - كما اقترحت تجارب الأكاديمية الوطنية للعلوم والانتشار الأخير للمعلومات المستقطبة والمزيفة خلال الانتخابات الأمريكية لعام ٢٠١٦ - فقد يكون الأمر يستحق الوقت والجهد والتكلفة لبناء إطار عمل من أجل تعاون واسع النطاق وشفاف وخاضع للمساءلة بين الصناعة والأوساط الأكاديمية. قد يكون هذا طريق التكنولوجيا الكبيرة للخلاص.

في النهاية، قد تحتاج شرارة هذا الإطار إلى أن تأتي من علماء الاجتماع الموجودين بالفعل داخل هذه الشركات - أولئك الذين يعرفون حجم وفورية المشاكل التي يمكن أن تساعد منصاتهم في حلها. كيف يمكن لخبرة المجال والبحث المستقل لنظرائهم الأكاديميين المساهمة في إيجاد الحلول؟ مع مثل هذا الإطار، يمكن أن تقضي العديد من المجتمعات الأكاديمية التي تعمل في قضايا مثل الاستقطاب والتحيز الإعلامي وقتًا أقل في جمع أجزاء دقيقة من البيانات التي تمتلكها الصناعة لوضع نظرية حول تأثير التكنولوجيا وبدلاً من ذلك تقضي المزيد من الوقت في العمل نحو حلول في العالم الحقيقي. لا يمكن فقط أن يكون تمكين الأكاديميين من خلال نهج موجه نحو الحلول محوريًا لتقدم العلوم الاجتماعية ولكن مع تصاعد التوترات العالمية والانتخابات التي تقترب في الولايات المتحدة وحول العالم، سنحتاج إلى هذه الحلول في أسرع وقت ممكن.

***

..................

المصدر

Skinner s box for the 21st century,

behavioral scientist © 2022 Keller Creative Co.

في المثقف اليوم