كامبريدج- إن الخوارزميات منحازة شأنها في ذلك شأن البيانات التي تتغذى عليها. وكل البيانات منحازة. وحتى الإحصائيات "الرسمية" لا يمكنها أن تشير إلى "وقائع" موضوعية و أبدية. وتمثل الأرقام التي تنشرها الحكومة المجتمع كما هو الآن، من خلال الصورة التي يعتبرها هؤلاء الذين يجمعون البيانات ذات صلة وأهمية. وليست المجموعات والتصنيفات التي تعطي معنى للبيانات محايدة. تماما عندما نقيس ما نراه، فنحن لا نرى إلا ما نقيسه.
وبما أن سياسة صنع القرارات الخوارزمية تنتشر على نطاق واسع في مناطق صنع السياسات، فهي تلقي ضوءا مُشِعا على الانحياز الاجتماعي الذي كان ذات مرة يختبئ في البيانات التي نجمعها. وعن طريق أخذ البنيات والعمليات القائمة إلى درجاتها القصوى، المنطقية، يجبرنا الذكاء الاصطناعي على مواجهة المجتمع الذي خلقناه.
والمشكل لا يكمن فقط في تصميم الحواسيب لتفكر مثل الشركات، كما قال زميلي في جامعة كامبريدج جوني بين. بل يكمن أيضا في كون الحواسيب تفكر مثل الخبراء الاقتصاديين. ففي النهاية، وكما نتخيل، الذكاء الاصطناعي نسخة لا تخطئ من الكائن الاقتصادي.إنه ذكاء يقوم بعمليات حسابية بشكل منطقي، ومتناسق وقادر على الوصول إلى النتيجة المرغوبة مع مصادر حاسوبية دقيقة. وعندما يتعلق الأمر ب"تضخيم المنفعة"، فإنه أكثر فعالية من البشر بكثير.
وما تعنيه "المنفعة" للخبراء الاقتصاديين هو ما كان يعنيه "اللاهوب" للكيمياء. إذ افترض الكيميائيون في الماضي أن المواد القابلة للاحتراق تتألف من مكون خَفِي- اللاهوب- وهذا ما يفسر تغير شكل المواد عندما تحترق. غير أنه رغم الجهود التي بُذلت، لم يستطع العلماء أبدا تأكيد الفرضية. إذ لم يتمكنوا من تقفي أثر "اللاهوب" لنفس السبب الذي حال دون تمكن الخبراء الاقتصاديين من تحديد حجم المنفعة الحقيقية.
ويستعمل الخبراء الاقتصاديون مفهوم المنفعة لتفسير اختيارات بعض الناس- ماذا يشترون، أين يستثمرون، إلى أي مدى يعملون بجد: كل شخص يحاول الزيادة من حجم المنفعة إلى أقصى حد لتناسب اختيارات الشخص واعتقاداته بشأن العالم، وفي الحدود التي تفرضها ندرة المداخيل والموارد. ورغم عدم وجودها، فالمنفعة بنية قوية. ومن الطبيعي الاعتقاد أن كل شخص، يحاول عمل كل ما في وسعه لمصلحته.
كما أن مفهوم المنفعة للخبراء الاقتصاديين ولدت من رحم مذهب المنفعة، الذي يهدف إلى ضمان أقصى حجم من المنفعة لأكبر عدد من الأشخاص. وعلى غرار الخبراء الاقتصاديين المعاصرين، الذين يمشون على خطى جون ستيوارت ميل، معظم الأشخاص الذين يصممون نظام الخوارزمي منفعيون ويعتقدون أنه إذا تم التعرف على "منفعة ما "، فمن الممكن أن نزيد من حجمها.
Don’t go back to school without Project Syndicate! For a limited time, we’re offering PS Digital subscriptions for just $50.
Access every new PS commentary, our suite of subscriber-exclusive content, and the full PS archive.
Subscribe Now
لكن هذا الاعتقاد قد تكون له عواقب وخيمة. خذ على سبيل المثال كيف تستعمل الخوارزميات لتحديد ما إذا كان السجناء يستحقون إطلاق سراح مشروط. لقد كشفت دراسة مهمة أنجزت عام 2017 أن الخواريزميات أكثر فعالية من البشر في التنبؤ بمعدلات الانتكاسية، ويمكن استعماله للحد من "معدلات السَّجن" بنسبة 40% "بدون ارتفاع في معدلات الجريمة". وفي الولايات المتحدة الأمريكية، إذا، يمكن أن يستعمل الذكاء الاصطناعي للتقليص من أعداد السجناء الذين تتكون غالبيتهم من السود. لكن ماذا يحدث عندما يتولى الذكاء الاصطناعي عملية إطلاق السراح المشروط بينما يسجن الأمريكيون ذوي البشرة السوداء بنسب أكثر من البيض؟
إن سياسة صنع القرارات الفعالة الخوارزمية جعلت مثل هذه الأسئلة تطرح على طاولة النقاش، و تجبرنا على تحديد النتائج التي ينبغي الزيادة من حجمها. هل نريد التقليص من عدد السجناء فقط ، أم أن علينا، أيضا، أخذ العدل بعين الاعتبار؟ وبينما تسمح السياسات للهراء والتسويات بالتستر على مثل هذه المفاضلات، يتطلب نظام الحاسوب الوضوح.
وبسبب هذا المتطلب يصبح من الصعب تجاهل المصادر البنيوية للتكافؤ الاجتماعي. وفي عصر الذكاء الاصطناعي، ستجبرنا الخوارزميات على إدراك كيف أن عواقب النزاعات الاجتماعية والسياسية التي حدثت في الماضي استقرت في حاضرنا من خلال استعمال البيانات.
وبفضل مجموعات مثل مبادرة أخلاق الذكاء الاصطناعي والشراكة بشأن الذكاء الاصطناعي، بدأ يظهر نقاش واسع حول الذكاء الاصطناعي. لكن نظام الخوارزميات لا يطبق إلا ما تمت برمجته عليه. والمشكل الحقيقي يتعدى كونه مجرد استعمال لسياسات صنع القرار الخوارزمية في الحكامة التجارية والسياسية، ليشمل المؤسسات الأخلاقية في مجتمعاتنا.
وبينما نحن بحاجة ماسة إلى مناقشة المفاضلات العملية والفلسفية للزيادة من حجم "المنفعة" من خلال الذكاء الاصطناعي، نحتاج أيضا إلى الالتزام بالتفكير بأنفسنا. وتطرح الخوارزميات أسئلة جذرية حول كيف نظمنا العلاقات الاجتماعية والسياسية والاقتصادية بطريقة يذكرها التاريخ. ينبغي علينا الآن، أن قرر ما إذا كنا نريد فعلا ترميز الترتيبات الاجتماعية الحالية لتصبح بنيات لاتخاذ القرارات في المستقبل. ونظرا للكسر السياسي الذي يتعرض له العالم اليوم، حان الوقت لكتابة سيناريو جديد.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
Increasingly severe water shortages represent a human-made crisis that can be resolved through human interventions. The situation demands new thinking about the economics of this critical resource and how to manage it through mission-oriented strategies that span all levels of governance.
call attention to a global problem that demands far more attention from policymakers at all levels.
Although Kamala Harris is largely aligned with Joe Biden on many global and strategic issues, her unique worldview promises a distinct form of leadership on the international stage. Not only would US foreign policy shift under a Harris administration; it could change in highly consequential ways.
considers how the Democratic presidential nominees' views compare to Joe Biden's.
كامبريدج- إن الخوارزميات منحازة شأنها في ذلك شأن البيانات التي تتغذى عليها. وكل البيانات منحازة. وحتى الإحصائيات "الرسمية" لا يمكنها أن تشير إلى "وقائع" موضوعية و أبدية. وتمثل الأرقام التي تنشرها الحكومة المجتمع كما هو الآن، من خلال الصورة التي يعتبرها هؤلاء الذين يجمعون البيانات ذات صلة وأهمية. وليست المجموعات والتصنيفات التي تعطي معنى للبيانات محايدة. تماما عندما نقيس ما نراه، فنحن لا نرى إلا ما نقيسه.
وبما أن سياسة صنع القرارات الخوارزمية تنتشر على نطاق واسع في مناطق صنع السياسات، فهي تلقي ضوءا مُشِعا على الانحياز الاجتماعي الذي كان ذات مرة يختبئ في البيانات التي نجمعها. وعن طريق أخذ البنيات والعمليات القائمة إلى درجاتها القصوى، المنطقية، يجبرنا الذكاء الاصطناعي على مواجهة المجتمع الذي خلقناه.
والمشكل لا يكمن فقط في تصميم الحواسيب لتفكر مثل الشركات، كما قال زميلي في جامعة كامبريدج جوني بين. بل يكمن أيضا في كون الحواسيب تفكر مثل الخبراء الاقتصاديين. ففي النهاية، وكما نتخيل، الذكاء الاصطناعي نسخة لا تخطئ من الكائن الاقتصادي.إنه ذكاء يقوم بعمليات حسابية بشكل منطقي، ومتناسق وقادر على الوصول إلى النتيجة المرغوبة مع مصادر حاسوبية دقيقة. وعندما يتعلق الأمر ب"تضخيم المنفعة"، فإنه أكثر فعالية من البشر بكثير.
وما تعنيه "المنفعة" للخبراء الاقتصاديين هو ما كان يعنيه "اللاهوب" للكيمياء. إذ افترض الكيميائيون في الماضي أن المواد القابلة للاحتراق تتألف من مكون خَفِي- اللاهوب- وهذا ما يفسر تغير شكل المواد عندما تحترق. غير أنه رغم الجهود التي بُذلت، لم يستطع العلماء أبدا تأكيد الفرضية. إذ لم يتمكنوا من تقفي أثر "اللاهوب" لنفس السبب الذي حال دون تمكن الخبراء الاقتصاديين من تحديد حجم المنفعة الحقيقية.
ويستعمل الخبراء الاقتصاديون مفهوم المنفعة لتفسير اختيارات بعض الناس- ماذا يشترون، أين يستثمرون، إلى أي مدى يعملون بجد: كل شخص يحاول الزيادة من حجم المنفعة إلى أقصى حد لتناسب اختيارات الشخص واعتقاداته بشأن العالم، وفي الحدود التي تفرضها ندرة المداخيل والموارد. ورغم عدم وجودها، فالمنفعة بنية قوية. ومن الطبيعي الاعتقاد أن كل شخص، يحاول عمل كل ما في وسعه لمصلحته.
كما أن مفهوم المنفعة للخبراء الاقتصاديين ولدت من رحم مذهب المنفعة، الذي يهدف إلى ضمان أقصى حجم من المنفعة لأكبر عدد من الأشخاص. وعلى غرار الخبراء الاقتصاديين المعاصرين، الذين يمشون على خطى جون ستيوارت ميل، معظم الأشخاص الذين يصممون نظام الخوارزمي منفعيون ويعتقدون أنه إذا تم التعرف على "منفعة ما "، فمن الممكن أن نزيد من حجمها.
Don’t go back to school without Project Syndicate! For a limited time, we’re offering PS Digital subscriptions for just $50.
Access every new PS commentary, our suite of subscriber-exclusive content, and the full PS archive.
Subscribe Now
لكن هذا الاعتقاد قد تكون له عواقب وخيمة. خذ على سبيل المثال كيف تستعمل الخوارزميات لتحديد ما إذا كان السجناء يستحقون إطلاق سراح مشروط. لقد كشفت دراسة مهمة أنجزت عام 2017 أن الخواريزميات أكثر فعالية من البشر في التنبؤ بمعدلات الانتكاسية، ويمكن استعماله للحد من "معدلات السَّجن" بنسبة 40% "بدون ارتفاع في معدلات الجريمة". وفي الولايات المتحدة الأمريكية، إذا، يمكن أن يستعمل الذكاء الاصطناعي للتقليص من أعداد السجناء الذين تتكون غالبيتهم من السود. لكن ماذا يحدث عندما يتولى الذكاء الاصطناعي عملية إطلاق السراح المشروط بينما يسجن الأمريكيون ذوي البشرة السوداء بنسب أكثر من البيض؟
إن سياسة صنع القرارات الفعالة الخوارزمية جعلت مثل هذه الأسئلة تطرح على طاولة النقاش، و تجبرنا على تحديد النتائج التي ينبغي الزيادة من حجمها. هل نريد التقليص من عدد السجناء فقط ، أم أن علينا، أيضا، أخذ العدل بعين الاعتبار؟ وبينما تسمح السياسات للهراء والتسويات بالتستر على مثل هذه المفاضلات، يتطلب نظام الحاسوب الوضوح.
وبسبب هذا المتطلب يصبح من الصعب تجاهل المصادر البنيوية للتكافؤ الاجتماعي. وفي عصر الذكاء الاصطناعي، ستجبرنا الخوارزميات على إدراك كيف أن عواقب النزاعات الاجتماعية والسياسية التي حدثت في الماضي استقرت في حاضرنا من خلال استعمال البيانات.
وبفضل مجموعات مثل مبادرة أخلاق الذكاء الاصطناعي والشراكة بشأن الذكاء الاصطناعي، بدأ يظهر نقاش واسع حول الذكاء الاصطناعي. لكن نظام الخوارزميات لا يطبق إلا ما تمت برمجته عليه. والمشكل الحقيقي يتعدى كونه مجرد استعمال لسياسات صنع القرار الخوارزمية في الحكامة التجارية والسياسية، ليشمل المؤسسات الأخلاقية في مجتمعاتنا.
وبينما نحن بحاجة ماسة إلى مناقشة المفاضلات العملية والفلسفية للزيادة من حجم "المنفعة" من خلال الذكاء الاصطناعي، نحتاج أيضا إلى الالتزام بالتفكير بأنفسنا. وتطرح الخوارزميات أسئلة جذرية حول كيف نظمنا العلاقات الاجتماعية والسياسية والاقتصادية بطريقة يذكرها التاريخ. ينبغي علينا الآن، أن قرر ما إذا كنا نريد فعلا ترميز الترتيبات الاجتماعية الحالية لتصبح بنيات لاتخاذ القرارات في المستقبل. ونظرا للكسر السياسي الذي يتعرض له العالم اليوم، حان الوقت لكتابة سيناريو جديد.
ترجمة نعيمة أبروش Translated by Naaima Abarouch