كامبريدج- إن الخوارزميات منحازة شأنها في ذلك شأن البيانات التي تتغذى عليها. وكل البيانات منحازة. وحتى الإحصائيات "الرسمية" لا يمكنها أن تشير إلى "وقائع" موضوعية و أبدية. وتمثل الأرقام التي تنشرها الحكومة المجتمع كما هو الآن، من خلال الصورة التي يعتبرها هؤلاء الذين يجمعون البيانات ذات صلة وأهمية. وليست المجموعات والتصنيفات التي تعطي معنى للبيانات محايدة. تماما عندما نقيس ما نراه، فنحن لا نرى إلا ما نقيسه.
وبما أن سياسة صنع القرارات الخوارزمية تنتشر على نطاق واسع في مناطق صنع السياسات، فهي تلقي ضوءا مُشِعا على الانحياز الاجتماعي الذي كان ذات مرة يختبئ في البيانات التي نجمعها. وعن طريق أخذ البنيات والعمليات القائمة إلى درجاتها القصوى، المنطقية، يجبرنا الذكاء الاصطناعي على مواجهة المجتمع الذي خلقناه.
والمشكل لا يكمن فقط في تصميم الحواسيب لتفكر مثل الشركات، كما قال زميلي في جامعة كامبريدج جوني بين. بل يكمن أيضا في كون الحواسيب تفكر مثل الخبراء الاقتصاديين. ففي النهاية، وكما نتخيل، الذكاء الاصطناعي نسخة لا تخطئ من الكائن الاقتصادي.إنه ذكاء يقوم بعمليات حسابية بشكل منطقي، ومتناسق وقادر على الوصول إلى النتيجة المرغوبة مع مصادر حاسوبية دقيقة. وعندما يتعلق الأمر ب"تضخيم المنفعة"، فإنه أكثر فعالية من البشر بكثير.
وما تعنيه "المنفعة" للخبراء الاقتصاديين هو ما كان يعنيه "اللاهوب" للكيمياء. إذ افترض الكيميائيون في الماضي أن المواد القابلة للاحتراق تتألف من مكون خَفِي- اللاهوب- وهذا ما يفسر تغير شكل المواد عندما تحترق. غير أنه رغم الجهود التي بُذلت، لم يستطع العلماء أبدا تأكيد الفرضية. إذ لم يتمكنوا من تقفي أثر "اللاهوب" لنفس السبب الذي حال دون تمكن الخبراء الاقتصاديين من تحديد حجم المنفعة الحقيقية.
ويستعمل الخبراء الاقتصاديون مفهوم المنفعة لتفسير اختيارات بعض الناس- ماذا يشترون، أين يستثمرون، إلى أي مدى يعملون بجد: كل شخص يحاول الزيادة من حجم المنفعة إلى أقصى حد لتناسب اختيارات الشخص واعتقاداته بشأن العالم، وفي الحدود التي تفرضها ندرة المداخيل والموارد. ورغم عدم وجودها، فالمنفعة بنية قوية. ومن الطبيعي الاعتقاد أن كل شخص، يحاول عمل كل ما في وسعه لمصلحته.
كما أن مفهوم المنفعة للخبراء الاقتصاديين ولدت من رحم مذهب المنفعة، الذي يهدف إلى ضمان أقصى حجم من المنفعة لأكبر عدد من الأشخاص. وعلى غرار الخبراء الاقتصاديين المعاصرين، الذين يمشون على خطى جون ستيوارت ميل، معظم الأشخاص الذين يصممون نظام الخوارزمي منفعيون ويعتقدون أنه إذا تم التعرف على "منفعة ما "، فمن الممكن أن نزيد من حجمها.
At a time when democracy is under threat, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided. Subscribe now and save $50 on a new subscription.
Subscribe Now
لكن هذا الاعتقاد قد تكون له عواقب وخيمة. خذ على سبيل المثال كيف تستعمل الخوارزميات لتحديد ما إذا كان السجناء يستحقون إطلاق سراح مشروط. لقد كشفت دراسة مهمة أنجزت عام 2017 أن الخواريزميات أكثر فعالية من البشر في التنبؤ بمعدلات الانتكاسية، ويمكن استعماله للحد من "معدلات السَّجن" بنسبة 40% "بدون ارتفاع في معدلات الجريمة". وفي الولايات المتحدة الأمريكية، إذا، يمكن أن يستعمل الذكاء الاصطناعي للتقليص من أعداد السجناء الذين تتكون غالبيتهم من السود. لكن ماذا يحدث عندما يتولى الذكاء الاصطناعي عملية إطلاق السراح المشروط بينما يسجن الأمريكيون ذوي البشرة السوداء بنسب أكثر من البيض؟
إن سياسة صنع القرارات الفعالة الخوارزمية جعلت مثل هذه الأسئلة تطرح على طاولة النقاش، و تجبرنا على تحديد النتائج التي ينبغي الزيادة من حجمها. هل نريد التقليص من عدد السجناء فقط ، أم أن علينا، أيضا، أخذ العدل بعين الاعتبار؟ وبينما تسمح السياسات للهراء والتسويات بالتستر على مثل هذه المفاضلات، يتطلب نظام الحاسوب الوضوح.
وبسبب هذا المتطلب يصبح من الصعب تجاهل المصادر البنيوية للتكافؤ الاجتماعي. وفي عصر الذكاء الاصطناعي، ستجبرنا الخوارزميات على إدراك كيف أن عواقب النزاعات الاجتماعية والسياسية التي حدثت في الماضي استقرت في حاضرنا من خلال استعمال البيانات.
وبفضل مجموعات مثل مبادرة أخلاق الذكاء الاصطناعي والشراكة بشأن الذكاء الاصطناعي، بدأ يظهر نقاش واسع حول الذكاء الاصطناعي. لكن نظام الخوارزميات لا يطبق إلا ما تمت برمجته عليه. والمشكل الحقيقي يتعدى كونه مجرد استعمال لسياسات صنع القرار الخوارزمية في الحكامة التجارية والسياسية، ليشمل المؤسسات الأخلاقية في مجتمعاتنا.
وبينما نحن بحاجة ماسة إلى مناقشة المفاضلات العملية والفلسفية للزيادة من حجم "المنفعة" من خلال الذكاء الاصطناعي، نحتاج أيضا إلى الالتزام بالتفكير بأنفسنا. وتطرح الخوارزميات أسئلة جذرية حول كيف نظمنا العلاقات الاجتماعية والسياسية والاقتصادية بطريقة يذكرها التاريخ. ينبغي علينا الآن، أن قرر ما إذا كنا نريد فعلا ترميز الترتيبات الاجتماعية الحالية لتصبح بنيات لاتخاذ القرارات في المستقبل. ونظرا للكسر السياسي الذي يتعرض له العالم اليوم، حان الوقت لكتابة سيناريو جديد.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
Jimmy Carter suffered from the fate of many one-term presidents, who by being defeated are judged to have been unsuccessful. But Carter accomplished more in four years – from the handover of the Panama Canal to the Camp David Peace Accords – than many presidents do in eight.
thinks Jimmy Carter's presidency merits much greater appreciation than it has received.
كامبريدج- إن الخوارزميات منحازة شأنها في ذلك شأن البيانات التي تتغذى عليها. وكل البيانات منحازة. وحتى الإحصائيات "الرسمية" لا يمكنها أن تشير إلى "وقائع" موضوعية و أبدية. وتمثل الأرقام التي تنشرها الحكومة المجتمع كما هو الآن، من خلال الصورة التي يعتبرها هؤلاء الذين يجمعون البيانات ذات صلة وأهمية. وليست المجموعات والتصنيفات التي تعطي معنى للبيانات محايدة. تماما عندما نقيس ما نراه، فنحن لا نرى إلا ما نقيسه.
وبما أن سياسة صنع القرارات الخوارزمية تنتشر على نطاق واسع في مناطق صنع السياسات، فهي تلقي ضوءا مُشِعا على الانحياز الاجتماعي الذي كان ذات مرة يختبئ في البيانات التي نجمعها. وعن طريق أخذ البنيات والعمليات القائمة إلى درجاتها القصوى، المنطقية، يجبرنا الذكاء الاصطناعي على مواجهة المجتمع الذي خلقناه.
والمشكل لا يكمن فقط في تصميم الحواسيب لتفكر مثل الشركات، كما قال زميلي في جامعة كامبريدج جوني بين. بل يكمن أيضا في كون الحواسيب تفكر مثل الخبراء الاقتصاديين. ففي النهاية، وكما نتخيل، الذكاء الاصطناعي نسخة لا تخطئ من الكائن الاقتصادي.إنه ذكاء يقوم بعمليات حسابية بشكل منطقي، ومتناسق وقادر على الوصول إلى النتيجة المرغوبة مع مصادر حاسوبية دقيقة. وعندما يتعلق الأمر ب"تضخيم المنفعة"، فإنه أكثر فعالية من البشر بكثير.
وما تعنيه "المنفعة" للخبراء الاقتصاديين هو ما كان يعنيه "اللاهوب" للكيمياء. إذ افترض الكيميائيون في الماضي أن المواد القابلة للاحتراق تتألف من مكون خَفِي- اللاهوب- وهذا ما يفسر تغير شكل المواد عندما تحترق. غير أنه رغم الجهود التي بُذلت، لم يستطع العلماء أبدا تأكيد الفرضية. إذ لم يتمكنوا من تقفي أثر "اللاهوب" لنفس السبب الذي حال دون تمكن الخبراء الاقتصاديين من تحديد حجم المنفعة الحقيقية.
ويستعمل الخبراء الاقتصاديون مفهوم المنفعة لتفسير اختيارات بعض الناس- ماذا يشترون، أين يستثمرون، إلى أي مدى يعملون بجد: كل شخص يحاول الزيادة من حجم المنفعة إلى أقصى حد لتناسب اختيارات الشخص واعتقاداته بشأن العالم، وفي الحدود التي تفرضها ندرة المداخيل والموارد. ورغم عدم وجودها، فالمنفعة بنية قوية. ومن الطبيعي الاعتقاد أن كل شخص، يحاول عمل كل ما في وسعه لمصلحته.
كما أن مفهوم المنفعة للخبراء الاقتصاديين ولدت من رحم مذهب المنفعة، الذي يهدف إلى ضمان أقصى حجم من المنفعة لأكبر عدد من الأشخاص. وعلى غرار الخبراء الاقتصاديين المعاصرين، الذين يمشون على خطى جون ستيوارت ميل، معظم الأشخاص الذين يصممون نظام الخوارزمي منفعيون ويعتقدون أنه إذا تم التعرف على "منفعة ما "، فمن الممكن أن نزيد من حجمها.
HOLIDAY SALE: PS for less than $0.7 per week
At a time when democracy is under threat, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided. Subscribe now and save $50 on a new subscription.
Subscribe Now
لكن هذا الاعتقاد قد تكون له عواقب وخيمة. خذ على سبيل المثال كيف تستعمل الخوارزميات لتحديد ما إذا كان السجناء يستحقون إطلاق سراح مشروط. لقد كشفت دراسة مهمة أنجزت عام 2017 أن الخواريزميات أكثر فعالية من البشر في التنبؤ بمعدلات الانتكاسية، ويمكن استعماله للحد من "معدلات السَّجن" بنسبة 40% "بدون ارتفاع في معدلات الجريمة". وفي الولايات المتحدة الأمريكية، إذا، يمكن أن يستعمل الذكاء الاصطناعي للتقليص من أعداد السجناء الذين تتكون غالبيتهم من السود. لكن ماذا يحدث عندما يتولى الذكاء الاصطناعي عملية إطلاق السراح المشروط بينما يسجن الأمريكيون ذوي البشرة السوداء بنسب أكثر من البيض؟
إن سياسة صنع القرارات الفعالة الخوارزمية جعلت مثل هذه الأسئلة تطرح على طاولة النقاش، و تجبرنا على تحديد النتائج التي ينبغي الزيادة من حجمها. هل نريد التقليص من عدد السجناء فقط ، أم أن علينا، أيضا، أخذ العدل بعين الاعتبار؟ وبينما تسمح السياسات للهراء والتسويات بالتستر على مثل هذه المفاضلات، يتطلب نظام الحاسوب الوضوح.
وبسبب هذا المتطلب يصبح من الصعب تجاهل المصادر البنيوية للتكافؤ الاجتماعي. وفي عصر الذكاء الاصطناعي، ستجبرنا الخوارزميات على إدراك كيف أن عواقب النزاعات الاجتماعية والسياسية التي حدثت في الماضي استقرت في حاضرنا من خلال استعمال البيانات.
وبفضل مجموعات مثل مبادرة أخلاق الذكاء الاصطناعي والشراكة بشأن الذكاء الاصطناعي، بدأ يظهر نقاش واسع حول الذكاء الاصطناعي. لكن نظام الخوارزميات لا يطبق إلا ما تمت برمجته عليه. والمشكل الحقيقي يتعدى كونه مجرد استعمال لسياسات صنع القرار الخوارزمية في الحكامة التجارية والسياسية، ليشمل المؤسسات الأخلاقية في مجتمعاتنا.
وبينما نحن بحاجة ماسة إلى مناقشة المفاضلات العملية والفلسفية للزيادة من حجم "المنفعة" من خلال الذكاء الاصطناعي، نحتاج أيضا إلى الالتزام بالتفكير بأنفسنا. وتطرح الخوارزميات أسئلة جذرية حول كيف نظمنا العلاقات الاجتماعية والسياسية والاقتصادية بطريقة يذكرها التاريخ. ينبغي علينا الآن، أن قرر ما إذا كنا نريد فعلا ترميز الترتيبات الاجتماعية الحالية لتصبح بنيات لاتخاذ القرارات في المستقبل. ونظرا للكسر السياسي الذي يتعرض له العالم اليوم، حان الوقت لكتابة سيناريو جديد.
ترجمة نعيمة أبروش Translated by Naaima Abarouch