مخاطر الاعتماد الكامل على أجهزة الروبوت والذكاء الاصطناعي

مخاطر الاعتماد الكامل
على أجهزة الروبوت والذكاء الاصطناعي

تتزايد مشاركة المنظومات والأجهزة الذكية بصورة أكبر في عمليات اتخاذ القرار في العديد من المجالات

تُخفي بعض المخاوف المتعلقة بنهاية العالم على يد أجهزة الروبوت الذكية مشكلات حقيقية نواجهها بالفعل بسبب سماحنا لتلك المنظومات الحاسوبية الحديثة بأن تدير حياتنا بشكل متزايد.
إذا صدّقتَ بعض مراقبي أنظمة الذكاء الاصطناعي ، فستجد أننا في سباق نحو ما يُعرف بنقطة "التفرد" التكنولوجي، وهي نقطة افتراضية تتفوق عندها أجهزة الذكاء الاصطناعي على ذكائنا نحن البشر، وتواصل تطوير نفسها بشكل مذهل يفوق كل توقعاتنا. لكن إذا حدث ذلك، وهو افتراض نادر الحدوث بالطبع، فماذا سيحصل لنا؟
تصاعدت خلال السنوات القليلة الماضية أصوات عدد من المشاهير الذين يُعتد برأيهم، من ستيفن هوكينغ، إلى أيلون ماسك، وبيل غيتس، ممن حذّروا بأنه ينبغي علينا أن نقلق أكثر بشأن النتائج الخطيرة المحتملة لأنظمة الذكاء الاصطناعي ذات البراعة الفائقة.
ونجد أن هؤلاء قد استثمروا أموالهم بالفعل في مشروعات يرون أنها ذات أهمية في هذا الإطار. فنجد أن ماسك، مثل كثيرين من أصحاب المليارات، يدعم مؤسسة "أوبن أي آي"، وهي مؤسسة غير ربحية تُكرس جهودها لتطوير أجهزة الذكاء الاصطناعي التي تخدم وتفيد الإنسانية بشكل عام.
لكن يبدو أن هذه المخاوف تنطوي على مبالغة من وجهة نظر العديد من الناس. ويقول أندرو نغ، من جامعة ستانفورد، وهو في نفس الوقت كبير العلماء لدى شركة الإنترنت الصينية العملاقة "بايدو": "تشبه المخاوف من ظهور أجهزة روبوت قاتلة تلك المخاوف المتعلقة بالزيادة السكانية على كوكب المريخ".
لكن ذلك لا يعني أن اعتمادنا المتزايد على أجهزة الذكاء الاصطناعي لا يحمل في طياته مخاطر حقيقية. ففي الواقع، هناك مخاطر موجودة بالفعل.
فبينما تتزايد مشاركة المنظومات الذكية بصورة أكبر في عمليات اتخاذ القرار في العديد من المجالات، من الرعاية الصحية، إلى الأمور المالية، مروراً بما يتعلق بالعدالة الجنائية، تزيد احتمالية التعرض لمواقف لا تخضع فيها تلك المنظومات الذكية إلى الرقابة والتدقيق بالشكل اللازم.
وبالإضافة إلى ما ذُكر، يمكن أن يؤدي استخدام أجهزة الذكاء الاصطناعي على نطاق واسع إلى تبعات عديدة لم نستعد لها بعد، مثل تغيير علاقاتنا بالأطباء في حالة الاعتماد على تلك الأجهزة بصورة كاملة في مجال الطب، أو تغيير وسائل مراقبة أحيائنا السكنية أيضا.

تتعاون شركة الذكاء الاصطناعي "ديب مايند"، المملوكة لشركة غوغل، مع هيئة الخدمات الصحية الوطنية في المملكة المتحدة في عدد من المشاريع الطبية

ماذا يعني الذكاء الاصطناعي بالضبط؟ يمكن الإشارة إلى تلك الأجهزة ببساطة على أنها أجهزة يمكنها أن تنجز أموراً تتطلب ذكاءً بشرياً، مثل فَهم اللغة الطبيعية للبشر، والتعرف على الوجوه الموجودة في بعض الصور، وقيادة السيارة، والتكهن بظهور كتب قد نولع بها بشكل كبير، استناداً إلى استمتاعنا بكتب مشابهة قرأناها سابقاً.

كيف تساعدنا منظومات الذكاء الاصطناعي؟

النهج الرائد حالياً فيما يتعلق بأجهزة الذكاء الاصطناعي هو محاولة "تعليم" تلك الأجهزة، حيث تُدرّب بطريقة معينة لتتعلم وتتجاوب مع السلوكيات المختلفة باستخدام كميات كبيرة من البيانات، مثل التعرف على وجه موجود ضمن صورة تضم عدة أوجه، أو اختيار حركة صائبة في إحدى ألعاب الهواتف الذكية، مثل لعبة "غو".
وتتعاون شركة الذكاء الاصطناعي "ديب مايند"، المملوكة لشركة غوغل، مع هيئة الخدمات الصحية الوطنية في المملكة المتحدة في عدد من المشاريع، بما فيها ذلك التي تتضمن تدريب بعض البرامج التطبيقية للهيئة على تشخيص مرض السرطان وأمراض العيون، بواسطة فحص الصور الخاصة بفحوصات المرضى.
ويستعمل آخرون أجهزة تتدرب على تشخيص الأعراض الأولى لحالات معينة مثل أمراض القلب، ومرض الزهايمر. كما تُستعمل أجهزة الذكاء الاصطناعي لتحليل كميات ضخمة من البيانات بحثاً عن مواد يُحتمل أن تكون أدوية وعقاقير جديدة، وهي إجراءات لو قُدّر للبشر أن ينجزوها لاستغرق منهم ذلك وقتاً طويلاً.
ومن المؤكد أن تعلّم الأجهزة سيصبح في القريب العاجل أمراً لا غنى عنه في مجال الرعاية الصحية. ويمكن لأجهزة الذكاء الاصطناعي أيضاً أن تساعدنا في إدارة أنظمة في غاية التعقيد، مثل شبكات النقل البحري العالمية. فعلى سبيل المثال، يدير النظام الإلكتروني الموجود في مركز حاويات الشحن بميناء بوتاني في سيدني حركة الآلاف من تلك الحاويات التي تدخل إلى الميناء أو تخرج منه.
ويتحكم هذا النظام أيضا في أسطول من حاملات الحاويات، والتي تعمل بدون سائق، في منطقة خالية تماماً من البشر. وعلى نفس الشاكلة، نجد في قطاع المناجم أجهزة تُستعمل للحصول على النتائج المثلى، ولتخطيط وتنسيق عمليات نقل الموارد، مثل الحديد الخام.

هناك شعور متزايد بالقلق بشأن سيطرة أجهزة وبرامج الذكاء الاصطناعي على حياتنا في المستقبل

وتقوم هذه الأجهزة أيضا بنقل المواد الخام إلى شاحنات المناجم، والتي تعمل أيضا بشكل ذاتي ومن دون سائق، وتنقل تلك المواد إلى قطارات الشحن في الميناء.
وتعمل أجهزة الذكاء الاصطناعي في العديد من المجالات، وقطاعات تمتد من الأمور المالية إلى النقل والمواصلات، ومراقبة سوق الأسهم لكشف أي عمليات تداول مشبوهة، أو للمساعدة في مراقبة الملاحة الجوية، وحركة المرور على الأرض.
كما تساعد في منع وصول رسائل البريد الضارة أو المزعجة إلى صندوق بريدك الالكتروني. وهذه جميعها ليست إلا البداية بالنسبة لأجهزة الذكاء الاصطناعي. وكلما تطورت تلك التقنيات، ازداد عدد البرامج والتطبيقات التي تستعملها.

أين تكمن المشكلة إذاً؟

بدلا من مجرد الشعور بالقلق بشأن سيطرة أجهزة وبرامج الذكاء الاصطناعي على حياتنا في المستقبل، علينا أن نعرف أن الخطورة الحقيقية تكمن في وضع ثقة أكثر من اللازم في الأنظمة الذكية التي نصنعها بأيدينا.
ويعود الفضل في تعلّم الأجهزة الالكترونية إلى بعض برامج التدريب التي طُورت لكي تُعلم تلك الأجهزة كيف تكتشف نمطاً معيناً وسط مجموعة ضخمة من البيانات.
لكن عندما يتعلم الجهاز إنجاز تلك المهمة، فإنه يوضع قيد العمل لتحليل مزيد من البيانات الجديدة التي لم يعمل عليها قبل ذلك. وعندما يعطينا الكمبيوتر إجابة معينة، فلن نكون قادرين في العادة على معرفة كيفية وصوله إلى تلك الإجابة أو الاستنتاج على وجه التحديد.
وهنا تظهر بعض المشكلات الجليّة. إذ تقاس جودة أي جهاز أو نظام الكتروني بجودة البيانات التي تقدم له ليتعلم منها. لكن هناك تجربة مختلفة يمكن أن نتعلم منها درسا مهما.

نظرا لأن الكثير من المعطيات التي نغذي بها أنظمة الذكاء الاصطناعي ليست كاملة أو شاملة، لا ينبغي علينا أن نتوقع منها إجابات أو استنتاجات مثالية في جميع الأوقات

فقد كان هناك نظام إلكتروني في أحد المستشفيات يعمل بشكل آلي بهدف تحديد المرضى المصابين بمرض الالتهاب الرئوي ليعرف من منهم في حالة خطيرة قد تؤدي إلى الوفاة، حتى يجري إدخاله إلى المستشفى بصورة عاجلة.
لكن ذلك النظام الآلي جاء بنتيجة مختلفة تماما، إذ صنّف المصابين بمرض الربو على أنهم أقل عرضة للموت، ولا يحتاجون لتلقي العلاج بصورة عاجلة في المستشفى.
ويرجع السبب في ذلك إلى أنه في المواقف العادية، يُنقل المصابون بمرض الالتهاب الرئوي ويُعرف من التاريخ المرضي أنهم يعانون أيضا من الربو، مباشرة إلى قسم العناية المركزة. وبذلك يحصلون على العلاج الذي يُقلل بشكل كبير من مخاطر الوفاة.
لكن الجهاز استنتج من ذلك أن المصابين بالربو ويعانون في نفس الوقت من الالتهاب الرئوي هم أشخاص أقل عرضة للموت.
وبما أن أجهزة الذكاء الاصطناعي تُصمم لتقييم أمور كثيرة في حياتنا، بداية من تصنيفك الائتماني، إلى جدارتك لشغل وظيفة ما، وحتى احتمالات عودة بعض المجرمين لارتكاب جرائم معينة، فإن مخاطر وقوع هذه الأجهزة في خطأ في بعض الأحيان ودون علمنا بذلك، يزيد الوضع سوءاً.
ونظرا لأن الكثير من المعطيات التي نغذي بها أنظمة الذكاء الاصطناعي ليست كاملة أو شاملة، لا ينبغي علينا أن نتوقع منها إجابات أو استنتاجات مثالية في جميع الأوقات.
فإدراك هذه الحقيقة يمثل الخطوة الأولى في التعامل مع مثل هذه الأخطار. وكذلك ينبغي لعمليات اتخاذ القرار التي تستند إلى أنظمة الذكاء الاصطناعي أن تكون أكثر تدقيقا وأكثر حرصا.
وبما أننا نصنع منظومات الذكاء الاصطناعي لتكون نسخة أخرى منّا نحن، فمن المرجح أن تكون مثلنا تماماً، بارعة وبها بعض العيوب أيضا.

BBC Future