العلماء يحذرون من انقلاب الذكاء الاصطناعي على البشر وتدمير العالم
حذر العلماء من فكرة انقلاب الذكاء الاصطناعي على البشر، وفق ورقة بحثية أكدت إمكانية حدوث الأمر وعدم التمكن من إيقافه.
وصمم فريق من العلماء الدوليين نظرية لخوارزمية احتواء تضمن أن نظامًا فائق الذكاء لا يمكن أن يؤذي الناس تحت أي ظرف من الظروف، عن طريق محاكاة الذكاء الاصطناعي ومنعه من تدمير البشرية، وفق "ديلى ميل" البريطانية، فيما يُظهر التحليل أن الخوارزميات الحالية لا تملك القدرة على إيقاف الذكاء الاصطناعي، لأن توجيه النظام بعدم تدمير العالم من شأنه أن يوقف عمليات الخوارزمية الخاصة عن غير قصد.
ونتيجة للتطور المذهل في الذكاء الاصطناعي فإن العلماء في جميع أنحاء العالم قلقون بشأن الأخطار التي قد تأتي مع الأنظمة فائقة الذكاء، في الوقت الذي أظهر فيه فريق دولي من الباحثين في معهد ماكس بلانك للتنمية البشرية باستخدام الحسابات النظرية، ، أنه لن يكون من الممكن التحكم في ذكاء اصطناعي فائق الذكاء.
وفي دراستهم، صمم الفريق خوارزمية احتواء نظرية تضمن أن الذكاء الاصطناعي الفائق لا يمكن أن يؤذي الناس، لكن التحليل الدقيق يظهر أنه في نموذجنا الحالي للحوسبة ، لا يمكن بناء مثل هذه الخوارزمية، وبناءً على هذه الحسابات، فإن مشكلة الاحتواء غير قابلة للحكم، ولا يمكن لأي خوارزمية واحدة إيجاد حل لتحديد ما إذا كان الذكاء الاصطناعي سيؤدي إلى ضرر للعالم.
وأظهر الباحثون أيضًا أننا قد لا نعرف حتى متى وصلت الآلات فائقة الذكاء إلى هذا الحد، لأن تحديد ما إذا كانت الآلة تُظهر ذكاءً متفوقًا على البشر هو أمر غير مباشر أيضا.
