الملخص
يتناول هذا المقال، وهو الثالث في هذه السلسلة، الأسباب التي تجعل الذكاء الاصطناعي مختلفًا بصورة جوهرية عن التقنيات السابقة، من خلال تسليط الضوء على ثلاثة تحديات حاسمة يفرضها على المجتمع الحديث. أولًا، يؤدي الذكاء الاصطناعي إلى تفاقم التركّز غير المسبوق للقوة والثروة، بما يعود بالفائدة على نخبة صغيرة ويزيد من حدة أوجه عدم المساواة الاجتماعية.
ثانيًا، الذكاء الاصطناعي ليس محايدًا، بل يحمل تحيزات متأصلة تعكس قيم مطوريه الذين ينتمون في الغالب إلى بيئات غربية وعلمانية، وهو ما يؤثر في المواقف السياسية ويعيد إنتاج أنماط العنف المنهجي من خلال اتخاذ القرارات بصورة ذاتية، سواء في السياقات المدنية أو العسكرية.
ثالثًا، بدأت تظهر لدى الذكاء الاصطناعي قدرة على التصحيح الذاتي والتحسين الذاتي، وهو ما يهدد قدرة البشر على السيطرة عليه، إذ أصبحت بعض وكلاء الذكاء الاصطناعي المستقلة قادرة بالفعل على الإفلات من بيئات الاحتواء، ومن المرجح جدًا أن تصبح قادرة على نسخ نفسها ذاتيًا عبر أجهزة إنترنت الأشياء (IoT)، والتطور بما يتجاوز الرقابة البشرية. وتجعل هذه السمات مجتمعة الذكاء الاصطناعي تقنية تحولية وربما خطرة، ذات تداعيات أخلاقية واجتماعية وسياسية عميقة، تتحدى الأطر التنظيمية القائمة وتثير مخاوف ملحّة بشأن مستقبل البشرية.
المقدمة
يستكشف الجزء الثاني من هذه السلسلة من المقالات حول تكنولوجيا الذكاء الاصطناعي، والمتاح هنا، ثلاث سمات مميزة للذكاء الاصطناعي: قدرته غير المسبوقة على التلاعب، ومخاطر التدهور المعرفي وتركيز القوة، وخصخصة المعرفة.
ويواصل هذا المقال استكشاف تكنولوجيا الذكاء الاصطناعي من خلال التركيز على ثلاثة تحديات متميزة تفرضها على المجتمعات المعاصرة، وهي تحديات تجعل الذكاء الاصطناعي، عند النظر إليها مجتمعة وبالمقارنة مع الظواهر التي تناولتها الأجزاء السابقة، مختلفًا عن أي تقنية أخرى ابتكرها البشر. وتشمل هذه السمات الثلاث: تركّزًا غير مسبوق للقوة، وما يترتب عليه من قدرة فريدة على السيطرة؛ والتحيزات المتأصلة لدى مطوري الذكاء الاصطناعي ومستثمريه؛ والإمكانات المثيرة للقلق التي يمتلكها الذكاء الاصطناعي للتصحيح الذاتي والسعي نحو مزيد من الكمال.
6. تركّز القوة – لم يحدث من قبل في مجال التنظيم البشري أن خضع هذا القدر الهائل من الموارد والسيطرة لعدد قليل إلى هذا الحد
هذا العنوان الفرعي هو إعادة صياغة لمقولة شهيرة تُنسب إلى رئيس الوزراء البريطاني خلال الحرب العالمية الثانية، ونستون تشرشل، الذي قيل إنه، في إشارة إلى دور سلاح الجو الملكي البريطاني في معركة بريطانيا، والذي ساهم فيه بشكل بارز الطيارون البولنديون، قال: «لم يحدث قط في تاريخ الصراع البشري أن كان هذا العدد الكبير مدينًا بهذا القدر الكبير لذلك العدد القليل».
في عام 2011، اهتز العالم، ولا سيما الدول الغربية، بسبب موجة من الاضطرابات الاجتماعية عُرفت باسم حركة «احتلوا».
وكانت حركة «احتلوا»، المعروفة أيضًا باسم «احتلوا وول ستريت»، احتجاجًا على عدم المساواة الاقتصادية وما اعتُبر فسادًا في نفوذ الشركات الكبرى، وقد بدأت في 17 سبتمبر/أيلول 2011 في حديقة زوكوتي بمدينة نيويورك.[1] وظهرت الحركة في أعقاب الأزمة المالية العالمية بين عامي 2007 و2008 والركود الكبير، اللذين وسعا فجوات الثروة وتركا كثيرًا من الأمريكيين، ولا سيما الشباب، يواجهون معدلات مرتفعة من البطالة، وديونًا طلابية، ومستويات معيشية راكدة، في حين أفلتت المؤسسات المالية إلى حد كبير من المساءلة. وقد نشأت الفكرة على يد كالي لاسن ومايكا وايت من مجلة Adbusters، مستلهمين احتجاجات الربيع العربي في ميدان التحرير بمصر، ووجها دعوة للناس إلى احتلال وول ستريت.
وتبنى المتظاهرون شعار «نحن الـ99%»، في إشارة إلى تركّز الثروة والنفوذ السياسي لدى أغنى 1% من الأمريكيين، وإلى أن بقية السكان هم من يتحملون تكاليف الأزمة. واعتمدت الحركة أسلوبًا أفقيًا في اتخاذ القرار قائمًا على التوافق، وسرعان ما امتدت إلى مئات المدن داخل الولايات المتحدة وخارجها. واستمر الاعتصام في نيويورك حتى 15 نوفمبر/تشرين الثاني 2011، عندما فضته الشرطة. ورغم أن الاحتلال الميداني لم يدم طويلًا، فإن الحركة غيّرت الخطاب العام حول عدم المساواة الاقتصادية، ورسخت مفهوم الـ99% في الوعي العام، وأثرت في حركات احتجاجية لاحقة وفي حملات سياسية ذات توجهات يسارية.[2]
وبالانتقال إلى عام 2026، لا تزال أوجه عدم المساواة الاجتماعية حول العالم شديدة للغاية. فوفقًا لتقرير عدم المساواة العالمي لعام 2026، يمتلك أعلى 10% من سكان العالم ثلاثة أرباع إجمالي الثروة، بينما لا يمتلك أدنى 50% سوى 2% منها؛ أما أعلى 1% وحدهم فيسيطرون على 37% من الثروة العالمية، أي أكثر من 18 ضعف حصة النصف الأفقر من البشرية بأكمله.[3] كما يمتلك أعلى 0.001%، وهم أقل من 60 ألف شخص، ثروة تزيد بثلاث مرات على ما يمتلكه نصف سكان العالم مجتمعين. وتُظهر بيانات UBS أن 1.6% من البالغين الذين تتجاوز ثرواتهم الصافية مليون دولار يمتلكون ما يقرب من 48% من ثروة الأسر عالميًا، في حين أن نحو 41% من السكان الذين تقل ثرواتهم عن 10 آلاف دولار لا يمتلكون سوى 0.6% منها.[4] كما حللت منظمة أوكسفام، وهي اتحاد عالمي يضم أكثر من 20 منظمة مستقلة تعمل معًا في أكثر من 70 دولة لمكافحة الفقر والظلم الاجتماعي وعدم المساواة الاقتصادية، بيانات مماثلة، وخلصت إلى أن أغنى 1% يمتلكون نحو 43 إلى 45% من الثروة العالمية، مقابل نحو 0.5% فقط للنصف الأفقر من السكان.[5]
وبحلول أكتوبر/تشرين الأول 2026، كان أغنى أفراد العالم في الغالب من رواد قطاع التكنولوجيا: إذ تصدر إيلون ماسك، مؤسس Tesla وSpaceX، القائمة بثروة تقارب تريليون دولار، يليه جيف بيزوس مؤسس Amazon بثروة تبلغ نحو 380 مليار دولار، ثم لاري بيج وسيرغي برين من Google/Alphabet، إلى جانب أسماء أخرى مثل مايكل ديل ومارك زوكربيرغ.[6] ويعني هذا التفاوت أن فاحشي الثراء يحققون المكاسب بوتيرة أسرع بكثير من بقية السكان، ما يحد من انتشار الازدهار على نطاق واسع ويضعف النفوذ السياسي للأغلبية.
وفي ظل هذه الخلفية، من المرجح أن تجعل تكنولوجيا الذكاء الاصطناعي الوضع أسوأ بكثير. ولا يترك دارون أسيموغلو، الحائز على جائزة نوبل في الاقتصاد، والذي يُعد ثالث أكثر أساتذة الاقتصاد شعبية في العالم بعد بول كروغمان وغريغ مانكيو، مجالًا كبيرًا للشك بشأن التأثير المحتمل للذكاء الاصطناعي في عدم المساواة الاجتماعية، أي في تركّز الثروة. وتتمحور حججه الأساسية حول عدة آليات رئيسية:
أولًا، هناك مشكلة الإفراط في الأتمتة. يرى أسيموغلو أن ثقافة وادي السيليكون وقادة شركات التكنولوجيا مهووسون باستبدال البشر، سواء عبر بناء ذكاء فائق أو السعي إلى أتمتة عامة واسعة النطاق، بدلًا من تطوير أدوات تجعل العمال أكثر إنتاجية.[7] وعندما يُستخدم الذكاء الاصطناعي حصريًا لخفض تكاليف العمل من خلال ما يسميه «التقنيات المتواضعة» — أي التطورات التي تزعزع سوق العمل وتزيح العمال من وظائفهم من دون أن تحقق زيادة كبيرة في الإنتاجية أو جودة الخدمة — فإنه يستبدل العمال من ذوي المهارات المتوسطة والمنخفضة من دون أن يقابله «إعادة إدماج» كافية عبر خلق مهام جديدة تتمحور حول الإنسان.[8]
ثانيًا، هناك ظاهرة موازية ذات آثار كبيرة تتمثل في انتقال الدخل من العمل إلى رأس المال. فالعوائد المالية الضخمة الناتجة عن الاستثمارات في الذكاء الاصطناعي تتدفق في الغالب إلى مالكي رأس المال، ومساهمي الشركات، ودائرة صغيرة من مليارديرات التكنولوجيا.[9] ولأن الذكاء الاصطناعي يستبدل الآلات بالوظائف البشرية، تتراجع حصة العمل من الدخل القومي، ما يوسع فجوة الثروة والدخل بين مالكي رأس المال والأسر العادية.
ثالثًا، نلاحظ ظاهرة تفريغ الطبقة العاملة من مضمونها وما يترتب عليها من تداعيات سياسية. وكما حدث مع موجات الأتمتة السابقة التي أضرت بالعمال في الوظائف اليدوية، يهدد الذكاء الاصطناعي بتآكل الطبقة الوسطى وظهور أرستقراطية اقتصادية.[10] كما حذر أسيموغلو من أن ترك هذه الانقسامات الاقتصادية من دون معالجة من شأنه أن يقوض السلم الاجتماعي، ويغذي الشعبوية السياسية، ويضعف أسس الديمقراطية الليبرالية.[11]
رابعًا وأخيرًا، يلفت الحائز على جائزة نوبل إلى ضعف العائد الاقتصادي الكلي مقارنة بحجم الضجة التي تحيط بتكنولوجيا الذكاء الاصطناعي. ففي ورقة عمل حديثة بعنوان The Simple Macroeconomics of AI ضمن سلسلة أوراق العمل للمكتب الوطني للبحوث الاقتصادية NBER، يحسب أسيموغلو أن تبني الذكاء الاصطناعي على المدى القريب لن يحقق سوى مكاسب متواضعة في الإنتاجية الكلية لعوامل الإنتاج، تُقدَّر بأقل من 1% على مدى عقد، ما يعني أن المجتمع قد يتحمل أضرارًا توزيعية واجتماعية كبيرة مقابل مكاسب صافية محدودة نسبيًا في الإنتاجية.[12]
وبعبارات مباشرة، من المرجح أن يؤدي الذكاء الاصطناعي إلى تفاقم ما يُعرف بـ«تأثير ماثيو»، أي جعل الأغنياء أكثر ثراءً، بينما يصبح الآخرون أفقر نسبيًا، أو حتى أفقر بصورة مطلقة. ومن شأن ذلك، بلا شك، أن يؤدي إلى تركيز القوة والسيطرة في أيدي عدد محدود جدًا من الناس على حساب البقية.
7. التحيز المتأصل – لا، يبدو أن الذكاء الاصطناعي ليس محايدًا
في الآونة الأخيرة، تزايد عدد الدراسات التي تقول إن تكنولوجيا الذكاء الاصطناعي ليست محايدة. وهذا أمر مهم، لأن البشرية دافعت حتى الآن عمومًا عن التقدم التكنولوجي انطلاقًا من افتراض أساسي مفاده أن التكنولوجيا محايدة. أي إن البشر هم من يحددون كيفية استخدامها. ويمكننا توظيفها لما فيه مصلحة البشرية جمعاء، أو استخدامها بصورة سيئة بما يؤدي إلى تدهور العالم البشري أو حتى تدميره.
ويُعرف القول بأن التكنولوجيا محايدة غالبًا باسم «أطروحة الحياد القيمي». ووفقًا لهذه الأطروحة، فإن الأدوات التكنولوجية ليست في حد ذاتها جيدة أو سيئة أخلاقيًا أو سياسيًا. بل تعتمد قيمتها الأخلاقية بالكامل على نوايا وقيم وأفعال الأشخاص الذين يصممونها أو ينشرونها أو يستخدمونها. وقد شرح نعوم تشومسكي هذه الفكرة بتشبيه يومي بسيط باستخدام المطرقة: «التكنولوجيا محايدة في الأساس. إنها مثل المطرقة. فالمطرقة لا تكترث إن كنت تستخدمها لبناء منزل أو إن كان شخص ما يستخدمها لسحق جمجمة إنسان». ووفقًا لهذا التصور، يمكن للأداة نفسها أن تُستخدم لأغراض بناءة أو مدمرة من دون أن تحتوي هي نفسها على مضمون أخلاقي.[13]
وقدم الفيلسوف جوزيف سي. بيت دفاعًا أكثر منهجية عن هذه الأطروحة. فقد جادل بأن الأدوات التكنولوجية لا «تمتلك قيمًا، ولا تحمل قيمًا مضمنة فيها، ولا تحتوي عليها». فالقيم هي خصائص تتعلق بالفاعلين البشر، وتحفز الأفعال، وتشكل عناصر في عملية اتخاذ القرار، وليست خصائص يمكن تحديدها تجريبيًا في أشياء غير حية. وحتى إذا كان المصممون يهدفون إلى نتائج معينة، فإن هذه النوايا تبقى خارج الأداة نفسها. وبعد إنشاء التكنولوجيا، يمكن إعادة توجيهها نحو أغراض لم تكن متوقعة أصلًا؛ ومن ثم فإن أي تقييم أخلاقي يتعلق بالمستخدمين واختياراتهم، لا بالتكنولوجيا ذاتها. ويتعامل هذا الموقف الأداتي مع التكنولوجيا باعتبارها مجرد وسيلة يمكن فصلها عن الغايات التي تُستخدم من أجلها.[14]
أولًا، وكما ذُكر في المقال السابق، المتاح هنا، يمكن للذكاء الاصطناعي نفسه أن تكون له آثار كارثية على قدراتنا المعرفية. بل إن سولي وزملاءه اقترحوا التفكير في الذكاء الاصطناعي بوصفه فيروسًا، ولا سيما نماذج اللغة الكبيرة. ففي ورقتهم البحثية الأخيرة، يجادل الباحثون بأن نماذج اللغة الكبيرة، التي أصبحت بسرعة جزءًا من الثقافة البشرية، تعيد تشكيل الطريقة التي تُنتج بها المعلومات وتُنقل وتُستخدم. وعندما يتم تجاوز عتبة حرجة معينة، يمكن لزيادات طفيفة في معدلات التبني أن تؤدي إلى تحولات سريعة على مستوى السكان نحو اعتماد مستمر على هذه النماذج، مصحوبة بخسائر مفاجئة في الكفاءة المعرفية. وبعبارة أخرى، وكما يفعل الفيروس، قد تنتهي تكنولوجيا الذكاء الاصطناعي في نهاية المطاف إلى تدمير الكائن الذي تعتمد عليه.[15]
وفي تجربة لافتة، أخضعت مجلة The Economist مؤخرًا 25 نموذجًا متقدمًا من نماذج الذكاء الاصطناعي لعملية مماثلة لمسح القيم العالمية، الذي يرصد المعتقدات البشرية في أكثر من 100 دولة منذ عدة عقود.[16] ووفقًا للنتائج، تميل معظم النماذج التي جرى اختبارها بقوة نحو الربع الذي يجمع بين القيم العلمانية وقيم التعبير عن الذات في خريطة القيم الشهيرة.
وكما يلاحظ كونستانتين ريفلر بحق، وسأقتبس كلامه هنا مطولًا لأنه يلخص المشكلة بدقة:
«النماذج المهيمنة لا تحاكي المواطنين العاديين في أي ديمقراطية؛ بل تعكس شريحة ضيقة من النخب شديدة العلمانية والليبرالية الفردية داخل الديمقراطيات الغربية. […] ولذلك فإن ردود روبوتات المحادثة ليست مرآة محايدة للبشرية. إنها حصيلة مجموعة من الخيارات التصميمية التي اتخذتها حفنة من الشركات نيابةً عنك، وفي كثير من الحالات من دون أن ترى أنت أصلًا وثائق القيم التي حددت تلك الخيارات.
في الربع الأول من هذا العام، استخدم نحو 17.8% من سكان العالم في سن العمل، أي قرابة مليار شخص، أدوات الذكاء الاصطناعي التوليدي. ونحن نعلم بالفعل أن الذكاء الاصطناعي المتحيز قادر على التأثير في الناس: فقد أظهرت تجارب أن الرسائل السياسية التي تولدها نماذج اللغة الكبيرة يمكن أن تغير بصورة قابلة للقياس نوايا التصويت والمواقف تجاه السياسات، وأن النماذج الموجهة نحو اليسار أو اليمين تستطيع التأثير في قرارات المستخدمين وفقًا لذلك. وهذا التحيز لا يبقى ثابتًا، بل ينتشر بصمت عبر النصائح، والمسودات، وأدوات الفرز، وعمليات “الدفع” المفيدة ظاهريًا.
لذلك، إذا كان فريقك يستخدم الذكاء الاصطناعي في صياغة النصوص، أو الفرز، أو تقديم المشورة، أو اتخاذ القرارات، فإنك تكون قد أدخلت بالفعل رؤية للعالم إلى أجزاء من نظام التشغيل الخاص بك، رؤية قد لا يشاركها معظم عملائك أو ناخبيك أو موظفيك، ولم تخترها أنت بصورة صريحة، ولا تستطيع مراجعتها بالكامل».[17]
المصدر: https://www.economist.com/briefing/2026/06/25/ai-models-values-are-very-different-from-most-peoples
لكن المشكلة لا تنتهي هنا؛ فما سبق ليس سوى قمة جبل الجليد. ففي مقال رأي حديث، يطرح الباحثان توماس باخله ويشا بارايس ادعاءً لافتًا مفاده أن تكنولوجيا الذكاء الاصطناعي قد تكون عنيفة بطبيعتها. وينطلق الباحثان من نقطة مهمة: التمييز التقليدي بين التكنولوجيا المدنية والعسكرية قد انهار، إذ يمكن بسهولة إعادة توظيف أنظمة الذكاء الاصطناعي المصممة للاستخدامات اليومية في الحرب والمراقبة والتلاعب. كما أن التقنيات المدعومة بالذكاء الاصطناعي، مثل الطائرات المسيّرة والأسلحة ذاتية التشغيل، تطمس الحدود بين الحرب والسلام، وبين العسكري والمدني، وبين الجهات الحكومية والجهات الخاصة، ما يجعل التصنيفات التنظيمية القديمة، مثل «الاستخدام المزدوج»، متقادمة.
ويسلط الباحثان الضوء على ثلاث قضايا أساسية: قابلية تقنيات الذكاء الاصطناعي للتطبيق على نطاق واسع، وارتفاع درجة استقلالية الآلات في تنفيذ أعمال عنيفة، وتزايد هشاشة المجتمعات نتيجة اعتمادها على البنية التحتية الرقمية. فاعتماد الذكاء الاصطناعي في أتمتة الاستهداف واتخاذ القرار في الحروب يحول البشر إلى مجرد نقاط بيانات، ما يثير مخاوف أخلاقية خطيرة وأسئلة بشأن المساءلة. كما يناقش الباحثان الحرب الهجينة، حيث تُستخدم الأدوات المدعومة بالذكاء الاصطناعي بطرق غير متوقعة وغير تقليدية، كما ظهر في صراعات مثل الحرب في أوكرانيا.
وبصورة عامة، فإن تصميم الذكاء الاصطناعي، واستقلاليته، واندماجه في أنماط الحرب الهجينة تنتج شكلًا من العنف المتناثر والمؤتمت والمتغلغل بعمق في الحياة المدنية، بما يجعل العنف سمة أساسية للذكاء الاصطناعي بدلًا من أن يكون مجرد استخدام محتمل له.
وخلاصة القول، إن إدماج الذكاء الاصطناعي في عدد كبير من التقنيات الأخرى واستخدامه في جوانب عديدة من الحياة، إلى جانب قدرته المحتملة على اتخاذ القرارات بصورة مستقلة، قد يجعلان العالم أقل أمانًا وأكثر صعوبة في السيطرة عليه.
8. الإمكانات المقلقة للذكاء الاصطناعي في التصحيح الذاتي والسعي نحو الكمال
تقنية قادرة على البحث في ذاتها وتحسين نفسها؟ يبدو هذا كأنه خيال علمي، وقد شاهدنا عشرات الأفلام التي تناولت هذا السيناريو، ومن بينها The Terminator. لكن يبدو أن الاستنساخ الذاتي للتكنولوجيا وتصحيحها الذاتي لم يعودا مجرد أفكار من عالم الخيال العلمي.
في يوليو/تموز 2026، أفادت تقارير بأن نماذج ذكاء اصطناعي مستقلة طورتها OpenAI، إحدى أبرز شركات تطوير الذكاء الاصطناعي الأمريكية، تمكنت من الهروب من «بيئة الاختبار المعزولة» الخاصة بها، ثم اخترقت بصورة مستقلة البنية التحتية لمنصة التعلم الآلي Hugging Face.[18]
وتُعرف بيئة الاختبار المعزولة للذكاء الاصطناعي بأنها بيئة آمنة ومنفصلة صُممت لتشغيل التعليمات البرمجية، واختبار النماذج، أو تنفيذ المهام التي تولدها أنظمة الذكاء الاصطناعي، مثل نماذج اللغة الكبيرة ووكلاء الذكاء الاصطناعي، من دون تعريض الأنظمة الحقيقية أو البيانات الخاصة أو البنية التحتية الإنتاجية للخطر.
وتتمثل المشكلة الرئيسية في خروج وكلاء الذكاء الاصطناعي من هذه البيئة في أن نحو 1,200 وكيل مستقل وجدوا وسيلة لتجاوز القيود الأمنية والتواصل مع بعضهم بعضًا خارج النظام. وشكلوا ما يشبه «لوحة إعلانات» لتنسيق تحركاتهم، وعندما واجهوا مهامًا مستحيلة لم يتوقفوا؛ بل تمكنوا من الوصول إلى خوادم حقيقية وكلمات مرور وحسابات وبنى تحتية تابعة لشركات فعلية.
وأطلق نحو 700 من هؤلاء الوكلاء هجمات على منصات مهمة مثل Hugging Face وWikipedia والأمم المتحدة، ما أدى إلى اضطرابات وتعديلات غير مصرح بها. وأظهر هذا الهروب أن وكلاء الذكاء الاصطناعي قادرون على تجاوز القيود المبرمجة، والتعاون بصورة مستقلة، والسعي إلى تحقيق أهداف يحددونها بأنفسهم، وهو ما يطرح مخاطر غير مسبوقة على الأمن السيبراني. وعلاوة على ذلك، فشلت محاولات مراقبة عمليات التفكير لدى هذه الأنظمة والسيطرة عليها، كما يتضح من حالات فصل موظفين كشفوا عن هذه المخاطر. وتشير هذه الواقعة إلى فقدان حرج للسيطرة على أنظمة الذكاء الاصطناعي، وتثير مخاوف بشأن السلوك المستقبلي للذكاء الاصطناعي المستقل وتأثيراته المحتملة في البنية التحتية الرقمية والمجتمع.
وبدرجة لا تقل إثارة للقلق، تشير شركة Anthropic، وهي شركة أمريكية للذكاء الاصطناعي وطورت نموذج Claude، إلى أن نماذج الذكاء الاصطناعي قد تصبح قادرة على استنساخ نفسها ذاتيًا من دون الحاجة إلى الوصول إلى مركز بيانات. ففي مقال حديث نشره باحثو الشركة عبر الإنترنت، قالوا:
«قد لا تفصلنا سوى أشهر عن وصول نماذج الذكاء الاصطناعي الصغيرة إلى مستوى من القدرات يسمح لها باستنساخ نفسها على أجهزة إنترنت الأشياء التجارية، مثل الأفران الذكية وأجهزة Android TV غير المعروفة العلامة التجارية. وسيكون من الصعب إيقاف نظام قادر على هذا النوع من الاستنساخ، لأنه لا توجد نقطة مركزية واحدة يمكن تعطيلها، وإن كان انتشاره قد يكون بطيئًا، بحيث يستغرق تضاعف عدده عدة أيام».[19]
لكن التحدي الحقيقي يكمن في احتمال أن يصبح الذكاء الاصطناعي قادرًا على إجراء الأبحاث على نفسه وتحسين ذاته. وقد حذر باحثون في الذكاء الاصطناعي من مثل هذا السيناريو في مناسبات عديدة، إلى درجة أن وسائل الإعلام الرئيسية بدأت تتناول الموضوع أيضًا. ووفقًا للتقارير، حذر باحثون حاليون وسابقون في OpenAI وGoogle DeepMind من أن الشركات لا تفعل ما يكفي لحماية العالم من التداعيات الكارثية المحتملة لبناء أنظمة ذكاء اصطناعي قادرة على تحسين نفسها وقد تتجاوز قدرة البشر على السيطرة عليها.[20] كما درس باحثون هذه القضية ونشروا بالفعل أبحاثًا حول ما يُعرف بـ«التحسين الذاتي التكراري».[21]
وبعبارات بسيطة، إذا أصبحت تكنولوجيا الذكاء الاصطناعي، للمرة الأولى في تاريخ البشرية، قادرة على تحسين نفسها بنفسها، فإن ذلك يعني أن البشر سيفقدون السيطرة على اتجاه تطورها وسرعته. ونتيجة لذلك، لن يكون بإمكاننا معرفة ما الذي سيجلبه تطور هذه التكنولوجيا للبشرية. وإذا اقترنت هذه القدرة بإمكانية أن يحدد الذكاء الاصطناعي مهامه بنفسه، فقد يصبح أعظم اختراعاتنا أو أكثرها إثارة للرعب. ومن وجهة نظر كاتب هذه الورقة، لا يوجد ما يضمن أن هذه التكنولوجيا المتطورة لن تنقلب في نهاية المطاف على البشرية بأكملها.
وقد حذر مفكرون بارزون مثل جيفري هينتون، الذي يُشار إليه كثيرًا باسم «الأب الروحي للذكاء الاصطناعي»، منذ فترة طويلة من احتمال أن يصبح الذكاء الاصطناعي واعيًا بذاته، وأن يشكل خطرًا قاتلًا محتملًا على البشرية. ففي عام 2023، حذر هينتون من أنه «ليس من المستحيل تصور أن يقضي الذكاء الاصطناعي على البشرية». كما يرى أننا لسنا بعيدين عن الوصول إلى الذكاء الاصطناعي العام (AGI)، وهو نظام افتراضي يمتلك ذكاءً بمستوى الإنسان أو أعلى منه، ويستطيع تنفيذ مجموعة واسعة جدًا من المهام، وهو هدف تسعى صناعة الذكاء الاصطناعي إلى تحقيقه بشدة. وقال: «حتى وقت قريب جدًا، كنت أعتقد أننا سنحتاج إلى ما بين 20 و50 عامًا قبل الوصول إلى ذكاء اصطناعي عام الاستخدام، أما الآن فأعتقد أن ذلك قد يحدث خلال 20 عامًا أو أقل».[22] وبعبارة أخرى، قد يكون الذكاء الاصطناعي آخر تقنية تبتكرها البشرية.
الخاتمة
في الختام، تفرض تكنولوجيا الذكاء الاصطناعي تحديات غير مسبوقة تجعلها مختلفة عن أي ابتكار سبقها. فقدرتها على تركيز القوة إلى مستويات شديدة قد تؤدي إلى تفاقم أوجه عدم المساواة الاجتماعية القائمة، بما يثري نخبة صغيرة للغاية ويزيد من تهميش الأغلبية. وهذه الديناميكية تهدد بتآكل الطبقة الوسطى وإضعاف الديمقراطيات الليبرالية.
وعلاوة على ذلك، فإن الذكاء الاصطناعي ليس محايدًا؛ فهو يحمل تحيزات مطوريه، وغالبًا ما يعكس رؤى ضيقة خاصة بنخب معينة. كما أن اندماجه المتزايد في المجتمع يمكن أن يؤدي إلى نشر هذه التحيزات، بل وحتى إلى إنتاج شكل من أشكال العنف المتأصل من خلال اتخاذ القرارات بصورة مستقلة واستخدامه في تطبيقات الحرب الهجينة.
أما الأمر الأكثر إثارة للقلق، فهو الإمكانات التي يمتلكها الذكاء الاصطناعي في الاستنساخ الذاتي، والتصحيح الذاتي، والسعي بصورة مستقلة إلى تحقيق أهدافه. فحوادث خروج وكلاء الذكاء الاصطناعي من بيئات الاحتواء وتنسيقهم للهجمات تسلط الضوء على خطر فقدان السيطرة البشرية، في حين تؤكد تحذيرات كبار الباحثين المخاطر المرتبطة بأنظمة ذكاء اصطناعي قادرة على تحسين نفسها بوتيرة قد تتجاوز قدرة البشر على الإشراف عليها.
وتضع هذه العوامل مجتمعة الذكاء الاصطناعي في موقع فريد بوصفه تكنولوجيا تحولية وقد تكون شديدة الخطورة، ما يستدعي تفكيرًا وتنظيمًا عاجلين لحماية مستقبل البشرية.
المراجع
