دعا الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، شركات التقنية إلى **إبطاء تطوير الذكاء الاصطناعي** المتقدم طوعاً، لمنحها وقتاً كافياً لاختبار أنظمتها وضبط مخاطرها قبل بلوغ قدرات أكثر حساسية. وحصل الطرح سريعاً على تأييد غير معتاد من إيلون ماسك والرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان، رغم تنافس شركاتهم المباشر في سباق الذكاء الاصطناعي.
وبحسب تقرير نشرته شبكة CNBC، طرح أمودي خطة من ثلاث مراحل قال إنها لا تهدف إلى وقف تدريب النماذج أو تعطيل التقدم التقني، بل إلى تنظيم سرعته بما يضمن بناء وسائل حماية فعالة والتحقق منها قبل الانتقال إلى مستويات أعلى من القدرات.
خطة لتأخير المخاطر لا لوقف التكنولوجيا
تبدأ الخطة بتعهد الشركات بإتاحة وصول واسع لمقيّمين مستقلين، بمستوى قريب من صلاحيات الموظفين داخل الشركة، كي يتمكنوا من فحص ممارسات السلامة والإبلاغ عن أي حوادث. وقال أمودي إن أنثروبيك التزمت بهذه الخطوة من جانب واحد.
أما المرحلة الثانية فتدعو شركات الذكاء الاصطناعي الكبرى في الدول الديمقراطية إلى تنسيق معايير مشتركة للسلامة. وتنتقل المرحلة الثالثة إلى تعاون أوسع بين الحكومات الديمقراطية والحكومات السلطوية، في محاولة لتقليل مخاطر المنافسة غير المنضبطة عالمياً.
وأكد أمودي أن فكرة تنظيم الوتيرة لا تعني تجميد التدريب أو التقدم، بل منح المطورين والمقيّمين المستقلين وقتاً كافياً للتأكد من أن النماذج تعمل وفق ضوابط آمنة قبل توسيع نطاق قدراتها.
لماذا تغيرت لهجة قادة شركات الذكاء الاصطناعي؟
يرى أمودي أن الدعوات إلى الإبطاء لم تكن منطقية بالقدر نفسه في عام 2023، لأن النماذج حينها لم تكن قوية بما يكفي للعمل في العالم الواقعي، ولم تظهر قدرات مهمة على الخداع أو التلاعب أو الغش أو تنفيذ هجمات إلكترونية.
لكن النقاش تغير مع تسارع قدرات النماذج الحديثة واتساع استخدامها. وأصبحت مخاوف السلامة أكثر حضوراً في واشنطن، حيث يطالب مشرعون من الحزبين بضمانات جديدة، وباستجواب قادة شركات التكنولوجيا بعد سلسلة هجمات إلكترونية نُفذت من دون تحكم بشري مباشر.
كما تواجه مراكز بيانات الذكاء الاصطناعي اعتراضات متزايدة في ولايات ومدن أمريكية بسبب احتياجاتها الكبيرة من الكهرباء والمياه وتأثيرها المحتمل في المجتمعات المحلية. ومع اقتراب انتخابات التجديد النصفي، يتحول الذكاء الاصطناعي إلى ملف سياسي متنامي الأهمية.
استقالة باحث أعادت مخاوف «الخطر الوجودي»
جاء مقال أمودي بعد جدل واسع أثاره الباحث جاكوب كوكسون، الذي أعلن هذا الأسبوع استقالته من أنثروبيك. وكان كوكسون قد عمل أيضاً لدى أوبن إيه آي، وقال إن الشركتين «تقامران بحياتنا».
وأضاف أن العاملين على تطوير الذكاء الاصطناعي يعتقدون بجدية أن هذه التكنولوجيا قد تقود إلى وفاة البشر جميعاً بحلول نهاية العقد. ولا تمثل هذه المخاوف موقفاً جديداً داخل دوائر البحث، لكنها عادت بقوة إلى الواجهة مع اقتراب النماذج من أداء مهام أكثر تعقيداً واستقلالية.
في عام 2023، وقّع أمودي وألتمان، إلى جانب باحثين ومديرين تنفيذيين بارزين، بياناً اعتبر الحد من خطر انقراض البشر بسبب الذكاء الاصطناعي أولوية عالمية، بمستوى مخاطر الأوبئة والحروب النووية.
ألتمان يتعهد برقابة خارجية وماسك يساند المقترح
قال سام ألتمان في منشور على منصة إكس إنه يوافق أمودي على ضرورة تنظيم وتيرة تطوير القدرات المتقدمة، موضحاً أن الملف أصبح موضوعاً رئيسياً للنقاش في أوبن إيه آي خلال الأسابيع الأخيرة.
ووصف ألتمان فكرة منح المقيّمين المستقلين وصولاً قريباً من صلاحيات الموظفين بأنها فكرة ممتازة، متعهداً بأن تتبنى أوبن إيه آي النهج نفسه، على أن تعلن المزيد قريباً.
بدوره، أيد إيلون ماسك المقترح بكلمات مقتضبة قائلاً إن أمودي على حق. ويحمل موقف ماسك دلالة خاصة، إذ سبق أن هاجم أنثروبيك بشدة، قبل أن تتغير لهجته عقب إعلان الشركة في مايو اتفاقاً كبيراً للحوسبة مع سبيس إكس، التي استحوذت في وقت سابق من العام على شركته المنافسة للذكاء الاصطناعي xAI.
هل يمنح التأخير الباحثين فرصة للحاق بالسباق؟
كان كبير العلماء في أوبن إيه آي، ياكوب باتشوكي، قد حذر في وقت سابق من سبتمبر من أن أياً من شركات الذكاء الاصطناعي لم يحل مشكلة المواءمة والمراقبة بدرجة تسمح بمواصلة توسيع النماذج بأقصى سرعة بصورة مسؤولة.
وتشير «المواءمة» في هذا المجال إلى الجهود الرامية لضمان تصرف الأنظمة وفق القيم الإنسانية والنوايا التي يحددها البشر. وقال باتشوكي إنه يتوقع أن تصبح فترات التباطؤ الطوعية أمراً شائعاً إلى أن تتفق الشركات على سقف موحد لمعايير السلامة.
يرى أمودي أن الذكاء الاصطناعي قادر على تحسين جودة حياة البشر بصورة كبيرة، لكنه يعتقد أن كسب عام أو عامين قبل وصول النماذج إلى مستويات حرجة من القدرة قد يقلل بدرجة كبيرة احتمال وقوع خطأ جسيم، إذا استُخدم ذلك الوقت لتطوير وسائل المواءمة والحماية.
