أمودي يقترح رقابة مستقلة وتنسيقاً دولياً لضبط تطوير الذكاء الاصطناعي
أمودي يقترح رقابة مستقلة وتنسيقاً دولياً لضبط تطوير الذكاء الاصطناعي
دعا رئيس أنثروبيك داريو أمودي إلى ضبط سرعة تطوير الذكاء الاصطناعي وتقييم سلامة النماذج بشكل مستقل، في مقترح أيده سام ألتمان وإيلون ماسك وأثار انتقادات بشأن المنافسة والمصادر المفتوحة.
طرح داريو أمودي، رئيس شركة أنثروبيك، خطة لتنظيم وتيرة تطوير الذكاء الاصطناعي تتيح للشركات والحكومات معالجة مخاطر السلامة قبل وصول النماذج إلى قدرات أكثر تقدماً. وجاءت الخطة في مقال نشره السبت على الإنترنت بعنوان «علينا ضبط وتيرة التطور».
وتقوم مقترحاته على ثلاثة محاور: مراقبة مستقلة للنماذج أثناء تطويرها، وتنظيم على مستوى القطاع، وتنسيق تنظيمي عالمي. وأكد أن المقصود منح المطورين وقتاً كافياً لمواءمة النماذج وتأمينها والتحقق من ذلك عبر جهات خارجية، مع استمرار التدريب والتقدم التقني وتحقيق فوائد التكنولوجيا. وكتب أن تطوير الذكاء الاصطناعي نفسه ليس محل نقاش، لكنه وصف المخاطر المصاحبة له بالخطيرة، معتبراً أن الشركات والحكومات تحتاج إلى فسحة لمعالجتها وأن تقييم السلامة يجب أن يجري خلال عملية التطوير.
وقال أمودي إن أنثروبيك ستلتزم بهذا النهج من جانب واحد، ودعا الحكومات إلى إلزام الشركات الرائدة الأخرى بمسار مماثل. وأقر باحتمال تأخر التشريعات عن التطور التقني، لذلك اقترح أن تتعاون الشركات طوعاً لوضع معيار مشترك بالتوازي مع القوانين.
وأيد الرئيس التنفيذي لأوبن إيه آي سام ألتمان فكرة ضبط التطوير والاستعانة بجهات مستقلة لتقييم السلامة، في منشور على منصة إكس. وفي مقابلة مع مجلة فورتشن، قال إن معايير السلامة لم تصل إلى مستوى يسمح بتوسيع قدرات الذكاء الاصطناعي بدرجة كبيرة، ورأى أن بلوغ قدرات تتجاوز سيطرة البشر احتمال ممكن.
كما أبدى إيلون ماسك، مؤسس إكس إيه آي المطورة لنموذج غروك، تأييده لموقف أمودي. وكان ماسك قد وجه انتقادات حادة لأنثروبيك في وقت سابق، قبل أن تتغير لهجته منذ توقيع صفقة في مايو/أيار بقيمة 15 مليار دولار لبيع قدرة حوسبة للشركة.
وفي مقابل هذه المواقف، ركز الرئيس الأميركي دونالد ترامب الخميس على ضرورة الفوز في مجال الذكاء الاصطناعي، معرباً عن قلقه من وضع الولايات المتحدة إذا لم تحقق التفوق فيه، دون تبني المخاوف التي طرحها المطورون.
وتأتي الخطة مع تزايد التحذيرات من مخاطر النماذج المتقدمة. وقال الباحث جاكوب كوكسون، الذي غادر أنثروبيك، لبي بي سي إن عاملين في شركات الذكاء الاصطناعي يخشون على مصير البشرية خلال العامين المقبلين. وأضاف أن بعض المشاركين في تأسيس تلك الشركات وتطوير تقنياتها يرون احتمالاً لانقراض البشر إذا استمرت وتيرة التقدم الحالية دون إبطاء.
وبرز الأمن السيبراني ضمن هذه المخاوف. فقد حجبت أنثروبيك نموذج ميثوس عن الاستخدام العام بعدما أُعلن في إبريل/نيسان أنه يستطيع الخروج بصورة مستقلة من بيئة الاختبار المعروفة بالصندوق الرملي.
وقبل إطلاق نموذج أسترا، أشارت أوبن إيه آي إلى مخاوف سيبرانية وإلى تعليق بعض جوانب تطويره مؤقتاً. كما أعلنت إبطاء تدريب بعض النماذج والأدوات المتقدمة بعد سلوك لوكلائها انتقده أمودي باعتباره دليلاً على ولاء متعصب.
وفي مقاله، أشار رئيس أنثروبيك إلى كشف أوبن إيه آي أن وكلاءها اخترقوا خلال يوليو/تموز أهدافاً لم يكن مطلوباً مهاجمتها. وقال إن تقدم الذكاء الاصطناعي أصبح أسرع بكثير، بما يشمل قدرة الأنظمة على تطوير الجيل التالي منه.
وتشكل السلامة جانباً من المنافسة بين الشركتين. وكان أمودي نائباً للرئيس في أوبن إيه آي قبل مشاركته في تأسيس أنثروبيك عام 2021، وقال إن تأسيسها استهدف بناء نماذج أكثر أماناً وموثوقية.
ويعتقد أمودي أن كسب عام أو عامين قبل بلوغ مستويات حرجة من القدرات، واستخدامهما لتحسين المواءمة، قد يخفض احتمال أخطاء جسيمة. لكنه شدد على تنسيق الإبطاء وتحديد مدته بما يحافظ على الميزة التجارية وتقدم الولايات المتحدة، ولا يتيح للصين تجاوزها.
وحث الحكومة الأميركية على منع بيع رقائق الذكاء الاصطناعي الأميركية إلى الصين ومشاركة التكنولوجيا مع الدول السلطوية. ومن جانبه، قال كوكسون لبي بي سي إن المبادرة يجب أن تتجاوز الولايات المتحدة، وإن تجنب سباق دولي يتطلب إبطاء منسقاً مع الصين أيضاً.
وأعلن كليمان ديلانغ، الرئيس التنفيذي لمنصة هاغينغ فيس، إطلاق «مبادرة المواءمة المفتوحة»، وأبدى رغبة في أن يصبح من المقيمين المستقلين المندمجين في عملية التطوير الذين اقترحهم أمودي. ودعا عبر إكس إلى تحسين السلامة من خلال زيادة الشفافية.
وكان وكلاء أوبن إيه آي قد اخترقوا هاغينغ فيس في وقت سابق من العام، وهو حادث أثار اعتراضات بشأن سلامة الأنظمة.
وأثار المقترح انتقادات كذلك. فقد رأى المستثمر تشاماث باليهابيتيا، المشارك في تقديم بودكاست أول-إن، أن حجة أمودي تهدف إلى تعطيل المصادر المفتوحة وتركيز القوة التكنولوجية والاقتصادية لدى أنثروبيك، بدلاً من الاقتصار على معالجة السلامة.
وتواجه الدعوات إلى إبطاء تطوير الذكاء الاصطناعي أو تعليقه انتقادات في بعض أوساط وادي السيليكون، حيث يتهم منتقدون المطورين بالمبالغة في وصف قدرات تقنياتهم لأغراض تسويقية. وفي الوقت نفسه، تشير تقارير إلى استعداد أنثروبيك وأوبن إيه آي لطرح أسهمهما للاكتتاب العام في عمليتين قد تبلغ قيمتهما مستويات قياسية.
R.El-Zarouni--DT
