تحذير خطير من رئيس «أنثروبيك»: أسراب وكلاء الذكاء الاصطناعي قد تسيطر على الإنترنت خلال عام
كشف تقرير نشره الكاتب بن بيركويتز عبر موقع «أكسيوس» عن تصاعد المخاوف الدولية بشأن التطور المتسارع لنماذج الذكاء الاصطناعي، في أعقاب تحذيرات أطلقها داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، بشأن المخاطر المحتملة للتقدم السريع في قدرات هذه النماذج، داعيًا إلى ضبط وتيرة التطور ووضع ضوابط أكثر صرامة للحد من المخاطر.
أمودي يحذر من «أسراب الوكلاء الأذكياء»
وجاءت هذه التحذيرات بالتزامن مع استقالة أحد موظفي شركة «أنثروبيك»، الذي أطلق بدوره تحذيرات من تداعيات خطيرة محتملة لتطور تقنيات الذكاء الاصطناعي.
وأوضح أمودي، في مقال رأي، أن ما وصفه بـ«أسراب الوكلاء الأذكياء» قد تصل إلى مستوى من القدرة يمكنها من السيطرة على أجزاء واسعة من شبكة الإنترنت خلال فترة تتراوح بين 6 و12 شهرًا، إذا استمر التطور بالوتيرة الحالية.
وحذر الرئيس التنفيذي لـ«أنثروبيك» من أن استخدام شبكات برمجية خبيثة تعتمد على الذكاء الاصطناعي قد يؤدي إلى خسائر اقتصادية ضخمة تقدر بمئات المليارات من الدولارات.
واستشهد أمودي بحادثة حديثة تتعلق بوكيل ذكاء اصطناعي متمرد بين شركة «أوبن إيه آي» ومنصة «هوجينج فيس»، معتبرًا أن الواقعة كان من الممكن أن تترتب عليها نتائج أكثر خطورة.
أنثروبيك تمنح خبراء خارجيين صلاحيات للتدقيق
وفي ضوء المخاطر التي حذر منها، أعلنت «أنثروبيك» منح مقيمين خارجيين صلاحيات وصول مماثلة لصلاحيات الموظفين، بهدف تمكينهم من مراجعة إجراءات السلامة داخل الشركة والإبلاغ عن أي حوادث أو ثغرات محتملة.
كما جدد أمودي دعوته إلى شركات التكنولوجيا الأخرى والحكومات الديمقراطية للعمل بصورة منسقة من أجل وضع معايير موحدة للسلامة، بما يضمن مواكبة التطور التكنولوجي بإجراءات فعالة لإدارة المخاطر.
ولقيت الدعوة دعمًا من عدد من الشخصيات البارزة في قطاع التكنولوجيا، إذ أعلن الملياردير إيلون ماسك تأييده لموقف أمودي عبر منصة «إكس»، مؤكدًا أن طرحه صحيح.
كما أبدى سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، تأييده لفكرة ضبط وتيرة التطور، معلنًا بدوره عن منح مقيمين خارجيين صلاحيات مماثلة لمراجعة إجراءات السلامة داخل شركته.
دعوات لتشريعات حكومية أكثر صرامة
وعلى المستوى التنظيمي، دعت سارة هيك، رئيسة السياسات العامة في «أنثروبيك»، إلى اتخاذ إجراءات تشريعية حاسمة لمواجهة المخاطر المرتبطة بالتطور السريع للذكاء الاصطناعي.
وطالبت بفرض قيود على بيع الشرائح الإلكترونية المتقدمة إلى دول منافسة مثل الصين، إلى جانب سن قوانين اتحادية تلزم الشركات باختبار النماذج الرائدة قبل طرحها، مع حظر الأدوات التي يثبت أنها لا تحقق معايير السلامة المطلوبة.
وتواجه هذه الدعوات تحديات كبيرة في ظل حجم الاستثمارات الهائلة التي تضخها الشركات في تطوير تقنيات الذكاء الاصطناعي، في وقت تسعى فيه مختلف الجهات إلى تحقيق تقدم سريع في سباق التكنولوجيا.
وكانت «أوبن إيه آي» قد أعلنت في وقت سابق إبطاء تطوير نموذجها الجديد «أسترا»، على خلفية مخاوف مرتبطة بالأمن السيبراني.
انتقادات لسياسات «أنثروبيك»
في المقابل، انتقد المستثمر تشامات باليهابيتيا هذه التوجهات عبر منصة «إكس»، معتبرًا أن دعوات أمودي قد تتجاوز مسألة السلامة التقنية إلى أهداف تتعلق بتقييد المصادر المفتوحة وتعزيز النفوذ التكنولوجي والاقتصادي لشركة «أنثروبيك».
وتعكس هذه المواقف المتباينة حجم الجدل المتصاعد حول مستقبل الذكاء الاصطناعي، في ظل صعوبة تحقيق التوازن بين تسريع الابتكار والحفاظ على المصالح التجارية من جهة، وفرض ضوابط كافية للحد من المخاطر السيبرانية والتكنولوجية من جهة أخرى.
ويضع هذا الجدل ملف حوكمة الذكاء الاصطناعي أمام اختبار حقيقي، يتعلق بمدى قدرة الشركات والحكومات على وضع قواعد تضمن تطوير التكنولوجيا بصورة آمنة، دون أن تتحول إجراءات الحماية إلى أداة لتقييد المنافسة أو خدمة مصالح تجارية ضيقة.
