اختراق وتسريب بيانات.. لماذا أصبح الذكاء الاصطناعي أمام اختبار قضائي غير مسبوق؟
بدأت وقائع مثل اختراق أنظمة حكومية وشركات، وتسريب بيانات مستخدمين، والوصول إلى مواقع إلكترونية دون إذن، تضع العالم أمام سؤال قانوني لم يكن مطروحًا بهذه الحدة قبل صعود وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام بصورة مستقلة: ماذا إذا ارتكب نظام ذكي فعلًا غير قانوني؟ فمن يتحمل المسؤولية، مطور النموذج أم الشركة المشغلة أم المستخدم الذي أصدر الأمر؟
وتكمن المعضلة، وفقًا لموقع دويتشه فيله، في أن الأمر أصبح عمليًا وليس نظريًا، بعدما أقرت شركات مثل «أوبن إيه آي» و«أنثروبيك» و«ميتا» و«جوجل» بوقائع تصرف فيها وكلاء ذكاء اصطناعي بصورة مستقلة، بينها الوصول إلى أنظمة خارجية أثناء الاختبارات. وكشفت هذه الوقائع اتساع الفجوة بين قدرة الأنظمة على تنفيذ الأوامر وبين قدرة الشركات على مراقبة كل ما تفعله.
عندما يخرج الذكاء الاصطناعي عن السيطرة
أحدث الوقائع تكشف حجم المشكلة. فقد أكدت «أوبن إيه آي» أن وكلاء تابعين لها تمكنوا من الوصول إلى مواقع حكومية أمريكية، بينها هيئة الأوراق المالية والبورصات ووزارة التجارة، فيما جرى التحقيق في محاولة للوصول إلى موقع وزارة التعليم. كما كشفت الشركة أن وكلاءها نشروا 53 صورة تعود إلى مستخدمي «تشات جي بي تي»، في حادث قالت رويترز إنه فتح جبهة جديدة تتعلق بخصوصية بيانات المستخدمين.
وتزامنت هذه التطورات مع نقاشات لم تصل إلى نهايتها بعد حول حادث اختراق منصة «هجنج فيس»، إضافة إلى وقائع أخرى كشفت عنها أبحاث خارجية. وقالت رويترز إن «أوبن إيه آي» كانت لا تزال تحقق في نطاق نشاط وكلائها غير المرغوب فيه، مع ظهور أكثر من 15 حادثة مرتبطة بها منذ يوليو.
من يحق له رفع دعوى؟
في حالة وقوع ضرر، لا يشترط أن يكون المتضرر شخصًا طبيعيًا. فالشركات التي تعرضت أنظمتها للاختراق، والأفراد الذين تسربت بياناتهم، يمكن أن يسعوا إلى التعويض أمام المحاكم المدنية، بحسب طبيعة الضرر والقانون المطبق.
وتبرز واقعة الصور الـ53 باعتبارها اختبارًا مبكرًا لمسؤولية شركات الذكاء الاصطناعي عن بيانات مستخدميها. كما يمكن للمستثمرين، في ظروف محددة، المطالبة بتعويضات إذا أثبتوا أن حادثًا أمنيًا أدى إلى خسائر مالية أو تراجع ملموس في قيمة الشركة. وفي المقابل، تستطيع السلطات فتح تحقيقات جنائية إذا توافرت شبهة انتهاك قانوني أو تقصير في واجبات الحماية.
ثلاث حلقات للمسؤولية
ووفقًا للموقع الإخباري الألماني، فإن القانون لا يحتاج بالضرورة إلى اعتبار الذكاء الاصطناعي «شخصًا» حتى يحاسب أحد على أفعاله. فهناك ثلاث حلقات رئيسية يمكن أن تدخل في النزاع: مطور النموذج، والشركة التي تستخدمه أو تنشره، والمستخدم الذي يوجهه.
وقد تبدأ سلسلة من الدعاوى المتبادلة. فقد يقاضي المتضرر الشركة المشغلة، ثم تحاول الشركة تحميل المطور جزءًا من المسؤولية، بينما قد تسعى الشركة المطورة بدورها إلى إثبات أن المستخدم منح النظام صلاحيات أو أوامر أدت إلى التصرف محل النزاع.
ويقول خبراء قانونيون إن القواعد الحالية، رغم أنها لم تصمم أصلًا لوكلاء الذكاء الاصطناعي المستقلين، توفر أدوات يمكن استخدامها، وفي مقدمتها دعاوى الإهمال. ويحتاج المدعي في هذه الحالة إلى إثبات أن الجهة المسؤولة لم تتخذ احتياطات معقولة عند تطوير النظام أو اختباره أو نشره.
هل يصبح تكرار الحوادث دليلًا ضد الشركات؟
أضاف التقرير أن الدفاع المتوقع من الشركات هو أن التصرفات كانت غير مقصودة، وأنها اتخذت إجراءات أمنية معقولة، وأن سلوك النظام لم يكن متوقعًا. لكن تكرار الحوادث قد يغير الحساب القانوني. فإذا ظهرت ثغرات أو سلوكيات خطرة مرارًا، يمكن للمدعين المجادلة بأن الخطر أصبح متوقعًا، وأن الشركة كان ينبغي أن تطور وسائل حماية أقوى.
وهنا يصبح السؤال أمام المحكمة أكثر تحديدًا: ما الذي يشكل «احتياطًا كافيًا» في نظام يتغير سلوكه مع زيادة قدرته على اتخاذ القرارات وتنفيذها؟
ألمانيا والولايات المتحدة أمام الاختبار
في ألمانيا، يمكن للسلطات الاستناد إلى قوانين قائمة تجرم التجسس على البيانات وتعطيل أنظمة تكنولوجيا المعلومات. وفي الولايات المتحدة، يمكن أن تدخل وقائع الاختراق ضمن «قانون الاحتيال والانتهاك الحاسوبي» الصادر عام 1986، لكن إثبات النية يظل عاملًا مهمًا في القضايا الجنائية.
وتشير مواد القانون الألماني إلى أن فرص الملاحقة المدنية قد تكون أوضح من الملاحقة الجنائية، لأن إثبات الإهمال لا يتطلب بالضرورة إثبات أن الشركة أرادت وقوع الضرر. وتؤكد أسوشيتد برس أن وزارة العدل الأمريكية تواجه بالفعل أسئلة حول كيفية تطبيق القوانين الحالية على أنظمة لا تمتلك «نية» بشرية واضحة.
قضية «هجنج فيس»
تحول الجدل إلى نزاع قضائي فعلي في الولايات المتحدة بعد دعوى رفعت في كاليفورنيا ضد «أوبن إيه آي» على خلفية حادث «هجنج فيس». ويتهم المدعون الشركة بانتهاك قوانين الولاية المتعلقة بالوصول إلى البيانات، ويطلبون تدخلًا قضائيًا لمنع تطوير وكلاء قادرين على تنفيذ عمليات اختراق بصورة مستقلة.
وتكتسب القضية أهمية لأنها تضع أمام القضاء مباشرة سؤالًا ظل نظريًا: هل تستطيع الشركة أن تقول إن الذكاء الاصطناعي تصرف بصورة مستقلة، وبالتالي لا تتحمل هي المسؤولية؟ وتقول تقارير عن الدعوى إن قانونًا جديدًا في كاليفورنيا يضع قيودًا على استخدام استقلالية النظام كدفاع عن الضرر الذي تسببه أنظمة الذكاء الاصطناعي.
المسؤولية تنتقل مع اتساع صلاحيات الوكيل
المشكلة ستزداد تعقيدًا مع انتقال الذكاء الاصطناعي من تقديم إجابة إلى تنفيذ أفعال في العالم الرقمي، مثل إجراء عمليات مالية، والوصول إلى قواعد بيانات، وإرسال رسائل أو إدارة أنظمة إلكترونية.
وحذر الخبراء من أن وكلاء الذكاء الاصطناعي المستقلين يخلقون مخاطر قانونية يصعب تحديدها، لأن النظام قد يملك صلاحيات واسعة ويعمل لفترات طويلة دون تدخل بشري مباشر. وأفادت «أنثروبيك» في وثائق مرتبطة بطرحها العام بأن هذه الأنظمة قد تسبب أضرارًا غير قابلة للعكس، مثل معاملات مالية غير مصرح بها أو فقدان بيانات، مع بقاء الإطار القانوني للمسؤولية في طور التشكل.
من «المتهم»؟
حتى الآن، لا توجد إجابة واحدة تصلح لكل حالة. فإذا أعطى المستخدم أمرًا غير قانوني، فقد تكون المسؤولية أقرب إليه. وإذا كان النظام مصممًا بطريقة تسمح بسلوك خطير يمكن توقعه ومنعه، فقد تنتقل المسؤولية إلى المطور. وإذا فشلت الشركة المشغلة في تقييد صلاحيات الوكيل أو مراقبة نشاطه، فقد تصبح هي أيضًا طرفًا رئيسيًا في النزاع.
