مسودة قانون في كاليفورنيا تسعى لتوفير الحماية من كوارث الذكاء الاصطناعي

أثار ظهور الذكاء الاصطناعي آمالا بإمكاناته في حل المشاكل، ومخاوف من تأثيراته المدمرة المحتملة في حال إساءة استخدامه، فأدى ذلك إلى طرح نحو 200 مشروع قانون في أنحاء الولايات المتحدة تقترح وضع قيود على التكنولوجيا الناشئة القوية.
وذكرت شبكة "باي أريا نيوز جروب"، أكبر ناشر للصحف اليومية والأسبوعية في منطقة خليج سان فرانسيسكو، في تقرير لها، أن من أبرز مسودات القوانين التي طرحت ما تم طرحه في كاليفورنيا، حيث من شأن مثل هذا القانون أن يؤثر في عشرات من الشركات في الولاية التي تعد مهد الابتكار، وقد أثارت مسودة القانون غضب الشركات الكبرى في وادي السيليكون ومنها غوغل وشركة ميتا المالكة لتطبيق فيسبوك والشركة الناشئة "واي كومبيناتور".

وقال السيناتور الديمقراطي في سان فرانسيسكو بولاية كاليفورنيا سكوت وينير إن "الهدف هنا هو استباق المخاطر بدلا من انتظار قدومها، وهو ما نقوم به دائما".

وأشار محللون تشريعيون إلى أنه على الرغم من تمتع الذكاء الاصطناعي بإمكانات لتحقيق منافع وإحراز تقدم في مجالات الطب وعلوم المناخ وتحسين التوقعات الخاصة بحرائق الغابات وتطوير الطاقة النظيفة، فإنه ينطوي أيضا على مخاطر كبيرة.
وهناك مخاوف واسعة النطاق من إمكانية استخدام الذكاء الاصطناعي لتطوير أسلحة مستقلة يمكن أن تختار وتصيب الأهداف من دون تدخل بشري، من خلال طائرات الدرون المعززة بالذكاء الاصطناعي التي تستخدم في الهجمات الإرهابية أو نقل المخدرات.
وتستخدم الخوارزميات المدعومة بالذكاء الاصطناعي في هجمات التصيّد الاحتيالي والبرامج الخبيثة، مثل برنامج الفدية "وانا كراي" 2017 الذي استغل نقطة ضعف لنظام مايكروسوفت ويندوز وتسبب في أضرار بمليارات الدولارات.

كما أن الخوارزميات الآلية المتعلقة بالتداول يمكن أن تؤدي إلى التلاعب بالأسواق، مثل واقعة فلاش كراش 2010 التي تسببت في فقدان مؤشر داو جونز ألف نقطة خلال دقائق قبل أن يعود لطبيعته.

ومن شأن مسودة القانون التي طرحها السيناتور وينير تنظيم "تطوير ونشر نماذج الذكاء الاصطناعي المتطورة" من خلال تشكيل هيئة تنظيمية جديدة يطلق عليها "فرونتير موديل ديفيجن".
كما من شأن مسودة القانون إنشاء برنامج مجموعة الحوسبة الممولة من القطاع العام الذي يطلق عليه "كال كومبيو" وسوف يركز على تطوير نماذج الذكاء الاصطناعي على نطاق واسع وتقديم الخبرة التشغيلية ودعم المستخدم وتعزيز الابتكار "العادل" في مجال الذكاء الاصطناعي.
ويقول معارضو مسودة القانون إنه من شأنه تقييد الابتكار وعرقلة تطوير الذكاء الاصطناعي المفتوح المصدر. وأضاف المعارضون أن مسودة القانون "تسيء بصورة جذرية تفسير كيفية بناء أنظمة الذكاء الاصطناعي المتطورة"، كما أنها تفرض "التزامات غير متناسبة" على مطوري النماذج، وذلك من شأنه أن يضر باقتصاد التكنولوجيا المنتعش في كاليفورنيا.

وقال روب شيرمان، نائب الرئيس ورئيس قسم الخصوصية بشركة ميتا، في خطاب إلى وينير يعود إلى 25 يونيو/حزيران الماضي، إن أنظمة الذكاء الاصطناعي "تبنيها أطراف متعددة ذات وظائف مختلقة"، وهذا يشمل "مطور النموذج الذي يطرح النموذج في السوق، ومن يقوم بنشر الذكاء الاصطناعي الذي يدمج النماذج في الأنظمة لتقديم الخدمة والتحكم في استخدام النموذج، والمستخدم النهائي الذي يستفيد من هذه الأنظمة".
وكتب شيرمان "عيب مسودة القانون الرئيسي هو أنها تخفق في أخذ النظام البيئي في الاعتبار وتحديد المسؤولية وفقا لذلك، وذلك يفرض التزامات غير متناسبة على مطوري النماذج بالنسبة لأجزاء من النظام البيئي لا يملكون السيطرة عليها".
ويعارض وينير ما جاء في الخطاب، وكان قد قبل تعديلات كثيرة أثناء العمل مع شركات التكنولوجيا والمدافعين عن سلامة الذكاء الاصطناعي بشأن مشروع القانون

وقال وينير "إن أداء تقييمات السلامة يعدّ مطلبا أساسيا للغاية، وقد التزمت هذه المختبرات الكبيرة بالفعل بتنفيذها". وأضاف "في حال رصد خطورة كبيرة تتعلق بحدوث ضرر كارثي، فعلى المطورين اتخاذ خطوات للحد من هذه الخطورة، مما يصعب من تحقق هذه المخاطر ويجعل حدوثها أقل ترجيحا".
وأضاف وينير أن مسودة القانون تنطبق فقط على مطوري الذكاء الاصطناعي الذين ينتجون نماذج ذكاء اصطناعي واسعة النطاق، خاصة المطورين الذين يمتلكون قوة حاسوبية تقدر بأكثر من 100 مليون دولار لتطبيق بروتوكولات السلامة والأمن.
وفضلا عن ذلك، ربما تفرض مسودة القانون عقوبات على الشركات التي تخفق في الإبلاغ عن الحوادث المتعلقة بسلامة الذكاء الاصطناعي، ومنها الأحداث التي تفاقم خطورة الضرر الجسيم، والنماذج التي تتورط في سلوك غير مسموح به والإخفاق في منع استخدام الذكاء الاصطناعي ذي القدرات الخطيرة.
ويمكن أن يواجه منتهكو القانون عقوبات بناء على شدة الانتهاك. ووفقا لمسودة القانون، فإن المحكمة ربما تأمر بإلغاء نموذج ذكاء اصطناعي وبياناته في حال شملت واقعة الانتهاك الموت أو الإيذاء البدني أو الضرر المادي أو السرقة أو خطورة على السلامة العامة.
ووفقا لمسود القانون، فإن المدعي العام في كاليفورنيا فقط هو من سيتمكن من تقديم الدعوى ضد هذه الانتهاكات.

وقد تم تمرير مسودة القانون في مجلس الشيوخ في مايو/أيار الماضي، عقب أن وافقت عليه لجنتا الخصوصية وحماية المستهلك والقضاء، ويتوجه حاليا إلى لجنة المخصصات كما سوف يخضع للتصويت قبل أن يصل إلى مكتب حاكم الولاية.