الاتحاد الأوروبي يدخل قانون الذكاء الاصطناعي حيز التنفيذ لتنظيم استخدام التكنولوجيا وحماية الحقوق الأساسية

دخل قانون الذكاء الاصطناعي الأوروبي، المعروف باسم «AI Act»، حيز النفاذ يوم الخميس فاتح غشت 2024، في خطوة تشريعية بارزة تهدف إلى وضع قواعد موحدة لتطوير أنظمة الذكاء الاصطناعي واستخدامها داخل دول الاتحاد الأوروبي، مع تعزيز حماية الحقوق الأساسية للمواطنين وتشجيع الابتكار التكنولوجي المسؤول.

ويعد القانون، الذي يحمل الرقم الأوروبي 2024/1689، من أوائل الأطر التشريعية الشاملة على المستوى العالمي لتنظيم الذكاء الاصطناعي، بعدما عرف هذا المجال توسعاً سريعاً في استخداماته التجارية والصناعية والتعليمية والصحية.

وجاء دخوله حيز النفاذ بعد مسار تشريعي امتد لعدة سنوات، تزامن مع الانتشار المتزايد لتطبيقات الذكاء الاصطناعي التوليدي، وما أثارته من نقاشات بشأن حماية المعطيات الشخصية، وشفافية القرارات الآلية، والسلامة والأمن وحقوق المستخدمين.

قانون أوروبي موحد لتنظيم الذكاء الاصطناعي

اقترحت المفوضية الأوروبية مشروع قانون الذكاء الاصطناعي لأول مرة في أبريل 2021، بهدف إنشاء إطار تنظيمي مشترك يضمن استخدام هذه التكنولوجيا بطريقة تراعي سلامة المواطنين وحقوقهم.

وبعد مفاوضات بين المؤسسات الأوروبية، جرى التوصل إلى اتفاق سياسي بشأن النص في دجنبر 2023، قبل اعتماده رسمياً خلال سنة 2024.

ونُشر القانون في الجريدة الرسمية للاتحاد الأوروبي يوم 12 يوليوز 2024، ليدخل حيز النفاذ بعد عشرين يوماً، أي في فاتح غشت من السنة نفسها.

ويرمي التشريع إلى تحقيق توازن بين تشجيع الاستثمار في حلول الذكاء الاصطناعي والحد من المخاطر المرتبطة ببعض استخداماته، خصوصاً تلك التي يمكن أن تؤثر على صحة الأشخاص وسلامتهم وحرياتهم الأساسية.

كما يهدف إلى توفير قواعد موحدة للشركات والمؤسسات العاملة بالسوق الأوروبية، بدلاً من تعدد أنظمة التنظيم بين الدول الأعضاء.

تصنيف أنظمة الذكاء الاصطناعي بحسب مستويات المخاطر

اعتمد القانون الأوروبي مقاربة قائمة على تقييم مستوى الخطر المرتبط باستخدام الذكاء الاصطناعي، مع تحديد التزامات مختلفة حسب طبيعة النظام والغرض الذي يستعمل من أجله.

وتقوم هذه المقاربة على أربعة مستويات رئيسية.

المستوى الأول: المخاطر غير المقبولة

يشمل هذا المستوى ممارسات يعتبرها الاتحاد الأوروبي تهديداً واضحاً للحقوق الأساسية، ومن بينها بعض أنظمة التصنيف الاجتماعي للأفراد، والاستخدامات التلاعبية أو الاستغلالية المحظورة، وفق الشروط المحددة في القانون.

ويهدف الحظر إلى منع الاستعمالات التي قد تؤدي إلى التمييز أو التلاعب بالسلوك أو المساس الجسيم بحريات الأشخاص.

المستوى الثاني: المخاطر المرتفعة

يتعلق بأنظمة يمكن أن تؤثر بصورة مهمة على سلامة الأفراد أو حقوقهم، مثل بعض تطبيقات الذكاء الاصطناعي المستخدمة في الأجهزة الطبية والتوظيف والتعليم والخدمات الأساسية.

وتخضع الأنظمة المصنفة ضمن هذه الفئة لمتطلبات أكثر صرامة، تشمل إدارة المخاطر، وجودة البيانات، والتوثيق التقني، وتوفير آليات الرقابة البشرية.

المستوى الثالث: مخاطر مرتبطة بالشفافية

يشمل أنظمة تتطلب إعلام المستخدم بطبيعة التفاعل أو المحتوى، مثل روبوتات المحادثة وبعض المواد الصوتية أو البصرية المنتجة أو المعدلة باستخدام الذكاء الاصطناعي.

وتهدف قواعد الشفافية إلى مساعدة الأفراد على التمييز بين المحتوى البشري والمحتوى الاصطناعي، والحد من التضليل الذي يمكن أن ينجم عن الاستخدام غير المعلن لهذه التقنيات.

المستوى الرابع: المخاطر المحدودة أو الدنيا

يضم عدداً كبيراً من الأنظمة اليومية، مثل مرشحات الرسائل الإلكترونية غير المرغوب فيها وبعض تطبيقات الألعاب والمساعدة الرقمية.

ولا يفرض قانون الذكاء الاصطناعي التزامات إضافية محددة على معظم هذه الأنظمة بسبب انخفاض مستوى المخاطر المرتبطة بها، مع إمكانية اعتماد الشركات قواعد سلوك طوعية.

قواعد أكثر صرامة للذكاء الاصطناعي في القطاعات الحساسة

أولى المشرع الأوروبي اهتماماً خاصاً للتطبيقات التي يمكن أن تؤثر على القرارات المرتبطة بحياة الأفراد ومستقبلهم المهني أو الدراسي أو الصحي.

ففي مجال التوظيف، قد تستخدم أنظمة الذكاء الاصطناعي لفرز السير الذاتية أو تقييم المرشحين، وهو ما يثير تساؤلات بشأن احتمال وجود انحياز في البيانات أو المعايير المعتمدة.

أما في القطاع الصحي، فتستعمل بعض أنظمة الذكاء الاصطناعي للمساعدة على تحليل الصور الطبية أو دعم التشخيص أو معالجة المعطيات الصحية.

وتبرز أهمية الرقابة البشرية في هذه المجالات لتفادي الاعتماد غير المدروس على قرارات آلية قد يترتب عنها تأثير مباشر على سلامة الأشخاص أو حقوقهم.

ويفرض القانون متطلبات محددة على الأنظمة التي تستوفي معايير التصنيف عالي المخاطر، دون اعتبار كل استخدام للذكاء الاصطناعي في الصحة أو التعليم أو التشغيل نظاماً عالي المخاطر بصورة تلقائية.

الشفافية ومواجهة المحتوى المضلل

خصص القانون الأوروبي مقتضيات للشفافية في التعامل مع المحتوى الذي يتم إنتاجه أو تعديله بواسطة الذكاء الاصطناعي.

وتشمل هذه المقتضيات، بحسب الحالات المنصوص عليها قانونياً، إعلام المستخدم عندما يتفاعل مع نظام آلي، والكشف عن بعض المحتويات الاصطناعية التي يمكن أن توهم المتلقي بأنها حقيقية.

وتكتسي هذه الإجراءات أهمية خاصة في ظل انتشار تقنيات إنشاء الصور والفيديوهات والتسجيلات الصوتية الاصطناعية، التي أصبحت قادرة على محاكاة أشخاص وأحداث بصورة يصعب أحياناً التمييز بينها وبين التسجيلات الأصلية.

كما تهدف قواعد الشفافية إلى تعزيز ثقة المستخدمين في الخدمات الرقمية، وتشجيع الاستعمال المسؤول للتقنيات الجديدة في الإعلام والتواصل والأنشطة التجارية.

ولا يعني ذلك أن جميع الصور أو النصوص المنتجة باستخدام الذكاء الاصطناعي تخضع لالتزام واحد متماثل؛ إذ يحدد القانون المتطلبات وفق نوع النظام والمحتوى وسياق الاستخدام.

تنظيم النماذج العامة للذكاء الاصطناعي

تضمن التشريع الأوروبي أحكاماً خاصة بنماذج الذكاء الاصطناعي ذات الأغراض العامة، التي يمكن استخدامها لإنجاز مهام متعددة، من بينها توليد النصوص والصور والبرمجة وتحليل المعلومات.

وتشمل هذه الأحكام التزامات تتعلق بالتوثيق والشفافية واحترام بعض المتطلبات المرتبطة بحقوق المؤلف.

كما يفرض القانون إجراءات إضافية على النماذج التي تصنف ضمن فئة المخاطر النظامية، بهدف تقييم المخاطر المحتملة والحد منها.

وفي هذا الإطار، أعلنت المفوضية الأوروبية العمل على إعداد مدونة للممارسات الجيدة بالتعاون مع الشركات والخبراء وأصحاب الحقوق وممثلي المجتمع المدني.

ويمثل تنظيم هذه النماذج أحد الجوانب المهمة في التشريع، بالنظر إلى اتساع استخدام الذكاء الاصطناعي التوليدي في قطاعات اقتصادية واجتماعية متعددة.

تطبيق تدريجي لمقتضيات القانون

رغم دخول القانون حيز النفاذ يوم 1 غشت 2024، لم تصبح جميع مقتضياته قابلة للتطبيق بصورة فورية.

فقد نص التشريع على اعتماد جدول زمني تدريجي يمنح المؤسسات والشركات والسلطات التنظيمية مهلاً للاستعداد والامتثال للقواعد الجديدة.

ووفق الجدول الأصلي المعلن سنة 2024، بدأ تطبيق المقتضيات العامة وبعض الممارسات المحظورة في 2 فبراير 2025، تلتها قواعد الحوكمة والنماذج العامة للذكاء الاصطناعي في 2 غشت 2025.

أما التطبيق العام لجزء كبير من التشريع، فقد حدد له تاريخ 2 غشت 2026، مع فترات انتقالية أطول لبعض الفئات.

ويهدف هذا التدرج إلى تمكين الفاعلين الاقتصاديين من فهم المتطلبات القانونية وإدماجها ضمن عمليات تطوير الأنظمة وتشغيلها.

وقد عرفت مراحل تنفيذ القانون ومواعيد بعض الالتزامات تعديلات وتطورات تنظيمية لاحقة، لذلك يظل الرجوع إلى النسخة القانونية المحينة ضرورياً لتحديد المقتضيات السارية في أي تاريخ معين.

مكتب أوروبي للإشراف على تنفيذ القانون

أحدث الاتحاد الأوروبي مكتباً متخصصاً في الذكاء الاصطناعي داخل المفوضية الأوروبية، بهدف دعم تنفيذ القانون والإشراف على بعض جوانبه، وخاصة تلك المرتبطة بالنماذج العامة للذكاء الاصطناعي.

كما أسند أدواراً إلى السلطات المختصة بالدول الأعضاء، من أجل مراقبة الامتثال والتحقق من احترام الالتزامات القانونية.

وتشمل منظومة الحوكمة آليات للتنسيق بين المؤسسات الأوروبية والسلطات الوطنية، إلى جانب دعم تطوير معايير تقنية تساعد الشركات على تطبيق المتطلبات التنظيمية.

وينص التشريع كذلك على عقوبات مالية في حالات مخالفة بعض أحكامه، تختلف بحسب نوع المخالفة والظروف القانونية المرتبطة بها.

انعكاسات محتملة على الشركات التكنولوجية المغربية

رغم أن القانون الأوروبي لا يعد تشريعاً وطنياً مغربياً، فإن نطاق تطبيقه يمكن أن يشمل بعض الشركات الموجودة خارج الاتحاد الأوروبي، بما فيها شركات مغربية تقدم أنظمة ذكاء اصطناعي في السوق الأوروبية أو تُستخدم مخرجات أنظمتها داخل الاتحاد، وفق الشروط المحددة في النص.

وقد يدفع ذلك المقاولات الناشئة العاملة في تطوير البرمجيات والخدمات الرقمية إلى إيلاء اهتمام أكبر لشفافية الأنظمة وجودة البيانات والتوثيق التقني وتقييم المخاطر.

وتزداد أهمية هذه الجوانب بالنسبة إلى المشاريع التي تستهدف قطاعات حساسة، مثل الصحة والتوظيف والتعليم والخدمات المالية.

كما يمكن أن تشكل القواعد الأوروبية مرجعاً للنقاش بشأن حكامة الذكاء الاصطناعي على المستوى الدولي، دون أن يعني ذلك انتقال أحكام القانون تلقائياً إلى التشريعات المغربية.

مرحلة جديدة في تنظيم التكنولوجيا عالمياً

شكل دخول قانون الذكاء الاصطناعي الأوروبي حيز النفاذ في فاتح غشت 2024 محطة مهمة في تطور الأطر القانونية المنظمة للتكنولوجيا الرقمية.

فبعد سنوات من النقاش بشأن فرص الذكاء الاصطناعي ومخاطره، انتقل الاتحاد الأوروبي إلى اعتماد قواعد قانونية تجمع بين حماية المستخدمين وتشجيع الابتكار وفرض متطلبات خاصة على الاستخدامات الأكثر حساسية.

كما أبرز هذا التطور أن تنظيم الذكاء الاصطناعي أصبح موضوعاً يتجاوز الشركات التكنولوجية، ليرتبط أيضاً بالحقوق الأساسية والصحة والتعليم والعمل والإعلام.

ويبقى نجاح هذه المقاربة رهيناً بفعالية التطبيق، وقدرة المؤسسات والشركات على مواكبة التطور السريع للتكنولوجيا، وضمان أن تساهم أنظمة الذكاء الاصطناعي في خدمة الأفراد والمجتمعات دون المساس بحقوقهم وسلامتهم.

برشيد الحدث | صوت الإقليم ونبض المجتمع