المقدمة

يشهد العالم في الوقت الحاضر ثورة تقنية متسارعة بفعل التطورات المتلاحقة في مجال الذكاء الاصطناعي، الذي أصبح من أبرز ملامح العصر الرقمي الحديث وأكثرها تأثيراً في مختلف مناحي الحياة. فقد تجاوزت تطبيقات الذكاء الاصطناعي حدود الاستخدامات التقنية التقليدية لتدخل في مجالات متعددة، كالتعليم والصحة والإعلام والأمن والاقتصاد، الأمر الذي جعلها جزءاً أساسياً من الحياة اليومية للأفراد والمؤسسات. ومع هذا التوسع الكبير في استخدام تقنيات الذكاء الاصطناعي، برزت تحديات قانونية جديدة لم تكن مطروحة من قبل، خاصة في ظل قدرة بعض الأنظمة الذكية على إنتاج محتوى رقمي بصورة مستقلة أو شبه مستقلة دون تدخل بشري مباشر.

وقد أفرز هذا التطور أنماطاً مستحدثة من السلوك الإجرامي، تمثلت في استخدام تقنيات الذكاء الاصطناعي لإنتاج محتوى ينطوي على مخالفة للقانون، كإنشاء مقاطع التزييف العميق، وانتحال الشخصيات، ونشر الأخبار الكاذبة، والاحتيال الإلكتروني، والتشهير، وغيرها من الأفعال التي قد تشكل جرائم معاقباً عليها بموجب التشريعات الجنائية. وتزداد خطورة هذه الجرائم بالنظر إلى سهولة إنتاجها وانتشارها السريع عبر الوسائل الرقمية المختلفة، فضلاً عن الصعوبات العملية والقانونية التي تثيرها فيما يتعلق بتحديد المسؤول عن ارتكابها.

ومن هذا المنطلق، أصبحت مسألة المسؤولية الجنائية عن المحتوى الإجرامي الناتج عن الذكاء الاصطناعي من الموضوعات القانونية التي تستدعي البحث والدراسة، خاصة في ظل التساؤلات المتزايدة حول مدى كفاية القواعد التقليدية للمسؤولية الجنائية في مواجهة هذا النوع من الجرائم المستحدثة. فالإشكالية لم تعد تقتصر على تحديد الفعل الإجرامي ذاته، وإنما تمتد إلى تحديد الشخص الذي يمكن مساءلته جنائياً عنه، سواء أكان المستخدم أم المبرمج أم الجهة المطورة للنظام الذكي، الأمر الذي يفرض على التشريعات الوطنية مواكبة هذه المستجدات التقنية من خلال وضع أطر قانونية واضحة وفعالة.

وتكتسب هذه الدراسة أهمية خاصة من خلال تناولها للمسؤولية الجنائية عن المحتوى الإجرامي الناتج عن الذكاء الاصطناعي في إطار دراسة مقارنة بين التشريع الأردني والاتحاد الاوروبي، وذلك بهدف الوقوف على مدى فعالية كل منهما في مواجهة التحديات القانونية التي تفرضها تقنيات الذكاء الاصطناعي، وبيان أوجه التشابه والاختلاف بينهما، وصولاً إلى استخلاص نتائج وتوصيات يمكن أن تسهم في تطوير المنظومة التشريعية وتعزيز الحماية الجنائية في مواجهة الجرائم المرتبطة بهذه التقنيات الحديثة.

أهمية الدراسة:

تستمد هذه الدراسة أهميتها من حداثة موضوعها وارتباطه بأحد أكثر المجالات التقنية تطوراً وتأثيراً في العصر الحديث، وهو الذكاء الاصطناعي. كما تبرز أهمية الدراسة في تناولها للإشكاليات الجنائية الناشئة عن المحتوى الإجرامي الذي يتم إنتاجه أو المساهمة في إنتاجه بواسطة الأنظمة الذكية، وما يترتب على ذلك من صعوبات في تحديد المسؤولية الجنائية. كذلك تسهم الدراسة في إثراء الفقه القانوني العربي في هذا المجال، وتوفير إطار علمي يمكن الاستفادة منه عند تطوير التشريعات الوطنية لمواكبة المستجدات التقنية المتسارعة.

مشكلة الدراسة:

تنبع مشكلة الدراسة من التطور المتسارع لتقنيات الذكاء الاصطناعي وما نتج عنه من ظهور محتوى رقمي قد يشكل في بعض الحالات أفعالاً مجرّمة قانوناً، الأمر الذي يثير إشكاليات قانونية تتعلق بإسناد المسؤولية الجنائية وتحديد الشخص الذي يمكن مساءلته عن هذا المحتوى. وتتفرع عن هذه المشكلة التساؤلات الآتية:

1- ما هو الذكاء الاصطناعي، وهل عرف المشرع الاردني الذكاء الاصطناعي في التشريع؟

2- ما المقصود بالمحتوى الإجرامي الناتج عن الذكاء الاصطناعي؟

3- هل من الممكن انسحاب قواعد المسؤولية الجزائية التقليدية إلى المسؤولية الجزائية للذكاء الاصطناعي؟

4- هل للفقه في تحديد المسؤولية الجزائية للذكاء الاصطناعي؟

5- هل نصت التشريعات وحددت المسؤولية الجزائية للذكاء الاصطناعي؟

أهداف الدراسة:

تهدف هذه الدراسة إلى التعريف بطبيعة الذكاء الاصطناعي والمحتوى الإجرامي الناتج عنه، وبيان الأساس القانوني للمسؤولية الجنائية المترتبة على هذا المحتوى، وتحليل موقف التشريعين الأردني والاتحاد الأوروبي من هذه المسؤولية، مع إبراز أوجه التشابه والاختلاف بينهما. كما تهدف الدراسة إلى تقييم مدى كفاية النصوص القانونية الحالية في مواجهة الجرائم المرتبطة بالذكاء الاصطناعي، واقتراح بعض التوصيات التي قد تسهم في تطوير المعالجة التشريعية لهذه الظاهرة.

منهجية الدراسة:

تعتمد هذه الدراسة على المنهج المقارن بوصفه المنهج الأكثر ملاءمة لتحقيق أهدافها، وذلك من خلال دراسة وتحليل النصوص القانونية ذات الصلة بالمسؤولية الجنائية عن المحتوى الإجرامي الناتج عن الذكاء الاصطناعي في كل من التشريع الأردني والاتحاد الأوروبي، ومقارنة الأحكام القانونية الواردة فيهما، وبيان أوجه الاتفاق والاختلاف بينهما، وصولاً إلى استخلاص النتائج وتقديم المقترحات والتوصيات المناسبة.

المطلب الأول

الإطار المفاهيمي للذكاء الاصطناعي والمحتوى الإجرامي

شهد العالم خلال العقود الأخيرة تطوراً متسارعاً في مجال الذكاء الاصطناعي، الأمر الذي جعله من أبرز التقنيات الحديثة المؤثرة في مختلف جوانب الحياة الاقتصادية والاجتماعية والقانونية، وقد أسهم هذا التطور في تعزيز قدرة الأنظمة الذكية على معالجة البيانات وتحليلها وإنتاج محتوى رقمي متنوع بدرجة عالية من الدقة والسرعة، مما أدى إلى توسع نطاق استخدامها في العديد من المجالات. إلا أن هذا التقدم التقني لم يخلُ من تحديات قانونية مستحدثة، تمثلت في إمكانية توظيف تقنيات الذكاء الاصطناعي لإنتاج محتوى قد يشكل في بعض الحالات أفعالاً مجرّمة قانوناً أو وسيلة لارتكاب جرائم مختلفة، ومن ثم أصبح من الضروري الوقوف على الجوانب المفاهيمية المرتبطة بهذه التقنية لفهم طبيعتها وآلية عملها والآثار القانونية المترتبة على استخدامها. وعليه، سيتم في هذا المطلب تناول مفهوم الذكاء الاصطناعي والتطور الذي شهده عبر المراحل المختلفة، وبيان أهم الخصائص التي تميزه عن غيره من التقنيات الرقمية الحديثة، كما سيتم التعرض لمفهوم المحتوى الإجرامي الناتج عن الذكاء الاصطناعي وبيان أبرز صوره وأشكاله، تمهيداً لدراسة المسؤولية الجنائية المترتبة عليه في التشريعات محل المقارنة.

الفرع الأول

مفهوم الذكاء الاصطناعي وخصائصه

يُعد الذكاء الاصطناعي من أبرز التطورات التقنية التي شهدها العصر الحديث، نظراً لما يتمتع به من قدرة على محاكاة بعض القدرات الذهنية البشرية وأداء مهام كانت تقتصر في السابق على الإنسان. وقد أدى التطور المتسارع في هذا المجال إلى اتساع نطاق استخدامه في العديد من القطاعات، الأمر الذي جعله محل اهتمام الباحثين والمشرعين على حد سواء. ولما كان تحديد المقصود بالذكاء الاصطناعي يشكل الأساس لفهم طبيعته القانونية والتقنية، فإنه من الضروري الوقوف على مفهومه وبيان أبرز الخصائص التي تميزه عن غيره من الأنظمة والبرامج التقنية الحديثة.

فالذكاء الاصطناعي عبارة عن وسيلة أو هندسة معلوماتية متعلقة تعلقاً تاماً باستخدام جهاز الحاسوب أو الوسائل التكنولوجية المرتبطة به مثل الهاتف المحمول الذكي، وحيث سُلط الضوء عليه نتيجة الاعتماد عليه في شتى أمور حياة الأفراد في المجتمع، والأمر يعزو الى دوره في شتى مجالات الحياة، سواء كانت من الناحية الاقتصادية والاجتماعية، ودوره بالإنجازات التي حققها الذكاء الاصطناعي في شتى المجالات، مثل الطب والهندسة والقانون وغيرها من المجالات، وهو يسمى بـ AI مختصرة لكلمة Artificial Intelligence.

ولابد لنا أن نذكر أن عملية بناء الذكاء الاصطناعي بدأت عام (1943) حيث قام العلماء المختصون بالاستناد الى الخلايا العصبية ووظائف الدماغ في جسم الانسان من حيث التركيب الفسيولوجي له لبناء بما يسمى بالذكاء الاصطناعي، وفي عام (1950) قُدم أول حاسوب يعتمد على الشبكات العصبية الاصطناعية استخدم فيه صمام مفرغ وهي عبارة عن قطعة الكترونية قديمة كانت تستخدم داخل جهاز الحاسوب تسمح بالتحكم بمرور التيار الكهربائي، ونظام قيادة آلي لمحاكاة الشبكات، إلا أن انطلق رسمياً عام (1956) في مؤتمر دارتموث وشهد الظهور الأول له، على أنه تم الاهتمام بتطوير الذكاء الاصطناعي على مر العقود، وذلك من خلال التطورات الكبيرة في قدرات الحاسوب والعلم المعلوماتي من خلال تطور علم الأنماط واتخاذ القرارات والتعلم الآلي، فقد تولد عنها وجود أنظمة ذكية قادرة على تحليل وفهم النصوص والصور بالإضافة الى انتاج محتوى رقمي متنوع عالي الدقة[1].

وعليه، قام الفقهاء بالتطرق الى تعريف للذكاء الاصطناعي، حيث عُرف على أنه: "علم وتقنية قائمة على عدد من المجالات المعرفية، مثل علوم الحاسبات الآلية، والرياضيات والأحياء والفلسفة والهندسة التي تستهدف تطوير وظائف الحاسبات الآلية لتحاكي الذكاء البشري"[2]، وعُرف على أنه "جزء من علوم الحاسب الآلي يهدف الى تصميم أنظمة ذكية، تعل على جعل الحاسب الآلي يمثل ويحاكي التفكير الإنساني، وبعض قدرات السلوك الإنساني، ويعطيها ذات الخصائص التي نعرفها بالذكاء في السلوك البشري"[3]، وعرفه البعض على أنه "التيار العلمي والتقني الذي يضم الطرق والنظريات والتقنيات التي تهدف الى إنشاء آلات قادرة على محاكاة الذكاء البشري."[4]، وعرفها البعض متأثراً بأصل هذه التقنيات المستخدمة المعلوماتي على أنها: "أصول المعلومات كبيرة الحجم وعالية السرعة والتنوع، والتكلفة، وتتطلب أشكالاً مبتكرة لمعالجة المعلومات لتعزيز الرؤية واتخاذ القرارات."[5].

كما أنه ظهرت جملة من التعريفات المتعلقة بطبيعة الذكاء الاصطناعي، التفكير بطريقة بشرية، أي "الجهد الجديد والمثير الهادف إلى جعل الحواسيب تفكر، أي إنشاء آلات تمتلك عقلاً بالمعنى الكامل والحرفي للكلمة."، و التفكير بطريقة عقلانية، أي: "دراسة العمليات الحسابية التي تجعل الإدراك والاستدلال والتصرف أموراً ممكنة."، و التصرف بطريقة بشرية " "فن إنشاء آلات قادرة على أداء وظائف تتطلب ذكاءً عندما يؤديها الإنسان"، أو "دراسة كيفية جعل الحواسيب تؤدي أعمالاً يتفوق فيها الإنسان حالياً.، و التصرف بطريقة عقلانية، الذكاء الحاسوبي هو دراسة تصميم الوكلاء الأذكياء."، أي "يهتم الذكاء الاصطناعي بالسلوك الذكي للأنظمة والكيانات الاصطناعية."[6]

وما نلاحظه من التعريفات ان طبيعة عمل الذكاء الاصطناعي يعتمد بصورة مباشرة من خلال آلية تكوينه، فهو بالنتيجة عبارة عن خوارزميات تتعلق مباشرةً بالعالم المعلوماتي المكون لجهاز الحاسوب، والتي تعتمد في عملها على معادلات رياضية وخوارزميات في إدخال البيانات ومعالجتها وإعادة انتاجها وطرحها للجمهور بصورة تعتمد على تحليل هذه المدخلات أو البيانات بشتى أنواع المجالات المعرفية.

وعن موقف التشريعات من تعريف الذكاء الاصطناعي، فإن المشرع الأردني لم يتولى تعريف للذكاء الاصطناعي في قانون معين، وإنما تم ذكر تعريفه من خلال الوزارة المعنية بتنظيم استخدام التكنولوجيا الرقمية وهي وزارة الاقتصاد الرقمي الاردنية[7]، حيث تبنت الوزارة سياسة خاصة متعلقة بالذكاء الاصطناعي (السياسة الأردنية للذكاء الاصطناعي) في عام (2020)، وفي ضمن السياسة تم تعريف الذكاء الاصطناعي على أنه: "استخدام التكنولوجيات الرقمية لإنشاء أنظمة قادرة على تأدية مهام تحاكي القدرات الذهنية البشرية وأنماط عملها وتحليل البيئة المحيطة والتعلم من الأخطاء للقيام بتوقعات أو تنبؤات أو تقديم توصيات أو اتخاذ قرارات أو القيام بإجراءات تؤثر على بيئات حقيقية أو افتراضية بدرجة من الاستقلال الذاتي.)[8]، ولم يعرج القضاء الأردني الى تعريف الذكاء الاصطناعي، في حين صدر عن الاتحاد الأوروبي قانون خاص يتعلق مباشرةً بالذكاء الاصطناعي، وهو قانون الاتحاد الأوروبي للذكاء الاصطناعي (EU Artificial Intelligence Act- AI Act)[9]، حيث عرف الذكاء الاصطناعي على أنه: "نظام قائم على الآلة، مصمم للعمل بدرجات متفاوتة من الاستقلالية، وقد يتمتع بالقدرة على التكيف بعد تشغيله، ويستنتج، لتحقيق أهداف صريحة أو ضمنية، ومن خلال المدخلات التي يتلقاها، كيفية توليد مخرجات، مثل التنبؤات أو المحتوى أو التوصيات أو القرارات، التي يمكن أن تؤثر في البيئات المادية أو الافتراضية."[10]، ونحن نلاحظ أن القانون ركز في تعريف الذكاء الاصطناعي على الجوانب التقنية التي تتعلق به، من حيث أنه عبارة عن تصميم نظام حاسوب من قبل المختصين يعتمد على البيانات والخوارزميات، بهدف القدرة على اتخاذ القرار ودعمها والتي تؤثر بشكل مباشر على الأفراد والمجتمع.

نرى أن وضع تعريف خاص للذكاء الاصطناعي خطوة فعّالة في تحديد مجال وعالم الجريمة الرقمية والتكنولوجية التي تعتمد على الذكاء الاصطناعي، حيث أن التطور التكنولوجي والمعلوماتي افرز عن ارتكاب الجرائم من خلال استخدام هذه الوسائل، وبتحديد العالم الذي ينبثق عنه الجرائم من شأنه يسهل تحديد المسؤولية الجزائية والمدنية أيضاً، حيث أن الجاني الذي يقدم على ارتكاب جريمة من خلال الوسائل التكنولوجية يكون هو المسؤول وتتحقق بمواجهته المسائلة القانونية، فعلى سبيل المثال، قيام الشخص بذم آخر على الصفحة الخاصة له من خلال التطبيقات الحديثة هي تعتبر جريمة ذم وقدح وتحقير الكتروني، لأن الجاني بنفسه قام بطباعة المواد التي تحتوي على ذم وتحقير للآخر وقام من خلال استخدام وسائل التكنولوجيا من حاسوب وتطبيقات الكترونية بارتكابها، فهنا المسؤولية الجنائية يمكن حصرها وتطبيقها وتحديدها، أما في مواجهة الذكاء الاصطناعي، فإن خلو التعريف يوقع القاضي بصعوبة في تطبيق القانون وتحديد المسؤولية الجنائية في مواجهة الجاني، كما أن وضع تعريف خاص للذكاء الاصطناعي يساهم في حماية الخصوصية والبيانات الشخصية وحقوق الأفراد من المخاطر والاعتداءات التي تتلق بالذكاء الاصطناعي، بالإضافة الى أن ذلك يبرز دور التشريعات في مواكبة التطورات التكنولوجية والمعلوماتية ويحقق التوازن بين تشجيع الابتكار وحماية الحقوق من خلال وضع إطار قانونية ينظم استخدام الذكاء الاصطناعي ويحدد إطاره.

بعد أن تم التطرق الى تعريف الذكاء الاصطناعي لابد لنا من ان نبين ما يتميز به الذكاء الاصطناعي، فالذكاء الاصطناعي يتعامل مع رموز تعبر عن معلومات متوفرة، أي أنه يستخدم رموزاً غير رقمية، بمعنى آخر بأنه يتميز عن فكرة ان الحاسوب لا يستطيع أن يتناول سوى لغة الأرقام[11]، كما أن للذكاء الاصطناعي القدرة على اكتساب المعرفة وتمثيلها، بحيث أن الذكاء الاصطناعي يقوم على فكرة التفاعل مع الانسان بشتى المعلومات والمجالات، ولكي يتمكن من ذلك لابد من إدخالها وإفهامه هذه المعلومات، حيث أن الذكاء الاصطناعي يجب أن يمتلك بيئة وقاعدة معرفية ومعلومات كبيرة تربط المعطيات والنتائج المرجوة[12]، فهي تتكون من أسلوب لتمثيل وإظهار المعلومة من خلال هياكل خاصة لتمثيل المعرفة التي تتضمن بدورها الحقائق والعلاقات بينها، وتتضمن أيضاً مجموعة من الهياكل المعرفية التي تتكون بينهم قاعدة المعرفة والتي تشكل وتتكون من أكبر قدر ممكن من المعلومات عن أي تساؤل أو مشكلة مراد حلها[13].

كما أن من أهم خصائص الذكاء الاصطناعي قابليته على التعلم وتحسين الأداء من خلال الخبرات والممارسات السابقة والأخذ بعين الاعتبار الأخطاء السابقة ، وهي تعتمد على القدرة على تعميم المعلومة واستنتاج حالات مماثلة وانتقائية وإهمال المعلومات الزائدة، بالإضافة الى قدرتها الواسعة على حفظ وتخزين المعلومات[14]، كما أن نظام الذكاء الاصطناعي يعتمد بصورة مباشرة على التجربة في الحل الأنسب، أي أنه يقدم جملة من الحلول التي لا تعتمد على خطوات متسلسلة صحيحة، وإنما هي تختار الحل الأنسب للمشكلة أو المهمة مع الاحتفاظ بوقوع احتمالية التأثير والتغيير في طريقة الحل[15].

كما أن للذكاء الاصطناعي القدرة على التعامل مع المعلومات الناقصة وإيجاد وطرح حلول مقترحة[16]، وقابليتها للاستدلال وتوظيف الخبرات القديمة، من خلال استلهام حلول مناسبة للمشكلة المطروحة من خلال وقائع ومعطيات مشابه ومعروفة ومن الخبرات السابقة، ولا ننسى أن للذكاء الاصطناعي القدرة والقابلية عل محاكاة السلوك الانساني، والقدرة عل التفكير بمنطقية وعدم التأثر بالعاطفة، وبالتالي استقلاليته في اتخاذ القرار، بالإضافة الى قدرته على معالجة جملة ومجموعة من البيانات والمشاكل والتعامل معها بشكل سريع وبدقة[17].

الفرع الثاني

مفهوم المحتوى الإجرامي من خلال الذكاء الاصطناعي

شهد العالم في وقتنا التطور المتسارع في التكنولوجيا المعلوماتية والذكاء الاصطناعي، وأضحى الناس والشركات والمؤسسات يعتمدون عليه اعتماداً كبيراً في حياتهم اليومية بغرض الوصول الى إجابات عن تساؤلاتهم، سواء هذه التساؤلات كانت تتعلق بحياتهم الشخصية أو كان موضوعها طبياً أو مالياً أو اجتماعياً، بالإضافة الى أن كثيراً من الشركات الخاصة والمؤسسات والوزارات أصبحت تستخدم الذكاء الاصطناعي بما يخدم مصالحها وأعمالها مثل الاجابة الفورية على تساؤلات الأفراد عن الخدمات أو المشكلات التي يواجهونها في حياتهم، وعلى الرغم من الايجابيات التي ظهرت في أوج استخدام الذكاء الاصطناعي لحقها جملة من الجرائم التي ظهرت نتيجة استخدامه أيضاً، حيث ظهرت مجموعة من الجرائم التي كان للذكاء الاصطناعي دور كبير في ابرازها الى حيز الوجود والعالم المادي.

لابد لنا من ان نظهر حقيقة وميزة يتمتع بها عالم الانترنت الذي يعتمد على استخدام الوسائل التكنولوجية والوسائل الحديثة في الشبكة المعلوماتية أنها تعل كوسيلة نشر ووسيلة اتصال، حيث أن الانترنت يدعم وسيلة الاتصال التي تتكون بين فرد- فرد، ومن فرد الى جماعة، ومن جماعة الى جماعة، على أنه من الممكن أن يٌستخدم الانترنت على شكل التحدث، أو الاستماع بصورة متبادلة، وقد يتحول المتلقي الى مزود للمحتوى بإرادته، أو من خلل اعادة نشر المحتوى الصادر عن الاخرين، هذا ما يتميز به الانترنت عن البث التقليدي وخدمات الاتصالات التقليدية[18].

فتعد منصات التواصل الاجتماعي (الإلكترونية) من أهم محركات البحث للابتكار والنمو في الاقتصاد الرقمي، فهي تتيح إيصال المعلومات وغيرها من المحتويات لمستخدمي شبكة الانترنت ومواقع التواصل الاجتماعي ومستخدمي محركات البحث^{^[19]}، على أنها تتطور باستمرار من حيث آلية وطريقة صنعها سواء كان بالتصوير أو بالتقاط الصور وأصبح في وقتنا الراهن إنشاء المحتوى من خلال استخدام الذكاء الاصطناعي.

حيث أن فكرة منصات التواصل الاجتماعي مرتبطة ارتباط وثيق مع علم الاجتماع ويهدف الى تحديد العلاقات والسلوكيات التي ترتب على اثر استخدام وسائل التواصل الاجتماعي، وهي ترجع الى فكرة ارسال رسالة من شخص (المرسل) الى آخر (المستقبل) ليتحقق فكرة التواصل، حيث وفق علم الاجتماع، إنها تمثل بنية اجتماعية مكونة من مجموعة أفراد أو منظمات ترتبط بأكثر من نوع من انواع الترابط والسمات المشتركة، ومع التصور التكنولوجي وانشار الوسائط الإلكترونية والمعلوماتية أصبح للتواصل الاجتماعي الصبغة الالكترونية، حيث يتم التواصل بين الأفراد والمؤسسات من خلال استخدام وسائط الانترنت والتطبيقات الإلكترونية، والتي من شأنها التفاعل الفوري مع المستخدمين وسهولة نشرها بالإضافة الى سهولة التواصل فيما بينهم، من شأنه جعلها أكثر عمومية من وسائل الاتصال التقليدية، حيث أنها استهدف جميع الأفراد في مختلف المجتمعات في العالم[20].

ولابد لنا من أن نشير الى موقف المشرع الأردني من تعريف منصات التواصل الاجتماعي، حيث عرفه على أنها:" كل مساحة إلكترونية تتيح للمستخدمين إنشاء حساب أو صفحة أو مجموعة أو قناة أو ما يماثلها يقوم المستخدم من خلالها بنشر أو إرسال أو استقبال الصور أو الفيديوهات أو التعليقات أو الكتابة أو الأرقام أو الرموز أو التسجيلات الصوتية."[21]، علماً بأن اللائحة العامة لحماية البيانات في الاتحاد الأوروبي لم تتطرق الى تعريفها وإنما نظمت عملها من خلال قواعد حماية البينات.

فهذا النوع من التطور لم يخلو من المخاطر القانونية والجرائم، حيث من الامكان استخدام الذكاء الاصطناعي في إنشاء ونشر محتوى ذو طبيعة إجرامية هذا من شأنه أدى الى ظهور مفهوم جديد وهو المحتوى الاجرامي من خلال الذكاء الاصطناعي والتي تعد من المفاهيم الحديثة الملاصقة للذكاء الاصطناعي، فبعد أن بينا وأظهرنا مفهوم وطبيعة الذكاء الاصطناعي، لابد لنا من أن نتطرق الى تعريف ومفهوم المحتوى الاجرامي المنشئ من خلال الذكاء الاصطناعي وإبراز موقف المشرع الاردني وقانون الاتحاد الاوروبي منه.

في البداية إن المحتوى المنشئ من خلال الذكاء الاصطناعي ما هو الا محتوى رقمي، فهو عبارة عن معلومات متاحة من خلال الذكاء الاصطناعي على شكل نصوص أو أصوات أو صور ثابتة أم متحركة[22]، وهو ومع التطور التكنولوجي أصبحنا نرى أن المحتوى يتم إنشاؤه من خلال مواقع الذكاء الاصطناعي، حيث يستطيع الفرد أن يدخل النتيجة من خلال وصفها الى الموقع والذي بدوره يقوم بإنشائه بالوصف والخصائص ووفقاً للمهمة المطلوبة منه، بالإضافة الى ظهور مجموعة من المواقع التي اختصت في مجال المحتوى بحيث أصبح الفرد لا يمكنه التفريق بين محتوى الحقيقة والذكاء الاصطناعي.

حيث يمكن تعريف المحتوى الرقمي على انه المواد المعرفية المكتوبة باللغة العربية والتي تعد للنشر على الشابك، وتشمل مواقع الشابكة والخدمات الالكترونية والمحتوى السمعي والفيديو والكتب، والبرمجيات وقواعد المعطيات ومنتجات المصدر المفتوح الداعمة والأدوات وبرامج معالجة اللغة، والمحركات البحثية الترجمة[23].

والجريمة المقصودة في المحتوى الرقمي هي الجريمة الإلكترونية التي ترتكب من خلال الذكاء الاصطناعي، فالجريمة الإلكترونية هي الجريمة التي ترتكب من خلال استخدام الوسائل الإلكترونية، أي الوجه التكنلوجي للجرائم، والنوع المستحدث هي الجرائم الإلكترونية التي ترتكب وتنفذ من خلال الذكاء الاصطناعي، حيث عُرفت جرائم الذكاء الاصطناعي على أنها الأفعال التي يتم انتاجها أو تساهم في وقوعها أنظمة ذكية ذات طابع خوارزمي واستقلالي، ويُعتمد على آلية التعلم واتخاذ القرار، فتصبح فعالية الخوارزميات جزء جوهري من علة التجريم، وعليه فإن الجرائم التي ترتكب من خلال الذكاء الاصطناعي يعتمد على دور الخوارزميات في إبرازها الى حيز الوجود[24]، وأما عن المحتوى الاجرامي فهو مادة أو محتوى ينتهك الأحكام القانونية النافذة. وتُحدد عدم مشروعيته بصورة واضحة بموجب نص تشريعي أو من خلال السوابق القضائية[25]، فهي عبارة عن مظاهر سلبية للمحتوى يُبث عبر وسائل التوصل بصرف النظر ان كانت تمس فرد بشخصه ام المجتمعات، دون الحاجة الى تواصل مادي ملموس بين الافراد، على أن يكون المحتوى من شأنه ان يسبب الأذى والضرر على مستويات متعددة، ويطال الى الأذى النفسي أيضاً، على سبيل المثال التنمر الإلكتروني، أو التحرش الإلكتروني، بالإضافة الى المحتوى الذي ينال ويمس الأمن والسلم المجتمعي من خلال نشر الأخبار الكاذبة وتوجيه الرأي العام بغرض تحقيق أهداف سياسية أو اقتصادية أو أي أهداف غير مشروعة بالإضافة الى بث خطاب الكراهية والتحريض على العنف ضد الأديان والطائفية والعرقية والجنس والجنسية[26].

وعليه إن المحتوى الإجرامي المقصود به هو المحتوى الذي تم إبرازه وإنشاؤه من خلال استخدام التكنولوجيا بشكل مؤكد، وباستخدام الذكاء الاصطناعي في إنشاؤه وتعديله وصنعه، حيث من الممكن تعريفه على أنه المحتوى المنشئ باستخدام وسائل التكنولوجية المعدل أو المحرر أو المنتج من خلال أدوات وتطبيقات الذكاء الاصطناعي الذي يبرز أو يشير الى اعتداء على حق يحميه القانون والمنشر على وسائط الانترنت، ونحن نحبذ توجه التشريعات المختلفة الى وضع المفهوم العام للمحتوى الإجرامي الناشئ باستخدام الذكاء الاصطناعي في تعريفاتها من خلال وضع الملامح الأساسية والرئيسية له، وذلك لأنه يعبر عن النية الجرمية لدى الجاني واصراره على ارتكاب فعل يشكل اعتداءً بالاستعانة بأدوات الذكاء الاصطناعي، كما أن لتعريفه دور يسهل على القاضي تطبيق النصوص القانونية وتحديد محل الحماية الجزائية للواقعة المعروضة أمامه.

ومن أبرز تطبيقاته بعض المواقع اختصاص في انتاج محتويات بغرض التزييف والتشهير والابتزاز أو تضليل الرأي العام، مثل تقنيات التزييف العميق (Deepfake)، حيث يصعب تحديد المسؤول عن ناتج هذه المحتوى[27].

بالإضافة الى معالجة اللغة الطبيعية (NLP) والتي هي عبارة عن تطبيقات توليد رسائل تصيد إلكترونية باستخدام تقنيات المعالجة وتحليل بيانات الأفراد ورصد الثغرات واستغلالها في تنفيذ هجمات برمجيات خبيثة دقيقة التأثير[28].

بالإضافة الى أن التطورات التي طرأت في الذكاء الاصطناعي أصبحت تستغل في تطوير برمجيات التي تحاكي البشر وتستخدم في الاحتيال المالي أو التسويق للاستثمارات الوهمية، أو انتهاك الخصوصية^{^[29]}، هذا وبالإضافة الى ازدياد الهجمات السيبرانية المعقدة على أدوات الذكاء الاصطناعي والتي من شأنها صعوبة تعقب مرتكبيها[30].

المطلب الثاني

المسؤولية الجنائية عن المحتوى الإجرامي الناتج عن الذكاء الاصطناعي

بعد بيان وتحديد نطاق المحتوى الاجرامي المعدل أو المحرر أو المنشئ باستخدام أدوات وتطبيقات ووسائط الذكاء الاصطناعي، ولما يمثله المحتوى من اعتداءات تمس أمن وسلامة المجتمعات بشكل عام وتؤثر عليه، بالإضافة الى ما تشكله في ذات الوقت اعتداءً على حقوق وحريات الأفراد وبأوقات تمثل اعتداءً صارخاً على حريات الأفراد على نحو خاص ولأفراد معنين بذاتهم، ولما يمثل المحتوى بشكل عام تأثير وتوجيه على الرأي العام، انطلقت أغلب التشريعات الى تحديد نطاق المسؤولية الجزائية وموقفها عن المحتوى الاجرامي الإلكتروني وبالأخص المعدل باستخدام الذكاء الاصطناعي.

ولغاية الوصول الى اجابة ما هي نطاق المسؤولية ومن هم المسؤولين في إنشاء المحتوى الاجرامي الناتج عن استخدام الذكاء الاصطناعي، لابد لنا في البداية من أن نتطرق الى أسس وقواعد المسؤولية الجنائية بشكل عام وبالوجه التقليدي ومن ثم الى النطاق الالكتروني / الذكاء الاصطناعي.

الفرع الأول

أساس المسؤولية الجنائية بالوجه التقليدي

المسؤولية الجنائية تعد أهم المبادئ التي يقوم عليها القانون الجنائي، فمن خلالها تحدد الأساس الذي تُنسب بموجبه الجريمة الى مرتكبها وما بترتب عليها من مسائلته وتوقيع العقوبة وفقاً للقانون، حيث أن التشريعات الجنائية استقرت على مجموعة من المبادئ الاساسية التي تنظم بنيان المسؤولية الجنائية، والتي تتحقق بضرورة قيام وتحقق أركان الجريمة من جهة، وتحقق المسؤولية الجنائية لدى الجاني من جهة أخرى.

فقد وضع القانون مجموعة من البنيان الأساسية في ظل المسؤولية الجنائية وحدد إطارها، ولكي نتمكن من الدخول الى البينيان والعناصر التي تتكون منها المسؤولية لابد لنا من أن نظهر مفهوم المسؤولية الجنائية في البداية.

القاعدة الاساسية في الفقه الجنائي أن الاصل في الأفعال والأشياء الاباحة، والاستثناء عليها ما يتم حصره وبانه من خلال القانون بتجريم الفعل، على أنه من الممكن أن ينص القانون وأن ينقل الفعل من دائرة التجريم وإدخاله الى دائرة الإباحة من خلال جعله سبباً من أسباب التبرير، وفي حال كان الفعل مجرماً، فإن الأصل ان يُنظر الى الفاعل والتمحيص إن كان أهلاً للمحاسبة الجنائية، أي بمعنى إن كان يتمتع بالمسؤولية الجنائية[31]، وعليه في تعريف وتحديد مفهوم المسؤولية الجنائية فإنها "فكرة تتمحور حول إلزام الشخص بتحمل تبعة عدم الالتزام بما أوجبه عليه القانون والتي تتلخص بفكرة العقاب."[32].

وعليه المسؤولية الجنائية من خلال التعريف السابق هي قوامها فكر فلسفي يتعلق تعلقاً مبارشاً بالإنسان، يعني أن الانسان مختاراً في اتخاذ قراراته وتصرفاته، وأن أفعاله ليست استجابة لمحيط لا خارجي أو لقوى خارجية أو داخلية، هي تصدر في حدها الادنى عن قدرة الانسان على التمييز[33].

ومن خلال تحديد مفهوم وعناصر المسؤولية الجنائية، ظهرت مجموعة من المدارس التي عنت في تأصيل المسؤولية الجنائية والتي من شأنها ترتبط ارتباط مباشرة بتحقق أهلية الانسان ومحاسبته والتي عليها تُبنى السياسة العقابية.

المدرسة الأول وهو المذهب التقليدي والذي ينادي بحرية الاختيار، أي أن الفرد يملك الارادة الحرة الكاملة في اختيار طريقه بين الخير والشر، على أن تكون معاملة الافراد جميعاً أمام القانون على قدم المساواة، وعليه الانسان الذي يقدم على اختيار طريق الشر، فإنه يتحمل الجزاءات تطبيقاً لاعتبارات العدالة النافعة، وحال تبين انعدام ارادته كالمجنون، فإنه لا يسأل عنها نظراً لعدم تحقق أهليته وبالتالي لا تبرير لعقابه، واهتم أنصار هذا المذهب بالضرر الناجم عن الجريمة، أي الجانب الموضوعي منها، بصرف النظر عن الجانب الشخصي للجاني، وظروفه النفسية والاجتماعية[34]^.

المدرسة الثانية وهي المدرسة الوضعية وتسمى بالجبرية، التي ظهرت تأسيساً على علم الاجتماع والتي مبدأها يقوم على أن أساس المسؤولية الجنائية يقوم وينهض على خطورة الجاني الاجرامي بسبب عوامل تتعلق مباشرةً في تكوينه العضوي والنفسي أو بسبب عوامل خارجية تتعلق بظروفه المحيطة به التي وجهت الفرد جبراً على ارتكب الجريمة دون أن يكون لديه أي حرية اختيار في ذلك[35]، وبناءً على فكرتهم في تأسيس المسؤولية الجزائية فهي تسلم بأن الانسان مسير لا مخير، والنشاط الجرمي الصادر عن الانسان ما هو إلا نتيجة عوامل داخلية وخارجية سيطرة على سلوكه ليظهر الى حيز الوجود ويُطبق على الواقع المادي ولا سيطرة عليها، وبالتالي فإن المسؤولية هي مسؤولية اجتماعية، والجزاء الجنائي يحدد من حيث خطورة الجاني[36].

المدرسة الثالثة وهي المدرسة التقليدية الحديثة، والتي عملت على التناسب بين المدرستين، حيث أنها نادت بأن المسؤولية الجنائية أساس قوامها مبني على حرية الارادة دون إطلاق، والهدف من العقوبة الردع، فالإرادة تختلف بالنظر الى الفرد دون مساواة بينهم في العقوبة، فالفرد المتمتع بحرية الاختيار الكاملة تتحقق لديه المسؤولية الجنائية الكاملة، وعليه ينال العقوبة المستحقة[37].

تأسيساً على المذاهب التي تناولت تأصيل المسؤولية الجزائية، عملت التشريعات المختلفة في اتخاذ مدرسة معينة وعليها تم تحديد أساس وعناصر المسؤولية الجزائية، حيث أن المشرع الأردني تأثر بالدراسة التقليدية عن شرط تحمل المسؤولية الجزائية، والأخذ بالظروف والأسباب المخففة للعقوبة، بالإضافة الى تأثره بالمذهب الوضعي الذي أخذ بالتدابير الاحترازية وتطبيقها على الانسان والشخص الحكمي.

وعليه تم تحديد ضرورة توافر عنصرين في المسؤولية الجزائية، أولهما الوعي، وهي تعني "خصوصية العقل البشري في إصدار أحكام معيارية قيمية وتلقائية وفورية، على القيمة الأخلاقية لبعض الاعمال الفردية المحددة"[38]، وعُرف على أنه" التمييز أي المقدرة على فهم ماهية الفعل وطبيعته وتوقع الآثار التي من شأنها إحداثه، وعلى التفريق بين المحرم والمباح."[39]، وما هو مستفاد أن القدرة على التمييز بين الفعل المشروع وغير المشروع يتمثل بالإدراك، أي القدرة على استيعاب طبيعة وأساس السلوك والفعل والأثر المترتب عليه ونتائجه، والمفارقة بين ما يجيزه ويحظره القانون.

وثانيهما الارادة، وهي تتمثل بقدرة الشخص أو الفرد السيطرة على الفعل ولاختيار، أي قدرة الانسان الواعي على السيطرة على تنفيذ فعل معين، فهي عبارة عن "ظاهرة نفسية يستعين بها الانسان للتأثير على ما يحيطه من أشياء، فهي "نشاط نفسي واعي متجه الى تحقيق غرض معين عن طريق وسيلة معينة"، وبالتالي هي قدرة الانسان على الاختيار في البواعث المختلفة التي تدفعه الى ارتكاب فعل أو امتناعه عن ارتكابه، وهي تعبر عن "الحالة العقلية والنفسية الساكنة للشخص وقت ارتكاب الفعل أو الامتناع المكون للجريمة"، وفي هذا المنطلق، لكي تتحقق المسؤولية الجنائية في مواجهة الانسان والفرد الطبيعي ولكي يكون أهلاً ويحاسب أمام القانون عن سلوكه الآثم لابد أن يتحقق لديه عناصر المسؤولية الجزائية (العلم والإرادة)، والارادة المعتد بها هي الارادة الواعية النفسية لدى الانسان.[40]

تأسيساً على ذلك، الانسان وحده من يحاسب أمام القضاء ويتمتع بالأهلية الجزائية كونه هو الذي يتمتع بعناصر المسؤولية الجزائية، إلا أن التشريعات عالجت دور المسؤولية الجزائية في الاشخاص والهيئات المعنوية، حيث من المتصور أن تقوم شركة (على سبيل المثال) بارتكاب جرم معين مثل غسل الاموال، وبتطبيق مفهوم المسؤولية الجزائية للفرد الطبيعي وعناصره فإن الاشخاص الحكميين يخرجون من هذا النطاق، إلا أن التشريعات المختلفة تصدت لطبيعة المسؤولية الجزائية للأشخاص الحكميين والمعنويين، وأصبحوا محلاً للمسائلة القانونية، فالشخص الحكمي عبارة عن "تكتل من الاشخاص أو الاموال يحظى باعتراف القانون بمنح الشخصية والكيان المستقل، ومن قيل بأن شخص من صنع القانون."[41].

وقد عالج المشرع الأردني المسؤولية الجزائية للشخص الحكمي وقرر العقوبة الملائمة وفقاً لطبيعة هذا الشخص في نص المادة (74) من قانون العقوبات الأردني في الفقرة الثانية والثالثة حيث نص على "2. يعتبر الشخص المعنوي باستثناء الدائرة الحكومية أو المؤسسة الرسمية أو العامة مسؤولاً جزائياً عن أعمال رئيسه أو أي من أعضاء إدارته أو مديريه أو أي من ممثليه أو عماله عندما يأتون هذه الأعمال باسمه أو بإحدى وسائله بصفته شخصاً معنوياً. 3. لا يحكم على الأشخاص المعنويين إلا بالغرامة والمصادرة وإذا كان القانون ينص على عقوبة أصلية غير الغرامة استعيض بالغرامة عن العقوبة المذكورة وأنزلت بالأشخاص المعنويين في الحدود المعينة في المواد من (22) إلى (24) من هذا القانون."[42].

بحيث لا تقوم ولا تتحقق المسؤولية الجزائية للأشخاص الحكميين إلا في حال كان مرتكب الفعل الجرمي مديراً للهيئة أو ممثلاً لها أو وكيلها أو يعمل لحسابها، وأن يكون هذا الفعل ارتكب باسم هذه الهيئة أو بإحدى وسائلها، ولا يكون الفعل الجرمي ارتكب باسم المؤسسة إلا حال كان من ضمن نطاق اختصاصه وفقاً للنظام الداخلي القانوني الذي يحكم الهيئة أو المؤسسة، كما أن الفعل المرتكب بإحدى هذه الوسائل تهدف الى جلب منفعة لهذه المؤسسة أو الهيئة[43].

وقد أشار القرار القضائي الى مسؤولية الشخص الاعتباري حيث نص في متنه على "من المتصور ارتكاب الشخص المعنوي الجرم استقلالاً بمعزل عن إقامة البينة على الشخص الطبيعي الذي حرك تلك الإرادة حيث إن المادة (74/1) من قانون العقوبات قد أرست قاعدة بينت فيها أساس المسؤولية وهو أن من يقدم على الفعل عن وعي وإرادة يعاقب على فعله بالعقوبة المقررة في القانون وأن البند الثاني منها قد اعتبر الهيئات المعنوية مسؤولة جزائياً عن أعمال مديريها وأعضاء إدارتها وممثليها عندما يأتون هذه الأعمال المعاقبة جزائياً باسمها أو بإحدى وسائلها بصفتها شخصاً معنوياً وقد قصد الشارع من ذلك وضع حد للجدل الفقهي الذي كان يدور حول ما إذا كانت للشخصية المعنوية إرادة كالإنسان أم لا وهل يسال جزائياً غير الانسان فأورد نصاً خاصاً على معاقبتها عند توافر عنصر المسؤولية على أساس أنها تتمتع بوجود قانوني وتمارس نشاطها بهذه الصفة وعليها أن تتحمل كافة الآثار القانونية التي تترتب على فعلها بما في ذلك إنزال العقوبة عليها وفق القواعد المقررة بالقانون بالإضافة إلى مسؤولية الشخص الذي اقترف الجرم وذلك لحماية مصلحة المجتمع لأن مسؤولية الشخص الاعتباري الجزائية لا تعني نفي المسؤولية عن الناس الذين يقترفون الأعمال الجرمية باسمها ذلك لأنهم يقترفون الجرم عن وعي وإرادة على الوجه المبين في البند الأول من هذه المادة فإذا أقدم أحدهم على الفعل المعاقب فيستحق العقاب بالإضافة لعقوبة الشخص المعنوي مما يتعين عدم تحقق ركن العلم وبالتالي يتوجب إعلان عدم مسؤوليتها."[44]، مما يبين أن المسؤولية الجزائية للشخص الحكمي تتحقق متى توافرت عناصرها، وأنها مرتبطة بثبوت الفعل طالما أن الفعل ارتكب من قبل أحد ممثليها باسم الشخص المعنوي ولحسابه وفقاً للقانون.

الفرع الثاني

المسؤولية الجزائية في الذكاء الاصطناعي

في ظل التطور التكنولوجي الناشئ عن وجود الذكاء الاصطناعي وما له من ايجابيات نهض في المجتمعات في شتى المجالات، أيضاً ظهر تطور لمفهوم الجريمة التي ترتكب من خلاله، حيث أصبح لدينا مفهوم الجريمة التي ترتكب من خلال استخدام الذكاء الاصطناعي وبالتالي لابد من البحث حول طبيعة المسؤولية الجزائية في الوجه الحديث لها أي المسؤولية الجزائية في الجرائم التي ترتكب من خلال الذكاء الاصطناعي، حيث أن الاصل والقاعدة الاساسية أن الذكاء الاصطناعي جاء لينهض ويسهل على الأفراد أعمالهم اليومية وما له أثر في إدارة وعمل المؤسسات والشركات المختلفة، إلا أن البعض تعامل معه على أنه وسيلة وآلية لارتكاب جرائم.

حيث كما قدمنا سابقاً، المسؤولية الجزائية بالأساس تسند الى الفرد أو الانسان الطبيعي الذي يتمتع بالإدراك أو الوعي والارادة، وكما بينا تطور مفهوم المسؤولية الجزائية بمواجهة الشخص الحكمي، حيث يُسأل وتتحقق بمواجهته في الحالات التي حصرها القانون، وفي مواجهة الذكاء الاصطناعي، وحال كان المحتوى أو المنتج يمثل جريمة ففي هذه الحال نحن نتعامل مع خوارزميات وتطبيقات، فمن هو الشخص المسؤول، هل هو الشخص المبرمج الذي قام بإنشاء برنامج الذكاء الاصطناعي، أم المستخدم الذي أصدر أمر إنشاء المحتوى الاجرامي، أم الجهة التي قامت بتصنيع هذا البرنامج.

فالذكاء الاصطناعي عبارة عن منظومة متكاملة متقدمة ومتطورة، من غير المنطق أن يتم استخدام وتطبيق الاسس والتأصيل القانون للمسؤولية الجزائية في الوجه التقليدي لها على هذه المنظومة لعدم انطباقها، وعلى الرغم من ان بعض الفقهاء تمسكوا بأن الانسان الطبيعي هو الذي يحاسب وبالتالي في تحديد المسؤولية الجزائية في إطار الذكاء الاصطناعي لابد من محاسبة الانسان المتحكم أو المبرمج[45]، إلا أن الاخذ بهذه الفكرة وحدها دون النظر الى الطبيعة التي يتمثل بها الذكاء الاصطناعي من شأنه اثارة مجموعة من الاشكالات التي تتعلق ترجع الى طبيعة الفاعل في الجريمة غير التقني وبالتالي غياب عناصر المسؤولية الجزائية في الوجه التقليدي لها[46]، وبالتالي وعليه ظهرت التحديات في إسناد المسؤولية الجنائية للجرائم الناتجة عن الذكاء الاصطناعي لاستيعابها التطور التكنلوجي الملحوظ.

وما نلاحظه أن أغلب التشريعات ومنها الأردني لازالت في تأصيلها للمسؤولية الجزائية تتمحور حول الوجه التقليدي لها دون الأخذ بعين الاعتبار التطور التكنلوجي، حيث أن القوانين تفترض أن الانسان هو الذي يقدم على ارتكاب الجريمة نظراً لتمتعه بعناصر المسؤولية الجنائية، وبالرجوع الى الاتفاقيات الدولية فنلاحظ خلو وغياب نصوصها عن التطور التكنولوجي في المسؤولية الجنائية للذكاء الاصطناعي، مما يعطي المجال للاجتهاد القضائي في هذا الامر، وهو أمر من شأنه فتح المجال للمجرمين الافلات من المسؤولية وبالتالي الافلات من العقاب بالإضافة الى التباين في القرارات القضائية وعدم الاستقرار في الاجتهاد القانوني[47].

وعليه ظهرت اجتهادات فقهية في إسناد المسؤولية الجنائية للجرائم الناشئة عن الذكاء الاصطناعي، فالاتجاه الأول يرى أن الذكاء الاصطناعي ما هو إلا وسيلة لتنفيذ الجريمة ولا يمكن توجيه مسائلة بمواجهته، وعلية المسؤولية الجنائية تتحقق بمواجهة الشخص المصمم أو المستخدم للذكاء الاصطناعي، حيث أن اصحاب هذا الاتجاه يقرون بأن المسؤولية الجنائية لا تتحقق إلا بمواجهة العنصر البشر والفرد الطبيعي، ويرون أن الذكاء الاصطناعي ما هو إلا وسيلة وأداة ويتعاملون معه كمعاملة السلاح وغيرها من أدوات تنفيذ الجريمة[48].

أما الاتجاه الثاني فهو أقر بضرورة تطوير مفهوم المسؤولية الجنائية في ظل الذكاء الاصطناعي بغرض استيعاب التطور التقني، والتي تحمل الفاعل البشري المسؤولية متى تم إثبات إهماله في الرقابة على النظام[49]، حيث أشار الفقهاء بضرورة توزيع عبء الاثبات على من يمتلك السيطرة الفعلية والكاملة على الذكاء الاصطناعي خاصة في حالات الاهمال[50].

أما الاتجاه الثالث الذي ينادي بضرورة منح الذكاء الاصطناعي الشخصية القانونية الإلكترونية بغرض مسائلته جنائياً عن الجرائم متى ثبت تحققها، على أساس أن تكون المسؤولية في هذه الحالة مسؤولية ذاتية، أي سحب المسؤولية الجنائية المفروضة على الشخص الحكمي وفرضها على الذكاء الاصطناعي[51]، حيث لاقى هذا الاتجاه الرفض القانوني، إلا أن البرلمان الأوروبي ناقش الاقتراح في إطار دراسة مستقبل التشريعات المنظمة للروبوتات[52].

وما يتم ملاحظته أن أغلب الدراسات تتجه نحو عدم منح الذكاء الاصطناعي الشخصية القانونية المنفصلة قبل ما يتم استكمال المعالم والاساس الضابط لمسائلتها، ذلك لأنها تواجهه جملة من التحديات العملية والأخلاقية التي تتصل بمعايير السلوك غير المعقول الصادر عنها مع تطور نموذج الذكاء ذاتي التعلم[53].

وعليه للمبادرة للحد من هذا القصور في تأصيل المسؤولية الجزائية للذكاء الاصطناعي لابد من خلال التطرق الى أركان الجريمة بشكل العام في الذكاء الاصطناعي تحديد الأدوار والأسس التي من الممكن من خلالها تحديد الاطار القانوني للمسؤولية الجزائية للذكاء الاصطناعي، فالجريمة تقوم على ثلاث أركان، الركن الشرعي والركن المادي والركن المعنوي.

الركن الشرعي الذي قوم على قاعدة راسخة وهي أن لا جريمة ولا عقوبة إلا بنص، أي لابد أن يتضمن النص التجريمي للفعل الوضوح والدقة[54]، ولانسحاب الجرائم الناتجة عن التطور التكنلوجي والرقمي اتجهت الدول الى سن تشريعات مختصة عن هذا النوع من الجرائم، حيث قام المشرع الأردني باستحداث قانون يتناول البحث في الجرائم الإلكترونية، أي التي ترتكب من خلال الوسائل التكنولوجية والتي يكون محلها البيئة الرقمية وهو قانون الجرائم الإلكترونية الأردني رقم (17) لسنة (2023)، بالإضافة الى التعديلات القانونية التي طرأت على قانون العقوبات في حدود بعض الجرائم التي أضاف عليها الصبغة الرقمية مثل جريمة التزوير.

حيث عمل على تحديد السلوك الجرمي من خلال هذا القانون وتحديد معالم وأركان وعناصر الجريمة الأساسية التي ترتكب من خلال استخدام الوسائل التكنلوجية أو التي تكون محلاً لارتكاب الجريمة وحقاً محمياً بالقانون، إلا أنه من الملاحظ غياب النص التجريمي الذي يتعلق بأنظمة الذكاء الاصطناعي، حيث أن المشرع الأردني لم يتطرق الى تعريف الذكاء الاصطناعي أو بيان الجرائم التي تنتج من خلاله تحديداً وبشكل مباشر، وإنما عمل على تجريم ناتج السلوكيات المرتكبة من خلال استخدام هذه التقنيات والتي تمثل الاعتداء على حق محي بالقانون.

وبالمقارنة مع توجه الاتحاد الأوروبي في ظل الذكاء الاصطناعي، فمن الملاحظ أنه نظمها من خلال التوجهات واللوائح المتعلقة بالجرائم الإلكترونية، ومنها التوجيه 40/2013/EU بشأن الهجمات ضد نظم المعلومات[55]، بالإضافة الى التوجيه الذي يركز على الأمن السيبراني وحماية البنية التحتية الرقمية والشبكات دون الأخذ بدائرة التجريم والعقاب[56]، وفي دائرة الذكاء الاصطناعي، أصدر الاتحاد الأوروبي قانون الذكاء الاصطناعي فهو يهدف الى حماية حقوق الافراد الاساسية وتشجيع الابتكار، ويعتمد على النهج الذي يقوم على المخاطر، فقسم أنظمة الذكاء الاصطناعي الى اربع فئات، أنظمة ذات مخاطر غير مقبولة تحظر بالكامل، وأنظمة عالية الخطورة تخضع الى متطلبات قانونية صارمة، وأنظمة محدودة المخاطر تلتزم بمتطلبات الشفافية، وأنظمة منخفضة أو معدومة المخاطر لا تخضع إلا لالتزامات محدودة، بالإضافة الى أن القانون فرض على مزود ومطور ومستخدم الذكاء الاصطناعي ضمانات جودة البيانات وإدارة المخاطر والرقابة البشرية، بالإضافة الى توثيق الانظمة وفرض غرامات مالية على المخالفين، ومع ذلك فإن القانون لم يقم بتحديد ومنح الذكاء الاصطناعي الشخصية القانونية لتتحقق بمواجهته المسؤولية الجنائية وإنما ما يُلاحظ أنه أبقاها على الشخص أو الفرد الطبيعي أو الاعتباري المسؤول عن تطوير وتشغيل واستخدام الأنظمة[57]

وفيما بتعلق بالركن المادي للجريمة الذي يقوم على إبراز الجريمة الى حيز الوجود في العالم المادي، فإن تحديد المسؤولية بالتوازي مع عناصر الركن المادي لابد أن يؤخذ يعبن الاعتبار الخصوصية التي تتمتع الجرائم الناتجة عن الذكاء الاصطناعي، ففي الجرائم التقليدية وحتى الجرائم التي ترتكب باستخدام الوسائل التكنولوجية، الفرد الطبيعي أو الانسان المتمتع بالإدراك والوعي يقدم على ارتكاب فعل مخالف للقانون ويمثل نتيجة مفادها الاعتداء على حق محمي بالقانون مرتبطاً بعلاقة منطقية سببية بينهما، والقول بتحقق هذا الأمر بالذكاء الاصطناعي فإنه يتمتع بخصوصية معينة، خاصة إن كان الفعل في مخرجات ونتاجات الذكاء الاصطناعي ان تتخذ بقرارات مستقلة بالاستناد الى بيانات مغايرة، فيكون السلوك الجرمي الانسان والتقليدي متداخل مع سلوك رقمي آلي، يثير صعوبة في تحديد العلاقة السببية وبالتالي تحديد مسؤولية الاعتداء[58]، حيث عد الفقهاء هذا الفعل ناتج تفاعل بين الانسان والآلة ولا يمكن فصلهما عن بعض[59].

عمل بعض الفقهاء لمواجهة هذا النوع من أنواع السلوك وتحديد الرابطة والعلاقة السببية بالتناسب مع طبيعة عمل الذكاء الاصطناعي، بحيث حال كانت هذه الانظمة تعتمد على خوارزميات ذاتية التعلم دون تدخل من المبرمج أو المشغل تكون قادرة على اتخاذ قرارات غير متوقعة فهنا تنتقل السيطرة الفعلية من الانسان الى الآلة[60]، وفيما يتعلق بالعلاقة السببية في إطار الذكاء الاصطناعي، فتتداخل عوامل تقنية معقدة اعتماداً على بيانات متغيرة[61]، هذا بالإضافة الى أن الفقه اشار الى إخلال بواجب الرقابة من قبل المبرمج أو المراقب للذكاء الاصطناعي، ويعد صورة من صور الاهمال التقني، وعده الفقه أساسً للمسؤولية الجنائية غير المباشرة للمبرمج أو الشركة الصانعة على أساس أن الامتناع عن تحديث النظام أو مراقبته يعد خطأ جسيم يقوم مقام الفعل الايجابي[62]، علماً بأن هذا النهج يمتد وينطبق على تقنيات الذكاء الاصطناعي التوليدي الذي اتاح للمجرمين انتاج رسائل احتيالية مقنعة تسهل ارتكاب جرائم الاحتيال الالكتروني[63]، هذا مؤداه نتيجة أن الفعل الجرمي الصادر عن الذكاء الاصطناعي يكون نتيجة إما إهمال من المبرمج أو الشركة المسيطة على البرنامج، أو أفعال مباشرة من ذات البرنامج، أو أفعال مستحدثة من الخوارزميات المكونة للبرنامج التي تحدث ذاتها بناءً على مبرمجها.

وفيما يتعلق بالركن المعنوي الذي يعبر عن النفسية التي تتحقق لدى الجاني من خلال علمه بأن الفعل مجرم واتجاه ارادته الى تحقيق النتيجة الجرمية، فإن هذا الامر لا ينسحب ويتسع بمواجهة الذكاء الاصطناعي، حيث أن البرنامج لا يتمتع بالعلم والارادة التي يتمتع بها الانسان الطبيعي، وعليه ظهر جانب من الفقه الذي عد نظام الذكاء الاصطناعي كفاعل معنوي كونه شخصية قانونية الكترونية مستقلة، تأسيساً على أنها قادرة على اتخاذ قرارات ذاتية بناءً على خوارزميات معقدة وأنماط من البينات الضخمة، وهي في الوقت الراهن تُظهر سلوك أقرب الى الفعل الارادي من حيث المخرجات وإن لم تتحقق الارادة الانسانية المباشرة له[64].

وهناك جانب آخر من الفقه تمسك بأسس المسؤولية الجنائية في اسناد الركن المعنوي الى الانسان وليس الى الآلة، وذلك من حيث السيطرة أو الاشراف الفعلي على الآلة، حيث يعد النظام أداة تنفيذ لا يتمتع بالإرادة وبالتالي المسؤولية تقع على الشخص المسيطر عليه[65]، كما أن المسؤولية تختلف وتتدرج بحسب مقدار التدخل والمساهمة، فالمبرمج يُسأل بمقدار كتابته للشيفرة الغير مضبوطة، والمُشغل يُسأل عن عمل النظام دون مراقبة وتحديث، والمالك حال أهمل في وضع تدابير الحماية والأمان للنظام وسمح باستخدامه بصورة مخالفة للقانون[66].

وفيما يتعلق بدور التشريع الأوروبي في إرساء مسؤولية الجنائية للذكاء الاصطناعي، وعلى الرغم من خلوها بصورة مباشرة للمسؤولية الجزائية للذكاء الاصطناعي، إلا أنه تناول التشريعات المدنية والتنظيمية للذكاء الاصطناعي وحماية الحقوق، حيث عملت على تقرير المسؤولية الادارية والتنظيمية للنظام، حيث من أبرز القواعد التي رسختها مبدأ المسائلة، حيث أنه يجب على المتحكم بالبيانات إثبات التزامه لأحكام اللائحة عند استخدام الذكاء الاصطناعي في معالجة البيانات، بالإضافة الى تحديد المسؤول عن المعالجة، حيث ميز بين المتحكم بالبيانات (Data Controller) ومعالج البيانات (Data Processor)، وحدد التزام كل منهما، ومن هنا نلاحظ أنه أبقى المسؤولية على الشخص أو الفرد العادي الطبيعي أو الاعتبار المستخدم للنظام، كما أنه فرض على مطور النظام تصميم أنظمة تقلل جمع البيانات وتحمي خصوصية الأفراد، بالإضافة الى الشفافية والاعلام بآلية وكيفية استخدام بياناتهم وأغراض المعالجة وأساسها القانوني القائم على الذكاء الاصطناعي[67].

ونحن وبعد طرح الاتجاهات الفقيه في تحديد المسؤولية الجزائية ومن مدى تحققها للذكاء الاصطناعي نجد أنها مسؤولية ممزوجة ما بين العامل البشري والعامل الآلي، حيث أن بالأساس النظام هو من صنع البشر ومن برمجيته وتحديد خوارزمياته، ومن مدى تدخل القوة الآلية في تحديث برمجياته تلقائياً، ومدى سيطرة وهيمنة الرقابة البشرية على هذا النظام من ناحية، ومن ناحية أخرى بالإمكان محاسبة الذكاء الاصطناعي وفرض التدابير الاحترازية عليه من خلال سحب قواعد المسؤولية الجزائية المفروضة على الشخص الحكمي، بالأخص أننا في الوقت الحالي نلاحظ التطور الرقمي للذكاء الاصطناعي ودوره في اتخاذ القرارات بناءً على المدخلات التي يسأل عنها الأفراج، حيث أنه بالنتيجة ما هو إلا عبارة عن شخصية رقمية يُسيطر عليها من قبل إما فرد أو شخص معنوي، وعليه المسؤولية الجزائية تتسع في هذا النطاق الى كل من الذكاء الاصطناعي بالإضافة الى مسؤولية المبرمج والمسيطر، هذا وبالإضافة حال تدخل الفرد في مدخلات الذكاء الاصطناعي وأعطى أمراً بإنتاج محتوى يمثل فعل جرمي يعتدي على حق، ففي هذه الحالة يكون الذكاء الاصطناعي وسيلة لإنتاج النتيجة الجرمية.

الخاتمة

بناءً على ما تقدم، وفي الختام، ان التطور المتسارع في أنظمة الذكاء الاصطناعي وما يلحقها من القدرة على انتاج محتوى اجرامي واجه تحديات قانونية غير مسبوقة في قواعد المسؤولية الجزائية، حيث كشفت الدراسة في البداية عن طبيعة المحتوى الاجرامي الصادر عن الذكاء الاصطناعي في البداية ودور القوانين في تحديد طبيعتها، وأظهرت الاشكاليات التي تتعلق بتحديد دور المسؤول والذي تتحقق بمواجهته المسؤولية الجزائية عن الجرم المرتكب في الذكاء الاصطناعي، انطلاقاً من مبدأ تطور الأسس القانونية لتحقيق التوازن بين حماية المجتمع والحقوق عن المخاطر والجرائم التي تنشأ باستخدام الذكاء الاصطناعي، وتشجيع الابتكار في ذات الوقت، وفي ضوء الدراسة توصلت الى أبرز النتائج والتوصيات لتعزيز المسؤولية الجزائية بمواجهة الذكاء الاصطناعي عن المحتوى الاجرامي وعلى النحو التالي.

النتائج:

بناءً على ما تقدم وظل مشكلة الدراسة المطروحة توصلت الدراسة الى جملة من النتائج وهي:

1- خلت التشريعات من وضع تعريف محدد وواضح للذكاء الاصطناعي، تاركاً الأمر للفقه والقضاء بوضع التعريف استناداً الى الاسس العلمية التي يقوم عليها الذكاء الاصطناعي ودور الاتفاقيات الدولية.

2- خلت التشريعات من وضع تعريف للمحتوى الاجرامي الناشئ باستخدام الذكاء الاصطناعي، وإنما عملت على سن أو تعديل تشريعاتها وإطفاء الصبغة الإلكترونية والرقمية على الجرائم من حيث السلوك الجرمي ومحل الاعتداء.

3- يتمتع الذكاء الاصطناعي بالخصوصية وفقاً لطبيعته الرقمية من حيث النشأة وآلية الاستخدام الأمر الذي يعزز من خصوصية قواعد المسؤولية الجزائية في الذكاء الاصطناعي.

4- تصدى الفقه الجنائي في تحديد أسس وقواعد المسؤولية الجزائية للذكاء الاصطناعي على الرغم من خلو التشريعات من هذا الأمر، وذلك لغاية تسهيل مهمة القضاء في محاسبة الجرائم الناتجة عنه.

5- خلت التشريعات من تحديد أسس قواعد المسؤولية الجزائية للذكاء الاصطناعي على الرغم من التوجهات في سن والتعديل على قواعد التجريم المتعلقة بالجرائم التي ترتكب بواسطة الوسائط الإلكترونية والجرائم الرقمية والذكاء الاصطناعي.

التوصيات:

في ضوء النتائج المقررة، إن أبرز التوصيات التي توصلت إليها الدراسة هي:

1- لابد على المشرع الاردني التطرق الى تعريف الذكاء الاصطناعي في نص خاص، وبيان الأسس العامة التي يقوم عليها من حيث آلية إنشائه وعمله والهيمنة والسيطرة عليه وذلك لتسهيل تطبيق النص التجريمي على القاضي وبالنتيجة وضوح المسؤولية الجزائية في مواجهة الجناة.

2- لم تتطرق التشريعات الى تعريف المحتوى الاجرامي الناتج عن الذكاء الاصطناعي، وإنما تصدى الفقه في تحديد مفهومه، ويمكن صياغته على النحو التالي: المحتوى المنشئ باستخدام وسائل التكنولوجية المعدل أو المحرر أو المنتج من خلال أدوات وتطبيقات الذكاء الاصطناعي الذي يبرز أو يشير الى اعتداء على حق يحميه القانون والمنشر على وسائط الانترنت.

3- الطبيعة الآلية التي يعتمد عليها الذكاء الاصطناعي منذ لحظة إنشاؤه الى عمله يتمتع بخصوصية مغايرة للفرد أو الأشخاص الحكميين، فهو من المتصور أن يقوم الذكاء الاصطناعي – وفقاً لبرمجته- أن يطور نفسه بنفسه، بالإضافة الى الطبيعة الرقمية التي يعود بالأصل في إنتاجه، الأمر الذي يعزوا الى ضرورة أن يتم تطوير أو تخصيص قواعد المسؤولية الجنائي للذكاء الاصطناعي.

4- كان للفقه دور كبير في تحديد اساس المسؤولية الجنائية للذكاء الاصطناعي، وظهرت العديد من المذاهب التي عملت على تأصيلها، ومن وجهت نظرنا أخذنا بأنه تنسحب المسؤولية الجنائية الخاصة بالأشخاص الحكميين على الذكاء الاصطناعي كونه بالأساس من صنع البشر، بالإضافة الى معاملته على أساس شخصي معلوماتي خاصة إن كان يتمتع باتخاذ القرارات والتطوير الذاتي وفرض التدابير الاحترازية عليه وتحقق المسؤولية على المنشئ والمراقب والمسيطر عليه.

إقرار تضارب المصالح

يُقر المؤلف بعدم وجود أي تضارب محتمل في المصالح فيما يتعلق بالبحث أو التأليف أو نشر هذا المقال.

التمويل

لم يتلقَ المؤلف أي دعم مالي لإجراء هذا البحث أو تأليفه أو نشره.

البيان الأخلاقي

هذا البحث يتوافق مع المعايير الأخلاقية لإجراء الدراسات العلمية. وقد تم الحصول على موافقة خطية من جميع المشاركين الأفراد المشمولين في الدراسة.

بيان توفر البيانات

البيانات متاحة عند الطلب من المؤلف المراسل.

الشكر والتقدير

لا يوجد شكر وتقدير أفصح به الباحث

المصادر

أ. التشريعات والاتفاقيات واللوائح والقرارات القضائية

التوجيه 2013/40/EU بشأن الهجمات ضد نظم المعلومات (Directive 2013/40/EU)

التوجيه (EU) 2022/2555 بشأن الأمن السيبراني (NIS2 Directive)

اللائحة العامة لحماية البيانات (GDPR) رقم (EU) 2016/679، ولا سيما المواد (5، 22، 24، 25، 32، 35) والمقدمات (71، 74، 75، 78)

قانون الاتحاد الأوروبي للذكاء الاصطناعي Regulation (EU) 2024/1689 (Artificial Intelligence Act)

قانون الجرائم الإلكترونية الأردني رقم (17) لسنة (2023)

قانون العقوبات الأردني لسنة (1960) وتعديلاته

قرار محكمة التمييز الأردنية بصفتها الجزائية رقم (3236/2023)

المادة (3) من قانون العقوبات الأردني

المادة (3/1) من قانون الاتحاد الأوروبي للذكاء الاصطناعي

ب. الكتب والمؤلفات

الخلف، ع. ح.، والشاوي، س. ع. (2006). المبادئ العامة في قانون العقوبات. المكتبة القانونية.

خوالد، أ. ب. (2019). تطبيقات الذكاء الاصطناعي كتوجه حديث لتعزيز تنافسية منظمات الأعمال. المركز الديمقراطي العربي.

الرتيمي، م. أ. (د.ت.). تطبيقات الذكاء الاصطناعي. الجمعية الليبية للذكاء الاصطناعي.

السعيد، ك. (2011). شرح الأحكام العامة في قانون العقوبات: دراسة مقارنة. دار الثقافة للنشر والتوزيع.

السياسة الأردنية للذكاء الاصطناعي. (2020). وزارة الاقتصاد الرقمي والريادة.

طه، ع. ر. (2000). سؤال الأخلاق. المركز الثقافي العربي.

عرنوس، ب. (2007). الذكاء الاصطناعي. دار السحاب للنشر والتوزيع.

الفقهي، ع. إ. (2021). الذكاء الاصطناعي والنظم الخبيرة. دار الثقافة للنشر والتوزيع.

لا لاند، أ. (2001). موسوعة لا لاند الفلسفية (خ. أ. خليل، المترجم). منشورات عويدات.

المجالي، ن. ت. (2025). شرح قانون العقوبات: القسم العام. دار الثقافة للنشر والتوزيع.

موسى، م. س. (2010). المسؤولية الجنائية في التشريعات العربية والقانونين الفرنسي والإيطالي. منشأة المعارف.

ج. الرسائل الجامعية

أبو حجلة، ر. ص. ع. (2021). السياسة الجنائية للتجريم في التشريع الأردني والمقارن [رسالة دكتوراه]. جامعة المنصورة.

أحمد، ض. م. م. (2025). المسؤولية الجنائية عن جرائم الذكاء الاصطناعي [رسالة ماجستير]. الجامعة العربية الأمريكية.

بوعقدية، م.، وبن عياش، ع. (2024). التنظيم القانوني للذكاء الاصطناعي [مذكرة ماجستير]. جامعة محمد الصديق بن يحي.

مهدي، ص. ال. ع. (2012). استخدام الأنظمة الخبيرة كمدخل لتطوير أداء المدقق الخارجي [أطروحة دكتوراه]. جامعة عمان العربية.

د. المقالات العلمية والأبحاث المحكمة

أبو فروة، م. م. (2022). منصات التواصل الاجتماعي ومسؤوليتها القانونية عن المحتوى غير المشروع. مجلة كلية القانون الكويتية العالمية، 10(2)، 45-89.

أمنية، ن.، وغراز، الطاهر. (2025). المحتوى الرقمي ومدى مساهمته في تفاقم السلوك الإجرامي لدى الأطفال في المجتمع الجزائري: عرض تحليلي لمحتويات YouTube Kids. مجلة سوسيولوجيا الجريمة، 4(1)، 112-145.

ابن عودة، ح. م. (2022). إشكالية تطبيق المسؤولية الجنائية على جرائم الذكاء الاصطناعي. مجلة الحقوق والعلوم الإنسانية، 15(3)، 88-115.

البابلي، ع. ي. (2023). آليات الذكاء الاصطناعي في مواجهة التطرف العنيف. مجلة علوم الشرطة والقانون، 7(2)، 33-65.

البقلي، أ. م.، وراشد، ط. ج. (2023). نحو نظام قانوني للمسؤولية المدنية الناجمة عن حوادث المركبات ذاتية القيادة. مجلة البحوث الفقهية والقانونية، 38(1)، 201-250.

بن يعد، س. آل. (2010). مقدمة عن النظم الخبيرة وخطواتها. الندوة العلمية حول النظم الخبيرة في مكافحة الحرائق في الإنشاءات المدنية، 12(1)، 45-60.

بطور، أ. الس. (2023). مدى مسؤولية الروبوت الطبي جنائياً كأحد تطبيقات الذكاء الاصطناعي: دراسة تحليلية تأصيلية. المجلة القانونية، 9(4)، 150-190.

الحافظ، ن. (2012). واقع اللغة العربية في عصرنا الحاضر. المؤتمر السنوي العاشر لمجمع اللغة العربية بدمشق، 3(1)، 77-95.

الحكيم، ر. م. (2025). الجوانب القانونية للتزييف العميق. مجلة البحوث الفقهية والقانونية، 40(2)، 300-345.

الدسوقي، م. م. (2022). جرائم تقنيات الذكاء الاصطناعي والشخصية القانونية الإلكترونية المستقلة: دراسة مقارنة. مجلة البحوث القانونية والاقتصادية، 45(2)، 115-160.

الزبيدي، م. ع.، وشاهين، ن. ق. (2024). أزمة النص الجنائي في مواجهة جرائم الذكاء الاصطناعي: دراسة تحليلية. مجلة جامعة الزيتونة الأردنية للدراسات القانونية، 5(1)، 80-120.

العدوان، و. س. (2019). موانع المسؤولية الجزائية في القانون الأردني: دراسة وصفية تحليلية. مجلة كلية الشريعة والقانون، 21(2)، 210-260.

الفلاسي، ع. أ. (2021). المسؤولية الجنائية الناتجة عن أخطاء الذكاء الاصطناعي. المجلة القانونية، 8(3)، 90-130.

كيلان، أ.، والنكنه، م. ع. (2023). المسؤولية الجنائية عن استخدام أجهزة الروبوت: دراسة مقارنة. مجلة الفارابي للعلوم الإنسانية، 6(2)، 40-75.

الملا، م. س. (2022). الأبعاد التاريخية لتطور نظرية المسؤولية الجزائية وجدليتها في عصر الذكاء الاصطناعي. مجلة كلية القانون الكويتية العالمية، 11(4)، 15-50.

مزاري، ن. الد. (2023). الإشكاليات الأخلاقية للذكاء الاصطناعي ومحاولات تقنين استخدامه. مجلة أنسنة للبحوث والدراسات، 14(1)، 220-255.

هلال، ن. ع. ع. (2010). استخدام الذكاء الاصطناعي كأداة للتميز في الجودة والتنافسية. مجلة الأندلس للعلوم الاجتماعية والتطبيقية، 2(3)، 55-80.

هـ. المصادر الأجنبية

Buchholtz, G. (2020). Artificial Intelligence and Legal Tech: Challenges to the Rule of Law.

Charniak, E., & McDermott, D. (1985). Introduction to Artificial Intelligence.

European Audiovisual Observatory. (2025). Enforcing Rules on Illegal Content and Disinformation Online.

European Commission. (1996). Illegal and Harmful Content on the Internet.

European Commission. (2017). Communication on Tackling Illegal Content Online: Towards an Enhanced Responsibility of Online Platforms.

European Parliament. (2017). Report with Recommendations to the Commission on Civil Law Rules on Robotics.

Li, B.-H., Hou, B.-C., Yu, W.-T., Lu, X.-B., & Yang, C.-W. (2017). Applications of Artificial Intelligence in Intelligent Manufacturing: A Review.

Russell, S. J., & Norvig, P. (2016). Artificial Intelligence: A Modern Approach (3rd ed.).

United Nations Office on Drugs and Crime (UNODC). (2021). The Use of Artificial Intelligence to Enhance the Criminal Misuse of Information and Communications Technologies.

Wellford, C. F. (2009). History and Evolution of Criminology. In 21st Century Criminology: A Reference Handbook.

References

Abu Farwa, M. M. (2022). Manasat al-tawasul al-ijtimai wa-maswuliyatuha al-qanuniyyah 'an al-muhtawa ghayr al-mashru' [Social media platforms and their legal liability for illicit content]. Kuwait International Law School Journal, 10(2), 45-89.

Abu Hujla, R. S. A. (2021). Al-siyasah al-jina'iyyah lil-tajrim fi al-tashri' al-urduni wa-al-muqarin [Criminal policy of criminalization in Jordanian and comparative legislation] [Doctoral dissertation, Mansoura University].

Ahmad, D. M. M. (2025). Al-maswuliyyah al-jina'iyyah 'an jara'im al-dhaka' al-istina'i [Criminal liability for artificial intelligence crimes] [Master's thesis, Arab American University].

Al-Babili, A. Y. (2023). Aliyat al-dhaka' al-istina'i fi muwajahat al-tatarruf al-unfi [Artificial intelligence mechanisms in countering violent extremism]. Journal of Police and Law Sciences, 7(2), 33-65.

Al-Bagli, A. M., & Rashid, T. J. (2023). Nahwa nizam qanuni lil-maswuliyyah al-madaniyyah al-na'imah 'an hawadith al-marakibat dhatiya al-qiyadah [Towards a legal system for civil liability arising from autonomous vehicle accidents]. Journal of Jurisprudential and Legal Research, 38(1), 201-250.

Al-Dusuqi, M. M. (2022). Jara'im tiqniyat al-dhaka' al-istina'i wa-al-shakhsiyyah al-qanuniyyah al-iliktruniyyah al-mustaqillah: Dirasah muqaranah [Crimes of artificial intelligence technologies and independent electronic legal personality: A comparative study]. Journal of Legal and Economic Research, 45(2), 115-160.

Al-Falach, A. A. (2021). Al-maswuliyyah al-jina'iyyah al-natijah 'an akhta' al-dhaka' al-istina'i [Criminal liability resulting from artificial intelligence errors]. The Legal Journal, 8(3), 90-130.

Al-Hafidh, N. (2012). Waqi' al-lughah al-arabiyyah fi asrina al-hadir [The reality of the Arabic language in our present era]. The 10th Annual Conference of the Arabic Language Academy in Damascus, 3(1), 77-95.

Al-Hakim, R. M. (2025). Al-jawanib al-qanuniyyah lil-tazyif al-amiq [Legal aspects of deepfakes]. Journal of Jurisprudential and Legal Research, 40(2), 300-345.

Al-Khalaf, A. H., & Al-Shawi, S. A. (2006). Al-mabadi' al-ammah fi qanun al-uqubat [General principles in penal law]. Al-Maktabah Al-Qanuniyyah.

Al-Majali, N. T. (2025). Sharh qanun al-uqubat: Al-qism al-amm [Explanation of the penal code: General section]. Dar Al-Thaqafa for Publishing and Distribution.

Al-Mulla, M. S. (2022). Al-ab'ad al-tarikhiyyah li-tatawwur nazariyyah al-maswuliyyah al-jiza'iyyah wa-jadaliyyaha fi asr al-dhaka' al-istina'i [Historical dimensions of the evolution of criminal liability theory and its dialectic in the era of artificial intelligence]. Kuwait International Law School Journal, 11(4), 15-50.

Al-Ratimi, M. A. (n.d.). Tatbiqat al-dhaka' al-istina'i [Artificial intelligence applications]. Libyan Artificial Intelligence Society.

Al-Sa'id, K. (2011). Sharh al-ahkam al-ammah fi qanun al-uqubat: Dirasah muqaranah [Explanation of general provisions in the penal code: A comparative study]. Dar Al-Thaqafa for Publishing and Distribution.

Al-Zubaidi, M. A., & Shahin, N. Q. (2024). Azmat al-nass al-jina'i fi muwajahat jara'im al-dhaka' al-istina'i: Dirasah tahliliyyah [The crisis of the penal text in confronting artificial intelligence crimes: An analytical study]. Zaytoonah University Journal for Legal Studies, 5(1), 80-120.

Amnia, N., & Ghuraz, A. (2025). Al-muhtawa al-ilikturuni wa-mada musahamatihi fi tafaqquh al-suluk al-ijrami lada al-atfal fi al-mujtama' al-jazairi [Digital content and its contribution to exacerbating criminal behavior among children in Algerian society]. Journal of the Sociology of Crime, 4(1), 112-145.

Arnous, B. (2007). Al-dhaka' al-istina'i [Artificial intelligence]. Dar Al-Sahab for Publishing and Distribution.

Batour, A. S. (2023). Mada maswuliyyat al-rubut al-tibbiyyan jina'iyan ka-ahad tatbiqat al-dhaka' al-istina'i [The criminal liability of the medical robot as an AI application: An analytical foundational study]. The Legal Journal, 9(4), 150-190.

Bin Auda, H. M. (2022). Ishkaliyyat tatbiq al-maswuliyyah al-jina'iyyah 'an jara'im al-dhaka' al-istina'i [The problem of applying criminal liability to artificial intelligence crimes]. Journal of Rights and Human Sciences, 15(3), 88-115.

Bin Yad, S. A. M. (2010). Muqaddimah 'an al-nuzum al-khabirah wa-khutuwatiha [Introduction to expert systems and their steps]. Scientific Symposium on Expert Systems in Fire Fighting in Civil Construction, 12(1), 45-60.

Bouaqdia, M., & Bin Ayash, O. (2024). Al-tanzim al-qanuni lil-dhaka' al-istina'i [The legal regulation of artificial intelligence] [Master's thesis, Mohamed Seddik Ben Yahia University].

Buchholtz, G. (2020). Artificial Intelligence and Legal Tech: Challenges to the Rule of Law.

Charniak, E., & McDermott, D. (1985). Introduction to Artificial Intelligence.

Directive (EU) 2022/2555 on measures for a high common level of cybersecurity across the Union (NIS2 Directive).

Directive 2013/40/EU on attacks against information systems (Directive 2013/40/EU).

El-Adwan, W. S. (2019). Mawanic al-maswuliyyah al-jiza'iyyah fi al-qanun al-urduni: Dirasah wasfiyyah tahliliyyah [Bars to criminal liability in Jordanian law: A descriptive analytical study]. Journal of Sharia and Law Faculty, 21(2), 210-260.

El-Fiqi, A. I. (2021). Al-dhaka' al-istina'i wa-al-nuzum al-khabirah [Artificial intelligence and expert systems]. Dar Al-Thaqafa for Publishing and Distribution.

European Audiovisual Observatory. (2025). Enforcing Rules on Illegal Content and Disinformation Online.

European Commission. (1996). Illegal and Harmful Content on the Internet.

European Commission. (2017). Communication on Tackling Illegal Content Online: Towards an Enhanced Responsibility of Online Platforms.

European Parliament. (2017). Report with Recommendations to the Commission on Civil Law Rules on Robotics.

Jordanian Cybercrime Law No. (17) of (2023).

Jordanian Ministry of Digital Economy and Entrepreneurship. (2020). Al-siyasah al-urduniyyah lil-dhaka' al-istina'i [The Jordanian artificial intelligence policy]. Jordanian Ministry of Digital Economy and Entrepreneurship.

Jordanian Penal Code of (1960) and its amendments.

Kailan, A., & Al-Naknah, M. A. (2023). Al-maswuliyyah al-jina'iyyah 'an istikhdam ajhizat al-rubut: Dirasah muqaranah [Criminal liability for using robot devices: A comparative study]. Al-Farabi Journal for Humanities, 6(2), 40-75.

Khawald, A. B. (2019). Tatbiqat al-dhaka' al-istina'i ka-tawajjuh hadith li-ta'ziz tanafusiyyat munazzamat al-a'mal [Artificial intelligence applications as a modern trend to enhance business organizations' competitiveness]. Arab Democratic Center.

Lalande, A. (2001). Mawsu'at Lalande al-falsafiyyah [Lalande's philosophical encyclopedia] (K. A. Khalil, Trans.). Oueidat Publications.

Li, B.-H., Hou, B.-C., Yu,W.-T., Lu, X.-B., & Yang, C.-W. (2017). Applications of Artificial Intelligence in Intelligent Manufacturing: A Review.

Mazari, N. E. (2023). Al-ishkaliyyat al-akhlaqiyyah lil-dhaka' al-istina'i wa-muhawalat taqnin istikhdamihi [Ethical issues of artificial intelligence and attempts to regulate its use]. Insanyat Journal for Research and Studies, 14(1), 220-255.

Mehdi, S. E. O. (2012). Istikhdam al-nuzum al-khabirah ka-madkhal li-tatawwur ada' al-mudaqqiq al-khariji [The use of expert systems as an approach to developing external auditor performance] [Doctoral dissertation, Amman Arab University].

Moussa, M. S. (2010). Al-maswuliyyah al-jina'iyyah fi al-tashri'at al-arabiyyah wa-al-qanunayn al-faransi wa-al-italy [Criminal liability in Arab legislations and the French and Italian laws]. Monshat Al-Maaref.

Omer Abd Hilal, N. (2010). Istikhdam al-dhaka' al-istina'i ka-adah lil-tamayyuz fi al-joudah wa-al-tanafusiyyah [Using artificial intelligence as a tool for excellence in quality and competitiveness]. Al-Andalus Journal for Applied and Social Sciences, 2(3), 55-80.

Regulation (EU) 2016/679 of the European Parliament and of the Council on the protection of natural persons with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation - GDPR), specifically Articles (5, 22, 24, 25, 32, 35) and Recitals (71, 74, 75, 78).

Regulation (EU) 2024/1689 of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act).

Ruling of the Jordanian Court of Cassation in its penal capacity No. (3236/2023).

Russell, S. J., & Norvig, P. (2016). Artificial Intelligence: A Modern Approach (3rd ed.).

Taha, A. R. (2000). Su'al al-akhlaq [The question of ethics]. Arab Cultural Center.

The Article (3) of the Jordanian Penal Code.

The Article (3/1) of the European Union Artificial Intelligence Act.

United Nations Office on Drugs and Crime (UNODC). (2021). The Use of Artificial Intelligence to Enhance the Criminal Misuse of Information and Communications Technologies.

Wellford, C. F. (2009). History and Evolution of Criminology. In 21st Century Criminology: A Reference Handbook.

[1]Russell, S. J., & Norvig, P. (2016). Artificial Intelligence: A Modern Approach (3rd ed.). Pearson Education. P.16-28.

[2] Eugene Charniak, Drew MacDermott, Introduction to Artificial Intelligence, Addision-Wesley Publishing Company, Canada, 1985, P.6.

[3] الفقهي، عبد اللاه، (20212)، الذكاء الاصطناعي والنظم الخبيرة، دار الثقافة للنشر والتوزيع، ص8.

[4] Bo-hu LI, Bao-cun HOU, Wen-tao YU, Xiao- bing LU, Chun-Wei YANG, Applications of artificial intelligence in intelligent manufacturing a review, Frontiers of Information Technology & Electronic Engineering, (2017), P.89.

[5] Gabriele Buchholtz, Artificial Intelligence and legal Tech: Challenges to the Rule of Law, THE IRISH TIMES, Springer Nature Switzerland AG 2020, (2018), P.177.

[6] Russell, S. J., & Norvig, P. (2016). Artificial Intelligence: A Modern Approach (3rd ed.). Pearson Education. P 2

[7] وهي الجهة الممكنة للاقتصاد الرقمي وريادة الاعمال في الأردن، وهي تعمل وفق خطة استراتيجية بالموائمة مع التوجهات الوطنية والقطاعية ذات العلاقة

https://www.modee.gov.jo/Ar/Pages/%D9%86%D8%A8%D8%B0%D8%A9_%D8%B9%D9%86_%D8%A7%D9%84%D9%88%D8%B2%D8%A7%D8%B1%D8%A9

[8] السياسة الأردنية للذكاء الاصطناعي، (2020)، وزارة الاقتصاد الرقمي الأردنية.

[9] Regulation (EU) 2024/1689 of the European Parliament and of the Council laying down harmonized rules on artificial intelligence (Artificial Intelligence Act).

[10] المادة (3)، الفقرة (1) من قانون الاتحاد الأوروبي للذكاء الاصطناعي (EU AI Act 2024/1689).

[11] مهدي، صالح الدين عثمان، (2012)، استخدام الانظمة الخبيرة كمدخل لتطوير أداء المدقق الخارجي، أطروحة دكتوراة، جامعة عمان العربية، عمان، الأردن، ص18.

[12] بن يعد، سليمان آل مبارك، (2010)، مقدمة عن النظم الخبيرة وخطواتها، الندوة العلمية حول النظم الخبيرة في مكافحة الحرائق في الانشاءات المدنية، جامعة نايف العربية للعلوم الأمنية، الرياض، السعودية، ص27.

[13] خوالد، أبو بكر، (2019)، تطبيقات الذكاء الاصطناعي كتوجه حديث لتعزيز تنافسية منظمات الأعمال، المركز الديمقراطي العربي للدراسات الاستراتيجية والسياسية والاقتصادية، برلين، ألماني، ط1، ص14.

[14] عرنوس، بشير، (2007)، الذكاء الاصطناعي، دار السحاب للنشر والتوزيع، القاهرة، مصر، ص11.

[15] الرتيمي، محمد أبو القاسم، (تطبيقات الذكاء الاصطناعي، الجمعية الليبية للذكاء الاصطناعي، جامعة السابع من أفريل، الزاوية، ليبيا، ص7.

[16] هلال، نصيف عمر عبد، (2010)، استخدام الذكاء الاصطناعي كأداة للتميز في الجودة والتنافسية، دراسة ميدانية بقطاع المستشفيات الخاصة في محافظة جدة، مجلة الاندلس للعلوم الاجتماعية والتطبيقية،مج3، ع5،ص1.

[17]بوعقدية، مصعب، و، بن عياش، عثمان، (2023/2024)، (التنظيم القانوني للذكاء الاصطناعي، مذكرة لنيل شهادة ماجستير، جامعة محمد الصديق بن يحي-جيجل-، كلية الحقوق والعلوم السياسية، قسم الحقوق، ص15-16.

[18] European Commission. (1996). Illegal and harmful content on the Internet (COM(96) 487 final). Brussels: Commission of the European Communities.

[19] European Commission. (2017). Communication on tackling illegal content online: Towards an enhanced responsibility of online platforms. https://digital-strategy.ec.europa.eu/en/library/communication-tackling-illegal-content-online-towards-enhanced-responsibility-online-platforms, P2.

[20]أبو فروة، محمود محمد، (2022)، منصات التواصل الاجتماعي ومسؤوليتها القانونية عن المحتوى غير المشروع، مجلة كلية القانون الكويتية العالمية، السنة العاشرة، العدد3، العدد التسلسلي 39،ص 165-170.

[21] قانون الجرائم الإلكترونية الأردني رقم (17) لسنة (2023) المادة (2).

[22] أمنية، نبيح، غراز، الطاهر، (2025)، المحتوى الرقمي ومدى مساهمته في تفاقم السلوك الاجرامي لدى الاطفال في المجتمع الجزائري عرض تحليلي لمحتويات (YouTube Kids)،مجلة سوسيولوجيا الجريمة للبحوث والدراسات في الظواهر الاجرمية،38.

[23] الحافظ، نزار، (2012)، المؤتمر السنوي العاشر لمجمع اللغة العربية بدمشق، واقع اللغة العربية في عصرنا الحاضر، مع التنويه الى ان الناشر اشار في التعريف الى المحتوى الرقمي باللغة العربية، ص2.

[24] أحمد، ضياء مصطفى موسى،(2025)، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي، رسالة ماجستير، الجامعة العربية الأمريكية، ص36-37.

[25] European Audiovisual Observatory. (2025). Enforcing Rules on Illegal Content and Disinformation Online. Council of Europe. https://rm.coe.int/iris-emr-illegal-content-and-disinformation-en/1680b7f6d8 P3.

[26] أبو فروة، محمود محمد، (2022)، المرجع السابق، ص174- 175.

[27] الحكيم، رباب مصطفى، (2025)، الجوانب القانونية للتزييف العميق، مجلة البحوث الفقهية والقانونية، ع48، ص2670-2742، ص2688-2694.

[28] البابلي، عمار ياسر، (2023)، آليات الذكاء الاصطناعي في مواجهة التطرف العنيف، مجلة علوم الشرطة والقانون، مج14، ص1-50،ص31.

[29] أحمد، ضياء مصطفى موسى،(2025)، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي، رسالة ماجستير، الجامعة العربية الأمريكية، ص38. /الحكيم، ص2730.

[30] United Nations Office on Drugs and Crime (UNODC), "The use of artificial intelligence to enhance the criminal misuse of information and communications technologies", 2021, p. 6, available at: https://www.unodc.org/documents/Advocacy-Section/AI-cybercrime.pdf

[31] السعيد، كامل، (2011)، شرح الاحكام العامة في قانون العقوبات دراسة مقارنة، عمان، دار الثقافة للنشر والتوزيع.

[32]العدوان، وضاح سعود، (2019)، موانع المسؤولية الجزائية في القانون الأردني دراسة وصفية تحليلية، مجلة كلية الشريعة والقانون بطنطا، عدد 34، الاصدار4، ص664.

[33] طه، عبد الرحمن، (2000)، سؤال الاخلاق، المركز الثقافي العربي، الدار البيضاء، ص60-68.

[34] الملا، معاذ سليمان، (201)، الأبعاد التاريخية لتطور نظرية المسؤولية الجزائية وجدليتها في عصر الذكاء الاصطناعي: دراسة تحليلية واستشرافية، مجلة كلية القانون الكويتية العالمية، السنة 10، ملحق خاص، عدد10، أبحاث المؤتمر السنوي8، الجزء 1، ص96.

[35] Charles F Wellford, History and Evolution of Criminology, 21 st Century Criminology: A Reference Handbook, Editor J Mitchell Miller, Sage Publication, California, USA, (2009), P 12.

[36] أبو حجلة، رفعات صافي علي، (2021)، السياسة الجنائية للتجريم في التشريع الاردني والمقارن، رسالة مقدمة لنيل درجة الدكتوراة في الحقوق، جامعة المنصورة، ص28.

[37] موسى، محمود سليمان، (2010)، المسؤولية الجنائية في التشريعات العربية والقانونين الفرنسي والايطالي، منشأة المعارف، مصر، الاسكندرية، ص 93.

[38] لا لاند، اندريه، ترجمة خليل، خليل أحمد، (2001)، موسوعة لا لاند الفلسفية، ط2، بيروت، منشورات عويدات، ص212-213.

[39] الخلف، علي حسين، و الشاوي، سلطان عبد القادر، (2006)، المبادئ العامة في قانون العقوبات، بغداد، المكتبة القانونية، ص336.

[40] المجالي، نظام توفيق، (2025)، شرح قانون العقوبات القسم العام، الاردن، عمان، دار الثقافة للنشر والتوزيع ص384- 385.

[41] موسى، محمود سليمان،(2010)، المسؤولية الجنائية في التشريعات العربية والقانونين الفرنسي والإيطالي، منشأة المعارف، الاسكندرية، ص167.

[42] قانون العقوبات الاردني لسنة (1960) وتعديلاته.

[43] المجالي، نظام توفيق، (2025)، المرجع السابق، ص386.

[44] قرار محكمة التمييز الأردنية بصفتها الجزائية رقم (3236/2023) الصادر بتاريخ (23/11/2023).

[45] أحمد، ضياء مصطفى موسى،(2025)، المرجع السابق، ص55-56.

[46] ابن عودة، حسكر مراد، (2022)، إشكالية تطبيق المسؤولية الجنائية على جرائم الذكاء الاصطناعي، مجلة الحقوق والعلوم الانسانية، مج15، ع1، ص188.

[47] الزبيدي، محمد عباس، و شاهين، نور قيس،(2024)، أزمة النص الجنائي في مواجهة جرائم الذكاء الاصطناعي-دراسة تحليلية-، مجلة جامعة الزيتونة الأردنية للدراسات القانونية، إصدار خاص، ص21.

[48] البقلي، أيمن مصطفى، و راشد، طارق جمعة، (2023)، نحو نظام قانوني للمسؤولية المدنية الناجمة عن حوادص المركبات ذاتية القيادة (أساس المسؤولية – والتأمين عليها)، مجلة البحوث الفقهية والقانونية، ع41، ص875.

[49] الزبيدي، محمد عباس، و شاهين، نور قيس،(2024)، المرجع السابق، ص35.

[50] البقلي، أيمن مصطفى، و راشد، طارق جمعة، (2023)، المرجع السابق، ص843.

[51] أحمد، ضياء مصطفى موسى،(2025)، المرجع السابق، ص 74.

[52] European Parliament, "Report with recommendations to the Commission on Civil Law Rules on Robotics", op. cit.

[53] مزاري، نصر الدين، (2023)، الإشكاليات الأخلاقية للذكاء الاصطناعي ومحاولات تقنين استخدامه على خلفية الآثار السلبية التي يتركاه، مجلة أنسنة للبحوث والدراسات، مج14، ص860.

[54] قانون العقوبات الأردني المادة (3): لا جريمة إلا بنص ولا يقضى بأي عقوبة أو تدبير لم ينص القانون عليهما حين اقتراف الجريمة ، وتعتبر الجريمة تامة اذا تمت افعال تنفيذها دون النظر الى وقت حصول النتيجة.".

[55] European Parliament, & Council of the European Union. (2013). Directive 2013/40/EU of the European Parliament and of the Council of 12 August 2013 on attacks against information systems and replacing Council Framework Decision 2005/222/JHA. Official Journal of the European Union, L 218, 8–14. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32013L0040

[56] European Parliament, & Council of the European Union. (2022). Directive (EU) 2022/2555 of the European Parliament and of the Council of 14 December 2022 on measures for a high common level of cybersecurity across the Union, amending Regulation (EU) No 910/2014 and Directive (EU) 2018/1972, and repealing Directive (EU) 2016/1148 (NIS2 Directive). Official Journal of the European Union, L 333, 80–152.

https://eur-lex.europa.eu/eli/dir/2022/2555/oj

[57] European Parliament, & Council of the European Union. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonized rules on artificial intelligence (Artificial Intelligence Act) and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act). Official Journal of the European Union, L, 2024/1689. https://eur-lex.europa.eu/eli/reg/2024/1689/oj

[58] أحمد، ضياء مصطفى موسى،(2025)، المرجع السابق، ص 60.

[59] الفلاسي، عبدالله أحمد، (2021)، المسؤولية الجنائية الناتجة عن أخطاء الذكاء الاصطناعي، المجلة القانونية، جامعة القاهرة، مج9، ع8، ص 2869.

[60] بطور، أحمد السيد، (2023)، مدى مسؤولية الروبوت الطبي جنائياً كأحد تطبيقات الذكاء الاصطناعي دراسة تحليلية تأصيلية، المجلة القانونة، مج16، ع2، ص220.

[61] ابن عودة، حسكر مراد، (2022)، إشكالية تطبيق أحكام المسؤولية الجنائية على جرائم الذكاء الاصطناعي، مجلة الحقوق والعلوم الانسانية، مج15،ع1، ص188.

[62] الفلاسي، عبدالله أحمد، (2021)، المرجع السابق، ص 2840.

[63] حسبما اشار تقرير اليوروبول عام (2024) Europol, Internet Organized Crime Threat Assessment (IOCTA), 2024, p. 30. =

= Available at: https://www.europol.europa.eu/cms/sites/default/files/documents/Internet%20Organised%20Crime%20Threat%20Assessment%20IOCTA%202024.pdf

[64] الدسوقي، منى محمد، (2022)، جرائم تقنيات الذكاء الاصطناعي والشخصية القانونية الإلكترونية المستقلة دراسة مقارنة، مجلة البحوث القانونية والاقتصادية، ع81، ص 1203.

[65] كيلان، أحمد، والنكنه، محمد عوني، (2023)، المسؤولية الجنائية عن استخدام أجهزة الروبوت دراسة مقارنة، مجلة الفارابي للعلوم الانسانية، مج2، ع2، ص20-12.

[66] أحمد، ضياء مصطفى موسى،(2025)، المرجع السابق، ص65.

[67] اللائحة العامة لحماية البيانات (GDPR)، ولا سيما المواد 5، 24، 25، 32، 35، و22، والمقدمة (Recitals) 71، 74، 75، و78، (EUR-Lex – Regulation (EU) 2016/679 (GDPR)).

المسؤولية الجنائية عن المحتوى الإجرامي الناتج عن الذكاء الاصطناعي: دراسة مقارنة بين الأردن والاتحاد الأوروبي

المستخلص

الكلمات المفتاحية

Criminal Liability for AI-Generated Criminal Content:

A Comparative Study between Jordan and the European Union

Key Words