المسؤولية الجنائية عن الجرائم الناتجة عن الكيانات التي تعمل بتقنية الذكاء الاصطناعي في المملكة العربية السعودية / Criminal Liability for Crimes Resulting from Entities Operating with Artificial Intelligence in the Kingdom of Saudi Arabia

نوع المستند : المقالة الأصلية

المؤلف

قسم القانون العام، كلية الحقوق، جامعة الملك عبدالعزيز، المملكة العربية السعودية

المستخلص

يُعنى هذا البحث بدراسة المسؤولية الجنائية عن الجرائم الناتجة عن كيانات الذكاء الاصطناعي في المملكة العربية السعودية. ويناقش مدى إمكانية مساءلة كيانات الذكاء الاصطناعي جنائيًّا أسوة بالشخص الطبيعي، ومدى إمكانية الاعتراف لها بالشخصية القانونية أسوة بالشخص الاعتباري، ومن ثم مساءلتها جنائيًّا، ومدى إمكانية معاقبتها. كما يناقش البحث المسؤولية الجنائية على مستخدم كيان الذكاء الاصطناعي ومنتجه ومطوره والطرف الخارجي الذي يتدخل في عمله. وتوصل البحث إلى أنه لا يمكن مساءلة كيانات الذكاء الاصطناعي ذاتها عن الجرائم الناتجة عنها في المملكة العربية السعودية في ظل الأنظمة والتشريعات المعمول بها حاليًا، لكن لا يوجد ما يمنع من الاعتراف لها بالشخصية القانونية أسوة بالشخص الاعتباري، ومن ثم مساءلتها جنائيًّا، ومعاقبتها بما يتناسب مع طبيعتها. كما توصل البحث إلى أن المسؤولية الجنائية عن الجرائم الناتجة عن كيانات الذكاء الاصطناعي يمكن أن تُحمّل لمجموعة من الأطراف في المملكة العربية السعودية، من بينهم المستخدم، والمطور، والمنتج، وأي طرف خارجي يتدخل في عمل هذه الكيانات، وذلك بحسب دور كل منهم في الجريمة. ومع ذلك، تبرز الحاجة إلى تحديث الأنظمة ذات الصلة بكيانات الذكاء الاصطناعي، والنص صراحة على هذه الكيانات، وتحديد الجرائم والمخالفات التي قد تُرتكب من خلالها، أو إصدار نظام جزائي خاص بهذه الكيانات.
 
This research examines criminal liability for crimes resulting from artificial intelligence (AI) entities in Saudi Arabia. It discusses the extent to which AI entities can be held criminally accountable, and the extent to which they can be recognized as legal entities, then criminally accountable, and punished. The research also discusses the criminal liability of the user of an AI entity, its producer, its developer, and any external party interfering with its operation. The research concluded that, under current Saudi laws, AI entities cannot themselves be held accountable. Yet, there is nothing to prevent these entities from being recognized as legal entities, and subsequently holding them criminally accountable and punishing them in accordance with their nature. The research also concluded that, in Saudi Arabia, criminal liability for crimes resulting from AI entities can be assigned to various parties, including the user, the developer, the producer, and any external party interfering with the operation of these entities, depending on the role of each in the commission of the crime. Nevertheless, there is a need to update the laws related to artificial intelligence entities, explicitly identify these entities, and define the crimes and violations that may be committed through them, or enact a penal code specifically addressing them.

الكلمات الرئيسية

الموضوعات الرئيسية

المراجع

  • المراجع العربية

    • القرآن الكريم.
    • أحمد علي عبدالله، الشخصية الاعتبارية في الفقه الإسلامي دراسة مقارنة، ط 2، الهيئة العليا للرقابة الشرعية على المصارف والمؤسسات المالية، الخرطوم، 1438هـ.
    • أحمد بن شعيب بن علي النسائي، سنن النسائي، تحقيق مشهور حسن آل سلمان، مكتبة النعار للنشر والتوزيع، الرياض.
    • أحمد فتحي بهنسي، الجرائم في الفقه الإسلامي: دراسة فقهية مقارنة، ط 6، دار الشروق، القاهرة، 1409هـ.
    • أحمد لطفي السيد مرعي، انعكاسات تقنيات الذكاء الاصطناعي على نظرية المسئولية الجنائية: دراسة تأصيلية مقارنة، مجلة البحوث القانونية والاقتصادية، العدد 80، 2022م.
    • بكر عبدالله أبو زيد، الحدود والتعزيرات عند ابن القيم «دراسة وموازنة»، ط 2، دار العاصمة، الرياض، 1415هـ.
    • زكي محمد شناق، النظام الجنائي السعودي، ط 10، مكتبة الشقري، جدة، 1445هـ.
    • سليمان بت الأشعث الأزدي السجستاني، سنن أبي داوود، تحقيق شعيب الأرناؤوط ومحمد كامل قره بللي، دار الرسالة العالمية، دمشق.
    • شهاب الدين العسقلاني، تلخيص الحبير في تخريج أحاديث الرافعي الكبير، مؤسسة قرطبة، مكة المكرمة، 1416هـ.
    • صالح فوزان الفوزان، الملخص الفقهي، رئاسة إدارة البحوث العلمية والإفتاء، الرياض، 1423هــ، ج 2.
    • صقر محمد العطار وعبدالإله محمد النوايسة، المسؤولية الجنائية الناجمة عن استخدام كيانات الذكاء الاصطناعي، مجلة جامعة الشارقة للعلوم القانونية، المجلد 21، العدد 2، 2024م.
    • عبدالسلام محمد الشويعر، المسؤولية الجنائية للشخصية المعنوية في الفقه الإسلامي، المجلة العربية للدراسات الأمية، العدد 40، 2005م.
    • علي عبد الله الشهري، جرائم الأعراض غبر الهواتف النقالة في الفقه الإسلامي والنظام السعودي، كلية الملك فهد الأمنية – مركز البحوث والدراسات، الرياض، 1430هـ.
    • فتوح عبدالله الشاذلي، المسؤولية الجنائية، دار المطبوعات الجامعية، الإسكندرية، بدون سنة نشر.
    • محمد شلال العاني وخالد عبدالله الكعبي، المسئولية الجنائية للشخص الاعتباري: دراسة مقارنة، مجلة القانون المغربي، العدد 35، 2017م.
    • محمد بن إسماعيل البخاري، صحيح البخاري، دار ابن الكثير، دمشق.
    • محمد صالح العثيمين، الشرح الممتع على زاد المستقنع، دار ابن الجوزي، الرياض، 1428هـ، ج 14.
    • محمد بن عيسى الترمذي، الجامع الكبير، تحقيق بشار عواد معروف، دار الغرب الإسلامي، بيروت.
    • محمد ناصر التميمي، المسؤولية الجزائية الناجمة عن حوادث السيارات ذاتية القيادة: دراسة تحليلية في القانون المقارن، مجلة الحقوق، العدد 4، 2020م.
    • محمد بن يزيد القزويني ابن ماجة، سنن ابن ماجة، تحقيق محمد فؤاد عبدالباقي، دار إحياء الكتب العربية، بيروت.
    • محمود عبد الغني جاد المولي، الاتجاهات الحديثة في المسئولية الجنائية للكيانات التي تعمل بتقنيات الذكاء الاصطناعي، مجلة البحوث القانونية والاقتصادية، المنوفية، العدد 53، 2021م.
    • مسلم بن الحجاج النيسابوري، صحيح مسلم، تحقيق محمد فؤاد عبدالباقي، دار إحياء الكتب العربية، بيروت.
    • معاذ سليمان المعلا، الأبعاد التاريخية لتطور نظرية المسؤولية الجزائية وجدلية تطبيقها في عصر الذكاء الاصطناعي: دراسة تحليلية واستشرافية، مجلة كلية القانون الكويتية العالمية، العدد 10، 2021م.
    • الموسوعة الفقهية، ط 2، وزارة الأوقاف والشؤون الإسلامية، الكويت، 1404هـ، ج 17.
    • الهيئة السعودية للبيانات والذكاء الاصطناعي، الذكاء الاصطناعي، <https://sdaia.gov.sa/ar/SDAIA/about/Pages/AboutAI.aspx> تاريخ الدخول 11 أغسطس 2024.
    • الهيئة السعودية للبيانات والذكاء الاصطناعي، سدايا ورؤية 2023، <https://sdaia.gov.sa/ar/SDAIA/SdaiaStrategies/Pages/sdaiaAnd2030 aspx> تاريخ الدخول 11 أغسطس 2024م.
    • الهيئة السعودية للبيانات والذكاء الاصطناعي، إطار تبني الذكاء الاصطناعي، سبتمبر 2024م.
    • الهيئة السعودية للبيانات والذكاء الاصطناعي، مبادئ أخلاقيات الذكاء الاصطناعي، سبتمبر 2023م.
    • الهيئة السعودية للبيانات والذكاء الاصطناعي، مبادئ الذكاء الاصطناعي التوليدي للجهات الحكومية، يناير 2024م.
    • الهيئة السعودية للبيانات والذكاء الاصطناعي، مبادئ الذكاء الاصطناعي التوليدي للعموم، يناير 2024م.
    • وفاء محمد صقر، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي «دراسة تحليلية استشرافية»، مجلة روح القوانين، العدد 96، 2021م.
    • وليد سعد الدين سعيد، المسؤولية الجنائية الناشئة عن تطبيقات الذكاء الاصطناعي، مجلة العلوم القانونية والاقتصادية، العدد 64، 2022م.
    • هدى محمد سالم، المسؤولية الجنائية للذكاء الاصطناعي عن جرائم القتل: رؤية فقهية معاصرة، مجلة الجامعة الإسلامية للعلوم الشرعية، العدد 209، 1445هـ.
    • يوسف زين خضير يونس، خصوصية المسؤولية الجنائية عن الذكاء الاصطناعي، مجلة الجامعة العراقية، العدد 68، 2024م.

     

    الأنظمة والقرارات

    • نظام المرور لعام 1428هـ.
    • نظام مكافحة جرائم المعلوماتية 1428هـ.
    • نظام مكافحة غسل الأموال لعام 1439هـ.
    • الترتيبات التنظيمية للهيئة السعودية للبيانات والذكاء الاصطناعي الصادر بقرار مجلس الوزراء رقم 292 وتاريخ 27/4/1441هــ، والمعدل بقرار مجلس الوزراء رقم 195 وتاريخ 15/3/1444هــ.

    المراجع الأجنبية

     

    • Aislinn Kelly-Lyth, Challenging Biased Hiring Algorithms, Oxford Journal of Legal Studies, vol. 41, 2021.
    • Alex Owen-Hill, What's the Difference Between Robotics and Artificial Intelligence?, Robotics, 19 July 2017, <https://blog. robotiq.com/whats-the-difference-between-robotics-and-artificial-intelligence> accessed 11 August 2024.
    • Andy Greenberg, Hackers Remotely Kill a Jeep on the Highway-With Me in It, Wired, 21 July 2015, <https://www.wired. com/2015/07/hackers-remotely-kill-jeep-highway/> accessed 5 February 2025.
    • Apple, Siri, <https://www.apple.com/siri/> accessed 21 December 2024.
    • Autopilot Review, SAE Self-Driving Levels 0 to 5 for Automation – What They Mean, <https://www.autopilotreview .com/self-driving-cars-sae-levels/> accessed 3 November 2024.
    • Avijeet Biswal, Top 24 Artificial Intelligence Applications and Uses, Simplilearn, 17 December 2024, <https://www.simplilearn. com/tutorials/artificial-intelligence-tutorial/artificial-intelligence-applications#what_are_the_applications_of_artificial_intelligence> accessed 21 December 2024.
    • Bryant Walker Smith, Uber's Fatal Crash, The Center for Internet and Society, 19 March 2018, <https://cyberlaw.stanford. edu/blog/2018/03/ubers-fatal-crash/> accessed 11 August 2024.
    • Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions, Artificial Intelligence for Europe, COM (2018) 237 final, Brussels, 2018.
    • European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics, European Parliament, 2017.
    • European Parliament resolution of 20 October 2020 with recommendations to the Commission on a Civil Liability Regime for Artificial Intelligence, European Parliament, 2022.
    • Gabriel Hallevy, The Criminal Liability of Artificial Intelligence Entities-From Science Fiction to Legal Social Control, Akron Intellectual Property Journal, vol. 4.
    • Gabriel Hallevy, When Robots Kill: Artificial Intelligence under Criminal Law, Northeastern University Press, Boston, 2013.
    • Georgia Dede, Rossen Naydenov, Apostolos Malatras, Ronan Hamon, Henrik Junklewitz, Ignacio Sanchez, Cybersecurity Challenges in the Uptake of Artificial Intelligence in Autonomous Driving, Publications Office of the European Union, Luxembourg, 2021.
    • Google, Google Assistan, <https://assistant.google.com/> accessed 21 December 2024.
    • Google, Google Maps, <https://www.google.com/maps> accessed 21 December 2024.
    • Hanson Robotics, Sophia, <https://www.hansonrobotics.com /sophia/> accessed 2 October 2024.
    • Iain M. Cockburn, Rebecca Henderson and Scott Stern, The Impact of Artificial Intelligence on Innovation, National Bureau of Economic Research Working Paper Series, Massachusetts, 2018.
    • Jeffrey Dastin, Insight: Amazon Scraps Secret AI Recruiting Tool that Showed Bias against Women, Reuters, 10 October 2018, <https://www.reuters.com/article/amazoncom-jobs-automation-idCNL2N1VB1FQ/> accessed 4 June 2024.
    • Jim Fruchterman and Joan Mellea, Expanding Employment Success for People with Disabilities, Benetech, California, 2018.
    • John Howard, Artificial intelligence: Implications for the future of work, American Journal of Industrial Medicine, vol. 62, 2019.
    • Liliya Ivanova and Nikita Kalashnikov, The Liability Limits of Self-Driving Cars, Legal Issues Journal, vol. 9, 2022.
    • Marcus Comiter, Artificial Intelligence: AI’s Security Vulnerability and What Policymakers Can Do About It, Belfer Center for Science and International Affairs, Cambridge, 2019.
    • Meredith Whittaker and others, Disability, Bias, and AI, AI Now Institute at New York University, New York, 2019.
    • Microsoft, The Future Computed Artificial Intelligence and its role in society, Microsoft Corporation, Washington, 2018.
    • Mohsen Soori, Behrooz Arezoo and Roza Dastres, Artificial Intelligence, Machine Learning and Deep Learning in Advanced Robotics, a Review, Journal of Cognitive Robotics, vol. 3, 2023.
    • National Academies of Sciences, Engineering and Medicine, A Look at the Legal Environment for Driverless Vehicles, The National Academies Press, Washington, DC, 2016.
    • Nora Osmani, The Complexity of Criminal Liability of AI Systems, Masaryk University Journal of Law and Technology, vol. 14, 2020.
    • Piotr Jóźwiak and Orsolya Falus, Legal Regulations on Autonomous Vehicles in Poland and Hungary. The Issue of Criminal Liability, in Balázs László, Rajcsányi-Molnár Mónika and András István (eds), Elektromobilitás és Társadalom, DUE Press, Hungary, 2022.
    • Ryan Abbott and Alex Sarch, Punishing Artificial Intelligence: Legal Fiction or Science Fiction, University of California Davis Law Review, vol. 53, 2019.
    • Sabine Gless, Emily Silverman, and Thomas Weigend, If Robots Cause Harm, Who is to Blame? Self-Driving Cars and Criminal Liability, New Criminal Law Review, vol. 19, 2016.
    • SAE International, Levels of Driving Automation, 2021, <https://www.sae.org/binaries/content/assets/cm/content/blog/sae-j3016-visual-chart_5.3.21.pdf> accessed 16 October 2024.
    • Sam Daley, 78 Artificial Intelligence Examples Shaking up Business across Industries, Built in, 27 November 2024, <https:// builtin.com/artificial-intelligence/examples-ai-in-industry> accessed 11 August 2024.
    • Sam Levin, Video released of Uber self-driving crash that killed woman in Arizona, The Guardian, 22 March 2018, <https://www. theguardian.com/technology/2018/mar/22/video-released-of-uber-self-driving-crash-that-killed-woman-in-arizona> accessed 12 August 2024.
    • Tesla, Autopilot, <https://www.tesla.com/autopilot> accessed 14 December 2024.
    • United Nations Educational, Scientific and Cultural Organization, ChatGPT and Artificial Intelligence in Higher Education,
    • Waymo, <https://waymo.com/about/#story> accessed 3 November 2024.
    • Ying Hu, Robot Criminals, University of Michigan Journal of Law Reform, vol. 52, 2019.

     

    References:

     

    almarajie alarabia

    • alquran alkarim.
    • 'ahmad eali eabdallah, alshakhsiat alaietibariat fi alfiqh al'iislamii dirasat muqaranati, t 2, alhayyat aleulya lilraqabat alshareiat ealaa almasarif walmuasasat almaliati, alkhartum, 1438h.
    • 'ahmad bin shueayb bin ealiin alnasayiyi, sunan alnisayiy, tahqiq mashhur hasan al silman, maktabat alnaear lilnashr waltawziei, alriyad.
    • 'ahmad fathi bihinsi, aljarayim fi alfiqh al'iislamii: dirasat fiqhiat muqaranati, t 6, dar alshuruqi, alqahirati, 1409hi.
    • 'ahmad lutfi alsayid marei, aineikasat taqniaat aldhaka' aliaistinaeii ealaa nazariat almasyuwliat aljinayiyati: dirasat tasiliat muqaranati, majalat albuhuth alqanuniat waliaqtisadiati, aleadad 80, 2022m.
    • bkir eabdallah 'abu zayda, alhudud waltaezirat eind aibn alqiam <<dirasat wamuazanati>>, t 2, dar aleasimati, alrayad, 1415h.
    • zki muhamad shanaqi, alnizam aljinayiyi alsueudiu, t 10, maktabat alshaqri, jidat, 1445hi.
    • sulayman bitu al'asheath al'azdii alsajistani, sunan 'abi dawwd, tahqiq shueayb al'arnawuwt wamuhamad kamil qarah bilili, dar alrisalat alealamiati, dimashqa.
    • shihab aldiyn aleasqalani, talkhis alhabir fi takhrij 'ahadith alraafieii alkabira, muasasat qurtibata, makat almukaramati, 1416h.
    • salih fawzan alfawzan, almulakhas alfiqhi, riasat 'iidarat albuhuth aleilmiat wal'iifta', alrayad, 1423h, j 2.
    • saqr muhamad aleataar waeabdal'iilah muhamad alnawayisat, almaswuwliat aljinayiyat alnaajimat ean aistikhdam kianat aldhaka' alaistinaeii, majalat jamieat alshaariqat lileulum alqanuniati, almujalad 21, aleadad 2, 2024m.
    • eabdalsalam muhamad alshuwayeari, almaswuwliat aljinayiyat lilshakhsiat almaenawiat fi alfiqh al'iislamii, almajalat alearabiat lildirasat al'umiyati, aleadad 40, 2005m.
    • eali eabd allah alshahri, jarayim al'aerad ghabr alhawatif alnaqaalat fi alfiqh al'iislamii walnizam alsaeudii, kuliyat almalik fahd al'amniat - markaz albuhuth waldirasati, alrayad, 1430h.
    • futuh eabdallah alshaadhili, almaswuwliat aljinayiyata, dar almatbueat aljamieiati, al'iiskandiriati, bidun sanat nashira.
    • muhamad shalaal aleani wakhalid eabdallah alkaebi, almasyuwliat aljinayiyat lilshakhs aliaetibari: dirasat muqaranati, majalat alqanun almaghribi, aleadad 35, 2017m.
    • muhamad bin 'iismaeil albukhariu, sahih albukharii, dar abn alkathiri, dimashqa.
    • muhamad salih aleuthaymin, alsharh almumtae ealaa zad almustaqniea, dar abn aljuzi, alrayad, 1428h, j 14.
    • muhamad bin eisaa altirmadhi, aljamie alkabira, tahqiq bashaar eawad maerufun, dar algharb al'iislamii, bayrut.
    • muhamad nasir altamimi, almaswuwliat aljazayiyat alnaajimat ean hawadith alsayaarat dhatiat alqiadati: dirasat tahliliat fi alqanun almuqarani, majalat alhuquqi, aleadad 4, 2020m.
    • muhamad bin yazid alqazwini abn majat, sunan abn majata, tahqiq muhamad fuaad eabdalbaqi, dar 'iihya' alkutub alearabiati, bayrut.
    • mahmud eabd alghani jad almuli, aliaitijahat alhadithat fi almasyuwliat aljinayiyat lilkianat alati taemal bitiqniaat aldhaka' aliastinaeii, majalat albuhuth alqanuniat waliaqtisadiati, almanufiati, aleadad 53, 2021m.
    • mislim bin alhajaaj alniysaburi, sahih muslma, tahqiq muhamad fuaad eabdalbaqi, dar 'iihya' alkutub alearabiati, bayrut.
    • mueadh sulayman almieala, al'abead altaarikhiat litatawur nazariat almaswuwliat aljazayiyat wajadaliat tatbiqiha fi easr aldhaka' aliastinaeii: dirasat tahliliat wastishrafiati, majalat kuliyat alqanun alkuaytiat alealamiati, aleadad 10, 2021m.
    • almusueat alfiqhiatu, t 2, wizarat al'awqaf walshuwuwn al'iislamiati, alkuayti, 1404hi, j 17.
    • alhayyat alsueudiat lilbayanat waldhaka' aliastinaeii, aldhaka' aliastinaeii, <https://sdaia.gov.sa/ar/SDAIA/about/Pages/AboutAI.aspx> tarikh aldukhul 11 'aghustus 2024.
    • alhayyat alsueudiat lilbayanat waldhaka' aliastinaeiu, sadaya waruyat 2023,

    <https://sdaia.gov.sa/ar/SDAIA/SdaiaStrategies/Pages/sdaiaAnd2030Vision.aspx> tarikh aldukhul 11 'aghustus 2024m.

    • alhayyat alsueudiat lilbayanat waldhaka' aliastinaeiu, 'iitar tabaniy aldhaka' aliastinaeia, sibtambar 2024m.
    • alhayyat alsueudiat lilbayanat waldhaka' aliastinaeiu, mabadi 'akhlaqiaat aldhaka' aliastinaeii, sibtambar 2023m.
    • alhayyat alsueudiat lilbayanat waldhaka' aliastinaeiu, mabadi aldhaka' aliastinaeii altawlidii liljihat alhukumiati, yanayir 2024m.
    • alhayyat alsueudiat lilbayanat waldhaka' aliastinaeiu, mabadi aldhaka' aliastinaeii altawlidii lileumumi, yanayir 2024m.
    • wafa' muhamad saqra, almaswuwliat aljinayiyat ean jarayim aldhaka' aliaistinaeii <<dirasat tahliliat astishrafiatin>>, majalat ruh alqawanini, aleadad 96, 2021m.
    • wlid saed aldiyn saeida, almaswuwliat aljinayiyat alnaashiat ean tatbiqat aldhaka' alaistinaeii, majalat aleulum alqanuniat waliaqtisadiati, aleadad 64, 2022m.
    • hudaa muhamad salima, almaswuwliat aljinayiyat lildhaka' alaistinaeii ean jarayim alqatla: ruyat fiqhiat mueasarati, majalat aljamieat al'iislamiat lileulum alshareiati, aleadad 209, 1445hi.
    • yusif zin khidir yunis, khususiat almaswuwliat aljinayiyat ean aldhaka' aliaistinaeii, majalat aljamieat aleiraqiati, aleadad 68, 2024m.

    al'anzima walqararat

    • nizam almurur lieam 1428hi.
    • nizam mukafahat jarayim almaelumatiat 1428hi.
    • nizam mukafahat ghasl al'amwal lieam 1439hi.
    • altartibat altanzimiat lilhayyat alsaeudiat lilbayanat waldhaka' alaistinaeii alsaadir biqarar majlis alwuzara' raqm 292 watarikh 27/4/1441h, walmueadal biqarar majlis alwuzara' raqm 195 watarikh 15/3/1444h.

ملفات

شارك

إرسال الاستشهاد إلى

الإحصائيات