الأستاذة عبلة بوزكري هيئة القنيطرة
عندما يقود الذكاء الاصطناعي إلى أحكام قضائية وهمية
تحول الذكاء الاصطناعي من أداة لتسهيل العمل إلى مصدر لمتاعب قانونية حقيقية، بعدما وجد محامٍ أمريكي نفسه تحت طائلة العقوبة المهنية والقضائية بسبب وثيقة قانونية أُعدت بمساعدة برنامج ChatGPT، وتضمنت وقائع وشهادات وسوابق قضائية لم تكن موجودة أصلاً.
وأوقفت المحكمة العليا في ولاية نيو مكسيكو المحامي الأمريكي ستيفن دي آرونز مؤقتاً عن ممارسة المهنة، كما فرضت عليه غرامة مالية قدرها 5000 دولار، بعدما تبين أن استئنافاً رئيسياً قدمه في غشت من العام الماضي، دفاعاً عن أحد موكليه، تضمن معلومات قانونية وقضائية ملفقة نتيجة الاعتماد على الذكاء الاصطناعي دون التحقق من مخرجاته.
كان الاستئناف يهدف إلى الدفاع عن رجل صدر بحقه حكم بالسجن المؤبد في فبراير 2025، على خلفية إدانته بقتل شريكته ووالدة أطفاله. غير أن الوثيقة التي كان يفترض أن تدعم موقف المتهم تضمنت شهادات وهمية واستشهادات غير دقيقة بقضايا سابقة، في نموذج لما يعرف في عالم الذكاء الاصطناعي بـ”الهلوسة“.
وتتمثل هذه الظاهرة في إنتاج أنظمة الذكاء الاصطناعي لمعلومات تبدو في ظاهرها دقيقة ومقنعة، لكنها في الواقع غير صحيحة أو مختلقة بالكامل، بما في ذلك أسماء قضايا وأحكام وشهود ومراجع قانونية.
المشكلة لم تتوقف عند حدود الخطأ التقني، إذ إن المحامي وقّع الوثيقة وقدمها إلى المحكمة دون أن يتحقق من صحة المعلومات الواردة فيها، الأمر الذي حوّل خطأ الذكاء الاصطناعي إلى مسؤولية مهنية وقانونية مباشرة.
وبعد وقت قصير من تقديم الاستئناف، طلبت ولاية نيو مكسيكو سحب أجزاء من الوثيقة، قبل أن يتم استدعاء المحامي للإدلاء بشهادته في 21 غشت، حيث أقر باستخدام ChatGPT، واعترف بأنه لم يراجع النتائج التي قدمها البرنامج قبل إيداعها لدى المحكمة.
كما شملت العقوبة إخفاق المحامي في إبلاغ موكله بمحتوى الوثيقة وعدم إخطاره باستدعاء المحكمة، وهو ما دفع المحكمة العليا إلى التشديد على ضرورة اتخاذ الإجراءين معاً.
وأوضح آرونز، في تصريحات لموقع “Ars Technica”، أنه استخدم ChatGPT لتلخيص مذكرات موكله المتعلقة بالمحاكمة، مؤكداً أنه هو من صاغ المذكرة، لكن الفهرس والملخص تضمنا أخطاء عديدة.
وأشار إلى أنه لم يكن يدرك في ذلك الوقت أن أدوات الذكاء الاصطناعي يمكن أن تنتج معلومات غير دقيقة، ليس فقط بشأن مذكرته، وإنما أيضاً بشأن المذكرات التي سبق أن أعدها محامون آخرون.
واعتبر المحامي أن الواقعة تمثل “درساً مستفاداً” بالنسبة إلى جميع المهنيين الذين يعتمدون على هذه التكنولوجيا، التي وصفها بالقوية، لكنها قد تكون غير مستقرة في بعض الأحيان.
ولم تكن قضية نيو مكسيكو حالة معزولة في المشهد القضائي الأمريكي، إذ شهد نزاع تعاقدي آخر بين المحامي توم ويذرز ومدينة أبردين بولاية ميسيسيبي واقعة أكثر إثارة، بعدما انتهت الإجراءات إلى إلغاء المحاكمة عقب اكتشاف استخدام ممثلي الطرفين أدوات الذكاء الاصطناعي في إعداد المذكرات القانونية.
والأخطر أن أربعة محامين استشهدوا بأحكام قضائية وهمية أنتجتها أدوات الذكاء الاصطناعي، في واقعة كشفت كيف يمكن لمعلومة قانونية مختلقة أن تتسلل إلى وثيقة رسمية يفترض أنها خضعت لأعلى درجات التدقيق المهني.
وخلال جلسة استماع عقدت في يناير 2026، عبّر المحامون الأربعة عن خجلهم وقدموا اعتذاراتهم، فيما كشف التحقيق عن اختلاف درجات اعتمادهم على التكنولوجيا.
فقد أقر أحدهم باستخدام الذكاء الاصطناعي في البحث القانوني، بينما اعترف آخر باستخدام برنامج “فيرست درافتس” لصياغة الوثائق بشكل كامل، في حين قال المحاميان الآخران إنهما اكتفيا بالتوقيع على وثائق أُعدت بهذه الطريقة من دون مراجعتها.
القضية التي بدأت باعتبارها نزاعاً حول أتعاب مهنية اتخذت منحى مختلفاً تماماً عندما تبين أن مذكرات الطرفين تضمنت سوابق قضائية ملفقة.
ووصف المحامي روب فرويند الواقعة بأنها “مهزلة ذكاء اصطناعي”، في إشارة إلى اعتماد طرفي النزاع على أداة واحدة لإنتاج حجج قانونية تتضمن معلومات غير صحيحة.
وأمام هذا الوضع، علقت القاضية شارون أيكوك الإجراءات، وأمرت بإبعاد المحامين المعنيين عن القضية، معتبرة أن المحكمة تواجه “مرة أخرى” مشكلات ناجمة عن استخدام أنظمة الذكاء الاصطناعي في إعداد وثائق قضائية من دون مراجعة بشرية كافية.
كما مُنع اثنان من المحامين من المثول أمام المحكمة لمدة عامين، بينما تراوحت الغرامات المفروضة على المعنيين بين 1000 و3500 دولار، بحسب مستوى المسؤولية المنسوب إلى كل واحد منهم.
تكشف هذه الوقائع عن أحد أخطر جوانب استخدام الذكاء الاصطناعي في المجال القانوني: قدرته على إنتاج نص يبدو مهنياً ومقنعاً، لكنه قد يستند إلى وقائع غير موجودة أو أحكام قضائية لم تصدر قط.
وفي المجالات القانونية، لا يمكن التعامل مع هذه الأخطاء باعتبارها مجرد أخطاء تحريرية يمكن تصحيحها لاحقاً، لأن كل اسم قضية أو حكم قضائي أو شهادة أو مادة قانونية يمكن أن تكون جزءاً من حجة تؤثر في قرار المحكمة ومصير المتقاضين.
وتزداد الخطورة عندما يضع المحامي توقيعه على وثيقة أُعدت بواسطة الذكاء الاصطناعي دون فحص مصادرها، لأن المسؤولية المهنية لا تنتقل إلى الآلة. فالمحامي الذي يقدم وثيقة إلى المحكمة يظل مسؤولاً عن مضمونها وعن دقة المراجع والاستشهادات الواردة فيها.
وتطرح هذه الوقائع سؤالاً أوسع حول الحدود التي ينبغي أن تحكم استخدام الذكاء الاصطناعي داخل العدالة: هل يمكن للآلة أن تساعد المحامي في البحث والصياغة؟ نعم، لكن تحويلها إلى بديل عن التحقق البشري قد يفتح الباب أمام أخطاء تمس جوهر العملية القضائية.
فالذكاء الاصطناعي يمكن أن يختصر الوقت، ويساعد في تلخيص كميات ضخمة من الوثائق، ويقترح صيغاً أولية للنصوص، لكنه لا يستطيع أن يتحمل المسؤولية المهنية التي يتحملها المحامي أمام المحكمة وموكله.
وتبرز هنا قاعدة أساسية: كل معلومة ينتجها الذكاء الاصطناعي في ملف قضائي يجب أن تُعامل باعتبارها معلومة تحتاج إلى تحقق مستقل، لا باعتبارها حقيقة جاهزة للاستخدام.
المفارقة أن التكنولوجيا التي كان يفترض أن تجعل العمل القانوني أكثر سرعة وكفاءة وجدت نفسها في بعض الحالات سبباً في إبطاء العدالة، وإلغاء إجراءات، وفرض غرامات، ومنع محامين من المثول أمام المحاكم.
وتؤكد هذه الوقائع أن الخطر الحقيقي لا يكمن بالضرورة في استخدام الذكاء الاصطناعي داخل المهن القانونية، وإنما في استخدامه من دون رقابة مهنية ومسؤولية بشرية واضحة.
فحين يدخل نص مولد آلياً إلى قاعة المحكمة، لا يعود الأمر مجرد تجربة تقنية أو خطأ في برنامج، بل يصبح جزءاً من وثيقة قضائية قد تؤثر في حقوق إنسان وحريته ومصيره. ولهذا، فإن أخطر ما يمكن أن يحدث ليس أن “يهلوس” الذكاء الاصطناعي، وإنما أن يصدقه الإنسان دون أن يتحقق.
