صباح الخير، وشكرًا لدعوتكم إياي للمشاركة في مؤتمر بوند سولون لشهود الخبرة. إنّه لشرفٌ حقيقي أنْ أكون هنا.
لعلّ بعضكم يعلم أنّ دور شهود الخبرة في نظامنا القضائي قريبٌ إلى قلبي، ولا شك أنّ لذلك صلةً بخلفيّتي في المحاماة. فحين كنت محاميةً مترافعة (باريستر) في قضايا المسؤولية المهنية والتقاضي التجاري، حيث تكون أدلة الخبراء في الغالب حاسمةً في نتيجة الدعوى، قضيتُ ساعاتٍ سعيدة كثيرة مع خبراء في مجالاتٍ شتّى: من المحاسبين إلى المهندسين، ومن وكلاء براءات الاختراع إلى، صدّقوا أو لا تصدّقوا، خبراء دوليين في الأسلحة النارية (وقد أعطى هؤلاء الأخيرون معنًى جديدًا تمامًا لعبارة "البندقية المستأجرة" hired gun)!
وبصفتي قاضيةً في دائرة الأعمال والملكية، أقضي الآن وقتًا طويلًا في الاستماع إلى الخبراء وهم يُستجوَبون استجوابًا مضادًّا، وفي الانتهاء إلى ما أنتهي إليه بشأن مصداقية شهاداتهم أو عدمها.
ومصداقية الخبير، التي كثيرًا ما تتوقف على وفائه بواجباته الأساسية تجاه المحكمة، هي في الحقيقة ما يقع في صميم كلمتي اليوم.
إنّ ظهور الذكاء الاصطناعي وتطوّره السريع لم يغيّرا هذه الواجبات، ولن يغيّراها. فالتزامات الاستقلال والموضوعية والشفافية والكفاءة المهنية باقيةٌ كما كانت تمامًا قبل ظهور الذكاء الاصطناعي.
ومن ثمّ فالسؤال ليس: هل ينبغي للخبراء أنْ يستعملوا الذكاء الاصطناعي؟ ولا هو: هل ينبغي حظر الذكاء الاصطناعي في عمل الخبرة؟ بل السؤال: كيف يستطيع الخبراء أنْ يستعملوا هذه الأدوات استعمالًا مسؤولًا وآمنًا، وعلى نحوٍ يتّسق مع التزاماتهم تجاه المحكمة؟
أودّ أنْ أبدأ باستطلاعٍ سريع لنرى كم منكم في هذا المؤتمر استعمل الذكاء الاصطناعي في عمله فيما يتصل بإعداد أدلة الخبرة، وهل أنتج ذلك الاستعمال المضمون الجوهري لتقاريركم أو أثّر فيه.
وعلى هذه الخلفية، فإنّ غايتي هذا الصباح أنْ أحاول تقديم إطارٍ عملي لعملكم المستمر بوصفكم شهود خبرة. وسأبدأ بمناقشة توصيات مجلس العدالة المدنية في تقريره المنشور الأسبوع الماضي بعنوان "استعمال الذكاء الاصطناعي في إعداد المستندات القضائية". ومجلس العدالة المدنية، كما يعلم كثيرٌ منكم، هيئةٌ عامة استشارية تراجع العدالة المدنية وتقدّم توصياتٍ ترمي إلى تحسين النظام. وقد كنتُ رئيسةً مشاركة لفريق العمل الذي أعدّ ذلك التقرير. ثم سأحدّد الاستعمالات المعقولة للذكاء الاصطناعي في عمل الخبرة، وأُبرز بإيجاز بعض المخاطر الكبيرة، وأختم ببعض الضمانات العملية المقترحة التي قد يرغب الخبراء في اتباعها.
توصيات مجلس العدالة المدنية
تدرك المحاكم أنّ تقنيات الذكاء الاصطناعي يمكن أنْ تحسّن الكفاءة والإنتاجية؛ إذ يمكنها أنْ تساعد مستعمليها في معالجة كمياتٍ كبيرة من المعلومات، وتحديد الأنماط، وإيصال المواد المعقّدة بفاعليةٍ أكبر.
وفي المقابل، صارت المخاطر الآن مفهومةً جيدًا. فأنظمة الذكاء الاصطناعي التوليدي قادرةٌ على إنتاج معلوماتٍ زائفة تمامًا تُعرض بثقةٍ كاملة؛ فقد تخترع مصادر، وتسيء فهم السياق، وتخطئ في عرض الوقائع، وتقدّم تحليلاتٍ مقنعة لكنها غير صحيحة. وقد وقعت بالفعل في أنظمةٍ قضائية أخرى أمثلةٌ لخبراء ضمّنوا تقاريرهم محتوًى وهميًّا أنتجه الذكاء الاصطناعي.
ويحاول تقرير مجلس العدالة المدنية أنْ يعكس نهجًا متوازنًا تجاه هذه الفرص والمخاطر.
ويُقرّ التقرير بأنّ أعدادًا متزايدة من شهود الخبرة يستعملون الذكاء الاصطناعي في عملهم خبراء، وهو ما تؤكّده نتائج استطلاع بوند سولون لشهود الخبرة لعام ٢٠٢٦، المنشور اليوم بمحض المصادفة، والاستطلاع السريع الذي أجريناه للتو.
وحين طرح فريق العمل المسألة للاستشارة العامة، أردنا أنْ نعرف هل يرى الخبراء أنّ هذا الاستعمال ينبغي أنْ يكون شفّافًا. فالخبراء ملزمون أصلًا بأنْ يوثّقوا تقاريرهم بإقرارٍ بصحّتها (statement of truth) يُقصد به دعم وفائهم بواجباتهم، لكنّنا سألنا: هل يلزم أنْ يُفصحوا عن استعمالهم للذكاء الاصطناعي؟
وكان جواب المشاركين في الاستشارات "نعم" بأغلبيةٍ ساحقة.
وقد وافق ذلك آراء فريق العمل، ووافق أيضًا الإرشادات التي أصدرتها في وقتٍ سابق من هذا العام أكاديمية الخبراء، التي يعرفها كثيرٌ منكم. ولذلك انتهينا إلى أنّ سلامة أدلة الخبرة، بما في ذلك الحاجة إلى تمحيص منهجية الخبير تمحيصًا سليمًا، والحفاظ على تكافؤ الفرص بين الخبراء، تتطلّب قدرًا من الشفافية في استعمال الذكاء الاصطناعي لا يتحقّق إلا باستحداث إقرارٍ جديد خاصٍّ باستعماله. وقد أوصينا بتعديل القواعد لتحقيق ذلك.
والمهمّ أنّ هذا الإقرار لن يُطلب إلا إذا استعمل الخبير أدوات الذكاء الاصطناعي لإنتاج المضمون الجوهري لتقريره أو التأثير فيه، ويشمل ذلك الحالات التي يكون فيها استعمال الذكاء الاصطناعي جزءًا من منهجية الخبير أو من تحليله الجوهري. فالذكاء الاصطناعي مستعملٌ اليوم على نطاقٍ واسع في مهامّ كثيرة جدًّا، ومدمجٌ في أدواتٍ قائمة كثيرة جدًّا قد تُوصف بأنّها إدارية، فلم نرَ حاجةً إلى إقرارٍ في مثل هذه الحالات. وركّزنا بدلًا من ذلك على سلامة ما ينتجه الخبير، وعلى الحاجة إلى المساءلة البشرية والتحقّق البشري. وحيث يلزم الإقرار، نرى أنّه يجب أنْ يتضمّن من المعلومات ما يكفي لتيسير التمحيص الفعّال لأدلة الخبرة. ونتصوّر أنّ ذلك قد يشمل الإفصاح عن المنهجية المستعملة، مع تأكيد ملاءمة استعمال الذكاء الاصطناعي لذلك الغرض، وفي حالاتٍ استثنائية، لا في كل الحالات، الأداةَ التي استُعملت.
وفي الوقت نفسه، وإدراكًا للحاجة إلى إرشادٍ في هذا المجال، وهي حاجةٌ يُبرزها أيضًا استطلاع بوند سولون لشهود الخبرة، أوصينا بأنْ يُعدَّل إرشاد مجلس العدالة المدنية لتكليف الخبراء في الدعاوى المدنية (٢٠١٤)، ليتضمّن الإرشاد المعدَّل إرشاداتٍ للممارسة الجيدة في استعمال الخبراء للذكاء الاصطناعي.
وقد بيّنّا رأينا أنّ هذا الإرشاد يحتاج إلى تيسير النظر في اختبارٍ من ثلاثة أجزاء وتطبيقه: الأول، أنْ ينظر الخبراء: هل أنتج استعمالهم للذكاء الاصطناعي مضمون أدلّتهم أو أثّر فيه؟ والثاني (إذا لزم تقديم إقرار)، أنْ ينظروا: ما المعلومات التي ينبغي الإفصاح عنها لتمكين الخصم والمحكمة من تمحيص منهجيتهم وتحليلها تحليلًا فعّالًا؟ والثالث، أنْ ينظروا: هل يلزم في الظروف الخاصة بالحالة الإفصاح عن أداة الذكاء الاصطناعي المستعملة؟
حيث يمكن استعمال الذكاء الاصطناعي بأمانٍ في عمل الخبرة دون حاجةٍ إلى إقرار (على افتراض الأخذ بتوصياتنا)
يمكن للذكاء الاصطناعي أنْ يساعد في طائفةٍ واسعة من المهام الإدارية، وإدارة المعلومات، والمساندة في الصياغة، وأشكّ في أنّ ذلك سيستدعي تقديم إقرار.
ولعلّ كثيرًا منكم يستعمل الذكاء الاصطناعي بالفعل في المهام التنظيمية التي تخفّف عبء التعامل مع كمياتٍ كبيرة من المستندات والبيانات المعقّدة. بل لعلّ بعضكم لا يعلم أنّه يفعل ذلك؛ فبعض أدوات تحليل البيانات تستعمل الذكاء الاصطناعي بالفعل بطرقٍ لا تظهر للوهلة الأولى.
فأنتم تستعملونه في تنظيم مجموعاتٍ كبيرة من المستندات، وإعداد التسلسلات الزمنية، وتصنيف المستندات. وقد تستعملونه أيضًا في تلخيص المستندات الطويلة وتحديد موضوعاتها، وفي إجراء البحث، وفي بناء هيكل تقاريركم، وفي مراجعة تقاريركم النهائية بحثًا عن الأخطاء أو التناقضات، وفي تدقيق الإملاء والنحو. ويمكن أنْ يكون "زوجًا ثانيًا من العيون" رائعًا.
ومع أنّ هذه الأمور، كما قلت، قد لا تتطلّب إقرارًا على الأرجح لأنّها لا تمسّ المضمون الجوهري، فإنّ عليكم أنْ تتوخّوا حذرًا كبيرًا.
فملخّص الذكاء الاصطناعي لمستندٍ ما قد لا يلتقط سمةً حاسمة كانت ستلفت نظركم فورًا، وقد يُغفل مسائل مهمة من السياق أو الفروق الدقيقة. وعلى هذا النحو، إذا استُعمل في تقريرٍ دون مراجعة المستند الأصلي مراجعةً دقيقة، فقد يؤثّر في المضمون الجوهري. والأداة الإدارية التي تساعد في هيكلة المحتوى الذي يكتبه المستعمل قد تؤثّر (وإنْ ربما بطريقةٍ خفية فحسب) في الطبيعة الجوهرية لذلك المحتوى. والتفريغ الصوتي بالذكاء الاصطناعي قد ينتج محتوًى جوهريًّا لا يعكس بدقة ما قيل. ولهذا يجب أنْ ينصبّ تركيزكم بوصفكم خبراء، في كل الأوقات، على فهم ما تستطيعه أداة الذكاء الاصطناعي التي تستعملونها.
وما أقوله في الحقيقة هو: يمكنكم بطبيعة الحال، حيث يكون ذلك مناسبًا، أنْ تستعملوا الذكاء الاصطناعي أداةً للبحث وأداةً لتحقيق مزيدٍ من الكفاءة والسرعة، لكن إذا استُعمل بأيّ طريقةٍ قد تُنتج مضمون أدلّتكم أو تؤثّر فيه، مباشرةً أو بصورةٍ غير مباشرة، فسيتعيّن الإفصاح عن استعماله (على افتراض أنْ تقبل لجنة القواعد توصيات مجلس العدالة المدنية بطبيعة الحال)، وسيتعيّن عليكم أنْ تقدّموا للطرف الآخر وللمحكمة من المعلومات ما يكفي ليطمئنوا إلى أنّ تقريركم، مع ذلك، نتاجٌ حقيقي لآرائكم أنتم.
وإذا لم يُقدَّم الإفصاح على الوجه الصحيح، فتوقّعوا أنْ يكون تقريركم موضع أسئلةٍ نافذة في الاستجواب المضاد، يتعيّن عليكم خلالها أنْ تسوّغوا استعمالكم لأداة الذكاء الاصطناعي، وأنْ تبيّنوا لماذا لم يؤثّر بأيّ حالٍ في رأيكم بوصفكم خبراء.
العثرات والمخاطر: ما الذي قد يسوء؟
سأتناول هذا الآن بإيجازٍ فقط. فأنا على يقينٍ من أنّ معظمكم يعلم أنّ المخاطر الرئيسة لاستعمال الذكاء الاصطناعي تشمل الهلوسة، وانتهاك السرية، وسوء الفهم التقني. وعلى مستوًى أعمق، فإنّ الخطر الرئيس في استعمال الخبراء للذكاء الاصطناعي هو تآكل الحكم المستقل، وإسناد آرائكم إلى الذكاء الاصطناعي، ومن ثمّ ضياع نزاهة الخبير.
وبالعودة إلى المستوى العملي، فإنّ من المخاطر الكبيرة، التي أبرزتها بعض القضايا المنشورة التي يعرفها كثيرٌ منكم، مخاطرَ قلّة التدريب على استعمال أداة الذكاء الاصطناعي المعنية، وقلّة فهم ما تستطيعه، والتقصير في ضمان مستوياتٍ كافية من الإشراف. فإذا كنتم تعملون في جهاتٍ تستعين بفرق لتحليل المواد وإجراء البحث، فسيتعيّن عليكم أنْ تتأكّدوا من فهمكم لأدوات الذكاء الاصطناعي التي تستعملها تلك الفرق وكيف استُعملت (حتى لو لم تستعملوها أنتم). وسيتعيّن عليكم أيضًا أنْ تتأكّدوا من وجود بروتوكولٍ صارم يضمن أنْ يفهم كل أعضاء الفريق أهمية أنْ تكونوا أنتم، بصفتكم الخبير، على بيّنةٍ مما استعملوه من الذكاء الاصطناعي.
وعلى خشية أنْ أكرّر نفسي، فإنّ الحماية من هذه المخاطر تقوم بطبيعة الحال على الواجبات الأساسية للخبير: ضرورة التحقّق من كل ما يُورَد من وقائع وإحالاتٍ واستنتاجات، وألّا يُؤخذ شيءٌ على ظاهره، وأنْ تقدّموا رأيكم المستقل بكلماتكم أنتم.
الضمانات العملية والممارسة الجيدة
لا أريد أنْ أفرض قواعد، ولن تكون الأمور التي سأقترحها صالحةً لكل حالة، لكنّني أستطيع أنْ أحدّد عددًا من الأسئلة المهمة التي ينبغي لكل خبيرٍ أنْ يستحضرها عند تلقّي التكليف (وأخشى أنّها كثيرة إلى حدٍّ ما!):
ما تعليمات التكليف بشأن الذكاء الاصطناعي؟ هل يجوز لي استعماله، أم هو محظورٌ لسببٍ ما (كاعتبارات الملكية الفكرية، أو حماية البيانات، أو الامتثال التنظيمي)؟ وحتى لو لم تُثر تعليماتكم هذه المسألة، فأظنّ أنّ من الحكمة العملية أنْ تُفصحوا ابتداءً عن الاستعمال الذي تعتزمونه، وأنْ تناقشوه مع المحامين الذين كلّفوكم.
هل تتضمّن التقنية التي أعتزم استعمالها ذكاءً اصطناعيًّا؟ وهل أحتاج إلى بذل العناية الواجبة للتحقّق من ذلك؟
هل أداة الذكاء الاصطناعي التي أعتزم استعمالها ملائمةٌ للغرض الذي أعتزم استعمالها له؟ ولماذا اختيرت دون غيرها من الأدوات المماثلة؟ وهل أستعمل أحدث أداةٍ لهذه المهمة؟ وقد يلزم البحث في أدواتٍ مماثلة أخرى قد تكون أنسب للغرض. ويمكن بسهولة تصوّر استجوابٍ مضاد يدور حول سؤال: هل استعملتم أفضل أداةٍ وأحدثها للمهمة؟ وإنْ لم تفعلوا، فلماذا؟
هل الأداة التي أعتزم استعمالها آمنةٌ بحيث لن تتسرّب المعلومات السرية أو المحمية بالامتياز إلى المجال العام؟ وهذا موضوعٌ أظنّه يستحق دائمًا المناقشة مع المحامين الذين كلّفوكم.
إذا كنتم تعملون ضمن فريق: هل يفهم جميع أعضاء الفريق أهمية الإفصاح عن استعمالهم للذكاء الاصطناعي، وأهمية الاحتفاظ بسجلٍّ مكتوب للخطوات الرئيسة في العملية، بما في ذلك كيفية استعمال المخرجات؟ وهل تلقّوا جميعًا التدريب المناسب؟
سواءٌ أكنتم تعملون ضمن فريقٍ أم لا: هل أفهم كيف يعمل نظام الذكاء الاصطناعي، بما في ذلك حدوده، والخطوات التي اتخذها آخرون في فريقي للتحقّق من صحة مخرجاته؟ وهل أستطيع أنْ أشرح هذه الأمور أمام المحكمة لو اضطُررت إلى ذلك؟
هل لديّ سجلٌّ سليم بكيفية استعمال أداة الذكاء الاصطناعي، وبمدى ما أنتجته من مضمونٍ جوهري أو أثّرت فيه، إنْ كانت قد فعلت أصلًا؟
فإذا كانت قد أنتجت مضمونًا جوهريًّا أو أثّرت فيه، فأظنّ أنّ ثمة عشرة أسئلة ينبغي أنْ تطرحوها على أنفسكم:
(أ) هل أحتاج إلى الإفصاح عن أداة الذكاء الاصطناعي التي استُعملت؟ وهل أستطيع أنْ أسوّغ استعمالها؟
(ب) هل المخرجات متينة؟ وهل يمكن إعادة إنتاجها؟
(ج) هل يُحتمل أنْ تكون متأثّرةً بتحيّزاتٍ معروفة في أداة الذكاء الاصطناعي أو في مجموعة البيانات التي دُرّبت عليها الأداة؟ وإنْ كان كذلك، فكيف قد يؤثّر ذلك في المخرجات؟
(د) هل يُحتمل أنْ تتضمّن افتراضاتٍ خفية؟
(هـ) هل فعلتُ كل ما أستطيعه للتحقّق من المخرجات؟
(و) هل طبّقتُ إشرافًا بشريًّا كافيًا لضمان ألّا تتسرّب أيّ هلوساتٍ أو أخطاء إلى الأدلة؟
(ز) هل الآراء المعبَّر عنها آرائي أنا حقًّا؟
(ح) هل أستطيع أنْ أشرح كل استنتاجٍ انتهيتُ إليه؟
(ط) هل سأكون مرتاحًا وأنا أصف لقاضٍ، تحت القسم، كيف استعملتُ الذكاء الاصطناعي بالضبط؟
(ي) وعودًا إلى البداية: هل وفّيتُ بواجباتي المهنية؟
الخاتمة
الذكاء الاصطناعي أداة. ومهما كنّا ميّالين إلى إضفاء صفات البشر عليه، فإنّ الذكاء الاصطناعي ليس خبيرًا، ولا ينبغي أنْ يكون بديلًا عن رأي الخبير. وستبقى المسؤولية دائمًا على شاهد الخبرة. وفي نهاية المطاف، كما أرجو أنْ أكون قد بيّنت، فإنّ الشفافية والتحقّق والحكم المهني ضماناتٌ لا غنى عنها، وينبغي أنْ تكون مبادئكم الهادية.
ويبدو لي أنّ المستقبل للخبراء الذين يفهمون قدرات الذكاء الاصطناعي وحدوده معًا، ويواكبون التقنيات الجديدة، ويستعملون الذكاء الاصطناعي بتبصّرٍ وعلى الوجه المناسب و(حيث يلزم) بشفافية، دعمًا لواجبهم الأسمى تجاه المحكمة.
وشكرًا لكم.
النص الأصلي: Artificial Intelligence and Expert Evidence – Opportunities, Risks and Responsibilities
النص الأصلي منشور على موقع القضاء في إنجلترا وويلز (Courts and Tribunals Judiciary)، وهو محمي بحقوق التاج البريطاني (Crown copyright)، ويُعاد استعماله بموجب الترخيص الحكومي المفتوح، الإصدار الثالث (Open Government Licence v3.0). نص الترخيص
الترجمة العربية: مقالات . ولا تُغني عن النص الأصلي عند الاستشهاد.