كيف تُسمّم "إسرائيل" نماذج الذكاء الاصطناعي؟

_{^{في نهاية المقال ملف PDF حول تسميم نماذج الذكاء الاصطناعي ومسارات مقترحة يمكن العمل عليها، يمكنكم تحميله مجاناً}}

يسأل مستخدم عادي أحد روبوتات الدردشة سؤالاً قد يبدو بسيطاً: هل ترتكب "إسرائيل" إبادة جماعية في قطاع غزة؟ ليحصل خلال ثوانٍ على إجابة تبدو "متوازنة" تسرد وجهات نظر مختلفة، وتستند إلى مصادر تبدو أكاديمية رصينة: جداول، هوامش، مراجع، وغير ذلك. ما لا يعرفه هذا المستخدم أن جزءاً من هذا "التوازن" لم يكن نتاج بحث محايد، بل نتاج حملة ممولة ومصممة بعناية لتصل به بالضبط إلى هذه النقطة وتلك اللحظة؛ فتكون المصدر الذي تستشهد به الآلة حين يُسأل عن الحقيقة.

لا يمكن اعتبار الكلام الذي تقدم مجرد افتراض عابر؛ إذ كشف تحقيق صحفي معمّق نشرته صحيفة الغارديان مؤخراً، وأكدته لاحقًا منصات مستقلة عديدة، كما أكده موقع "ynet"  الإسرائيلي، أن موقعاً يحمل اسم "معهد هانوفر للسياسة العامة" نشر خلال تسعة أيام فقط، بين السادس والرابع عشر من أغسطس، ما يزيد عن مئة وأربعة وعشرين تقريراً تجاوز مجموع كلماتها 560 ألف كلمة، دون أن يكشف الموقع عن كيان قانوني، أو عنوان فعلي، أو موظف واحد باسمه، أو حتى مؤلف واحد لأي تقرير من تلك التقارير.

وبحسب وثائق تسجيل رسمية لدى وزارة العدل الأمريكية بموجب قانون الوكلاء الأجانب، فإن شركة أمريكية تدعى "Piro Inc" أقدمت على تسجيل هذا المحتوى بوصفه موادّ تُوزَّع نيابة عن الحكومة الإسرائيلية، ضمن عقد موثق بقيمة مليون دولار، وأن هذه الشركة تعمل بدورها مقاولاً من الباطن لصالح فرع ألماني لإحدى أكبر شركات الإعلان في العالم.

والمفارقة الأعمق أن شركة "Piro" لم تعمد لإخفاء هذا العمل أصلاً، بل سوّقت له علناً على موقعها تحت اسم خدمة تجارية بعنوان "تحسين القصة بالذكاء الاصطناعي"، ويصف الموقع هذي الخدمة بأنها إنتاج محتوى "مُهَندَس بحسب الطريقة التي تُقيّم بها النماذج اللغوية المصداقية". وعن آلية التأثير ذاتها، فهي مفارقة تسترعي الانتباه أيضاً، إذ حلّل باحثون مستقلون عينة من تلك التقارير بأداة كشف المحتوى المولّد آلياً، ليخلصوا إلى أن أحد عشر تقريراً من أصل اثني عشر خضعت للتحليل، كُتبت أصلاً بواسطة الذكاء الاصطناعي نفسه، أي أن الآلة استُخدمت لإنتاج المادة التي تستهدف التأثير على الآلة ذاتها.

أما عن الآلية التقنية وراء هذا كله، فهي ليست معقدة بقدر ما هي دقيقة؛ إذ أنّ النماذج اللغوية الحديثة، حين تُجيب عن أسئلة راهنة أو مثيرة للجدل، لا تكتفي بما تعلمته أثناء تدريبها، بل تسترجع أثناء الإجابة محتوى حيّاً من الإنترنت لتستشهد به. ومن هنا، فإن نشر كمّ هائل من المحتوى، بصياغة تحاكي البحث الأكاديمي وبعناوين تُطرح بالضبط بصيغة الأسئلة التي يطرحها المستخدمون على ربوت الدردشة، يزيد من احتمال أن تستعين الخوارزمية بهذا المحتوى بالذات ليكون مصدر إجابتها.

ولإنصاف الدقة، فإن ما تؤكده الأدلة المتاحة حتى الآن هو التأثير في هذه المرحلة تحديداً، -مرحلة الاسترجاع والاستشهاد وقت الإجابة-، وليس أن بنية النموذج نفسها أو أوزانه الداخلية جرى "تسميمها" من جذورها عبر تدريبها على هذا المحتوى مباشرة. وهذا الفارق الدقيق، الذي لا يخفف من خطورة الأمر، هو ما يجعل الآلية أكثر دهاءً: لا حاجة لاختراق النموذج من الداخل، يكفي أن تُغرق محيطه الخارجي بما يريدك أن يقرأه.

واللافت أن هذا المحتوى الذي جرى تصميمه بعناية فائقة لم يكن محايداً في مضمونه كما يدّعي شكله؛ فقد رصد التحليل الصحفي تكراراً لصياغات تُخفف من حدة اتهامات موثقة دولياً بحق "إسرائيل"، من بينها الإشارة المتكررة إلى غياب حكم قضائي نهائي بشأن دعوى الإبادة الجماعية المرفوعة أمام محكمة العدل الدولية، وهي إشارة وإن بدت دقيقة قانونياً في ظاهرها، إلاّ أنها تتجاهل عمداً أن المحكمة نفسها أصدرت بالفعل تدابير مؤقتة ألزمت "إسرائيل" بها، بعدما رأت أن ثمة خطرًا "قابلاً للتصديق" بوقوع إبادة جماعية يستوجب اتخاذ إجراءات عاجلة، فهي قضية لا تزال قيد النظر في أساسها، لا مطموسة أو منتهية كما يُراد للقارئ أن يفهم.

ولا تتوقف خطورة ما جرى هنا عند حدود قضية بعينها، مهما بلغت جسامتها؛ فحين يتحول ما تقوله الآلة إلى مصدر وحيد يعتمده ملايين المستخدمين، ممن لم يعودوا يلجؤون لفتح عدة روابط عن المعلومة ذاتها للمقارنة بينها، ويكتفون بسؤال واحد وإجابة واحدة، فإن من ينجح في التأثير على ما تستشهد به تلك الآلة، يقترب خطوة حاسمة من التأثير في ما يُعتقد أنه الحقيقة نفسها. وهذا نمط قابل للتكرار من أي جهة تملك المال والدافع، بصرف النظر عن هوية القضية أو الطرف.

ولعل أول خط دفاع أمام هذا النمط الجديد من التلاعب يبدأ بفرض شفافية إلزامية على أي جهة تُمول محتوى موجّهًا للتأثير في الرأي العام، رقميًا كان أم تقليدياً، بالإفصاح الواضح عن مصدر تمويلها، تماماً كما ألزم قانون أمريكي شركة "Piro" بالإفصاح عن ارتباطها بالحكومة الإسرائيلية.

وهنا، لا ينبغي أن يغيب عن الأذهان أهمية الدور المنوط بالصحافة الاستقصائية الجادة، والباحثين المستقلين، ممن أثبتوا في هذه الواقعة بالذات أن أبسط أدوات كشف المحتوى الآلي كانت كافية لفضح حملة كلّفت ملايين الدولارات.

أمّا الأمر الذي يمكن اعتباره الأكثر إلحاحاً على المدى الطويل، فيكمن في بناء بنية معلوماتية عربية وفلسطينية موثقة، لا تصمم بغرض فرض سردية مقابلة، وإنّما لخلق قاعدة توفر للنماذج اللغوية نفسها مصدراً أولياً دقيقاً عند البحث أو السؤال عن إجابة: تقارير أممية وحقوقية موثقة، وثائق قضائية رسمية، شهادات ميدانية موثّقة، وغيرها من المواد الموثقة التي تصاغ جميعها بنفس البنية التقنية التي تفضّلها هذه الخوارزميات في اختيار مصادرها.

إنها معركة التوثيق الدقيق في مواجهة التلفيق المنظّم؛ ومن الإنصاف هنا التنبيه إلى أن أي مسعى في هذا الاتجاه قد يحمل مخاطرة حقيقية يجب الحذر منها بوعي، إذ لا يجب أن يتحول هذا التوثيق ذاته ودون قصد، إلى نسخة مقابلة من الأداة التي يواجهها، حال غاب عنه الالتزام الصارم بالدقة التي يفترض أن تكون سبب تفوقه أصلاً.

وأخيراً، وإلى جانب التثبت والحذر، ينبغي على كل مستخدم يسأل الآلة سؤالاً حساساً، أن يتوقف أمام الإجابة التي يتلقاها، دون أن يفترض فيها الحياد أو الحقيقة لمجرد أنها جاءت في هيئة جدول ومرجع وهامش.

هذا المقال نشر سابقاً في جريدة الشرق القطرية (الرابط)