الذكاء الاصطناعي

الذكاء الاصطناعي في المقاولات بالمغرب: استخدموه دون تعريض معطياتكم للخطر

ChatGPT وClaude وGemini وCopilot… دخل الذكاء الاصطناعي التوليدي إلى المكاتب المغربية، غالباً من الباب الخلفي. المكاسب من حيث الوقت حقيقية، والمخاطر كذلك، وهي تمسّ معطياتكم في المقام الأول.

بقلم TAWSA Consulting · · 5 دقائق للقراءة

موظف يلصق عقداً في روبوت محادثة للحصول على ملخصه. وآخر يطلب منه صياغة رد على زبون غير راضٍ، بعد نسخ سجل المراسلات. وثالث يسلّمه ملف Excel « لإبراز أفضل الزبناء ». لا شيء من ذلك ينطوي على سوء نية: إنه ببساطة أمر فعّال. لكن في كل حالة من هذه الحالات، تكون معلومات المقاولة قد غادرت للتو نظامها المعلوماتي.

ليس الهدف من هذا المقال دفعكم إلى التخلي عن الذكاء الاصطناعي. فهو، إذا أُحسن استخدامه، يوفّر ساعات كل أسبوع. بل المقصود معرفة مكامن المخاطر، وما ينص عليه الإطار المغربي، والقواعد البسيطة الواجب اعتمادها.

1. ما تلصقونه في روبوت المحادثة يغادر المقاولة

عند استخدامكم لمساعد ذكاء اصطناعي عبر الإنترنت، يُرسَل النص الذي تكتبونه والملفات التي ترفعونها إلى خوادم المزوّد، وغالباً ما تكون خارج المغرب. وحسب العرض المختار وإعداداتكم، قد يُحتفَظ بالمحادثات، أو يُطَّلع عليها في بعض الحالات، بل وقد تُستعمل لتحسين النماذج. والقواعد ليست نفسها بين عرض مجاني موجه للعموم وعرض مهني.

والمعلومات الأكثر عرضة للخطر هي أيضاً الأكثر تداولاً في المقاولات الصغرى والمتوسطة:

  • ملفات الزبناء، معلومات الاتصال، سجلات الطلبيات؛
  • وثائق الهوية، بيانات الحسابات البنكية (RIB)، العقود، ملفات المستخدمين؛
  • المعطيات الصحية، في العيادات والمصحات؛
  • كلمات المرور، مفاتيح الولوج، الشفرة المصدرية التي تتضمن أسراراً.

2. الإطار المغربي: القانون 09-08 واللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي (CNDP)

في المغرب، يؤطر القانون رقم 09-08 معالجة المعطيات ذات الطابع الشخصي، تحت مراقبة CNDP (اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي). ومعالجة معطيات زبنائكم أو أجرائكم تترتب عنها التزامات: غاية محددة، وإخبار الأشخاص المعنيين، وتدابير أمنية ملائمة.

نقطة كثيراً ما تُغفَل: نقل المعطيات الشخصية إلى الخارج مؤطَّر قانونياً. فحسب بلد الوجهة وطبيعة المعطيات، قد يستلزم إذناً من اللجنة الوطنية. وإرسال ملف الزبناء إلى ذكاء اصطناعي مستضاف خارج المغرب هو تحديداً عملية نقل.

يقدّم هذا المقال معالم عملية ولا يشكّل استشارة قانونية. وبخصوص معالجة بعينها، يُرجى التواصل مع اللجنة الوطنية أو مع مستشاركم.

3. حيث يحقق الذكاء الاصطناعي مردودية حقيقية، دون مخاطر

الخبر السار أن الاستخدامات الأكثر مردودية لا تتطلب أي معطيات حساسة:

  • تحرير النصوص غير السرية وإعادة صياغتها: الإعلانات، بطاقات المنتجات، منشورات شبكات التواصل الاجتماعي؛
  • ترجمة المحتويات التسويقية بين الفرنسية والعربية والإنجليزية؛
  • تلخيص الوثائق العمومية: النصوص القانونية، طلبات العروض، الوثائق التقنية؛
  • المساعدة في البرمجة، شريطة عدم لصق كلمات المرور أو المفاتيح أبداً؛
  • تحليل معطيات مجهولة الهوية: تُحذف الأسماء والأرقام والمعرّفات قبل الإرسال.

4. « مفتوح المصدر ومثبّت لدينا »: فكرة جيدة، شريطة التحقق

بالنسبة للمعطيات الحساسة، يتمثل أحد الحلول المغرية في تشغيل الذكاء الاصطناعي على خوادمكم الخاصة: فلا تغادر المعطيات المقاولة. لكن يبقى من الضروري الوثوق في البرنامج.

لقد تحققنا من ذلك مؤخراً لاستخدامنا الخاص. فقبل أن نعهد بأي شيء إلى استوديو مفتوح المصدر لتوليد الصوت، قمنا بتدقيقه. الخبر السار: لا يوجد أي سلوك خبيث. لكن ثلاث ملاحظات استدعت التصحيح:

  • كانت واجهته تقبل أوامر صادرة عن أي موقع ويب مفتوح في الوقت نفسه في المتصفح، دون أي مصادقة؛
  • كان يتضمن تحديثاً تلقائياً قادراً على تنزيل شفرة جديدة وتثبيتها؛
  • كانت عدة مكتبات يستخدمها تعاني من ثغرات معروفة.

قمنا بعزله قبل أي استخدام: حساب مخصص دون صلاحيات، قطع الولوج الصادر إلى الشبكة، حصر الكتابة في مجلده الخاص، وتقييد الولوج إلى الواجهة المحلية. وانخفض مؤشر التعرض الذي يقيسه النظام من 8,5 إلى 2,9 من 10.

الدرس ينطبق على جميع الأدوات: مفتوح المصدر لا يعني خالياً من المخاطر، والمحلي لا يعني المعزول. فالتدقيق والعزل ضروريان قبل أن تعهدوا إليه بمعطياتكم.

5. تحققوا من التراخيص قبل النشر

الأصوات الاصطناعية، الصور، المقاطع الموسيقية: كثيراً ما تمنع العروض المجانية لأدوات الذكاء الاصطناعي الاستخدام التجاري. وهكذا قد يُخالف فيديو إشهاري أُنجز بصوت « مجاني » شروط الخدمة. قبل النشر، اقرؤوا الشروط، أو فضّلوا عرضاً مهنياً أو نموذجاً بترخيص متساهل (MIT، Apache-2.0).

وقاعدة مطلقة: لا تستنسخوا أبداً صوت شخص أو صورته دون موافقته الكتابية.

6. قائمة التحقق في 7 نقاط

  1. أجروا جرداً لأدوات الذكاء الاصطناعي المستخدمة فعلياً في المقاولة: غالباً ما يكون عددها أكبر مما نعتقد.
  2. حرّروا ميثاق استخدام موجزاً: ما يمكن إرساله، وما لا يُرسَل أبداً.
  3. فضّلوا العروض المهنية، بحسابات اسمية، ومصادقة ثنائية، والتزام بعدم إعادة استعمال المعطيات.
  4. أخفوا هوية المعطيات قبل الإرسال: الأسماء، أرقام البطاقة الوطنية، الهواتف، العناوين.
  5. بالنسبة للمعطيات الحساسة، استخدموا أدوات مستضافة وتتحكمون فيها، خضعت للتدقيق والعزل.
  6. تحققوا من تراخيص كل محتوى مولَّد قبل نشره.
  7. كوّنوا فرقكم: جلسة قصيرة تكفي لترسيخ العادات الصحيحة.

كيف ترافقكم TAWSA

انطلاقاً من مقرّنا في مراكش، نساعد المقاولات المغربية على الاستفادة من الذكاء الاصطناعي دون تعريض معطياتها للخطر: جرد الاستخدامات، ميثاق الاستعمال، اختيار أدوات آمنة ونشرها، تدقيق الحلول المثبّتة داخلياً وعزلها، وتشفير المعطيات الحساسة بواسطة URAEUS. وتندرج هذه المهام ضمن عرضنا لـالخدمات المعلوماتية المُدارة.

أسئلة شائعة

هل تستخدم أدوات مثل ChatGPT أو Claude معطياتي لتدريب نماذجها؟

يتوقف ذلك على العرض وعلى إعداداتكم. فالعروض الموجهة للعموم والعروض المهنية لا تخضع للقواعد نفسها فيما يخص الاحتفاظ بالمحادثات وإعادة استعمالها. تحققوا من إعدادات الخصوصية ومن شروط اشتراككم قبل أن تُدخلوا فيها معلومات داخلية.

هل الذكاء الاصطناعي المثبّت على خوادمنا الخاصة آمن بالضرورة؟

لا. فهو يحتفظ بمعطياتكم لديكم، وهذه ميزة حقيقية، لكن البرنامج نفسه يجب أن يخضع للتدقيق والعزل: حساب مخصص، صلاحيات في حدها الأدنى، ولوج محدود إلى الشبكة، وتحديثات مراقَبة.

هل يمكن إرسال معطيات الزبناء إلى ذكاء اصطناعي مستضاف في الخارج؟

يتعلق الأمر بنقل معطيات شخصية خارج المغرب، وهو ما يؤطره القانون 09-08. وحسب الحالات، قد يستلزم ذلك إذناً من اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي (CNDP). والأبسط هو إخفاء هوية المعطيات قبل إرسالها، أو استعمال حل مستضاف وتتحكمون فيه.

لديكم مشروع أو سؤال معلوماتي؟

افتحاص، خدمات مُدارة، أمن المعطيات: لنتحدث في الأمر، دون أي التزام.

تواصلوا معنا ←
واتساب