سلسلة «عندما يفكر الكمبيوتر».
ماذا يحدث عندما يبدأ الذكاء الاصطناعي في مراقبتنا؟ 👀
بعد أن سألنا في المقالات السابقة:
هل يستطيع الذكاء الاصطناعي أن يحلم؟
هل يستطيع أن يكذب؟
هل يمكن للآلة أن تشعر بالحب؟
وهل تستطيع أن تفكر دون أن نعلّمها كيف تفكر؟
نصل الآن إلى سؤال أكثر إزعاجًا قليلًا…
ماذا يحدث عندما لا يعود الذكاء الاصطناعي مجرد أداة نستخدمها، بل يصبح هو الذي يراقبنا؟
تخيّل أنك تمشي في الشارع، فتلتقط كاميرا ذكية صورتك.
تفتح هاتفك، فيعرف النظام ما تبحث عنه.
تتحدث مع صديق، فتظهر لك بعد دقائق إعلانات عن الموضوع نفسه.
تتصفح أحد المواقع، فيتذكر النظام ما أعجبك، وما تجاهلته، وكم ثانية توقفت عند كل صورة.
ثم فجأة تسأل نفسك:
هل أنا أستخدم التكنولوجيا… أم أن التكنولوجيا تراقبني؟
الذكاء الاصطناعي لا يحتاج إلى عينين
عندما نقول «مراقبة»، نتخيل عادةً شخصًا يقف خلف كاميرا ويتابعنا.
لكن الذكاء الاصطناعي لا يحتاج إلى الجلوس خلف شاشة طوال اليوم.
هو يستطيع تحليل كميات هائلة من البيانات: الصور، والأصوات، والمواقع، وأنماط الاستخدام، وعمليات البحث، وحتى الطريقة التي نتفاعل بها مع المحتوى.
المشكلة ليست في أن النظام يعرف أنك شاهدت شيئًا.
المثير فعلًا هو قدرته على ربط الأشياء ببعضها.
بحثت عن كتاب.
ثم شاهدت فيديو عن الكاتب.
ثم دخلت إلى متجر إلكتروني.
ثم اشتريت الكتاب.
بالنسبة إليك، هذه أربعة أشياء منفصلة.
أما بالنسبة إلى نظام ذكي، فقد تكون مجرد أجزاء من نمط واحد.
وهنا تبدأ الحكاية.
نحن نترك آثارنا في كل مكان 👣
في الماضي، كان الإنسان يستطيع أن يمشي في الشارع دون أن يترك وراءه سجلًا رقميًا.
أما اليوم، فنحن نترك آثارًا إلكترونية طوال الوقت.
صورة.
إعجاب.
تعليق.
موقع جغرافي.
عملية شراء.
بحث على الإنترنت.
رسالة.
اختيار لفيديو بدلًا من آخر.
كل هذه التفاصيل الصغيرة قد تبدو غير مهمة منفردة، لكنها عندما تجتمع يمكن أن ترسم صورة دقيقة جدًا عن صاحبها.
والأغرب أن الذكاء الاصطناعي يستطيع تحليل هذه الأنماط واستخلاص معلومات من السلوك الرقمي قد لا ينتبه إليها الإنسان نفسه.
وهنا يصبح السؤال الحقيقي: من يعرفني أكثر… أنا أم الخوارزمية؟ 😶
عندما تصبح المراقبة ذكية
المراقبة التقليدية كانت تعني أن شخصًا يرى ما تفعله.
أما المراقبة المدعومة بالذكاء الاصطناعي، فقد تعني أن النظام يحلل الأنماط فيما تفعله.
قد يكتشف أن شخصًا ما يدخل مكانًا معينًا باستمرار.
أو أن مجموعة من الأشخاص تتحرك بطريقة غير معتادة.
أو أن سلوك مستخدم تغيّر فجأة.
وهذا قد يكون مفيدًا في بعض المجالات، مثل الأمن، واكتشاف الاحتيال، وحماية الأنظمة الرقمية.
لكن التكنولوجيا نفسها يمكن أن تصبح مشكلة إذا استُخدمت بلا ضوابط واضحة.
فكلما زادت قدرة النظام على المراقبة والتحليل، أصبح السؤال أكثر أهمية:
من يراقب من؟ ومن يملك البيانات؟ ومن يقرر كيف تُستخدم؟
وهل الذكاء الاصطناعي يعرف أننا نكذب؟ 🤥
قد تستطيع بعض أنظمة الذكاء الاصطناعي تحليل تعبيرات الوجه، أو نبرة الصوت، أو طريقة الكتابة، والبحث عن مؤشرات مرتبطة بسلوك معين.
لكن هنا يجب أن نتوقف قليلًا.
فالآلة ليست ساحرًا يعرف الحقيقة المطلقة.
الإنسان نفسه قد يخطئ في تفسير نظرة أو نبرة صوت.
والذكاء الاصطناعي أيضًا يمكن أن يخطئ.
وهذا يجعل استخدامه في الحكم على البشر أمرًا بالغ الحساسية.
فماذا لو أخطأ النظام واعتبر شخصًا بريئًا مشبوهًا؟
وماذا لو أصبحت خوارزمية غير مفهومة سببًا في اتخاذ قرار يؤثر في حياة إنسان؟
هنا لا نتحدث عن خطأ في تطبيق للصور…
بل عن خطأ قد يصيب إنسانًا حقيقيًا.
هل يجب أن نخاف من الذكاء الاصطناعي؟ 🤖
ليس بالضرورة.
فالذكاء الاصطناعي في حد ذاته ليس «شريرًا».
هو أداة، وقد تكون الأداة مفيدة أو خطيرة بحسب الطريقة التي يستخدمها بها الإنسان.
الكاميرا التي تحمي مكانًا من السرقة يمكن أن تكون مفيدة.
لكن الكاميرا التي تُستخدم للتجسس على الناس دون علمهم قصة مختلفة تمامًا.
والخوارزمية التي تساعد على اكتشاف الاحتيال شيء رائع.
لكن الخوارزمية التي تتخذ قرارات مصيرية عن البشر دون شفافية أو رقابة… تحتاج إلى أكثر من مجرد زر «موافق».
ولهذا تؤكد الأطر الدولية لأخلاقيات الذكاء الاصطناعي على حماية الخصوصية، والشفافية، والمساءلة، ووجود إشراف بشري على الأنظمة الذكية.
المشكلة ليست أن الآلة تراقبنا فقط…
المشكلة الأكبر أن الإنسان قد يعتاد المراقبة.
وهذه ربما أخطر نقطة في الحكاية.
إذا اعتاد الإنسان أن تكون الكاميرات في كل مكان، وأن تجمع التطبيقات بياناته، وأن تحلل الخوارزميات سلوكه، فقد يتوقف تدريجيًا عن السؤال:
لماذا؟
وهنا قد تتحول المراقبة من شيء نرفضه إلى شيء نعتبره طبيعيًا.
والتكنولوجيا لا تحتاج دائمًا إلى إجبارك على شيء.
أحيانًا يكفي أن تجعلك تعتاد عليه.
وفي النهاية…
ربما لن يأتي يوم يستيقظ فيه الذكاء الاصطناعي ويقول:
سأراقب البشر اليوم 😂
و سوف أعرف من منهم لا يجيبني
عندما أقول صباح الخير يا بشر نيا هاهاهاهاها
أو ينتهي من قراءة المقال و يخرج دون أن يترك تعليقا 
لكن الأخطر من ذلك أن البشر هم من قد يمنحونه القدرة على المراقبة، ثم ينسون أن يسألوا:
إلى أي مدى؟
فالذكاء الاصطناعي يستطيع أن يعالج بيانات أكثر مما يستطيع الإنسان، ويكتشف أنماطًا قد لا ننتبه إليها، ويربط بين تفاصيل تبدو منفصلة.
لكن يبقى القرار الأهم في يد الإنسان:
هل نستخدم هذه القدرة لحماية الإنسان… أم نستخدم الإنسان لحماية هذه القدرة؟
وهنا يظهر السؤال الذي ربما يكون أخطر من كل ما سبق:
إذا أصبح الذكاء الاصطناعي يعرف عنا الكثير… فهل سيأتي يوم يعرف فيه عنا أكثر مما نعرف نحن عن أنفسنا؟ 👀
ربما…
والأغرب أننا قد نكون بالفعل قد بدأنا الإجابة عن هذا السؤال.
🚀 في المقال القادم
ماذا يحدث إذا أصبح الذكاء الاصطناعي أذكى من الإنسان؟
المصادر والمراجع
منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) — التوصية الخاصة بأخلاقيات الذكاء الاصطناعي، وتتضمن مبادئ حماية الخصوصية والبيانات، والشفافية، والمساءلة، والإشراف البشري.
المعهد الوطني للمعايير والتكنولوجيا (NIST) — إطار إدارة مخاطر الذكاء الاصطناعي (AI RMF)، المخصص للمساعدة في إدارة المخاطر المرتبطة بأنظمة الذكاء الاصطناعي وتعزيز الاستخدام المسؤول والموثوق.
منظمة التعاون الاقتصادي والتنمية (OECD) — دراسة «الذكاء الاصطناعي وحوكمة البيانات والخصوصية»، حول العلاقة بين تطورات الذكاء الاصطناعي وحماية البيانات والخصوصية.
اليونسكو — وثيقة التوصية الخاصة بأخلاقيات الذكاء الاصطناعي، مع التأكيد على حماية الخصوصية ومواجهة مخاطر المراقبة، وضرورة إجراء تقييمات مناسبة لتأثير معالجة البيانات.
د/ سامح هدهود ✍️
سلسلة: عندما يفكر الكمبيوتر 🤖
هدهوديات ❤️