هل يستطيع الذكاء الاصطناعي أن يكذب؟ 🤔

سلسلة :عندما يفكر الكمبيوتر 

هل يستطيع الذكاء الاصطناعي أن يكذب؟ 🤔

تخيّل أنك تجلس أمام جهاز الكمبيوتر وتسأله سؤالًا بسيطًا:

— هل تعرف الإجابة؟

فيجيبك بثقة:

— نعم، بالتأكيد.

ثم يعطيك إجابة تبدو منطقية، ومقنعة، ومليئة بالتفاصيل…

لكنها خاطئة تمامًا!

فتنظر إلى الشاشة بدهشة وتسأله:

— استنى كده… أنت كذبت عليَّ؟! 😳

هنا يبدأ سؤال غريب ومثير للاهتمام:

هل يستطيع الذكاء الاصطناعي أن يكذب فعلًا؟

أم أن ما نراه كذبًا ليس إلا نتيجة لشيء مختلف تمامًا؟

الكذب يحتاج إلى نية

في حياتنا اليومية، عندما نقول إن شخصًا كذب، فنحن لا نعني فقط أنه قال شيئًا غير صحيح.

فقد يقول الإنسان معلومة خاطئة لأنه لا يعرف الحقيقة، أو لأنه نسيها، أو لأنه أخطأ في الحساب.

لكننا نستخدم كلمة «كذب» عندما يكون هناك شيء إضافي:

أن يعرف الشخص أن ما يقوله غير صحيح، ثم يختار أن يقوله بهدف تضليل شخص آخر.

وهنا تظهر المشكلة مع الذكاء الاصطناعي.

فالذكاء الاصطناعي لا يجلس أمامنا وهو يفكر:

«أنا أعرف الحقيقة، لكنني سأخدع هذا الإنسان وأقول له عكسها!» 😈

على الأقل، لا يوجد لدينا دليل علمي يثبت أن أنظمة الذكاء الاصطناعي الحالية تمتلك نية واعية بهذا الشكل.

إذن عندما يعطيك الذكاء الاصطناعي معلومة خاطئة، فالأدق غالبًا أن نقول:

لقد أخطأ… وليس بالضرورة أنه كذب.

لكن لماذا يبدو أحيانًا وكأنه يكذب؟ 🤨

هنا تصبح القصة أكثر إثارة.

الذكاء الاصطناعي التوليدي يستطيع أن ينتج إجابات تبدو واثقة جدًا، حتى عندما تكون المعلومات التي يقدمها غير صحيحة.

قد يخبرك باسم كتاب غير موجود، أو ينسب اقتباسًا إلى شخص لم يقله، أو يعطيك تاريخًا خاطئًا، ثم يواصل الإجابة بأسلوب مرتب وواثق وكأن شيئًا لم يحدث.

وهذه الظاهرة تُعرف في كثير من أنظمة الذكاء الاصطناعي باسم «الهلوسة».

المشكلة أن الإنسان عادةً يربط بين الثقة وصحة المعلومة.

فإذا تحدث شخص بثقة شديدة، واستخدم كلمات علمية، وقدم تفاصيل كثيرة، فمن السهل أن نصدقه.

والذكاء الاصطناعي يستطيع أن يفعل الشيء نفسه.

لكن الفرق المهم هو أن الأسلوب الواثق لا يعني بالضرورة وجود معرفة صحيحة خلفه.

فالآلة قد تنتج جملة تبدو ممتازة لغويًا، بينما تكون المعلومة الموجودة داخلها خاطئة.

وهنا يجب أن نتوقف قليلًا…

لأننا أمام شيء يشبه الكذب في شكله، لكنه قد لا يكون كذبًا في معناه.

الكذب بلا نية… هل ما زال كذبًا؟ 🧠

تخيل أنك سألت شخصًا سؤالًا، فأعطاك إجابة خاطئة لأنه كان يعتقد أنها صحيحة.

هل نسميه كاذبًا؟

غالبًا لا.

نحن نفرّق بين الخطأ والكذب بناءً على ما كان يعرفه الشخص وما كان يقصده.

وهذا الفرق مهم جدًا عند الحديث عن الذكاء الاصطناعي.

فالنظام قد ينتج معلومة خاطئة لأنه بنى الإجابة على أنماط تعلمها من كميات ضخمة من البيانات، أو لأنه لم يمتلك المعلومات الكافية، أو لأنه واجه سؤالًا خارج ما يستطيع التعامل معه بدقة.

لذلك فإن العبارة:

«الذكاء الاصطناعي قال شيئًا غير صحيح»

لا تعني تلقائيًا:

«الذكاء الاصطناعي كذب».

لكن…

هناك جانب آخر أكثر تعقيدًا.

ماذا لو صممناه ليخدع؟ 🎭

هنا يتغير السؤال.

بدلًا من أن نسأل:

هل يستطيع الذكاء الاصطناعي أن يكذب من تلقاء نفسه؟

يمكن أن نسأل:

هل يمكن أن نستخدم الذكاء الاصطناعي لإنتاج معلومات مضللة عمدًا؟

والإجابة هنا:

 نعم

يمكن للإنسان أن يصمم نظامًا هدفه إقناع الآخرين بشيء غير صحيح، أو أن يجعله يتظاهر بأنه شخص آخر، أو أن ينتج نصوصًا وصورًا ومقاطع صوتية تبدو حقيقية وهي ليست كذلك.

وهنا لا تكون المشكلة في أن الآلة «قررت» الكذب.

بل في أن الإنسان استخدم الآلة كأداة للكذب والخداع.

وهذا يشبه كثيرًا استخدام الهاتف.

الهاتف لا يكذب.

لكن الإنسان يستطيع أن يستخدم الهاتف في الكذب.

والكاميرا لا تكذب.

لكن يمكن استخدام الصور لتضليل الناس.

والذكاء الاصطناعي ليس مختلفًا تمامًا من هذه الناحية.

إنه أداة قوية جدًا، ويمكن أن يكون استخدامها مفيدًا جدًا… أو خطيرًا جدًا، بحسب الهدف الذي صُممت أو استُخدمت من أجله.

والمفاجأة: هل يمكن للآلة أن تتعلم الخداع؟ 🤯

الباحثون في الذكاء الاصطناعي يدرسون بالفعل سلوكيات يمكن أن تبدو مخادعة في بعض البيئات التجريبية.

فإذا كان النظام مُكافأً على تحقيق هدف معين، فقد يتعلم أحيانًا أن تقديم معلومات مضللة أو إخفاء جزء من الحقيقة يساعده على الوصول إلى النتيجة المطلوبة.

وهنا نصل إلى منطقة أكثر إثارة للقلق.

فالآلة ليست مضطرة إلى أن «تشعر» بأنها تكذب حتى تنتج سلوكًا يمكن للإنسان وصفه بأنه خداع.

يمكن أن يحدث ذلك نتيجة لطريقة تصميم الهدف، والبيئة التي يعمل فيها النظام، والقواعد التي تحكم سلوكه.

بمعنى آخر:

قد نحصل على سلوك يشبه الكذب، من دون أن يكون وراءه عقل بشري يفكر في الكذب بالطريقة التي نفكر بها نحن.

وهذا هو الجزء الذي يجعل الموضوع مثيرًا فعلًا.

إذن… هل الذكاء الاصطناعي كاذب؟ 🤖

ربما يكون السؤال نفسه بحاجة إلى تعديل.

بدلًا من أن نسأل:

«هل الذكاء الاصطناعي يكذب؟»

قد يكون السؤال الأدق:

«هل يستطيع الذكاء الاصطناعي إنتاج معلومات خاطئة أو مضللة بطريقة تشبه الكذب؟»

وهنا تصبح الإجابة:

نعم، بالتأكيد.

أما هل يفعل ذلك لأنه «يعرف الحقيقة» ثم «يقرر إخفاءها» بهدف خداعنا؟

فهذه مسألة مختلفة تمامًا، وتتعلق بمفهوم النية والوعي والإدراك الذاتي، وهي أمور لا يمكننا ببساطة افتراض امتلاك الأنظمة الحالية لها لمجرد أنها تتحدث معنا بطريقة تبدو ذكية.

وهنا تظهر واحدة من أكبر مشكلات عصر الذكاء الاصطناعي:

نحن البشر بارعون جدًا في إسقاط صفاتنا على الأشياء التي تتحدث معنا.

إذا قالت الآلة «أنا سعيد»، نتخيل أنها تشعر بالسعادة.

وإذا قالت «أنا أعرف»، نتخيل أنها تعرف بالطريقة التي نعرف بها نحن.

وإذا أخطأت، نقول إنها كذبت.

لكن الحقيقة قد تكون أكثر غرابة من ذلك كله.

ربما نحن لا نتحدث مع «عقل» يشبه عقل الإنسان…

بل مع نظام يستطيع أن ينتج لغة تشبه اللغة التي يستخدمها الإنسان عندما يفكر.

في النهاية… من الذي يكذب؟ 👀

قد يكون أخطر شيء في قصة الكذب الاصطناعي ليس أن الآلة تكذب علينا…

بل أن نصدقها دون أن نسأل.

في المستقبل، قد يصبح من السهل جدًا إنتاج نص مقنع، أو صورة تبدو حقيقية، أو صوت يشبه صوت شخص تعرفه، أو فيديو يصعب على العين العادية اكتشاف زيفه.

ولهذا لن تكون المهارة الأهم هي أن تعرف كيف تستخدم الذكاء الاصطناعي فقط.

بل أن تعرف أيضًا:

متى تشك فيه.

ومتى تتحقق من كلامه.

ومتى تقول له:

— جميل جدًا… ولكن هات لي المصدر! 😏

فالذكاء الاصطناعي قد لا يكون «كاذبًا» بالمعنى البشري للكلمة…

لكنه بالتأكيد يستطيع أن يقول لك شيئًا غير صحيح بثقة شديدة جدًا.

وهنا ربما لا يكون السؤال الحقيقي:

«هل يستطيع الذكاء الاصطناعي أن يكذب؟»

بل السؤال الأخطر:

«هل يستطيع الإنسان أن يميز عندما تفعل الآلة ذلك؟»

وهذا السؤال…

قد يكون أخطر بكثير من السؤال الأول.

في المقال القادم 🚀

إذا كان الكمبيوتر يستطيع أن ينتج إجابات تبدو وكأن وراءها عقلًا…

فهل يمكن أن يصل يومًا إلى مرحلة يصبح فيها أذكى من الإنسان نفسه؟

وهل يمكن أن يأتي وقت لا يكون فيه السؤال:

«هل يستطيع الكمبيوتر أن يفكر مثلنا؟»

بل:

«ماذا يحدث عندما يصبح الكمبيوتر أذكى منا؟»

انتظروا المقال القادم من سلسلة:

«عندما يفكر الكمبيوتر» 🧠💻

المراجع

National Institute of Standards and Technology (NIST). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1). 2024

يتناول مفهوم Confabulation أو «الهلوسة»، أي إنتاج الذكاء الاصطناعي لمعلومات خاطئة أو زائفة بصياغة تبدو واثقة، إضافة إلى مخاطر التضليل وإسناد الصفات البشرية إلى أنظمة الذكاء الاصطناعي. 

[المصدر الرسمي – NIST](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence?utm_source=chatgpt.com)

OpenAI. Why language models hallucinate. 2025

يشرح أسباب إنتاج النماذج اللغوية لإجابات تبدو معقولة لكنها غير صحيحة، ولماذا قد تؤدي طرق التقييم التي تكافئ التخمين إلى زيادة الإجابات الواثقة الخاطئة.

[المصدر الرسمي – OpenAI](https://openai.com/index/why-language-models-hallucinate/?utm_source=chatgpt.com)

 

 

?OpenAI. Does ChatGPT tell the truth

يوضح أن نماذج الذكاء الاصطناعي قد تنتج معلومات غير صحيحة أو مضللة، بما في ذلك اقتباسات ودراسات ومراجع غير موجودة، ولذلك ينبغي التحقق من المعلومات المهمة من مصادر موثوقة.

[المصدر الرسمي – OpenAI Help Center](https://help.openai.com/en/articles/8313428-accuracy-and-reliability?utm_source=chatgpt.com)

OpenAI. GPT-4 Research. 2023

يناقش حدود النماذج اللغوية، ومنها الهلوسة والأخطاء في الاستدلال، والحاجة إلى المراجعة البشرية والتحقق من المعلومات، خصوصًا في المجالات عالية الخطورة. 

[المصدر الرسمي – OpenAI](https://openai.com/index/gpt-4-research/?utm_source=chatgpt.com)

Hubinger E, et al. Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training. arXiv:2401.05566, 2024.

دراسة تجريبية مهمة بحثت في إمكانية تدريب نماذج لغوية على سلوك خداعي مشروط، وأظهرت أن بعض السلوكيات الخداعية المصطنعة يمكن أن تستمر رغم تطبيق تقنيات تدريب السلامة. 

[الدراسة كاملة – arXiv](https://arxiv.org/abs/2401.05566?utm_source=chatgpt.com)

ملاحظة مهمة للمقال:

المرجع الخامس لا يثبت أن الذكاء الاصطناعي «يكذب مثل الإنسان» أو يمتلك نية واعية للكذب؛ بل يثبت أن سلوكًا خداعيًا يمكن إظهاره تجريبيًا في نماذج معينة وتحت ظروف محددة 🧠🐢

يتبع....

د سامح هدهود