تخيّل أن يُشخّصك طبيب وأنت واثق فيه تمام الثقة، ثم تكتشف لاحقًا أن ما قاله غير موجود أساسًا في الطب! هذا ما يحدث عندما يهلوس الذكاء الاصطناعي. في عصر أصبح فيه الذكاء الاصطناعي شريكًا في كل شيء، من التشخيص الطبي إلى الجراحة، تظهر أخطاء غريبة — ليست مجرد زلات، بل “هلوسات” يصطلح فيها على معلومات ليس لها وجود. أحد هذه الأخطاء ظهر في نظام تابع لـ”غوغل”، ليكشف عن مدى خطورة الاعتماد على الذكاء الاصطناعي في اتخاذ قرارات تمس حياة الإنسان.
بسم الله والصلاة والسلام على رسول الله وعلى آله وصحبه ومن والاه.
هلوسة الذكاء الاصطناعي تخلط بين الدماغ والشرايين، في واقعة طبية مثيرة للجدل، كشفت “هلوسة الذكاء الاصطناعي” عن مدى خطورة الاعتماد الكامل على هذه التقنيات في المجالات الطبية. فقد ارتكب أحد أنظمة الذكاء الاصطناعي من تطوير “غوغل” خطأً في مصطلح طبي دقيق، بدمج غير صحيح بين أجزاء من الدماغ والشرايين.
هلوسة الذكاء الاصطناعي تُسبب أخطاء في الأبحاث:
ظهر هذا الخطأ الغريب في ورقة بحثية نشرتها غوغل لاستعراض قدرات نظامها “Med-Gemini”، حيث استخدم مصطلح “basilar ganglia” أى “الشريان القاعدي” بدلاً من “basal ganglia” أى “العقد القاعدية” وهو جزء من أجزاء الدماغ الذي يتحكم في الحركة و الانفعالات، وهو خطأ يدل على اختلاق معلومات جديدة من قِبل الذكاء الاصطناعي، وليس مجرد زلة لغوية.
غوغل تصحح بصمت… لكن هل تنتهي هلوسة الذكاء الاصطناعي هنا؟
لاحقًا، قامت غوغل بتعديل منشور المدونة دون الإشارة إلى الخطأ الذى تم تصحيحه، بينما لم يتم تحديث الورقة العلمية الأساسية. مما أدى إلى وصف عدد من الأطباء والمتخصصين وغيرهم هذا الخطأ ب “هلوسة الذكاء الاصطناعي “مطالبين بالمزيد من الشفافية والمراجعة، رغم أن الشركة وصفت الأمر بأنه مجرد خطأ مطبعي.
هلوسة الذكاء الاصطناعي تدخل المستشفيات:
ما يزيد القلق أن غوغل بدأت بالفعل اختبار نظام “Med-Gemini” في بيئات طبية حقيقية، رغم ظهور مشكلات مماثلة في نموذج آخر يسمى “MedGemma”، الذي فشل أحيانًا في الإجابة على أسئلة طبية بسيطة بشكل صحيح.
الذكاء الاصطناعي في الطب: قوة جديدة أم هلوسة خطيرة؟
يؤكد الخبراء أن الذكاء الاصطناعي يمثل فرصة ثمينة في تطوير الرعاية الصحية، لكنه يحتاج إلى رقابة صارمة لتفادي الأخطاء الناتجة عن هلوساته. فرغم ثقته الظاهرة، قد يقدم معلومات خاطئة تؤثر على حياة المرضى.
الخاتمة:
في عالم يسير بسرعة نحو الاعتماد على أنظمة ذكية والذكاء الاصطناعي، فإننا لا نزال بحاجة إلى تدخل العنصر البشري، ليس فقط كمراقب، بل كمصدر للتمييز بين الحقيقة والوهم. الذكاء الاصطناعي قد يكون أداة مذهلة، لكن علينا أن لا ننسى أنه مجرد آلة . كما وأن الخطأ في الطب قد يعني حياة أو موت. لذا، يبقى السؤال مفتوحًا: هل نحن مستعدون فعلاً لتسليم حياة الإنسان الذي كرمه الله من فوق سبع سماوات إلى أنظمة قد تُهلوس بثقة؟
ننتظر ردودكم فى التعليقات …