مشكلات الذكاء الاصطناعي في الرعاية الصحية: 7 أخطاء يجب تجنبها

آخر تحديث 16 أكتوبر 2026 · راجعه فريق تحرير Zekai

يتم نشر الذكاء الاصطناعي لتقليل العبء الإداري الهائل الذي يساهم في إرهاق ما يقرب من نصف الأطباء. تعد الأدوات التي تعمل على أتمتة التوثيق، وإبراز الأدلة السريرية، وتصنيف الصور التشخيصية بتحرير الوقت لرعاية المرضى. لكن التبني يتجاوز التحقق، والاندفاع لتطبيق الذكاء الاصطناعي يخلق مخاطر كبيرة. تُدخل هذه الأنظمة أنماط فشل جديدة يمكن أن تؤثر على سلامة المرضى، وخصوصية البيانات، والنزاهة السريرية.

في ZEKAI، نقوم بمراجعة أدوات الذكاء الاصطناعي بشكل مستقل لمساعدة المهنيين العاملين على التمييز بين الفائدة الحقيقية والضجيج. بالنسبة للأطباء الذين يستكشفون الذكاء الاصطناعي، فإن فهم المخاطر المحتملة هو الخطوة الأولى نحو التبني المسؤول. يفصّل هذا الدليل سبعة من الأخطاء الأكثر أهمية التي نراها في الممارسات وكيفية تجنبها. الهدف ليس تثبيط استخدام الذكاء الاصطناعي، بل تزويدكم بالقدرة على استخدامه بأمان وفعالية، بدءًا من الرؤى المستخلصة من عملنا في مركز الذكاء الاصطناعي للمهنيين الصحيين.

الخطأ الأول: الثقة العمياء بالملاحظات التي يولدها الذكاء الاصطناعي (مشكلة الهلوسة)

المشكلة الأكثر إلحاحًا في الذكاء الاصطناعي التوليدي في الطب هي قدرته على “الهلوسة” – أي إنتاج معلومات بطلاقة وثقة، لكنها مختلقة بالكامل. قد يختلق المساعد الرقمي المدعوم بالذكاء الاصطناعي عرضًا لم يبلّغ عنه المريض قط، أو يستشهد بقيمة مختبرية غير موجودة، أو يحذف بصمت تفصيلاً حاسمًا من خطة العلاج.

نظرًا لأن المخرجات تبدو معقولة، فمن السهل تفويت هذه الأخطاء. ومع ذلك، فإن معدلات الهلوسة المنخفضة التي تتراوح بين 1-3% لها آثار عميقة على السلامة عند تطبيقها على آلاف اللقاءات مع المرضى. وقد راجع تقرير صدر في مايو 2026 عن المدقق العام في أونتاريو 20 بائعًا للمساعدين الرقميين المدعومين بالذكاء الاصطناعي معتمدين من الحكومة، ووجد أن كل واحد منهم أنتج أخطاء، بما في ذلك الهلوسات، أثناء الاختبار.

الوقت التقريبي الذي يمكن أن توفره برامج المساعدين الرقميين المدعومة بالذكاء الاصطناعي في التوثيق، وهو دافع رئيسي للتبني على الرغم من مخاطر الدقة.

هذه ليست مخاطرة نظرية. إنها نقطة ضعف هيكلية في نماذج اللغة الكبيرة الحالية. لا “يعرف” الذكاء الاصطناعي أنه مخطئ؛ بل يولد ببساطة النص الأكثر احتمالاً إحصائيًا. وهذا يجعل إشراف الطبيب ليس مجرد ممارسة فضلى، بل ضمانة أساسية.

كيف تتجنب هذا الخطأ:

• تحقق من كل ملاحظة. تعامل مع كل ملخص يولده الذكاء الاصطناعي كمسودة تتطلب مراجعتك وتوقيعك الصريح قبل إدخالها في السجل الصحي الإلكتروني (EHR).
• استخدم مطالبات منظمة. عند استخدام الأدوات القائمة على المطالبات، اطلب من الذكاء الاصطناعي استخدام المعلومات المقدمة فقط والإبلاغ عن أي غموض بدلاً من ملئه.
• أبلغ عن الأخطاء. أنشئ سير عمل للأطباء للإبلاغ عن الأخطاء إلى البائع وفريق تكنولوجيا المعلومات الداخلي الخاص بك. يساعد هذا في تتبع الأداء والضغط على البائعين لتحسين نماذجهم.

لخص نص اللقاء السريري التالي في ملاحظة SOAP. استخدم فقط المعلومات الموجودة في النص. لا تستنتج أو تضيف أي معلومات غير مذكورة صراحة. إذا كان قسم SOAP قياسي (ذاتي، موضوعي، تقييم، خطة) لا يحتوي على معلومات، فاكتب "لم تتم مناقشته". إذا كان أي جزء من النص غامضًا، اقتبس العبارة الغامضة مباشرة وأضف "[على الطبيب التوضيح]".

الخطأ الثاني: تجاهل موافقة المريض وخصوصية البيانات (خطر الدعاوى القضائية)

تعتبر خصوصية المريض مصدر قلق أخلاقي أساسي مع الذكاء الاصطناعي، خاصة بالنسبة للمساعدين الرقميين “البيئيين” الذين يسجلون المحادثات السريرية بأكملها. تُظهر سلسلة من الدعاوى القضائية الجماعية التي رفعت في عامي 2025 و 2026 ضد أنظمة صحية كبرى مثل Sutter Health و MemorialCare و Sharp HealthCare المخاطر القانونية والمالية الجسيمة لنشر هذه الأدوات دون موافقة صريحة من المريض.

تزعم هذه الدعاوى القضائية أن استخدام المساعدين الرقميين المدعومين بالذكاء الاصطناعي لتسجيل ونقل المحادثات إلى بائع طرف ثالث دون علم المريض وموافقته ينتهك قوانين التنصت الحكومية والفدرالية، بما في ذلك قانون غزو الخصوصية في كاليفورنيا (CIPA). يتطلب قانون CIPA موافقة جميع الأطراف للمحادثات السرية ويحمل تعويضات قانونية تصل إلى 5000 دولار لكل انتهاك. يزعم المدعون أنهم لم يكونوا على علم بأن محادثاتهم الطبية الحساسة كانت تُسجل وتُعالج بواسطة شركة ذكاء اصطناعي خارجية.

كيف تتجنب هذا الخطأ:

• افترض أن موافقة جميع الأطراف مطلوبة. حتى لو لم تكن ولايتك ولاية “موافقة الطرفين”، فإن الطبيعة الحساسة للمحادثات الطبية تجعل الموافقة الصريحة ممارسة فضلى حاسمة. لا تتجاوز الامتثال لقانون HIPAA وحده هذه القوانين المتعلقة بالتسجيل.
• طبق عملية موافقة متعددة الخطوات. استخدم مزيجًا من اللافتات الواضحة في غرف الفحص، والمعلومات في المواد التي تسبق الزيارة، وتأكيدًا لفظيًا مطلوبًا من الطبيب في بداية اللقاء.
• راجع اتفاقية الشريك التجاري (BAA) مع البائع. تأكد من أن اتفاقية الشريك التجاري الخاصة بك مع بائع الذكاء الاصطناعي تحدد بوضوح معالجة البيانات، وبروتوكولات الأمان، ومعايير التشفير، ومكان إقامة البيانات (يفضل أن يكون في الولايات المتحدة فقط).

الخطأ الثالث: تبني أدوات ذات تحيز خوارزمي خفي

تتعلم نماذج الذكاء الاصطناعي من البيانات التي تُدرب عليها، وإذا كانت تلك البيانات تعكس تحيزات مجتمعية وتاريخية موجودة، فإن الذكاء الاصطناعي سيكرسها بل ويعززها. هذه إحدى أكثر المشكلات الخبيثة في الذكاء الاصطناعي في الرعاية الصحية، حيث يمكن أن يؤدي ذلك إلى تفاقم منهجي للفوارق الصحية للسكان المهمشين بالفعل.

الأدلة على ذلك موثقة جيدًا:

• تسجيل المخاطر: وُجد أن خوارزمية تجارية واسعة الاستخدام تقلل من تقدير الاحتياجات الصحية للمرضى السود لأنها استخدمت تكلفة الرعاية الصحية كمؤشر للمرض، وقد أنفق تاريخيًا أموال أقل على المرضى السود بنفس مستوى المرض.
• الأمراض الجلدية: أدوات التشخيص بالذكاء الاصطناعي المدربة بشكل أساسي على بيانات من المرضى ذوي البشرة الفاتحة تؤدي بشكل سيء عند تحديد سرطانات الجلد لدى المرضى ذوي البشرة الداكنة.
• مخاطر القلب والأوعية الدموية: ثبت أن خوارزمية رئيسية لمخاطر القلب والأوعية الدموية أقل دقة للمرضى الأمريكيين من أصل أفريقي لأن بيانات التدريب لم تكن ممثلة بشكل كافٍ.
• الصحة العقلية: أظهرت بعض نماذج الذكاء الاصطناعي أنها تقدم توصيات علاجية أدنى للمرضى السود في مجال الصحة العقلية وتؤدي بشكل أسوأ في التنبؤ بالانتحار للمرضى السود مقارنة بالمرضى البيض.

كيف تتجنب هذا الخطأ:

• استفسر من البائعين عن بيانات التدريب. اطلب وثائق حول تنوع وتمثيل مجموعات البيانات المستخدمة لتدريب نماذجهم. كن حذرًا من البائعين الذين لا يستطيعون تقديم هذه المعلومات.
• راقب النتائج حسب الفئة الديموغرافية. إذا قمت بنشر أداة ذكاء اصطناعي، فتتبع أدائها ودقتها عبر مجموعات المرضى المختلفة في ممارستك الخاصة لتحديد الفوارق المحتملة.
• فضل “الذكاء الاصطناعي القابل للتفسير” (XAI). اختر الأدوات التي يمكن أن توفر بعض الرؤى حول كيفية توصلها إلى نتيجة، بدلاً من العمل كـ “صندوق أسود” غير قابل للتفسير.

الخطأ الرابع: سوء فهم المستويات “المجانية” وحقوق البيانات

تسوق العديد من أدوات الذكاء الاصطناعي “مستوى مجانيًا” لتشجيع التبني، لكن هذه العروض غالبًا ما تأتي مع قيود كبيرة أو تكاليف خفية. في الرعاية الصحية، غالبًا ما تُدفع التكلفة بالبيانات. من الأهمية بمكان فهم شروط الخدمة لأي أداة مجانية، حيث قد يستخدم بعضها بيانات المرضى مجهولة الهوية لتدريب نماذجهم. بينما قد يكون هذا متوافقًا مع HIPAA، إلا أنه قرار حوكمة يجب على ممارستك اتخاذه بوعي.

العروض “المجانية” الأخرى هي ببساطة تجارب محدودة المدة أو الميزات تتحول إلى خطط مدفوعة. على سبيل المثال، تقدم بعض برامج المساعدين الرقميين المدعومين بالذكاء الاصطناعي الشائعة تجربة قصيرة قبل طلب اشتراك شهري.

كيف تتجنب هذا الخطأ:

• اقرأ شروط الخدمة واتفاقية الشريك التجاري (BAA). ابحث على وجه التحديد عن البنود المتعلقة باستخدام البيانات لتدريب الذكاء الاصطناعي.
• ميز بين “التجربة المجانية” و “المستوى المجاني”. التجربة هي للتقييم؛ المستوى المجاني هو خطة دائمة، وإن كانت محدودة. افهم أيًا منهما تسجل فيه.
• لا تقم أبدًا بتحميل معلومات صحية محمية (PHI) إلى أداة استهلاكية. لا تستخدم روبوتات الدردشة للأغراض العامة مثل ChatGPT أو Gemini لأي مهمة تتضمن معلومات المريض. استخدم فقط الأدوات المتوافقة مع HIPAA والتي تحتوي على اتفاقية شريك تجاري موقعة.

الخطأ الخامس: السماح بضمور المهارات السريرية (خطر فقدان المهارات)

مع تولي الذكاء الاصطناعي المزيد من المهام المعرفية، هناك قلق حقيقي من أن يصبح الأطباء مفرطين في الاعتماد على التكنولوجيا، مما يؤدي إلى تدهور في التفكير النقدي ومهارات التشخيص. إذا قدم الذكاء الاصطناعي باستمرار تشخيصات تفاضلية أو فسر الصور، فقد تضعف قدرة الطبيب على أداء تلك المهام من المبادئ الأولى بمرور الوقت.

هذا الخطر أكبر بالنسبة للمتدربين والأطباء في بداية حياتهم المهنية الذين ما زالوا يطورون حكمهم السريري. بينما يمكن أن يكون الذكاء الاصطناعي أداة تعليمية قوية، إلا أنه لا ينبغي أن يصبح بديلاً للمعرفة الأساسية والتفكير. الهدف هو “الذكاء المعزز”، حيث يساعد الذكاء الاصطناعي الخبير البشري، وليس الذكاء الاصطناعي المستقل الذي يحل محله.

كيف تتجنب هذا الخطأ:

• استخدم الذكاء الاصطناعي للتأكيد، وليس للإنشاء. صغ تقييمك وخطتك أولاً، ثم استخدم الذكاء الاصطناعي كرأي ثانٍ أو للتحقق من الأشياء التي ربما فاتتك.
• صغ استخدام الذكاء الاصطناعي كأداة تدريبية. للمقيمين وطلاب الطب، صمم استخدام الذكاء الاصطناعي كتمرين تعليمي. اطلب منهم مقارنة ملاحظاتهم وتشخيصاتهم بمخرجات الذكاء الاصطناعي ونقد الاختلافات.
• احمِ التفكير التشخيصي الأساسي. فوض المهام الإدارية للذكاء الاصطناعي أولاً (مثل التوثيق، رسائل المرضى)، وكن أكثر حذرًا بشأن أتمتة التفكير السريري الأساسي واتخاذ القرارات.

الخطأ السادس: تبني الذكاء الاصطناعي دون سير عمل واضح

إن نشر أداة ذكاء اصطناعي دون دمجها بعناية في سير العمل السريري الحالي هو وصفة للفشل. يمكن أن تؤدي مقاومة الأطباء الذين يجدون الأداة مرهقة أو معطلة إلى قتل عملية التنفيذ. إذا تطلب المساعد الرقمي المدعوم بالذكاء الاصطناعي المزيد من النقرات لتعديل مخرجاته مما يتطلبه كتابة ملاحظة من الصفر، فسيتم التخلي عنه.

العبء الإداري على الأطباء هائل، حيث يقضي البعض ما يقرب من نصف يوم عملهم في السجلات الصحية الإلكترونية والأعمال الورقية. الوعد الأساسي للذكاء الاصطناعي هو تقليل هذا العبء. إذا أضاف التنفيذ أعباء جديدة، فقد فشل.

Swipe the table sideways →

كيف تتجنب هذا الخطأ:

• اختبر الأداة مع مجموعة صغيرة. قبل النشر الكامل، اختبر الأداة مع عدد قليل من الأطباء الرواد لتحديد نقاط الاحتكاك في سير العمل.
• ارسم العملية بأكملها. تجاوز عرض البائع التوضيحي. وثق كل خطوة: تشغيل الأداة، الحصول على الموافقة، استخدامها أثناء الزيارة، تعديل المخرجات، توقيع الملاحظة، والفوترة.
• قس المقياس الصحيح. الهدف ليس مجرد “ملاحظة جيدة”. الهدف هو تقليل الوقت الإجمالي والعبء المعرفي المستغرق في التوثيق. قس “وقت البيجاما” – الرسم البياني بعد ساعات العمل الذي يساهم بشكل كبير في الإرهاق.

الخطأ السابع: السماح للتكنولوجيا بأن تطغى على المريض

الهدف النهائي للذكاء الاصطناعي السريري هو منح الأطباء المزيد من الوقت وجهًا لوجه مع مرضاهم عن طريق أتمتة العمل الإداري. ومع ذلك، يمكن أن يكون للأداة سيئة التنفيذ تأثير معاكس، فتصبح مصدر إلهاء يجرّد اللقاء السريري من إنسانيته.

إذا كان الطبيب يركز على إدارة تطبيق معقد أو شعر المريض بعدم الارتياح بسبب جهاز تسجيل، فقد فشلت التكنولوجيا، حتى لو أنتجت ملاحظة مثالية. تصورات المرضى للذكاء الاصطناعي مختلطة؛ فبينما يقدر البعض زيادة الاهتمام من طبيبهم، يبلغ آخرون عن رقابة ذاتية أو شعور بالقلق بشأن التسجيل.

كيف تتجنب هذا الخطأ:

• اشرح “السبب” للمريض. صغ المساعد الرقمي المدعوم بالذكاء الاصطناعي كأداة تسمح لك بمنحهم اهتمامك الكامل بدلاً من الكتابة على جهاز الكمبيوتر.
• اجعله غير مزعج. استخدم التكنولوجيا التي تكون غير مرئية قدر الإمكان. المساعد الرقمي البيئي المثالي هو الذي يمكن للطبيب تفعيله ثم نسيانه لبقية الزيارة.
• حافظ على التواصل البشري. في النهاية، يحتاج المرضى إلى أشياء لا يمكن للبشر وحدهم توفيرها. يمكن للذكاء الاصطناعي التعامل مع البيانات، لكن التعاطف، والحكم السياقي، والعلاقة العلاجية تظل من اختصاص الطبيب.

يحمل الذكاء الاصطناعي وعدًا كبيرًا للرعاية الصحية، لكنه ليس حلاً جاهزًا للاستخدام. من خلال توقع هذه الأخطاء الشائعة، يمكن للأطباء والأنظمة الصحية التعامل مع المخاطر وتبني هذه التقنيات الجديدة القوية بمسؤولية، مما يضمن خدمتها لكل من الأطباء والمرضى. لمواصلة استكشاف أدوات وسير عمل محددة، تفضلوا بزيارة مركز الذكاء الاصطناعي للمهنيين الصحيين.