جائحة كوفيد -19 أبرز التفاوتات في الرعاية الصحية في جميع أنحاء الولايات المتحدة على مدى السنوات العديدة الماضية. الآن ، مع صعود الذكاء الاصطناعي ، الخبراء يحذرون المطورين التزام الحذر أثناء تنفيذ النماذج لضمان عدم تفاقم أوجه عدم المساواة هذه.
الدكتور جاي بهات ، ممارس طب الشيخوخة والعضو المنتدب لمركز الحلول الصحية ومعهد العدالة الصحية في ديلويت، جلس مع موبي هيلث نيوز لتقديم رؤيته حول المزايا المحتملة للذكاء الاصطناعي وآثاره الضارة على الرعاية الصحية.
أخبار MobiHealth: ما هي أفكارك حول استخدام الذكاء الاصطناعي من قبل الشركات التي تحاول معالجة عدم المساواة الصحية؟
جاي بهات: أعتقد أن الإجحاف الذي نحاول معالجته كبير. إنهم مثابرون. كثيراً ما أقول إن التفاوتات الصحية هي حالة أمريكا المزمنة. لقد حاولنا معالجتها من خلال وضع ضمادات عليها أو بطرق أخرى ، ولكن ليس في الواقع الذهاب إلى المنبع بما فيه الكفاية.
علينا أن نفكر في القضايا الهيكلية الهيكلية التي تؤثر على تقديم الرعاية الصحية والتي تؤدي إلى عدم المساواة الصحية – العنصرية والتحيز. ويكتشف باحثو التعلم الآلي عن بعض التحيزات الموجودة مسبقًا في النظام الصحي.
يجب عليهم أيضًا ، كما ألمحت ، معالجة نقاط الضعف في الخوارزميات. وهناك أسئلة تظهر في جميع المراحل من التفكير ، إلى ما تحاول التكنولوجيا حله ، إلى النظر إلى النشر في العالم الحقيقي.
أفكر في هذه القضية في عدد من المجموعات. واحد ، بيانات العرق والعرق المحدودة التي لها تأثير ، لذلك نحن نتحدى ذلك. الآخر هو البنية التحتية غير العادلة. لذا ، فإن عدم الوصول إلى أنواع الأدوات ، تفكر في النطاق العريض ونوع الانقسام الرقمي ، ولكن أيضًا في الفجوات في محو الأمية الرقمية والمشاركة.
لذا ، فإن فجوات محو الأمية الرقمية مرتفعة بين السكان الذين يواجهون بالفعل نتائج صحية سيئة بشكل خاص ، مثل المجموعات العرقية المتباينة والأفراد ذوي الدخل المنخفض وكبار السن. وبعد ذلك ، التحديات المتعلقة بمشاركة المريض المتعلقة باللغة الثقافية وحواجز الثقة. لذا فإن التحليلات التقنية لديها القدرة على أن تكون مفيدة حقًا وأن تكون عوامل تمكينية لمعالجة العدالة الصحية.
لكن التكنولوجيا والتحليلات لديها أيضًا القدرة على تفاقم عدم المساواة والتمييز إذا لم يتم تصميمها مع أخذ هذه العدسة في الاعتبار. لذلك نرى هذا التحيز مضمنًا في الذكاء الاصطناعي للتعرف على الكلام والوجه ، واختيار وكلاء البيانات للرعاية الصحية. يمكن أن تؤدي خوارزميات التنبؤ إلى تنبؤات غير دقيقة تؤثر على النتائج.
MHN: كيف تعتقد أن الذكاء الاصطناعي يمكن أن يؤثر إيجابًا وسلبًا على العدالة الصحية؟
بهات: لذا ، فإن إحدى الطرق الإيجابية هي أن الذكاء الاصطناعي يمكن أن يساعدنا في تحديد مكان إعطاء الأولوية للعمل وأين نستثمر الموارد ثم العمل على معالجة عدم المساواة الصحية. يمكن أن تظهر منظورات قد لا نتمكن من رؤيتها.
أعتقد أن السبب الآخر هو أن الخوارزميات لها تأثير إيجابي في كيفية تخصيص المستشفيات للموارد للمرضى ولكن يمكن أن يكون لها أيضًا تأثير سلبي. كما تعلم ، نرى خوارزميات إكلينيكية قائمة على العرق ، خاصة حول أمراض الكلىوزرع الكلى. هذا مثال على عدد من الأمثلة التي ظهرت حيث يوجد تحيز في الخوارزميات السريرية.
لذلك ، وضعنا ملف قطعة كان هذا مثيرًا للاهتمام حقًا ، حيث يُظهر بعض الأماكن التي تحدث وما يمكن للمنظمات فعله لمعالجته. لذا ، أولاً هناك تحيز بالمعنى الإحصائي. ربما لا يعمل النموذج الذي يتم اختباره مع سؤال البحث الذي تحاول الإجابة عليه.
والآخر هو التباين ، لذلك ليس لديك حجم عينة كافٍ للحصول على مخرجات جيدة حقًا. ثم آخر شيء هو الضوضاء. حدث شيء ما أثناء عملية جمع البيانات ، قبل تطوير النموذج واختباره ، مما يؤثر على ذلك والنتائج.
أعتقد أنه يتعين علينا إنشاء المزيد من البيانات لكي نكون متنوعين. تتطلب الخوارزميات عالية الجودة التي نحاول تدريبها البيانات الصحيحة ، ثم التفكير والقرارات المنهجية والشاملة مسبقًا عند اختيار مجموعات البيانات والخوارزميات المراد استخدامها. ومن ثم علينا الاستثمار في المواهب المتنوعة في كل من خلفياتهم وخبراتهم.
MHN: مع تقدم الذكاء الاصطناعي ، ما هي مخاوفك إذا لم تقم الشركات بإجراء هذه التغييرات الضرورية على عروضها؟
بهات: أعتقد أن أحدًا هو أن المنظمات والأفراد يتخذون قرارات بناءً على بيانات قد تكون غير دقيقة ، ولا يتم استجوابها بشكل كافٍ ولا يتم التفكير فيها من خلال التحيز المحتمل.
والآخر هو الخوف من الكيفية التي يؤدي بها ذلك إلى زيادة عدم الثقة والمعلومات المضللة في عالم يكافح حقًا مع ذلك. غالبًا ما نقول إن العدالة الصحية يمكن أن تتأثر بسرعة كيفية بناء الثقة ، ولكن أيضًا ، الأهم من ذلك ، كيف يمكنك الحفاظ على الثقة. عندما لا نفكر في المخرجات ونختبرها واتضح أنها قد تسبب عاقبة غير مقصودة ، فلا يزال يتعين علينا أن نكون مسؤولين عن ذلك. ولذا نريد التقليل من هذه المشكلات.
والآخر هو أننا ما زلنا في المراحل الأولى من محاولة فهم كيفية عمل الذكاء الاصطناعي التوليدي ، أليس كذلك؟ إذن ، لقد ظهر الذكاء الاصطناعي التوليدي بالفعل في المقدمة الآن ، وسيكون السؤال هو كيف تتحدث أدوات الذكاء الاصطناعي المختلفة مع بعضها البعض ، ثم ما هي علاقتنا بالذكاء الاصطناعي؟
وما هي العلاقة التي تربط أدوات الذكاء الاصطناعي المختلفة ببعضها البعض؟ لأن بعض أدوات الذكاء الاصطناعي قد تكون أفضل في ظروف معينة – واحدة للعلم مقابل تخصيص الموارد ، مقابل تقديم ملاحظات تفاعلية.
ولكن ، كما تعلم ، يمكن لأدوات الذكاء الاصطناعي التوليدية أن تثير قضايا شائكة ، ولكنها قد تكون مفيدة أيضًا. على سبيل المثال ، إذا كنت تسعى للحصول على الدعم ، كما نفعل في الخدمات الصحية عن بُعد للصحة العقلية ، وتلقى الأفراد رسائل ربما تكون قد صاغها الذكاء الاصطناعي ، فإن هذه الرسائل لا تتضمن نوعًا من التعاطف والتفاهم. قد يتسبب ذلك في عواقب غير مقصودة ويزيد من سوء الحالة التي قد يعاني منها شخص ما ، أو يؤثر على قدرته على الرغبة في الانخراط بعد ذلك في إعدادات الرعاية.
أعتقد أن الذكاء الاصطناعي الجدير بالثقة والتكنولوجيا الأخلاقية أمر بالغ الأهمية – أحد القضايا الرئيسية التي سيتعين على نظام الرعاية الصحية وشركات علوم الحياة التعامل معها ولديها استراتيجية. الذكاء الاصطناعي لديه نمط نمو أسي ، أليس كذلك؟ إنه يتغير بسرعة.
لذلك ، أعتقد أنه سيكون من المهم حقًا للمؤسسات أن تفهم نهجها ، وأن تتعلم بسرعة وتتسم بالمرونة في معالجة بعض مناهجها الاستراتيجية والتشغيلية للذكاء الاصطناعي ، ثم المساعدة في توفير محو الأمية ، ومساعدة الأطباء وفرق الرعاية على استخدامها بفعالية .
