منذ مايو 2023، قدم المشرعون الفيدراليون مجموعة واسعة من مشاريع القوانين المصممة لمعالجة النشر السريع لتقنيات الذكاء الاصطناعي. وخلال تلك الفترة، تم تقديم أكثر من 50 مشروع قانون، وأحيلت الغالبية العظمى منها إلى لجان مختلفة في الكونجرس. بالإضافة إلى ذلك، أصدرت إدارة بايدن أمرها التنفيذي بشأن “تطوير واستخدام الذكاء الاصطناعي بطريقة آمنة ومأمونة وجديرة بالثقة” في أكتوبر 2023 (“الأمر التنفيذي”). قام مينتز بتغطية الأمر التنفيذي في هذا المشنور ويتبع أيضًا مجموعة واسعة من التطورات المتعلقة بالذكاء الاصطناعي هنا.
في نوفمبر 2023، عقدت اللجنة الفرعية المعنية بالصحة التابعة للجنة الطاقة والتجارة بمجلس النواب جلسة استماع بعنوان “فهم كيفية تغيير الذكاء الاصطناعي للرعاية الصحية” (“جلسة استماع اللجنة الفرعية”). بناءً على تصريحات عضوة الكونجرس كاثي مكموريس رودجرز (رئيسة لجنة الطاقة والتجارة بمجلس النواب)، وعضو الكونجرس فرانك بالوني الابن (العضو البارز في لجنة الطاقة والتجارة بمجلس النواب)، وعضو الكونجرس بريت جوثري (رئيس اللجنة الفرعية المعنية بالصحة)، وعضوة الكونجرس آنا إيشو (العضو البارز في اللجنة الفرعية المعنية بالصحة)، وشهادة الشهود، ظهرت ثلاثة مواضيع رئيسية من جلسة الاستماع التي عقدتها اللجنة الفرعية فيما يتعلق باستخدام الذكاء الاصطناعي في قطاع الرعاية الصحية: خصوصية المريض وحماية بياناته، ودور الأطباء، والمساواة في مجال الصحة. . وبالنظر إلى هذه المجالات الرئيسية التي تثير قلق الكونجرس، نتوقع أن تستمر الأنشطة التشريعية الفيدرالية وعلى مستوى الولايات في التركيز على نحو مماثل، مع اتباع ولايات قضائية متعددة للتنفيذ.
خصوصية المريض وحماية بياناته
غالبًا ما تستفيد الأدوات القائمة على الذكاء الاصطناعي من البيانات الطبية الضخمة للمرضى حيث تواصل الشركات تطوير هذه التقنيات وتطويرها. ومن ثم يركز الكونجرس بشدة على ضمان قيام المشاركين في الصناعة الصحية بتبني ضمانات لحماية خصوصية وأمن بيانات المرضى. خلال شهادته في جلسة الاستماع أمام اللجنة الفرعية، أشار عضو الكونجرس بالوني: “كما قلت في كل جلسة من جلسات الاستماع الخاصة بالذكاء الاصطناعي هذا العام [2023]أعتقد اعتقادًا راسخًا أنه كأساس لأي تنظيم للذكاء الاصطناعي، يجب علينا سن حماية قوية لخصوصية البيانات الفيدرالية لجميع المستهلكين. وبالتالي فإن الالتزام بسلطات الخصوصية الفيدرالية الحالية، مثل قانون قابلية نقل التأمين الصحي والمساءلة لعام 1996، والتشريعات الفيدرالية الجديدة المحتملة، ومتطلبات خصوصية المريض القوية بشكل متزايد في الولاية سيكون أمرًا بالغ الأهمية. على سبيل المثال، تعتمد العديد من أدوات التعلم الآلي للذكاء الاصطناعي على بيانات المرضى غير المحددة الهوية، بغض النظر عن المخاوف من أن مجموعات البيانات غير محددة الهوية قد لا تكون كافية سريريًا. وبغض النظر عن الذكاء الاصطناعي، فإن المخاوف المتعلقة بالخصوصية بشأن استخدام بيانات المرضى ليست جديدة، ولا إجراءات الإنفاذ في هذا المجال. ونظراً لأنشطة الإنفاذ التاريخية والمخاوف التي أعرب عنها الكونجرس، فمن المعقول أن نتوقع أن تركز وكالات الإنفاذ والمشرعون على حد سواء على مدى كفاية عمليات إزالة الهوية المستخدمة للبيانات المستخدمة لتدريب أدوات الذكاء الاصطناعي.
دور الأطباء
بالإضافة إلى تشخيص المرضى ونتائجهم بشكل أفضل، فإن إحدى أهم الفوائد المحتملة للذكاء الاصطناعي في الرعاية الصحية هي تخفيف الأعباء الإدارية على الأطباء. على سبيل المثال، تقوم بعض الأنظمة المعتمدة على الذكاء الاصطناعي بنسخ التفاعلات بين الطبيب والمريض بينما يساعد البعض الآخر في فرز مرضى غرفة الطوارئ اعتمادًا على خطورة الحالة. ومع ذلك، بناءً على جلسة الاستماع التي عقدتها اللجنة الفرعية، فمن الواضح أن الكونجرس يشعر بالقلق من احتمال استخدام أدوات الذكاء الاصطناعي بشكل غير صحيح للتدخل في عملية صنع القرار السريري وتقليل مدخلات الطبيب الحيوية. عند الإعلان عن جلسة الاستماع للجنة الفرعية، ذكر الرئيسان رودجرز وجوثري: “يعد هذا المستوى من استخدام الذكاء الاصطناعي بمثابة حدود جديدة في مجال الرعاية الصحية، ولهذه اللجنة مصلحة راسخة في ضمان تحسين رعاية المرضى وتحفيز الابتكار – وليس استخدامه ليحل محل الحكم السريري للأطباء أو تقييد الوصول إلى الرعاية بشكل عشوائي.
لقد رأينا بالفعل بعض التنفيذ في هذا المجال (والذي نناقشه في إنفاذ قانون الذكاء الاصطناعي والمطالبات الكاذبة). على سبيل المثال، على مدى السنوات العديدة الماضية، زعمت الطعون الإدارية، والدعاوى الجماعية، وإجراءات التنفيذ ضد شركات التأمين أن شركات التأمين اعتمدت بشكل غير لائق على الذكاء الاصطناعي وفي هذه الحالات، اتُهمت شركات التأمين برفض الخدمات أو إنهاء الخدمات في وقت مبكر بناءً على أدوات التنبؤ بالذكاء الاصطناعي وعلى اعتراضات مقدمي الرعاية.[1] بالإضافة إلى الجهود التي تبذلها وكالات إنفاذ القانون لمعالجة ومنع أي استخدام غير لائق للخوارزميات التنبؤية لحرمان الرعاية المناسبة طبيًا، نتوقع أيضًا أن نرى المنظمين والمشرعين يتخذون إجراءات لضمان ألا تحل أدوات الذكاء الاصطناعي محل دور مقدمي الرعاية الصحية في تقديم الرعاية. والخدمات ذات الصلة.
العدالة الصحية في أدوات الذكاء الاصطناعي
ركزت جلسة الاستماع للجنة الفرعية أيضًا على أوجه عدم المساواة الحالية في نظام الرعاية الصحية واحتمال أن يؤدي تصميم أدوات الذكاء الاصطناعي إلى تفاقم هذه عدم المساواة عن غير قصد. على سبيل المثال، قد تحتوي السجلات الصحية الإلكترونية المستخدمة لتدريب أدوات الذكاء الاصطناعي على بيانات سريرية متحيزة ديموغرافيًا أو بيانات تستبعد السكان المحرومين. إذا تم تدريب أدوات الذكاء الاصطناعي باستخدام بيانات يحتمل أن تكون متحيزة، فقد تؤدي هذه الأدوات أيضًا إلى إدامة تلك التحيزات وما يرتبط بها من عدم المساواة. في الواقع، لقد رأينا بالفعل إنفاذًا في هذا المجال. في أغسطس 2022، بدأ المدعي العام في كاليفورنيا التحقيق في التحيز العنصري المحتمل المرتبط باستخدام المستشفيات للأدوات الخوارزمية لجدولة المرضى والأنشطة الأخرى (لقد قمنا سابقًا بتغطية التحقيق في هذا المشنور). علاوة على ذلك، تضمنت ندوة الرابطة الوطنية للمدعين العامين لهذا العام حلقة نقاش حول “تنظيم الخوارزميات – كيف ولماذا”، مما يوضح بشكل أكبر تركيز وكالات التنفيذ على خوارزميات الذكاء الاصطناعي. ونتوقع أن يتبع ذلك تشريع في هذا المجال.
ونظرًا للتركيز السائد في الكونجرس على الذكاء الاصطناعي والأدوات الخوارزمية ونشاط الإنفاذ المستمر، يجب على المشاركين في قطاع الرعاية الصحية الذين يستفيدون من الذكاء الاصطناعي تحديث وتحسين آليات الامتثال الخاصة بهم فيما يتعلق باستخدام الذكاء الاصطناعي. وفي سياق الأدوات القائمة على الذكاء الاصطناعي على وجه الخصوص، يجب أن يشمل هذا الامتثال مراجعات دورية فردية أو لجنة للتأكد من أن أدوات الذكاء الاصطناعي تعمل على النحو المنشود ولا تعرض خصوصية المريض أو حماية البيانات للخطر، أو اغتصاب دور الأطباء، أو إدامة عدم المساواة الصحية.