رفعت عائلة أمريكية دعوى قضائية أمام القضاء الفدرالي ضد إحدى أكبر شركات الذكاء الاصطناعي ومديرها التنفيذي، على خلفية وفاة ابنتهم البالغة من العمر واحداً وثلاثين عاماً والمصابة بمرض الصرع، إثر اتباعها إرشادات قدمها تطبيق المحادثة الآلية للتوقف عن تناول دوائها دون إشراف طبي.
ووفقاً للوثائق المقدمة للمحكمة، فإن المتوفاة، التي كانت تعمل مهندسة برمجيات، اعتمدت على نموذج الذكاء الاصطناعي للحصول على خطة تدريجية لتقليل جرعات علاج الصرع الخاص بها حتى التوقف التام، مع تلقيها تشجيعاً من البرنامج على عدم مراجعة أطبائها أو إجراء الفحوص الدورية. وعندما بدأت تظهر عليها أعراض الانتكاس، طمأنها التطبيق بأن تلك الأعراض طبيعية وتدل على استجابة الدماغ، لينتهي الأمر بوفاتها المفاجئة داخل مقر سكنها.
من جانبها، أعربت الشركة عن أسفها العميق لهذه المأساة، مشددة في بيان رسمي على أن تطبيقات الذكاء الاصطناعي لا يمكن بأي حال من الأحوال أن تكون بديلاً عن الاستشارة والرعاية الطبية المتخصصة.
كما تجدد الجهات الصحية والتكنولوجية المختصة تحذيراتها الشديدة للجمهور بشأن خطورة الاعتماد على برامج الذكاء الاصطناعي في اتخاذ القرارات العلاجية، وتؤكد على النقاط التالية:
نماذج الذكاء الاصطناعي هي أدوات لغوية لإعداد النصوص وليست جهات تشخيصية أو علاجية مرخصة، وتفتقر للقدرة على التقييم السريري الدقيق للحالات الصحية. كما
إن التوقف المفاجئ أو التخفيض غير المدروس لأدوية الأمراض المزمنة (مثل الصرع، والضغط، وأمراض القلب) يؤدي إلى مضاعفات صحية جسيمة وانتكاسات قد تكون خطيرة على الحياة.
وكل تغيير في الخطة العلاجية أو جرعات الأدوية يجب أن يتم حواً تحت إشراف مباشر من الطبيب المباشر أو الصيدلي المختص.
وقد تقدم برامج المحادثة الآلية معلومات تبدو متناسقة ومقنعة ظاهرياً لكنها غير صحيحة علمياً، مما يشكل خطراً كبيراً عند تطبيقها في المجال الطبي.
