هوش مصنوعی خودمختار در پزشکی؛ نوآوری بزرگ یا چالش تازه برای ایمنی بیماران؟

آریا جوان - هوش مصنوعی به یکی از تحول‌آفرین‌ترین فناوری‌های حوزه سلامت تبدیل شده و اکنون در آستانه ورود به مرحله‌ای تازه قرار دارد؛ مرحله‌ای که در آن سیستم‌های «هوش مصنوعی خودمختار» نه‌تنها به پزشکان مشاوره می‌دهند، بلکه می‌توانند با حداقل نظارت انسانی تصمیم‌های درمانی بگیرند، اقدامات بالینی را آغاز کنند و روند مراقبت از بیماران را مدیریت کنند. همزمان، نهادهای قانون‌گذار در آمریکا، اتحادیه اروپا و کانادا در حال تدوین چارچوب‌های جدیدی برای نظارت بر این نسل از سامانه‌های پزشکی هستند.

برخلاف ابزارهای رایج هوش مصنوعی که تنها نقش پشتیبان تصمیم‌گیری پزشکان را دارند، سامانه‌های خودمختار قادرند درمان پیشنهاد دهند، دوز دارو را تنظیم کنند، نتایج آزمایش‌ها را تفسیر کرده و بیماران را از راه دور پایش کنند.
کارشناسان معتقدند این فناوری می‌تواند بخشی از بحران کمبود نیروی انسانی، افزایش هزینه‌های درمان و سالمندی جمعیت را جبران کند، اما در مقابل خطرات تازه‌ای نیز ایجاد می‌کند. یکی از مهم‌ترین نگرانی‌ها، ماهیت «جعبه سیاه» بسیاری از مدل‌های هوش مصنوعی است؛ به‌طوری که حتی توسعه‌دهندگان نیز همیشه نمی‌توانند دلیل یک تصمیم یا خطای الگوریتم را توضیح دهند. این مسئله تشخیص اشتباهات را برای پزشکان دشوارتر کرده و احتمال وابستگی بیش از حد به تصمیم‌های ماشین را افزایش می‌دهد.
عملکرد این سامانه‌ها همچنین به کیفیت داده‌های آموزشی وابسته است. اگر داده‌ها ناقص، جانبدارانه یا محدود به گروه‌های خاصی از بیماران باشند، الگوریتم ممکن است برای سایر جمعیت‌ها عملکرد ضعیف‌تری داشته باشد. کارشناسان هشدار می‌دهند که چنین خطاهایی می‌تواند به‌جای آسیب به یک بیمار، به‌صورت همزمان بر هزاران نفر اثر بگذارد.
موضوع مسئولیت حقوقی نیز از دیگر چالش‌های مهم است. اگر یک سامانه هوش مصنوعی به بیمار آسیب برساند، مشخص نیست مسئولیت متوجه پزشک، بیمارستان، شرکت سازنده یا حتی نسخه به‌روزشده الگوریتم خواهد بود. سازمان غذا و داروی آمریکا (FDA) و نهادهای نظارتی کانادا در حال بررسی سازوکارهایی برای کنترل تغییرات آینده این سامانه‌ها هستند.
افزون بر این، گسترش استفاده از هوش مصنوعی خودمختار سطح تهدیدهای سایبری را نیز افزایش می‌دهد. مهاجمان می‌توانند با دستکاری نامحسوس داده‌های ورودی، عملکرد الگوریتم‌های تشخیصی یا سامانه‌های پایش بیماران را مختل کنند؛ خطری که با گسترش ابزارهای پوشیدنی، خدمات ابری و پزشکی از راه دور، ابعاد گسترده‌تری پیدا کرده است.
در نهایت، سازمان جهانی بهداشت تأکید می‌کند که هوش مصنوعی باید در خدمت انسان باشد، نه جایگزین کامل او. به باور کارشناسان، قضاوت اخلاقی، درک شرایط بیمار، همدلی و مسئولیت‌پذیری همچنان ویژگی‌هایی هستند که تنها پزشکان می‌توانند ارائه دهند و چالش اصلی آینده، یافتن تعادلی میان اتکا به هوش مصنوعی و حفظ نقش انسان در تصمیم‌گیری‌های حیاتی پزشکی خواهد بود.