WHO دستورالعمل جدیدی را در مورد اخلاق و حاکمیت مدل‌های چندوجهی بزرگ (LMMs) برای استفاده مناسب از آن برای ارتقا و حفاظت از سلامت جمعیت صادر کرده است. LMM یک نوع مولد با رشد سریع است هوش مصنوعی فناوری (AI) که پنج کاربرد وسیع برای سلامت دارد in
1. تشخیص و مراقبت های بالینی، مانند پاسخ به سوالات کتبی بیماران.
2. استفاده تحت هدایت بیمار، مانند بررسی علائم و درمان.
3. وظایف دفتری و اداری، مانند مستندسازی و خلاصه کردن ویزیت بیماران در پرونده الکترونیکی سلامت.
4. آموزش پزشکی و پرستاری از جمله ارائه برخوردهای شبیه سازی شده با بیمار به کارآموزان و.
5. تحقیق علمی و توسعه دارو، از جمله برای شناسایی ترکیبات جدید.
با این حال، این برنامه‌ها در مراقبت‌های بهداشتی خطر تولید اظهارات نادرست، نادرست، جانبدارانه یا ناقص را دارند که می‌تواند به افرادی که از چنین اطلاعاتی در تصمیم‌گیری سلامت استفاده می‌کنند آسیب برساند. علاوه بر این، LMM ها ممکن است بر روی داده هایی که از نظر نژاد، قومیت، اصل و نسب، جنسیت، هویت جنسیتی یا سنی با کیفیت پایین یا مغرضانه هستند، آموزش ببینند. همچنین خطرات گسترده تری برای سیستم های بهداشتی وجود دارد، مانند دسترسی و مقرون به صرفه بودن بهترین LMM ها. LMMها همچنین می توانند "سوگیری اتوماسیون" را توسط متخصصان مراقبت های بهداشتی و بیماران تشویق کنند، به موجب آن خطاهایی که در غیر این صورت شناسایی می شدند نادیده گرفته می شوند یا انتخاب های دشوار به طور نادرست به LMM واگذار می شوند. LMM ها مانند سایر اشکال AI، همچنین در برابر خطرات امنیت سایبری آسیب پذیر هستند که می تواند اطلاعات بیمار یا قابل اعتماد بودن این الگوریتم ها و ارائه مراقبت های بهداشتی را به طور گسترده تر به خطر بیندازد.
بنابراین، WHO برای ایجاد LMM های ایمن و موثر، توصیه هایی را برای دولت ها و توسعه دهندگان LMM ارائه کرده است.
دولتها مسئولیت اصلی تعیین استانداردهایی برای توسعه و استقرار LMMها و ادغام و استفاده از آنها برای اهداف بهداشت عمومی و پزشکی دارند. دولتها باید در زیرساخت‌های غیرانتفاعی یا عمومی، از جمله قدرت محاسباتی و مجموعه‌های داده‌های عمومی، در دسترس توسعه‌دهندگان در بخش‌های دولتی، خصوصی و غیرانتفاعی سرمایه‌گذاری کنند یا فراهم کنند که کاربران را ملزم به رعایت اصول و ارزش‌های اخلاقی در تبادل برای دسترسی
· استفاده از قوانین، سیاست ها و مقررات برای اطمینان از اینکه LMM ها و برنامه های کاربردی مورد استفاده در مراقبت های بهداشتی و پزشکی، صرف نظر از خطر یا منافع مرتبط با AI فن آوری، الزامات اخلاقی و استانداردهای حقوق بشر را که برای مثال بر حیثیت، استقلال یا حریم خصوصی افراد تأثیر می گذارد، رعایت کنند.
یک آژانس نظارتی موجود یا جدید را برای ارزیابی و تأیید LMM ها و برنامه های کاربردی در نظر گرفته شده برای استفاده در مراقبت های بهداشتی یا پزشکی - به عنوان مجوز منابع.
· ممیزی اجباری پس از انتشار و ارزیابی‌های تاثیر، از جمله برای حفاظت از داده‌ها و حقوق بشر، توسط اشخاص ثالث مستقل در زمانی که LMM در مقیاس وسیع مستقر می‌شود، معرفی کنید. حسابرسی و ارزیابی تاثیر باید منتشر شود
و باید شامل نتایج و اثرات تفکیک شده بر اساس نوع کاربر، از جمله بر اساس سن، نژاد یا ناتوانی باشد.
· LMM ها نه تنها توسط دانشمندان و مهندسان طراحی شده اند. کاربران بالقوه و همه ذینفعان مستقیم و غیرمستقیم، از جمله ارائه دهندگان پزشکی، محققان علمی، متخصصان مراقبت های بهداشتی و بیماران، باید از مراحل اولیه درگیر شوند. AI توسعه در طراحی ساختارمند، فراگیر، شفاف و فرصت های داده شده برای طرح مسائل اخلاقی، ابراز نگرانی ها و ارائه ورودی برای AI درخواست در حال بررسی
LMM ها برای انجام وظایف تعریف شده با دقت و اطمینان لازم برای بهبود ظرفیت سیستم های بهداشتی و پیشبرد علایق بیمار طراحی شده اند. توسعه دهندگان همچنین باید قادر به پیش بینی و درک نتایج ثانویه بالقوه باشند.
***
منبع:
WHO 2024. اخلاق و حاکمیت هوش مصنوعی برای سلامت: راهنمایی در مورد مدل‌های چندوجهی بزرگ. موجود در https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
