WHO دستورالعمل جدیدی را در مورد اخلاق و حاکمیت مدل‌های چندوجهی بزرگ (LMMs) برای استفاده مناسب از آن برای ارتقا و حفاظت از سلامت جمعیت صادر کرده است. LMM یک نوع مولد با رشد سریع است هوش مصنوعی فناوری (AI) که پنج کاربرد وسیع برای سلامت دارد in
1. تشخیص و مراقبت های بالینی، مانند پاسخ به سوالات کتبی بیماران.
2. استفاده تحت هدایت بیمار، مانند بررسی علائم و درمان.
3. وظایف دفتری و اداری، مانند مستندسازی و خلاصه کردن ویزیت بیماران در پرونده الکترونیکی سلامت.
4. آموزش پزشکی و پرستاری از جمله ارائه برخوردهای شبیه سازی شده با بیمار به کارآموزان و.
5. تحقیق علمی و توسعه دارو، از جمله برای شناسایی ترکیبات جدید.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
بنابراین، WHO برای ایجاد LMM های ایمن و موثر، توصیه هایی را برای دولت ها و توسعه دهندگان LMM ارائه کرده است.
دولتها مسئولیت اصلی تعیین استانداردهایی برای توسعه و استقرار LMMها و ادغام و استفاده از آنها برای اهداف بهداشت عمومی و پزشکی دارند. دولتها باید در زیرساخت‌های غیرانتفاعی یا عمومی، از جمله قدرت محاسباتی و مجموعه‌های داده‌های عمومی، در دسترس توسعه‌دهندگان در بخش‌های دولتی، خصوصی و غیرانتفاعی سرمایه‌گذاری کنند یا فراهم کنند که کاربران را ملزم به رعایت اصول و ارزش‌های اخلاقی در تبادل برای دسترسی
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
یک آژانس نظارتی موجود یا جدید را برای ارزیابی و تأیید LMM ها و برنامه های کاربردی در نظر گرفته شده برای استفاده در مراقبت های بهداشتی یا پزشکی - به عنوان مجوز منابع.
· ممیزی اجباری پس از انتشار و ارزیابی‌های تاثیر، از جمله برای حفاظت از داده‌ها و حقوق بشر، توسط اشخاص ثالث مستقل در زمانی که LMM در مقیاس وسیع مستقر می‌شود، معرفی کنید. حسابرسی و ارزیابی تاثیر باید منتشر شود
و باید شامل نتایج و اثرات تفکیک شده بر اساس نوع کاربر، از جمله بر اساس سن، نژاد یا ناتوانی باشد.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM ها برای انجام وظایف تعریف شده با دقت و اطمینان لازم برای بهبود ظرفیت سیستم های بهداشتی و پیشبرد علایق بیمار طراحی شده اند. توسعه دهندگان همچنین باید قادر به پیش بینی و درک نتایج ثانویه بالقوه باشند.
***
منبع:
WHO 2024. اخلاق و حاکمیت هوش مصنوعی برای سلامت: راهنمایی در مورد مدل‌های چندوجهی بزرگ. موجود در https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
