מי פרסמה הנחיה חדשה בנושא האתיקה והממשל של מודלים רב-מודאליים גדולים (LMMs) לשימוש המתאים בהם כדי לקדם ולהגן על בריאותן של אוכלוסיות. LMMs הוא סוג של גנרטיב שגדל במהירות בינה מלאכותית טכנולוגיית (AI) בעלת חמישה יישומים רחבים לבריאות in
1. אבחון וטיפול קליני, כגון מענה לשאילתות כתובות של מטופלים;
2. שימוש מונחה מטופל, כגון לחקירת סימפטומים וטיפול;
3. משימות פקידותיות ומנהליות, כגון תיעוד וסיכום ביקורי חולים בתוך רישומי בריאות אלקטרוניים;
4. השכלה רפואית וסיעודית, לרבות מתן מפגשי חולים מדומים לחניכים, וכן;
5. מחקר מדעי ופיתוח תרופות, לרבות זיהוי תרכובות חדשות.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
לכן, כדי ליצור LMMs בטוחים ויעילים, WHO הציע המלצות לממשלות ולמפתחים של LMMs.
לממשלות מוטלת האחריות העיקרית לקבוע סטנדרטים לפיתוח ופריסה של LMMs, ושילובם ושימושם למטרות בריאות הציבור ורפואה. ממשלות צריכות להשקיע או לספק תשתית ללא כוונת רווח או ציבורית, לרבות כוח מחשוב ומערכי נתונים ציבוריים, הנגישים למפתחים במגזר הציבורי, הפרטי והמלכ"ר, המחייבות את המשתמשים לדבוק בעקרונות ובערכים האתיים בתחום. החלפה עבור גישה.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· להקצות סוכנות רגולטורית קיימת או חדשה להעריך ולאשר LMMs ויישומים המיועדים לשימוש בתחום הבריאות או הרפואה - ככל שהמשאבים מאפשרים זאת.
· הכנס ביקורת חובה לאחר שחרור והערכות השפעה, כולל להגנה על נתונים וזכויות אדם, על ידי צדדים שלישיים בלתי תלויים כאשר LMM נפרס בקנה מידה גדול. יש לפרסם את הביקורת והערכות ההשפעה
ועליו לכלול תוצאות והשפעות בחלוקה לפי סוג המשתמש, כולל למשל לפי גיל, גזע או מוגבלות.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMMs מתוכננים לבצע משימות מוגדרות היטב עם הדיוק והאמינות הדרושים כדי לשפר את היכולת של מערכות הבריאות ולקדם את תחומי העניין של המטופל. מפתחים צריכים גם להיות מסוגלים לחזות ולהבין תוצאות משניות פוטנציאליות.
***
מקור:
WHO 2024. אתיקה וממשל של בינה מלאכותית לבריאות: הדרכה על מודלים רב-מודאליים גדולים. זמין ב https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
