מי פרסמה הנחיה חדשה בנושא האתיקה והממשל של מודלים רב-מודאליים גדולים (LMMs) לשימוש המתאים בהם כדי לקדם ולהגן על בריאותן של אוכלוסיות. LMMs הוא סוג של גנרטיב שגדל במהירות בינה מלאכותית טכנולוגיית (AI) בעלת חמישה יישומים רחבים לבריאות in
1. אבחון וטיפול קליני, כגון מענה לשאילתות כתובות של מטופלים;
2. שימוש מונחה מטופל, כגון לחקירת סימפטומים וטיפול;
3. משימות פקידותיות ומנהליות, כגון תיעוד וסיכום ביקורי חולים בתוך רישומי בריאות אלקטרוניים;
4. השכלה רפואית וסיעודית, לרבות מתן מפגשי חולים מדומים לחניכים, וכן;
5. מחקר מדעי ופיתוח תרופות, לרבות זיהוי תרכובות חדשות.
עם זאת, יישומים אלה בתחום הבריאות מסתכנים בהפקת הצהרות שגויות, לא מדויקות, מוטות או לא שלמות, מה שעלול להזיק לאנשים המשתמשים במידע כזה בקבלת החלטות בריאותיות. יתר על כן, ניתן להכשיר את ה-LMM על נתונים שהם באיכות ירודה או מוטים, בין אם לפי גזע, מוצא אתני, מוצא, מין, זהות מגדרית או גיל. ישנם גם סיכונים רחבים יותר למערכות הבריאות, כגון נגישות ובמחיר סביר של ה-LMMs עם הביצועים הטובים ביותר. LMMs יכולים גם לעודד 'הטיית אוטומציה' על ידי אנשי מקצוע ומטופלים בתחום הבריאות, ובכך מתעלמים מטעויות שאחרת היו מזוהות או בחירות קשות מואצלות באופן שגוי ל-LMM. LMMs, כמו צורות אחרות של AI, פגיעים גם לסיכוני אבטחת סייבר שעלולים לסכן את מידע המטופל או את מהימנות האלגוריתמים הללו ואת אספקת שירותי הבריאות באופן רחב יותר.
לכן, כדי ליצור LMMs בטוחים ויעילים, WHO הציע המלצות לממשלות ולמפתחים של LMMs.
לממשלות מוטלת האחריות העיקרית לקבוע סטנדרטים לפיתוח ופריסה של LMMs, ושילובם ושימושם למטרות בריאות הציבור ורפואה. ממשלות צריכות להשקיע או לספק תשתית ללא כוונת רווח או ציבורית, לרבות כוח מחשוב ומערכי נתונים ציבוריים, הנגישים למפתחים במגזר הציבורי, הפרטי והמלכ"ר, המחייבות את המשתמשים לדבוק בעקרונות ובערכים האתיים בתחום. החלפה עבור גישה.
· להשתמש בחוקים, במדיניות ובתקנות כדי להבטיח ש-LMMs ויישומים המשמשים בתחום הבריאות והרפואה, ללא קשר לסיכון או התועלת הקשורים ל- AI טכנולוגיה, לעמוד בהתחייבויות אתיות ובסטנדרטים של זכויות אדם המשפיעים, למשל, על כבודו, האוטונומיה או הפרטיות של אדם.
· להקצות סוכנות רגולטורית קיימת או חדשה להעריך ולאשר LMMs ויישומים המיועדים לשימוש בתחום הבריאות או הרפואה - ככל שהמשאבים מאפשרים זאת.
· הכנס ביקורת חובה לאחר שחרור והערכות השפעה, כולל להגנה על נתונים וזכויות אדם, על ידי צדדים שלישיים בלתי תלויים כאשר LMM נפרס בקנה מידה גדול. יש לפרסם את הביקורת והערכות ההשפעה
ועליו לכלול תוצאות והשפעות בחלוקה לפי סוג המשתמש, כולל למשל לפי גיל, גזע או מוגבלות.
· LMMs מתוכננים לא רק על ידי מדענים ומהנדסים. משתמשים פוטנציאליים וכל בעלי העניין הישירים והעקיפים, כולל ספקים רפואיים, חוקרים מדעיים, אנשי מקצוע בתחום הבריאות וחולים, צריכים להיות מעורבים כבר מהשלבים המוקדמים של AI פיתוח בעיצוב מובנה, כולל ושקוף וניתן להזדמנויות להעלות סוגיות אתיות, להשמיע חששות ולספק מידע עבור AI בקשה בבחינה.
LMMs מתוכננים לבצע משימות מוגדרות היטב עם הדיוק והאמינות הדרושים כדי לשפר את היכולת של מערכות הבריאות ולקדם את תחומי העניין של המטופל. מפתחים צריכים גם להיות מסוגלים לחזות ולהבין תוצאות משניות פוטנציאליות.
***
מקור:
WHO 2024. אתיקה וממשל של בינה מלאכותית לבריאות: הדרכה על מודלים רב-מודאליים גדולים. זמין ב https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
