AI AI AI :אינטליגנציה מלאכותית מתרחבת בעולם הרפואה והרגולציה מגדירה עקרונות

AI AI AI :אינטליגנציה מלאכותית מתרחבת בעולם הרפואה והרגולציה מגדירה עקרונות

AI AI AI – זו התחושה שלי בחודש האחרון, כותרת רודפת כותרת, יש מגוון כה רחב של התפתחויות בתחום של למידת מכונה ובינה מלאכותית. בראשן הכניסה של מודל ChatGPT והנגישות הפשוטה שניתנה לאנשים להתנסות ולבצע פעולות עמו כמות השימושים השונים מדהימה בהמון עולמות, וגם בעולם הבריאות( למשל: לעבור מבחן ברפואה, לסייע לסובלים מדיכאון, לכתוב אבסטרקטים למחקר, מכתבי שחרור ועוד). כמובן שיש מגבלות, אך מרחב האפשרויות מצית את הדמיון. במקביל, בימים אלה משרד הבריאות פרסם טיוטה בשם "עקרונות מנחים לפיתוח טכנולוגיות מבוססות למידת מכונה" שעד סוף השבוע פתוח להערות הציבור. בין הרגולציה למציאות המתהווה יש מתחים מעניינים אבל ההתקדמות בפרסום עקרונות חשובה ביותר.

גיף מתוך פאוור רינג'רס בו רובוט אומר איי יי יי
הרבה מאוד חדשות בתחום

מסמך עקרונות בינלאומי בנושא למידת מכונה בתחום הבריאות

המסמך שמשרד הבריאות מפרסם בימים אלה הוא קבלה שלו את מסמך העקרונות בנושא למידת מכונה שהופק בשיתוף פעולה בין הרשויות הרגולטוריות בארה"ב, אנגליה וקנדה. הצהרת העקרונות המקורית פורסמה בסוף 2021, וההצטרפות של משרד הבריאות מטרתה לייצור גם הרמוניזציה של עקרונות עם רשויות נוספות על מנת לתת לתעשייה בישראל בסיס משותף לעבודה בתחום פיתוח למידת מכונה וטכנולוגיות קשורות. בסיס משותף זה אמור לסייע בהשארת טכנולוגיות ושירותים גם למערכת בישראל, שכן מרבית החברות מכוונות לשווקים הבינלואמיים בראשם – ארה"ב. המשרד כותב בהקדמה שהעקרונות יעודכנו ככל שהטכנולוגיה תשתפר וזאת בדיאלוג עם התעשיה.

העקרונות המהווים את הבסיס למושג שנקרא Good Machine Learning Practice (GMLP). הנושא של GxP – תהליכים מיטביים המוגדרים על ידי הרגולטור, הוא משמעותי מאוד בתחום הרפואה ויש עקרונות ורגולציות המנוהלות בשיטה זו לפיתוח ייצור ושילוח של תרופות ואביזרים רפואיים, ניסויים קליניים, הפעלת מעבדות ועוד. לכן פרסום עקרונות שכאלה יוצר תשתית בסיסית וחשובה ביותר לשאלה כיצד יש לבנות מודלים של למידת מכונה בעולמות הרפואה., כיצד מאבטחים, בודקים, מוכיחים ומנגישים למשתמשים את המוצר והיכולת שלו.

צריך לזכור שבשלב ראשון אלו רק עקרונות, ולאחר אלו יש לרדת גם לפרטים, ועדיין אלו מסייעים מאוד להבין את הכיוון ואת צורת החשיבה. לא אכנס לפירוט והסבר של כל העקרונות המופיעים בתקציר בטבלה שבתמונה.

טבלה מרכזת של העקרונות לשילוב ופיתוח למידת מכונה בטכנולוגיות רפואיות
מתוך מסמך העקרונות בנישא למידת מכונה של משרד הבריאות

עם זאת יש פה כמה דברים שלטעמי הם מעניינים:

  1. צוות רב מקצועי עם הסתכלות רחבה. כאשר ראיתי הסברים לנושא ברשת, התייחסו בעיקר לשילוב של רופאות וקלינאים, לצד מומחי נתונים ומדענים רלוונטיים אחרים. לטעמי חשוב לציין פה גם את הגיוון שיש לתת לייצוג של מטופלים ו/או בעלי עניין אחרים הקשורים לטכנולוגיה. חיבור רב מימדי כזה יסייע רבות לאורך כל חיי המוצר ובעיקר לעמידה בשאר העקרונות וכן ביצירת מוצר/תוצר טוב יותר.
  2. התמקדות בצוות האדם-בינה: כאן אני חושב נוגעים בנקודה חשובה של התחברות לתהליכים הקיימים, גם כאן חלק מההסברים שניתנים ברשת מתמקדים שוב בעולם הקליני רפואי, ואני חושב שזה חשוב גם לבינה שתשמש את הצרכן/מטופל בקצה. בנוסף, אני חושב שזה מדגיש כיהגישה הבסיסית היא שהבינה המלאכותית אינה חלופה לאדם, אלא כמשלימה ומשתלבת. זה מאוד הגיוני, אך אני תוהה כיצד זה ייראה בעתיד כאשר אנחנו מדברים בחיבור של "בינות" שונות לאורך התהליך הרפואי ואוטומציה מלאה של תהליכים מסוימים.
  3. ניטור הלמידה המתמשכת – זהו לטעמי אחד הנושאים המהותיים להסדרה משני הצדדים של המטבע, מצד המערכת הלמידה תשמש לשיפור המוצר והיכולות שלו בתנאי עולם אמיתי, אך מצד שני חשוב ליידע את המשתמשים ולראות שלא נוצרות הטיות או סכנות בדרך.

ככלל מסמך העקרונות הוא חשוב טוב ומקיף, אך כפי שגם מחבריו מבינים, זוהי התחלה של תהליך ולא סופו, שכן הטכנולוגיה לא עוצרת.

בין העקרונות של למידת מכונה להתקדמות במודלים גנרטיביים

בעניין זה, אחת ההנחות המובלעות בתהליך ובעקרונות שבעצם המודלים של למידת מכונה יהיו ספציפיים וילמדו על בסיס מאגרי נתונים רפואיים וקליניים. אבל כפי שראינו בתקופה האחרונה, הרי שמודלים גנרטיביים כגון Chat GPT ואחרים כבר יכולים לספק שירותים רפואיים מסוימים – למשל בתמיכה במטופלים וביצוע מטלות שיחה כאלה ואחרות – וזאת ללא אימון על נתונים ספציפיים, ולא כשימוש מכוון מראש ומדויק. התוצאות של הפעילות הזו אינה ברורה עד הסוף, וכבר כעת מתפרסמים סיפורים על נזקים/תועלות של כלים אלה.

ולכן יש כבר פער בין המציאות המתהווה לתפיסת העולם של העקרונות. זהו פער כמעט אינהרנטי לרגולציה אבל ברור בהחלט שצריך כבר עתה לחשוב על כך.

מודלים גנרטיביים כאלה יוכלו בהמשך לבצע מגוון מטלות, וכבר עכשיו מסייעים בתקצור מחקרים, כתיבה של מכתבי שחרור ועוד, ללא בקרה יותר משמעותית מהעריכה של הרופא, ולא שאני רואה בזה קושי מיוחד, אבל הרגולטור חייב לתת את דעתו.

ככלל נראה שחלק המהמודלים הללו נדרשים לפחות תהליכי לימוד וולידציה והם גם לאו דווקא מודלים "מתמחים" אלא מודלים כלליים שמבצעים למידה יחסית מצוצמצת על מנת להניע נושאים חדשים.

כרגיל יהיה מרתק להבחין מה תהיינה ההתפתחויות ומה יצליח למצוא לעצמו מקום משמעותית בתוך החיים של כל מי שנודע במערכת הבריאות ואו חלק ממנה.

*התמונה הראשית צוירה על ידי Dalle-2 עם ההוראה לצייר רופא מלמד רשת נוירונים לפענח צילום רנטגן בסגנון ון גוך עתידני


כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אתר זה עושה שימוש באקיזמט למניעת הודעות זבל. לחצו כאן כדי ללמוד איך נתוני התגובה שלכם מעובדים.