רגולציה : תוכנית הפעולה של ה-FDA לפיקוח על מכונות לומדות וחכמות

האיזון בין רגולציה לחדשנות הוא נושא מעניין ולא תמיד אינטואיטיבי. מצד אחד, באופן טבעי וכמעט הכרחי המסגרות הרגולטוריות מפגרות אחר ההתפתחות הטכנולוגית ואינן יודעות להכיל אותן. מצד שני, בטח בעולמות הבריאות, כאשר בטיחות המטופל הנה קריטית, ללא מסגרות רגולטוריות מאוד קשה להשיק מוצרים המבקשים לעשות פעולה רפואית ולהצליח לומר עליה דבר מה משמעותי מבחינת יעילות ובטיחות. לכן, הצורך במסגרות רגולטוריות מתקדמות הנו כלי חשוב ביותר לשיפור הרפואה, ובטח בקידום חדשנות ברפואה – למשל שימוש בכלים של אינטליגנציה מלאכותית ולמידת מכונה. בשבועות האחרונים פרסם ה-FDA (רשות המזון והתרופות) האמריקאי תוכנית פעולה בת 5 נקודות כצעד נוסף בדרכו למסגרת רגולציה מותאמת המאפשרת לתוכנות העושות שימוש בטכנולוגיות מתקדמות שכאלה לזכות באישור כמכשור רפואי וכן לאפשר להן לקדם ולעדכן באופן מהיר יותר את השיפור.

איפה אנחנו נמצאים ומה חסר?

ובכן, באופן עקרוני הפרדיגמה של אישור מוצרים רפואיים (תרופות או מכשור רפואי) אומרת שהאישור ניתן מראש ועל בסיס הגדרות מאוד מפורטות. כל שינוי, שיפור, תוספת או עדכון חייבים לעבור במסלול אישור או עדכון מראש לפני הגעה לשוק. כאשר העדכון הוא מינורי – למשל שינוי בעיצוב האריזה, התהליך יכול להיות פשוט, אך כאשר השינוי יותר משמעותי הוא צריך לעבור אישור יותר משמעותי – למשל אינדיקציה חדשה, שינוי בטכנולוגיית הייצור ועוד.

בעולם אישור מוצרים העושים שימוש בתוכנה התפיסה עד היום נשארה באופן בסיסי אותו דבר, רציתם לבצע עדכון תוכנה למכשור הרפואי שלכם, להוסיף לו יכולת או פיצ'ר, עליכם לאשר את העדכון, בעיקר על מנת לשמור על בטיחות המטופל ולראות שעדכון כזה לא יגרום נזק ואינו פוגם ברמת האיכות של המוצר.

אז מה הבעיה? ובכן, זה לוקח זמן ובעידן הנוכחי, אפס, עשוי לעקב. למה? בגלל הרצון שלנו לתת למכונות ללמוד. עוד קצת הסבר.

תוכנית הפעולה החדשה, מתייחסת לאיזור מאוד חדש והוא תוכנה כמכשור רפואי, קרי שתוכנה מקבלת אישור להגיד שהיא עושה פעולה עם אפקט מסוים, ערך מסוים ויכולה להגיד שהיא מטפלת במשהו והוכיחה את זה במגוון צורות על בסיס הרגולציה.

ה-FDA מפריד בין תוכנה שהיא המכשור הרפואי העצמו SaMD -Sofdware as Medical Device לבין תוכנה בתוך מכשיר רפואי – SiMD -Software in Medical Device. עכשיו בתוך היער הזה יש תוכנות העושות שימוש ב-AI אבל "סגור", קרי אלגוריתם שעושה חישובים שונים, מייצר המלצות, אך לא לומד ומשתפר תו"כ, ותוכנות שכן עושות את זה קרי מנצלות את הדאטה העובר בהם כדי להשתפר. הבעיה כאמור – כל שיפור דורש אישור. מה עושים?

ובכן דרישת האישור היא לא הדבר היחיד, גם השאלה כיצד הגיעו למסקנה ולניבוי הזה, מה ההגדרות ואיך משקפים את זה בצורה ראויה וברורה למטופלים, וזה לא פשוט בכלל. לצורך כך הרשות פועלת מזה זמן על מנת לנסות ולגבש את הרגולציה הנדרשת, שמצד אחד תשמור על הבסיס של בטיחות, יעילות ואיכות, ומצד שני תאפשר קידום והתקדמות בקצב נכון וראוי. זאת בשל ההבנה שטמון פה פוטנציאל ענק לשיפור חיי המטפלים והמטופלים. אז איך עושים את זה?

תוכנית פעולה, ואף תובנות של מטופלים כשותפים

תוכנית הפעולה שפורסמה כעת היא למעשה המשך של פעילות שהחלה עוד ב-2019 עת הוציא ה-FDA מכתב ראשוני עם התפיסות שלו בעניין רגולציה של תוכנות העושות שימוש בלמידת מכונה ואינטליגנציה מלאכותית. המכתב קרא לכל השותפים בתחום להגיב ולהציע הצעות, ותוכנית הפעולה הנוכחית היא בעצם תגובה סדורה לסך כל ההצעות וההערות.

התוכנית החדשה כוללת 5 נקודות מרכזיות:

1.ה-FDA יפרסם טיוטת תקנות (שלרוב כשלעצמן הופכות לסטנדרט גם אם אינן מאושרות סופית) שיגדירו את התפיסה כי שינויים בתוכנה יאושרו על ידי היצרן על בסיס תוכנית מוסכמת מראש עם ה-FDA בה יוגדרו כל הצעדים והתנאים לשינוי ושיפור התוכנה, וכל עוד היצרן עומד בכך הוא לא צריך לפנות לרשות לאישור מראש. תוכנית השינויים תוגדר כך שהיא בעצם תסמן "מה" בתוכנה עובר שינוי בשל למידת האלגוריתם, והחלק השני יגדיר את ה"איך" האלגוריתם לומד וכיצד הוא שומר על בטיחות המטופלים בתהליך הזה. על פי התוכנית חברות הפיתוח היו מאוד מרוצות מהתהליך המוצע, הגם שיש עוד להגדיר אותו במלואו.

2. בניית תקנות GMLP (Good Machine learning Practices). ובכן זה נושא מעניין. בעצם מבקש ה-FDA להציג תקן איכות חדש לתוכנות שעושות שימוש בלמידת מכונה, המבוסס על התפיסה הרווחת בפארמה של GxP שזה מגוון רחב של תקנות המגדירות את תהליכי האיכות והבקרה של פיתוח, ייצור, שינוע ועוד של תרופות ומוצרים רפואיים. בעצם ה-FDA באמצעות התייעצות עם כל המומחים ובעלי העניין יגדיר מהם התהליכים המקובלים והטובים ביותר לפתח תוכנות שכאלה על מנת לשמור על פיתוח ראוי, נכון ובטיחותי. על פי התוכנית ישנן מגוון מסגרות ונסיונות בתחום ונראה כי הרשות תנסה לייצר תקן יותר הרמוני שיעשה סדר.

3. הרשות מבקשת לעשות פעילות לשיפור השקיפות של פעולת האלגוריתמים במגעים שלהם עם מטופלים. בנוסף, גם להגדיר כיצד לתאר למטופלים את היתרונות, החסרונות והמטרות של התוכנה, בדומה למה שמוגדר העלון לצרכן בתרופות. נושא זה עלה בעקבות התייעצות של הרשות עם הוועדה המייעצת של ה-FDA המורכבת ממטופלים, זוהי ועדה מייעצת שהוקמה לפני כמה שנים ולראות שיש לה תפקיד מרכזי בתהליך הבניה של רגולציה הוא מאוד משמח וחשוב. הדרך שבה נוכל לתאר ולהסביר את פעולה המכונות הללו חשובה ביותר לבטיחות הציבור, לשקיפות ולאמון במוצרים הללו. תפיסה זו רואה בעצם את המטופל במרכז כמי שהמוצרים מפותחים עבורו ועל כן חייב לקבל את מה שמגיע לו, וגם לתרום לחשיבה כיצד לעשות זאת.

4. כיצד מונעים הטיות באלגוריתמים. כאן ה-FDA יפעל לשיפור המדע בבסיס הבדיקות והאישור, והמסגרות של פיתוח אלגוריתמים על מנת למזער ולהקטין את ההטיות והבעיות שעלולות לעלות משימוש באלגוריתמים. ידוע כבר שאלגוריתמים מטמיעים בתוכם תפיסות חברתיות קיימות ועלולים לייצר אפליה או נזק בשל כך. כמו כן מבקשת הרשות לראות שהחישובים ומהסקנות של האלגוריתמים ניתנים להכללה, כך שיהיו אפקטיבים לכל סוגי המטופלים ושניתן יהיה לסמוך על דרך פעולתם. מדובר בנושא סבוך ומורכב והרשות מעורבת בפעילות מחקר יחד עם אוניברסיטת דרום קליפורניה (UCSF) ועוד גופים על מנת לפתח ולשפר את המדע בבסיס דברים אלו.

5. שימוש במידע מהעולם האמיתי לבקרה ושיפור המוצרים. פעילות זו גם היא תהיה חלק מתפיסת הבקרה והרגולציה של מוצרי התוכנה והיא תסתכל על המוצר לאורך כל מחזור חייו ותשתמש במידע מהעולם האמיתי (Real-World Performance-RWP) על מנת לשמור על המוצר ולשפר אותו באחריות היצרנים. זה נושא שקיים וגדל היום גם במוצרים רפואיים נוספים, אבל אין ספק שבמוצרים מבוססי מידע מדובר בנושא קריטי, והרשות תפתח ותסייע בפיתוח כלים להשגת המטרה הזו.

גם לתוכנית הפעולה הזו מבקש ה-FDA תגובות של הקהילה ומחזיקי העניין על מנת להמשיך ולשפר. הנחת העבודה של הרשות אומרת שבסוף שנה הבאה תפורסם טיוטת התקנות בתחום. זהו חלק מהמאמץ הגדול והמשמעותי של הרגולציה לאפשר כניסה נרחבת עוד יותר של כלי תוכנה לעולם הבריאות וככזה זהו מאמץ מבורך. אין ספק שלמידת מכונה ועוד אלו כלים קריטיים בשיפור הבריאות והתמודדות םע מצבים מורכבים.