תפקיד המטופל או המטופלת בעיצוב מהפיכת ה-AI

תפקיד המטופל או המטופלת בעיצוב מהפיכת ה-AI, לאן פנינו מועדות? ובכן, מאז הגיח לעולם מודל השפה Chat GPT של Open AI אנחנו נמצאים בריצת אמוק ובקצב התפתחויות שקשה מאוד לעמוד בו. כל בוקר חדשה נוספת, השקה נוספת ויכולת נוספת שמפילה את הלסת בצורה זו או אחרת.

הריצה הזו לא פוסחת על עולם הבריאות, וארגוני בריאות בישראל ובעולם מתנסים ומנסים לפתח ולהטמיע מגוון כלים העושים שימוש ב-AI על מנת ליהנות מהפוטנציאל הגלום בו ולשפר יכולות, יעילות תפעולית וטיפול במטופלים. אבל שאלות יסודיות על המשמעויות של התפתחויות אלו על המטופלים לא תמיד נדונות בפורומים בהם שותפים גם מטופלים עצמם. כעת גם מטופלים ואקטיביסטים מבקשים להבין ולהגדיר את תפקיד המטופל במהפיכת ה-AI ורצוי להקשיב.

שתי יוזמות תפסו את עיני דרך הפידים של הרשתות החברתיות, בקשר עם תפקיד המטופל בעיצוב מהפיכת ה-AI ברפואה, ובעיקר בקשר עם פיתוח והטמעה של מודלים. האירוע הראשון הוא פתיחת מעבדת AI של ארגון Open Notes – הארגון שמוביל את מהפיכת שיתוף המידע מהתיק הרפואי עם המטופלים באופן מלא. השני הוא נייר עמדה של 13 מטופלים אקטיביסטים שכונסו על ידי Light collective ארגון ללא מטרות רווח ששם לעצמו קידום של שימוש טוב בדאטה לטכנולוגיה רפואית.

המעבדה של Open Notes ותפקיד המטופל בעיצוב AI

Open Notes שהחל פעילותו בשנת 2010 שם לעצמו לקדם את הפתיחה של תיקים רפואיים לשיתוף נתונים עם מטופלים. מדובר בארגון שהוביל אג'נדה ברורה, שאינה תלוית טכנולוגיה, שבה ברור שלמטופלים יש את הזכות לראות את הנתונים הרפואיים שלהם ללא צנזורה מתוך ההבנה שהנתונים עליהם הם שלהם. מאז החל לפעול הארגון באמצעות קידום מחקר ופעילות, יש להם הישגים. לפני כשלוש שנים נכנסה תקנה חוקית בארה"ב שמחייבת ארגונים בריאותיים לשתף את הנתונים שלהם עם המטופלים ו/או אפליקציות מטעמם. תקנה מהפכנית שמשחררת את הנתונים למטופלים באופן קל ופשוט. בעיקר כי היא מנוסחת כך שרק אם יש סיבה ממש טובה ניתן לא לשתף.

לאור תפקידו החשוב בתחום הנתונים הרפואיים, לא מפתיע ש-Open Notes מוביל ומגיב בין הראשונים לשאלה כיצד הטמעה של AI תשפיע על מטופלים. הרי בסוף AI מבוסס על נתונים, וברפואה על הנתונים אודות מטופלים בתיקים הרפואיים. המעבדה הוקמה יחד עם המרכז הרפואי Beth Israel Deaconess בבוסטון שהיה גם בין הראשונים להטמיע את הגישה בקשר עם תיקים רפואיים של הארגון. מטרת המעבדה היא להוות מקום לביצוע מחקרים לבדיקה ושיפור השימוש ב-AI לטובת מטופלים.

המעבדה באה להתמודד עם 4 שאלות מרכזיות:

• כיצד השימוש בטכנולוגיות מידע יוכל להיות בשימוש ישיר של מטופלים ומטופלות על מנת לשפר את היכולת שלהם להיות מעורבים בטיפול בהם?
• AI ישנה והחל כבר לשנות את האינטראקציה בין מטפלים למטופלים, כיצד אנו יכולים לוודא שזה בונה אמון והבנה בין הצדדים?
• כיצד AI יוכל לשרת קלינאים לטיפול טוב יותר למטופלים?
• כיצד נוכל לוודא שאלגוריתמים מאומנים ומיושמים בדרכים שמכבדים את הצרכים השונים והזכויות של המטופל/ת היחיד/ה ואת המטפלים שלהם

אלו שאלות יסוד, ויהיה מעניין לראות את המחקרים והגישות שהמעבדה, לה מונה בשבוע האחרון ועד מייעץ מכובד במיוחד, תוציא תחת ידיה.

טיוטה ל-10 דיברות לתפקיד המטופל בעיצוב מהפכית ה-AI

ארגון light collective כינס 13 מטופלים אקטיביסטים מהמובילים בארצות הברית לדון ולפתח נייר עמדה דיי ראשון מסוגו שנקרא: "AI Rights For Patients" על הצורך בשיתוף מטופלים בעת עיצוב והטמעה של שירותים מבוססי בינה מלאכותית. התפיסה הבסיסית, כמו בכל שאלה של שיתוף מטופלים, היא שלמטופלים יש פה את האינטרס המרכזי כי זה נוגע בחיים שלהם – ולכן לא ניתן שמשהו אודותיהם/עבורם יוגדר בלעדיהם.

שאלות בדבר הרגולציה וגבולות השימוש ב-AI באופן כללי וברפואה בפרט נמצאות בדיון מזה תקופה, ואף יש כבר רגולציה לשימוש בכלים של AI ברפואה. ה-FDA מדבר על מעל 500 מוצרים המשתמשים ב-AI שכבר אושרו לשימוש. עם זאת כאשר נכנסו מודלים של שפה גדולה הדיון בדבר גבולות השימוש, והאחריות התרבו משמעותית. נייר העמדה מתייחס לשני סוגו המודלים – אלו שהם פרדיקטיביים וספציפיים, ואלו של בינה מלאכותית יוצרת שהם כלליים יותר.

הדרך שבה בחרו לבנות את נייר המדיניות הוא קצת דומה למעיין 10 דיברות. הנייר נפתח בהסבר עקרוני מדוע מטופלים חייבים להיות חלק מהדיון, ולקבל מקום בשולחן, וזאת בשל ההשפעה המרובה שיש למודלים אלו על שירותי הבריאות, על ההחלטות במי ומתי לטפל, וכן ביכולת לספק את השירות בכלל.

כותבי הנייר בחרו לספק 7 עקרונות ועל כל אחד להסביר מה המשמעות שלו, מדוע הוא חשוב, וכיצד זה ייראה בפועל כאשר יאומץ. העקרונות הם:

• מטופלים מובילי מדיניות ומנהל תקין

הכוונה כאן, היא הזכות של המטופלים להוביל במשותף את הדיון אודות השימושים ב-AI ולקבוע את החוקים ומנגנוני הפיקוח. כאמור, המטופלים יושפעו עמוקות משימוש בטכנולוגיה ועל כן חובה שהצרכים שלהם ישולבו כאשר מדובר על המדיניות. לטענת כותבי הנייר זה יאפשר להביא איזון ולחבר את צורכי הקהילות לדיון. כאן מדובר גם בשותפות במדיניות, אך גם בשותפות בפיתוח ועיצוב האלגוריתמים עצמם.

• מחויבות עצמאית למטופלים

המחויבות לבריאות המטופלים צריכה להישמר כמחויבות עצמאית למטופלים ולקהילותיהם, ובכך לאזן את המחויבות של גופים מסחריים לבעלי מניות וצרכים כלכליים. המחויבות לבריאות המטופל חייבת להיבנות גם ברמה החוקית והרגולטורית ולהישמר כך. מחויבות זו לבריאות מקורה בחובת הנאמנות והטיפול של המטפלים למטופליהם ולבריאותם, וזו צריכה להימשך גם כאשר מפעילים כלים טכנולוגיים כמו AI. זה צריך לבוא לידי ביטוי בחברות שווה של מטופלים בתוך התהליכים כולל יכולת השפעה והצבעה בתהליכים השונים.

• שקיפות

שקיפות צריכה להיות לאורך כל שרשרת הערך. גם שקיפות של דרך פעילות המודל ובמה הוא משתמש כדי להגיע לתוצאה שאליה הוא מגיע. אך שקיפות צריכה להיות גם בעת הבקשה לשימוש במידע, וכן בהסכמה מודעת לשימוש ב-AI בעת הטיפול או הבדיקה. (זו דרישה מאוד מעניינת, מכיוון שלרוב אנחנו לא דורשים הסכמה כה מעמיקה לשימוש בטכנולוגיות). בנוסף יש לספק לציבור ולמטופלים בסיס ראייתי ראוי לכך שהמודל אכן פועל כנדרש. בנוסף נדרשת שקיפות על הטיות הקיימות במודל.

• הגדרה עצמית (הייתי מעדיף אוטונומיה)

הזכות של המטופל על גופו, אוטונומיה, מגדירה את זה שלמטופל זכות להחליט האם הוא רוצה להיות מטופל באמצעות AI. עקרון זה מעמיק את הנקודה הקודמת ומגיע מאותו מקור שהסכמה מדעת נולדה – אוטונומיה של האדם על גופו. בנוסף מערכות בריאות יזדקקו לתת למטופלים אפשרות לערער על החלטות של אלגוריתמים ולאפשר להם לדרוש טיפול ללא אלגוריתמים.

• זהות, בטיחות ופרטיות

בסעיף זה דורשים כותבי הנייר, הסכמה של מטופלים לכל שרשרת הערך הקשורה באלגוריתם, במובן של ציפיה לפרטיות, הסכמה לשימש בנתונים שלהם לצורך לימוד מודלים חדשים ועוד. בנוסף, בטיחות ופרטיות המטופל חייבים לבוא בעדיפות עליונה של מפתחי הטכנולוגיות. עוד מבקשים המטופלים לאסור שימוש במידע אודות המטופל, בטח לא כזה הבא מגופים שלישיים (כמו למשל רשתות חברתיות) נגדו. לבסוף הם דורשים איסור על מכירת המידע שלו עבור נושאים מסחריים בטח לא ללא הסכמה מפורשת.

• הזכות לפעולה

בסעיף זה מדובר על היכולת של המטופלים לשמור על זכותם לתבוע משפטית באם נעשה להם עוול על ידי אלגוריתם, והיכולת לנקוט פעולה. בעצם מדובר כאן על האחריות שיש לגופי הבריאות בעת השימוש, וגם לחברות הטק בעת שהן מפעילות אלגוריתמיקה.

• ערך משותף

כאן מדובר על דרישה להיעדר אפליה במודלים. לדרישה יש כמה אופנים. הראשון ברמת הדאטה בו עושים שימוש לצורך בניה ולימוד המודל – כך שיהיה מייצג ויאפשר ייצוג לאכולוסיות בתת ייצוג. בהמשך דרישה גם לכך שהערך מהמודל עצמו יחלוק באופן שיוויוני ולא ייצר החרפה של האפליה שפעמים רבות קיימת בבריאות, בעיקר לאוכלוסיות קטנות ומודרות.

מדובר בנייר ראשון ומקיף, שלטעמי לאחריו יגיעו עוד הרבה דיונים ותהליכים, אך ללא ספק למטופל תפקיד משמעותי שרק הולך ועולה בשימוש ב-AI הן באופן עצמאי והן ככלי בתוך מערכות הבריאות – PatientuseAI#