מתפרסם בשיתוף הקריה הרפואית רמב"ם
עזרה מתמשכת בקבלת החלטות עלולה לנוון את היכולת לקבל אותן, התריע בוועידת Rambam Tomorrow של ynet ורמב"ם פרופ' שחר שלי, מנהל המחלקה הנוירולוגית ברמב"ם. והוא לא מדבר כצופה מהצד: הוא פיתח את שקד, מערכת AI שעוזרת כיום לרופאים במיון בבית החולים להחליט. הפתרון שלו אינו לוותר על המערכת אלא לבנות אותה כך שתשאיר לרופא חלק מהחשיבה. "בסוף אתה רוצה להיות המארח", אמר.
AI ברפואה – ההזדמנות והסיכון: הרופא כבר לא לבד
(צילום: Streame)
פרופ' שלי לא מניח שהרופא תמיד צודק. "בני אדם טועים הרבה יותר ממערכות", אמר, ובכל זאת, לדבריו, נרצה להמשיך להחליט בעצמנו: "יש לנו משהו אינהרנטי בנו שרוצה את השליטה הזו בחיים שלנו". גם שאר הדוברים בפאנל "AI ברפואה - ההזדמנות והסיכון" הסכימו על עיקרון אחד: המערכת תומכת החלטה, והרופא הוא שמחליט. מה שנשאר לבחון הוא איך מוודאים שהוא באמת ממשיך להחליט.
גלריה
"דמוקרטיזציה של המידע". פרופ' שחר שלי בפאנל עם טל שחף בוועידת Rambam Tomorrow
(צילום: דוברות המרכז הרפואי רמב"ם)
מה קורה ליכולת של רופא שנעזר שנים במערכת? פרופ' שלי השווה את זה לשימוש בווייז: "האם הייתה הידרדרות, התשובה היא חד-משמעית כן". כדי לעצור את זה בונים את המערכת עם מגבלות מובנות, שהוא מכנה "מעקות". "דמיין רכב שעולה במעלה ההר וציר העלייה צר מאוד", הסביר. "ככל שהוא נוסע יותר מהר, הוא לוקח יותר סיכון בסיבובים". המגבלות האלה אמורות להגן לא רק על המטופל אלא גם על הרופא, כך שהמערכת לא תעשה בשבילו את כל החשיבה.
בפועל, הסביר, יש להשאיר בכוונה חלק מההחלטה לרופא: "פערים אסטרטגיים חשיבתיים" שבהם הוא חייב להשלים בעצמו את החוליה הלוגית: "אתה לא רוצה להיות היישות הכי פחות חשובה באינטראקציה. בסוף אתה רוצה להיות המארח".
מערכת שמסדרת את המידע
מערכת שקד מרכזת ידע ממקורות שונים ומציגה אותו לרופא במיון בצורה ברורה ורלוונטית. שלי הסביר את הרעיון בהבדל בין מי שמאחר לטיסה ומחליט בלחץ לבין מי שיושב בבית בשבת ושוקל את אותה החלטה בנחת: "שקד באה לעשות דמוקרטיזציה של המידע. היא מערכת אובייקטיבית שמנגישה לרופא את כל מה שהוא צריך כדי לקבל את ההחלטה". לפני שמערכת כזו נכנסת לשימוש היא עוברת מעגל חיים מסודר: קודם בודקים אותה על מקרים שכבר היו, ורק אחר כך מפעילים אותה בעבודה שוטפת. "יש דרגות בטיחות", אמר, "קצת כמו לפני שמוציאים רכב לכביש".
גם מצד התשתית זה העיקרון. תומר אופיר, מנהל תחום הבריאות ב-AWS ישראל, אמר ש-AI "לא לוקחת החלטה אלא תומכת החלטה". הדוגמה שלו היא איידוק, חברה ישראלית שפועלת בבתי חולים רבים וסורקת צילומי CT בזמן אמת: כשהיא מזהה דימום מוחי היא מקפיצה אותו בעדיפות אצל הרופא, "והוא לוקח משם את ההחלטה". יש גם שימושים שאינם קליניים, כמו ניטור, התראות וסיכום תיקים. "תחשוב על רופא שעושה משמרת ארוכה ואחרי 26 שעות צריך לשבת ולסכם תיקים", אמר.
מימין לשמאל: פרופ' טליה מירון שץ, הגר טראו, תומר אופיר, פרופ' שחר שלי בפאנל עם טל שחף בוועידת Rambam Tomorrow
(צילום: דוברות המרכז הרפואי רמב"ם)
ברמב"ם בונים מזה "מפעל AI", כדברי הגר טראו, ראש חטיבת הדיגיטל וטכנולוגיות המידע, שהגיעה מהצבא. "חומר הגלם שלנו הוא הדאטה", הסבירה, והתוצר הוא תובנה: "בשונה ממפעל תעשייתי, זה מפעל שכל הזמן משתנה, בונה ומזין את עצמו". כך חוקר שרוצה להשתמש ב-AI לא מתחיל מאפס. בפיתוח יש עבודה עם פרופ' דני איתן על עיבוד מידע בטיפול נמרץ וחיזוי פעולות קדימה, וכלי שמזהה מראש מטופלים שלא יגיעו לתור, כדי שלא יהיה יום ש"חצי מעבודת הרופא התבטלה".
מה המטופל רוצה
לפי מחקר מ-2025 שהזכירה פרופ' טליה מירון שץ, מהקריה האקדמית אונו ומנכ"לית CureMyWay, מטופלים רוצים שה-AI תתמוך ברופא ושהרופא יחליט. אבל "עם כל הכבוד למטופלים, כולל אותי", הם לא באמת חשופים לסכנות, כמו הטיות בדאטה. לכן חשובה הדרך שבה מספרים להם: אם הרופא יאמר "נתתי למכונה להחליט עליך", רוב המטופלים לא יסכימו. אבל אפשר להסביר שיש מערכת שמסנתזת נתונים יותר מכל בן אדם, ו"בזכות המערכת הזו הגעתי לתובנות א', ב', ג'". גם הרופאים, לדבריה, לא רוצים להיות קריינים של המכונה. הם רוצים להבין את הכללים שלפיהם ה-AI עובד, ולהיות מסוגלים לסתור אותה כשהם חושבים שהיא טועה.
""בסוף השיפוט נעשה על ידי בני אדם, אבל אתה צריך לספק הסבר למה אתה לא מסכים עם מה שהמערכת המליצה"
(צילום: shuttersrtock)
פרופ' שחר שלי הסביר את התלות במערכות מתקדמות: "יש כיום 88 תרופות לסוכרת, ואני לא חושב שיש מישהו שיכול להחליט איזו הכי מתאימה למטופל הזה ספציפית. זה לא אנושי". והמהפכה, לדבריו, כבר כאן: "זה לא שאנחנו יכולים להחליט אם נכניס או לא נכניס, כי זה כבר קורה". והנורות האדומות קיימות גם במגע עם AI בחיים עצמם. הוא סיפר על בנו ששואל את צ'אט GPT על הכול, גם אם לעזוב את חוג הג'ודו. "זה הפתיע אותי לשלילה. אני לא אפתח את השיח הזה פה, אבל זה משהו שאנחנו צריכים להיות ערים אליו, ואיך המוח שלנו ישתנה בעקבות זה".
מי יחליט בעוד חמש שנים?
ומה יקרה כשהמערכת תהיה טובה מהרופא ותמליץ על טיפול אחד בזמן שהוא מתעקש על אחר? כבר היום, אמר פרופ' שלי, רדיולוג שלא מסכים עם סריקה אוטומטית של צילום חזה צריך לנמק למה. "בסוף השיפוט נעשה על ידי בני אדם, אבל אתה צריך לספק הסבר למה אתה לא מסכים עם מה שהמערכת המליצה".
הגר טראו: חומר הגלם שלנו הוא הדאטה. בשונה ממפעל תעשייתי, זה מפעל שכל הזמן משתנה, בונה ומזין את עצמו
אופיר מציין כי בצד הקליני יישארו מערכות תומכות החלטה, ובצד האדמיניסטרטיבי הדיוק כבר גבוה מאוד. טראו מביעה ספק באשר לשילוב מערכות שיוכלו לקבל החלטות בעצמן: "לא בטוחה שהייתי נותנת שליטה מלאה לכלי חיצוני". בהחלטה בקצה, ובמיוחד כשיש משמעות לחיי אדם, אמרה, לא נגיע למצב אוטונומי לחלוטין. סיכום מידע ואיגוד נתונים ממקורות שונים הם עניין אחר: ברגע שיהיו מגבלות בטיחות, "נפסיק לבדוק את המערכת".
מירון שץ סיכמה: "אנחנו לא רוצים שהאגו יגבר, ומצד שני אנחנו לא רוצים להיכנע למכונה. צריך להיות הליך מסודר". רופא שחושב שהמכונה פספסה משהו ינמק, ואז תתקבל החלטה. את המטופלים צריך לעודד לשפוט את התהליך ולא את התוצאה: "הביצוע זה מידי שמיים, אבל אם אתה יכול לראות איך התקבלה החלטה ואתה נקי עם זה, אז אתה במצב טוב".
