המציג אינו רופא
האם ה־AI יכול להחליף את הגורם האנושי בתחום הרפואה? • ד"ר אדם קלין אורון, פרופ' קרין נהון ופרופ' רן בליצר על "תרופת הפלא" • פרק 04
הבינה המלאכותית הולכת ותופסת חלק רחב יותר בחיינו, ונדמה שזה רק עתיד להתגבר. האם הבינה המלאכותית יכולה להפוך גם את הזירה הבריאותית ליעילה ומדויקת יותר, או שמדובר באמון מוגזם במערכת ממוחשבת?
על מנת להבין לעומק את הקשר בין בינה מלאכותית לעולם הרפואה, ובעיקר כמה כדאי לנו לסמוך עליו, שוחח ד"ר אדם קלין אורון ממכון ון ליר בירושלים, מגיש הפודקאסאט 'יריב ראוי', עם פרופ' קרין נהון, דיקנית בית הספר לתקשורת ומייסדת בית הספר למידע ותקשורת הראשון בארץ באוניברסיטת רייכמן, שעמדה בראש ועדת המשנה לאתיקה ורגולציה של בינה מלאכותית, ופרופ' רן בליצר, ראש מערך החדשנות של שירותי בריאות כללית, חבר בגוף המייעץ למזכ"ל האו"ם בנושא בינה מלאכותית ופרופ' בבית הספר לבריאות הציבור באוניברסיטת בן גוריון בנגב. יחד, התייחסו לחשיבות הבינה המלאכותית בכלל, וליתרונותיה בזירה הרפואית בפרט.
"רובנו חושבים על בינה מלאכותית ככלי לכתיבת טקסטים, או ציור ציורים", פתח ד"ר קלין אורון. "בפועל נעשה בו כבר שימוש במחקר רפואי, בטיפול וסיוע לחולים ובזיהוי מחלות על ידי רופאים. האם שימוש זה יביא להארכת תוחלת החיים, צמצום בסבל והרחבת הנגישות לשירותי רפואה? או שהבינה המלאכותית תאמץ סטריאוטיפים כלפי אוכלוסיות שונות, תהיה נגישה רק לבעלי אמצעים, תצמצם את הפרטיות ותתעלם משיקולים אתיים?".
בפתח הפרק, הדגיש פרופ' בליצר: "כדי לדבר על שימוש AI ברפואה, צריך קודם כל להבין את המצב שאיתו אנחנו מתחילים. מערכות בריאות בעולם ובישראל נמצאות במשבר מאוד משמעותי. השלב הראשון של המשבר כרוך ביכולת שלנו לתת טיפול איכותי ובטוח לכל בן אדם שנכנס בשערנו. מחקרים בארה"ב מראים שאחד מכל ארבעה אנשים שנכנס לבית חולים יוצא עם נזק שלא קשור לסיבה שבגינה הגיע. זה קורה בגלל טעויות שאנשים עושים, כי הם בני אדם. אחד מכל עשרה יוצא עם נזק חמור. במקביל לזה, מערכות בריאות בעולם נמצאות בתהליך של שחיקה הדרגתית וחלקן מתחילות תהליך של קריסה שירותית, בגלל שהצרכים עולים כל הזמן, האוכלוסייה מזדקנת, ואין מספיק עובדי בריאות כדי לתת מענה כמו פעם באותה רמת שירות. אז נוצר הכרח לעשות דברים אחרת. הפתרון הוא להשתמש בכל הטוב שיודעת הטכנולוגיה המודרנית לתת לנו".
"אחד היתרונות של כלים של בינה מלאכותית הוא שהם לא מתעייפים, הם לא ישנו בלילה בתורנות ועדיין הם מסוגלים לעשות את העבודה שלהם ללא טעויות", הוסיף. "הם מסוגלים לקלוט את כל המידע הרלוונטי וכל זאת מאפשר לנו על פי נתונים שמצטברים, לתת באמצעות AI שירות מדויק יותר ונכון יותר. עם כל זאת צריך לזכור ש־AI, כמו כל אמצעי טכנולוגי, הוא מוגבל. יש לו אתגרים גדולים, הוא לפעמים לא מדייק ולפעמים מייצר הטעיות. את כל הדברים האלה אפשר לגדר. גם במערכות קודמות היו בעיות, היו בהם אתגרים בפרטיות, ידענו להתמודד איתם ובהחלטה נכונה, אפשר לגדר את האתגרים ולמצות את הטוב כדי לתת לכל אדם בישראל שירות רפואי נכון, מדויק וטוב יותר. ישראל נמצאת נקודת פריצה כדי להיות מובילה בתחום הזה".
"ה־AI מביא המון אתגרים שעדיין לא פיצחנו לגמרי"
בתגובה, הציגה פרופ' נהון את הצד השני של המתרס. "השנתיים האחרונות והפריצה של כל כלי ה־AI, בכל תחום, זה משהו שהולך לשנות את כל פני החברה ואת כל פני התעשיות השונות ולא רק רפואה. רפואה היא אחת התעשיות ששם ה־AI הוא חשוב, נכון ונחוץ, גם כעזר וגם בליבה של הטיפול. עם זאת, צריך להגיד שה־AI מביא גם המון אתגרים שעדיין לא פיצחנו לגמרי, שדורשים יד הרבה יותר זהירה בכל מה שקשור להסדרה. אני חושבת שהרבה לוקחים את התוצר של AI כאילו הוא אמת מובנית מדעית ולא מבינים שמאחוריו יש סט שלם של הטיות שיכולות להיות מטעות ויכולות להוביל למקום מסוכן. בכל זאת, אני חושבת שחשוב להשתמש ב־AI, חשוב להחדיר את זה. לצד זאת חשוב להבין ש־AI הוא לא 'תרופת הפלא' שתייצר לנו את הפיתרון. בסוף המערכות צריכות את העין האנושית, המערכות בסוף הן גם אנשים, איך הם משתמשים ב־AI. שימוש לא נכון ב־AI הוא גם בעייתי. יש פה מגוון של משתנים שאנחנו חייבים לקחת בחשבון".
עריכה: עומר אוקון ומיכל קדוש
