דעה: בוטים מתפתחים לרופאי הטיפול הראשוני של האנשים – מרשים, אך מסוכן

אנחנו מקפיצות מהדוקטור גוגל לדוקטור צ'אטבוט במהירות רבה. באוגוסט, דווחה ארגון OpenAI על מעל 200 מיליון משתמשים פעילים שבועיים, ואף שהשאילתות הפופולריות ביותר של המשתמשים הן על כתיבה וקידוד, ישנם אלה שמשתמשים בהם לעניינים אישיים יותר, מייעוץ בנושא היכרויות ועד לשגרת טיפוח העור ואבחון מחלות.

מחקר שנערך לאחרונה חשף שצ'אטבוטים מבית AI הצליחו להתמודד טוב יותר מרופאים בדיוק האבחון. אך, האם אנחנו יכולות באמת לסמוך על AI כרופאים שלנו?

כמו שהטווח של הנושאים שאנשים מחפשים מידע לגביהם התרחב, כך גם התרחבו הדאגות לגבי הסיכונים והמסופרים שמצוים בסמיכה על תוכנות AI בתחום הרפואה, ובהם גם סיכונים שקשורים לחיים ולמוות.

ד"ר צ'אטבוט התפשט ברשת בזכות "הניסים" שלו

לפני כמה ימים, נעשה ויראלי הפוסט של אישה ברדיט אשר שיתפה כיצד התוכנה ChatGPT עזרה לה לשפר את מראה עורה יותר מאשר רופא עור, והיא הציגה תמונות מול ואחרי מרשימות.

אישה קוקזית בת 37 השתמשה ב-ChatGPT כדי ליצור רוטין טיפוח עור מותאם אישית לטיפול בקומדונים סגורים שלה, וזה באמת עזר לה! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 בנובמבר, 2024

"אני אז נתתי ל-ChatGPT התחלה לפעול כדרמטולוגית מקצועית ולעזור לי ליצור רוטין טיפוח עור שיעזור להיפטר מהקומדונים הסגורים שלי, מהאקנה, למזער נקבוביות ולמתח את העור, ולהפחית שקעים קלים. נתתי לו גם תמונות של העור שלי באותו זמן," כתבה היא ואז הסבירה שהיא אמרה לצ'אטבוט לשקול את כל המוצרים שכבר יש לה ולהציע חדשים במסגרת רוטין טיפוח העור.

לאחר שניים חודשים, הרדיטורית התפעלה מהשיפורים בעור שלה.

זו לא תופעה בודדת. הרבה משתמשים חשפו איך בוטים יכלו להבין ולהסביר תוצאות רנטגן ובדיקות דם טוב יותר מהרופאים שלהם. אפילו רופאים התפעלו מהתמונות והניתוחים של מידע שנערכו על ידי מלאכות הבינה.

למה אנשים משתמשים בבוטים כרופאים?

הAI יכול להפוך למקצוען שאתה זקוק לו – רופא משפחה, פסיכולוג, דרמטולוג, תזונאי, רדיולוג – כאשר אתם זקוקים לו, ויש הרבה סיבות למה אנשים מעדיפים AI על פני בני אדם.

מומחים עשויים להיות יקרים

אשה עם בעיות עור הציגה שבילתה כ-400 דולר ברכישת המוצרים שהצ'אטבוט הציע.

"זה היה משקע בלתי פשוט, אך כשאני חושבת על מה הייתה עולה ייעוץ עם דרמטולוג, זה אפילו לא נראה כך רע", כתבה.

לפי BetterCare, בשנת 2024 מטופל שאין לו ביטוח בריאות בארצות הברית חייב לשלם סביבות 150 דולר עבור ביקור אצל דרמטולוג ועד 1000 דולר עבור טיפול. והעלות הממוצעת של ייעוץ פסיכותרפיה – שימוש נוסף פופולרי לכלים מבית AI – מגוונת בין 100 ל-200 דולר לפגישה, לפי Forbes Health.

חטיבות שיחה מבית AI הן אלטרנטיבה זולה וייתכן והן הבחירה היחידה, במיוחד עבור אנשים בקבוצת ההכנסה הנמוכה.

כמובן, מעלה זה שאלה נוספת: אם משהו הולך לא נכון, האם זה באמת מדד חיסכון בעלויות?

מהיר יותר ונוח יותר

לאחרונה קיבלתי פריחה על היד שלי. למרות שראיתי את הפוסט של אותה אישה על הניסוי שהיא ערכה על עורה, העדפתי להתייעץ עם דרמטולוג בספרד. התור המוקדם ביותר זמין היה בעוד שלושה חודשים, אפילו עם ביטוח בריאות פרטי. אני מרגישה מאוד מרתיחה שנראה שמדובר רק ביובש בעור, שזה לא מפריע לי, ושכנראה זה יעלם עד שהרופא יוכל לראות אותי.

הזמנים לטיפולים רפואיים תלויים בעיר ובתוכנית הביטוח של המטופל. עם זאת, ראיות עם מומחים ואפילו רופאים ראשיים הפכו למבחן לסבלנות בחלקים רבים מהעולם.

צ'אט-בוטים לא רק ממש במרחק יד מאיתנו, אלא יכולים לנתח את השאלות שלנו ולענות תוך שניות.

פחות מביך

יש לי חברה שהיא רופאה אליה אני יכולה לפנות כאשר יש לי ייעוץ רפואי, אך העובדה שהיא גם חברה שלי לפעמים גורמת לזה להיות מביך. לפני שאני שולחת לה הודעה, אני תמיד שואלת את עצמי: האם ביקרתי אותה לאחרונה? היא אדם מדהים ומקצוענית מצוינת, ואני בטוחה שהיא לעולם לא תפסיק לענות על מה שמדאיג אותי מבחינה רפואית. אבל, מאדם לאדם, אני לא מצליחה להתעלם מהרגשות שלה.

אחת מהיתרונות של האינטיליגנציה המלאכותית הוא מצבה המלאכותי עצמו. לה אין רגשות או יום רע, היא לא תדין אותך או תגיד לך "הפסק להיות כל כך חולה דימיוני" (לא שחברתי אי פעם אמרה את זה לי) מכיוון שהן מאומנות להיות מנומסות ולענות על כל שאלותינו עם כל המידע שאנו רוצים. זה חלק ממה שהופך את הטכנולוגיה לממכרת, וכנראה מדוע רבים מעדיפים לשאול שאלות מביכות ב"פרטיות" של הסמארטפונים שלהם.

הסיכונים והמסוכנים של התלות בצ'אטבוטים

הכל נשמע מגניב ומהנה עד שאנחנו מקדישים זמן לחשוב על הסיכונים והאתגרים שהאינטיליגנציה המלאכותית והאנושות נמצאים בפניהם.

הזרז מוטעה, כתיבה שגויה

במחקר שבו פגשה הAI את הרופאים, הושגה מסקנה חשובה: הקבוצה של הרופאים שניתנה להם האפשרות להשתמש בAI כשותף לאבחונים לא הצליחה באופן משמעותי יותר מאלה שלא קיבלו את האפשרות להשתמש בה. למה? חלק מהבעיה היתה שהם לא ידעו איך לכתוב את הבקשות הנכונות כדי למשוך את המרב מהAI.

"הם טיפלו בה כאילו היא מנוע חיפוש לשאלות ממוקדות: 'האם הצירוז הוא גורם סיכון לסרטן? מהם האבחונים האפשריים לכאבי עיניים?'", אמר ד"ר ג'ונתן ח'. צ'ן, אחד ממחברי המחקר, לניו יורק טיימס.

זו אחת הבעיות אשר משתמשים רבים וגם טכנולוגיות הAI נתקלים בה. בוטים לשיחה מצוינים באבחנה, אך הרבה תסמינים צריכים להיות מנותחים באופן אישי ומותאם אישית. מה אם מישהו אינו מספק את ההקשר הנכון לבוט השיחה? או שוכח לכלול פרטים חשובים או מצבים שרופא אמיתי מול המטופל לא היה מחמיא?

חוסר דיוק והזיות

בוטים לשיחה הם מקצוענים שיודעים את כל התשובות, ולפעמים אומרים דברים שגויים בהרבה ביטחון. ואנחנו "נושאים את הקנה". ומשתמשים שמתמקדים בטכנולוגיה זו באופן יומיומי, מאמינים בה יותר ויותר.

קשה לשכוח את הזמן ההוא – במאי – כשGoogle Gemini הציע למשתמשים להוסיף "כ-⅛ כוס דבק לא רעיל לרוטב, כדי לתת לו יותר דביקות" לפיצה.

זה היה משעשע מאוד כי יכולנו לזהות מיד את ההזיה – השם המפואר שניתן למקרה שבו הAI מספק תשובות מוזרות. אבל מה אם מדובר בנושא מורכב יותר, מה אם האדם שקורא את תשובת הAI מרגיש חרדה, בדידות, ודאגה לגבי בריאותו?

אף על פי שהאינטיליגנציה המלאכותית משתפרת מחודש לחודש, האפשרות לשגיאה עדיין קיימת.

אז מי אשם אם משהו השתבש?

הוויכוח האתי הוא נושא שנמצא כרגע בחם הדיון. אם הצ'אטבוט מספק אבחנה שגויה או עצה נוראית, אז מי האשם? המפתחים, המודל, חברת האיי, המקורות שאימנו את המודל?

מקרה טראגי העלה חששות לפני כמה שבועות לאחר שאם אמריקאית האשימה את המלאכות האינטיליגנטיות במותו של בנה בן ה-14 והגישה תביעה נגד הסטארט-אפ Character.ai – פלטפורמה ליצירת דמויות AI. הבנארשע מדיכאון ונתפס בתחום הטכנולוגיה. האווטר שלו, Daenerys Targaryen, דנה איתו בתוכנית להרוג את עצמו ואף עודד אותו לעשות זאת.

בעוד שה-AI נחשב על ידי הפורום הכלכלי העולמי להיות כלי רב עוצמה להקל על משברי בריאות הנפש ברחבי העולם ולהפחית את האחוז המתרחב של מקרי חרדה ודיכאון, זה יכול גם להיות מסוכן, במיוחד עבור ילדים.

עשה זאת "בסיכון אישי"

אף שעדיין נדרשים שיפורים, אני אוהבת לחשוב שלמלאכותית יש פוטנציאל עצום להפחית את זמני ההמתנה בתחום הבריאות – גם לפגישות עם מומחים וגם לטיפול בחדרי המיון – להאיץ את התקדמות המדע, ולתמוך ברופאים, במיוחד אלה שמתמודדים עם עומסי עבודה כבירים ושכר נמוך, כפי שלעיתים קרובות המצב במדינות לטיניות, בעזרה למטופלים עם שאלות בסיסיות מהבית.

היא יכולה גם לסייע בגשר בין הפערים בגישה לשירותי בריאות בין שכבות החברה השונות, ולהפוך את הרפואה לדמוקרטית כמו שלא היה עד היום. כל אלו כעת במרחק נגיעה, רק שאלה קטנה בשביל כל מי שיש לו גישה לטלפון חכם.

אך, חייבים להבין שאנו עדיין בשלבים הראשונים וחייבים להגן על אוכלוסיית הפגיעים ביותר. כל אחד שמחליט להשתמש בד"ר צ'אטבוט כדי לשפר את בריאותו עושה זאת עם הבנה של קטנות הפרטים בתנאים וההסכמים, בהגינוי הביקורתי, ועם התודעה ש-בשלב זה- הם מAssuming את האחריות על הסיכונים המעורבים.