צ'אטבוטים של בינה מלאכותית, בהם ChatGPT, הפכו ככלי עזר נפוץ עבור אנשים רבים המחפשים מענה מהיר לבעיות בריאותיות. עם זאת, מספר מחקרים שהתפרסמו בשנת 2025 מדגימים בבירור את הסכנות הקיימות בהסתמכות על הפתרונות שמציעים הכלים הדיגיטליים הללו.
במחקר שנערך על ידי ניקולס טילר מהמכון הרפואי לונדקוויסט, נבחנו חמישה מודלים שונים של בינה מלאכותית שהתמודדו עם 250 שאלות רפואיות. הממצאים הראו כי שיעור ההצלחה עמד על 50% בלבד, כאשר כ-20% מהשגיאות נמצאו כבעלות פוטנציאל לפגוע פיזית במשתמשים. טילר הדגיש כי ברבים מהמקרים, עצות שגויות עשויות להוביל לנזק ממשי.
במחקר נוסף שבוצע במרכז הרפואי Mass General Brigham, דימו החוקרים תהליך אבחנה מבדלת – כלומר, זיהוי מדויק של מחלות על בסיס ניתוח סימפטומים והצטברות מידע – וגילו כי ב-80% מהמקרים, המודלים בחרו באבחנה אחת מבלי לדרוש פרטים נוספים או לבחון אפשרויות נוספות. התנהלות זו שונה מהותית מזו של רופא אנושי, אשר נוהג לבחון מספר אפשרויות טרם קבלת החלטה.
החוקרים אף הציגו ניסוי בו הופצה מחלה בדיונית בשם "ביקסונימניה" ברחבי הרשת. בתוך מספר שבועות בלבד, הצליחו לשכנע את הצ'אטבוטים להתייחס למחלה כעובדה קיימת ואף לאבחן מטופלים כסובלים ממנה. בכך, הובהר כי אלגוריתמים אלה פועלים על בסיס זיהוי תבניות טקסט, ללא יכולת לשקול מידע רפואי אמין או לעשות שימוש בביקורתיות מקצועית.
סקר אוכלוסייה שנערך בארצות הברית העלה כי ארבעה-עשר אחוזים מהמשתמשים – המהווים כ-14 מיליון איש – הודו כי נמנעו מביקור אצל רופא בעקבות תשובה שקיבלו מהבינה המלאכותית. המשמעות היא כי חשש מהמתנה לתור, לצד אמון באלגוריתם, גורמים לכך שחלק מהציבור עלול לדחות אבחון נחוץ ואף ליטול תרופות לא מתאימות לפי המלצת צ'אטבוט.
בשל הסיכונים הללו, חברות טכנולוגיה גדולות, כולל OpenAI וגוגל, שותפות כיום לתהליכי שיפור המודלים, תוך הסתייעות במאות רופאים כדי ללמד את הצ'אטבוטים להכיר במגבלותיהם ולבקש מידע נוסף במידת הצורך. בינתיים, המלצת המומחים היא להשתמש בבינה המלאכותית ככלי עזר מוגבל: ניתן להיעזר בו להבנת מונחים רפואיים או לסיכום נתוני בדיקות, אך לא לקבל באמצעותו אבחנה או טיפול רפואי.
לדברי טילר, "הצ'אטבוטים לא נבנו ככלי רפואי והם ממוקדים ביצירת תגובות רהוטות, מבלי לבדוק את המידע או להפעיל אחריות מקצועית."
