גבר בן 60 בארה"ב אושפז למשך שלושה שבועות לאחר שביקש מהבינה המלאכותית של צ’אט GPT עצה כיצד להוציא נתרן כלורי (מלח שולחן) מהתפריט היומי שלו – וקיבל תשובה שהובילה אותו להרעלת ברום נדירה ומסוכנת.
לכתבות נוספות בנושא:
מה באמת קובע את המשקל? ההורמונים שמנהלים את חילוף החומרים שלנו מבפנים
למה ספורטאים עם משקל עודף נמצאים בסיכון מוגבר לחסר ברזל?
תוסף פשוט, השפעה משמעותית: ויטמין D נגד שומנים גבוהים בדם
הפרשה, שפורסמה השבוע בכתב העת American College of Physicians Journals, מצטרפת לשורת מקרים שמעלים חשש מהשפעתן של פלטפורמות AI על בריאות הציבור. עד כה התמקד הדיון בעיקר בהיבטים נפשיים – אך המקרה הזה ממחיש שגם בתחום הפיזי, ייעוץ שגוי עלול להסתיים בנזק חמור.
מה זה בכלל הרעלת ברום?
הרעלת ברום (Bromide toxicity) היא מצב רפואי שהיה נפוץ יותר עד שנות ה-90, כאשר מלחים המכילים ברום שימשו בתרופות ללא מרשם לטיפול בהפרעות שינה, בחרדה ובהיסטריה. צריכה מוגזמת של ברום עלולה לגרום לשורה של תסמינים – בהם פגיעה נוירולוגית, שינויים במצב הרוח, הזיות ובעיות עור.
מלח. עדיף שלא להחליף | צילום: Bruno from Pixabay
במקרה הנוכחי, הגבר – ללא עבר רפואי או פסיכיאטרי משמעותי – הגיע לבית החולים כשהוא סובל מצמא קיצוני, חשדנות כלפי המים שהוצעו לו, הזיות שמיעה וראייה, ואובדן שיפוט מציאות. במהלך האשפוז הופיעו אצלו גם פצעי עור אופייניים להרעלת ברום.
ההמלצה שהובילה למשבר
לדברי הרופאים, מקור הבעיה היה “ניסוי אישי” שערך הגבר – בהשראת לימודי תזונה שעשה בעבר – שבו ביקש להוציא לחלוטין את המלח מהתפריט שלו. לאחר שהתייעץ עם ChatGPT, הוא רכש באינטרנט נתרן ברומי (Sodium Bromide) והשתמש בו במקום מלח שולחן במשך כשלושה חודשים.
החומר הזה משמש בדרך כלל למטרות תעשייתיות או לניקוי, ולא לצריכת אדם. ההחלפה הזו גרמה להצטברות רמות ברום גבוהות בגופו – עד שנזקק לטיפול מיידי בנוזלים ואלקטרוליטים ולאשפוז ממושך
אזהרת החוקרים: לא להסתמך על AI לייעוץ רפואי
מחברי הדוח מדגישים כי מערכות בינה מלאכותית עלולות להפיק תשובות שגויות, להחסיר מידע קריטי, ולהציג הצעות מסוכנות מבלי להבין את ההקשר הרפואי האישי של השואל.
רופא. אילוסטרציה | צילום: Julio César Velásquez Mejía, Pixabay
גם חברת OpenAI, מפתחת ChatGPT, מציינת במפורש בתנאי השימוש שלה כי המידע עשוי להיות לא מדויק, וכי השירות אינו מיועד לאבחון או טיפול במצבים רפואיים.
המקרה הזה מהווה תזכורת בולטת לכך שתחום הבריאות, ובמיוחד ייעוץ תזונתי או רפואי, מחייב הסתמכות על אנשי מקצוע מוסמכים בלבד. ניסויים עצמאיים בהשראת מקורות אינטרנטיים, גם אם הם נראים מתוחכמים ואמינים, עלולים להסתיים בנזק חמור ואף מסכן חיים.
