"צ'אט GPT, ג'מיני, כל כלי ה-AI האלה - היתרון הגדול שלהם הוא שהם תמיד זמינים ותמיד יכולים לענות", פתחה ד"ר רוזמן. "אבל הבעיה היא שהרבה פעמים אנחנו לא מנסחים נכון את השאלה, או לא מדייקים בהכנסת הנתונים, ומקבלים תשובות הזויות לגמרי שאינן קשורות למציאות".
ד"ר רוזמן שיתפה בניסוי אישי שערכה: "שאלתי אותו: 'אכלתי ארוחת בוקר ככה וככה, בצהריים ככה ובערב ככה – כמה קלוריות אכלתי?'. הוא נתן לי תשובה מסוימת. לאחר מכן עשיתי את זה בצורה הרבה יותר מפורטת, נכנסתי לעומק ופירטתי כל כפית שמן - ופתאום התקבלה תוצאה שהיא פי שניים! הבעיה היא לא של התוכנה, אלא שאנשים לא שוקלים, לא יודעים לתאר ולא מדייקים בכיוון השאלה".
הטעות הזו, לדבריה, עלולה להיות מסוכנת: "זה יכול מאוד להטעות בחישוב החלבון, לגרום לחוסר בוויטמינים, או לגרום לנו לחשוב שאנחנו אוכלים מעט קלוריות כשבפועל אנחנו אוכלים המון - וההפך. אפשר ליהנות מהיתרונות של הטכנולוגיה, אולי לקבל קצת תמיכה נפשית, אבל על מספרים - לא הייתי סומכת".