המחלה שלא קיימת: הצליחה להטעות חוקרים, וגם הבינה המלאכותית נפלה בפח

בעידן הטכנולוגי הנוכחי, התרגלנו לפנות לבינה מלאכותית כמעט לכל שאלה שיש לנו, כולל בסוגיות רפואיות. אולם ניסוי שהוביל צוות חוקרים מאוניברסיטת גטבורג בשוודיה מדגים עד כמה עלול להיות מסוכן להסתמך על הבינה המלאכותית כסמכות עליונה. 

בשנת 2024, החליטה החוקרת הרפואית אלמירה אוסמנוביץ' תונסטרום לבחון את מהימנות המערכות הרפואיות והבינה המלאכותית, על ידי המצאת מחלה פיקטיבית בשם "ביקסונימניה".

מדובר במחלת עיניים שמעולם לא הייתה קיימת, אך הצליחה להערים לא רק על מערכות ה-AI אלא גם על חוקרים בשר ודם. "המטרה הייתה לבדוק האם מודלים של בינה מלאכותית, כמו צ'אטבוטים פופולריים, מסוגלים לזהות מידע שקרי, או שהם פשוט מאמצים אותו כאמת", מסבירה החוקרת. 

לדבריה, הם פרסמו שני מחקרים מזויפים בשרת הבינלאומי Pre-print - מסגרת פרסום למחקרים בטרם עברו ביקורת עמיתים. "מה שקרה הוא, שתוך שבועיים בלבד ביקסונימניה החלה להופיע בתשובות של מערכות הבינה המלאכותית", אומרת תונסטרום. "מיקרוסופט קופילוט הצהירה כי מדובר ב'מצב מעניין ונדיר', ג'מיני הסבירה כי זו 'מחלה הנגרמת מחשיפה לאור כחול', ואפילו מערכות מתקדמות אחרות החלו לאבחן משתמשים על בסיס תסמינים כלליים כמו עייפות בעיניים או גירוי".

במילים אחרות, מרגע שהמידע פורסם בפלטפורמה 'מדעית' לכאורה, המחלה קיבלה גושפנקה והפכה לאמיתית בתודעה הדיגיטלית. מכאן הסיפור הופך למטריד אף יותר. "עמיתים מתוך עולם הרפואה החלו לצטט מושגים מהמחקר הפיקטיבי, זאת למרות שהשתלנו בו רמזים ברורים לכך שמדובר בזיוף. שם המחבר היה פיקטיבי לחלוטין, האוניברסיטה שצוינה לא קיימת, העיר שבה בוצע המחקר לא קיימת, ואפילו שילבנו אזכורים ל'אקדמיית סטארפליט' מהסדרה 'מסע בין כוכבים', מציינים בחינוך עמיתיה של תונסטרום. "באחד המחקרים אף כתבנו במפורש שהמאמר כולו מומצא. למרות זאת, החוקרים שנחשפו אליו התייחסו אליו ברצינות".

הניסוי הזה מדגיש, לדבריהם, בעיה חברתית עמוקה שהולכת ומתהווה לנגד עינינו: הנטייה לסמוך ב'עיניים עצומות' על מקורות מידע דיגיטליים, מבלי לאמת ולהצליב נתונים. "כאשר מידע כזה חודר למקורות שנראים אמינים, הוא עלול להתפשט במהירות ולהפוך לעובדה. מדובר בתמרור אזהרה אמיתי. אם מערכות מדעיות אינן מצליחות לסנן מידע מזויף והבינה המלאכותית ממשיכה להפיץ אותו, אנו עלולים למצוא את עצמנו בעולם שבו קשה יותר ויותר להבחין בין אמת לבדיה", הם מסכמים. 

אז האם אנחנו צריכים להפסיק להשתמש בבינה מלאכותית? התשובה היא לא, אך עלינו לאמץ גישה ביקורתית, להקפיד על הצלבת מקורות מידע ולזכור שגם הטכנולוגיה, מתקדמת ככל שתהיה, אינה חסינה מפני טעויות.