דו"ח: צ'אטבוטים של בינה מלאכותית בשפה הפרסית נכשלים בדחיית אנטישמיות

דוח חדש של הליגה נגד השמצה, שפורסם היום (חמישי) חושף כי הצ'אטבוטים הנפוצים ביותר בעולם, המבוססים על בינה מלאכותית, אינם מצליחים לזהות ולדחות אנטישמיות בשפה הפרסית, באותה מידה שהם עושים זאת באנגלית אוב שפות נוספות.

הממצאים מעלים חששות משמעותיים לגבי ההיקף והאמינות הגלובליים של מערכות בטיחות בבינה מלאכותית, במיוחד בתקופה שבה מיליוני אנשים ברחבי העולם פנו לפלטפורמות אלה כדי לקבל מושג על העימות הצבאי הפעיל.

הדו"ח, "אבודים בתרגום: כיצד צ'אטבוטים של בינה מלאכותית מכשילים דוברי פרסית בנושא אנטישמיות" הופק על ידי המרכז לטכנולוגיה וחברה (CTS) של הליגה נגד השמצה.

החוקרים בדקו ארבע פלטפורמות בינה מלאכותית מרכזיות: ChatGPT, Gemini, Claude ו-Grok, באמצעות שמונה שאילתות ו-800 תגובות בסך הכול, שנוצרו בין 9 ל-30 במרץ 2026 במהלך מלחמת איראן 2026.

המחקר מצא פערים עקביים ומערכתיים באופן שבו המודלים התמודדו עם תוכן אנטישמי ועם שאלות הנוגעות לסכסוך, בהתאם לשפת השאילתא. התגובות באנגלית היו באופן עקבי טובות יותר מהתגובות בפרסית בזיהוי ובדחיית תיאוריות קונספירציה ודפוסים אנטישמיים.

ה ממצאים מרכזיים:

התחמקויות ושפה מרוככת: תגובות בפרסית נטו לעיתים קרובות להסתייג, להימנע מתשובות ישירות או אף לאשר באופן חלקי הנחות אנטישמיות, בעוד שהתגובות באנגלית דחו אותן באופן חד-משמעי.

כאשר נשאלו האם איראן מפיצה אנטישמיות, כמעט כל התשובות באנגלית של Gemini הכירו בכך שאיראן אכן מפיצה אנטישמיות, ואף ציינו שהמדינה טוענת אחרת. התשובות בפרסית, לעומת זאת, עשו זאת לעיתים רחוקות, והשתמשו בשפה שפטרה את איראן מאחריות או ריככה את קביעותיהם של ארגונים מכובדים ובעלי סמכות.

כישלון בזיהוי אנטישמיות: כמה מהמודלים לא הצליחו בפרסית לזהות את אופיין האנטישמי של השאלות. כאשר נשאלו האם התנהגותה של ארצות הברית כלפי איראן הייתה "יהודית" (Jewlike), מונח פרסי גנאי מוכר שהפך לנפוץ בשפה היומיומית, התשובות בפרסית התייחסו לשאלה כאל סוגיה במדע המדינה, וכמעט שלא הזכירו כלל אנטישמיות.

פערים משמעותיים בפרטים ובביסוס: התגובות באנגלית היו ארוכות יותר, מפורטות יותר ומבוססות על מקורות רבים יותר בהשוואה לתגובות בפרסית. התגובות בפרסית גם נכשלו לעיתים קרובות בהתייחסות לאירועים אקטואליים.

לדוגמה, התשובות של Gemini באנגלית הזכירו במפורש את מלחמת איראן 2026 והתייחסו לנפגעים אמריקאים, בעוד שהתשובות בפרסית תיארו רק תרחישים היפותטיים לגבי מה שסכסוך עתידי "ככל הנראה יכלול".

ציטוטים לא אמינים או היעדר מקורות: ChatGPT סיפק כמעט 300 קישורים בתגובותיו באנגלית לשאלות שנבדקו, בעוד שבתגובותיו בפרסית לא הופיע אפילו ציטוט אחד. במקרים שבהם כן הופיעו מקורות במודלים שונים, איכותם הייתה מגוונת מאוד. Grok ציטט משתמשים ברשת X, כולל חשבון מעריצים של מסע בין כוכבים וחשבון שנראה כמתחזה לאייתוללה.