סדק באמינות: הצ'אט הפופולרי משקר ונוטה לטובת רוסיה ואיראן

​הצ’אטבוט הפופולרי קלוד, שנחשב לאחד הכלים היציבים והבטוחים בעולם הבינה המלאכותית, נמצא כעת במרכזה של סערה. מחקר חדש של NewsGuard - חברה העוקבת אחר הפצת מידע שגוי ברשת - מעלה ממצאים מדאיגים בנוגע ליכולת של המודל לסנן תעמולה.

לפי הנתונים, קלוד חזר על טענות שקריות המשרתות את האינטרסים של רוסיה ב-15% מהמקרים שנבדקו, נתון המהווה זינוק משמעותי לעומת 4% בלבד בבדיקות קודמות.
​במסגרת המחקר, הזינו החוקרים לקלוד 20 טענות כוזבות שמקורן במערכי תעמולה זרים.

התוצאות הראו כי המודל לא רק כשל בזיהוי השקרים, אלא בחלק מהמקרים אף שיתף פעולה עם ניסוחים זדוניים ויצר גרסאות חדשות של אותן טענות. הבעיה העיקרית נעוצה במקורות המידע עליהם המערכת נשענת; קלוד הסתמך על כלי תקשורת המזוהים עם הקרמלין ועל אתרים המתחזים לאתרי חדשות לגיטימיים.

​דוגמה בולטת שנחשפה במחקר נגעה לטענה חסרת בסיס על אבדות כבדות של אזרחים אוקראינים המנסים להתחמק מגיוס. קלוד לא רק אימץ את המידע, אלא אף הפנה לאתרים המפיצים פייק ניוז כסימוכין. גם בזירה האיראנית נרשמו כישלונות, כאשר המודל חזר על טענות שקריות ב-20% מהמקרים.

​מומחים בתחום מעריכים כי הירידה באיכות התשובות נובעת מהעומס הרב על שרתי החברה, מה שמוביל לקיצור תהליכי הבדיקה וההצלבה של המערכת. חברת אנת'רופיק הודתה כי היא בוחנת דיווחים על ירידה ברמת הדיוק, אך טרם סיפקה פתרון.