מחקר ישראלי: "סוכני AI יכולים לבצע מתקפות בפחות מדולר"

מחקר חדש של חברות הסייבר הישראליות Wiz ו-Irregular מציג תמונה מדאיגה על מקומם של סוכני בינה מלאכותית בעולם מתקפות הסייבר. לפי הממצאים, כאשר אדם מגדיר לסוכן יעד ברור וממוקד, הוא מסוגל לבצע מתקפות מורכבות במהירות ובעלות נמוכה במיוחד. לעומת זאת, כאשר הסוכן נדרש לפעול באופן עצמאי לחלוטין, היעילות שלו יורדת והעלות מזנקת.

במסגרת המחקר נבנו עשרה תרחישים המדמים פגיעויות אמיתיות, בהן חשיפת מאגרי מידע, כשלים בהגדרות ענן ותקלות באימות זהות. כל תרחיש נבדק מראש ונפתר על ידי חוקר אנושי. לאחר מכן הופעלו סוכני בינה מלאכותית שנדרשו לאתר את הפגיעות.

ומה לגבי התוצאות? כאשר הסוכן קיבל יעד מוגדר מאדם, הוא הצליח לפרוץ 9 מתוך 10 אתגרים, כולל מתקפות מורכבות. העלות לכל ניסיון הייתה לעיתים דולרים בודדים בלבד, ובמקרים מסוימים אף פחות מדולר, לעומת עשרות אלפי דולרים במתקפה אנושית מקבילה. המשמעות הכלכלית ברורה: העלות הנמוכה מאפשרת לתוקף להריץ ניסיונות רבים עד להשגת הצלחה.

התמונה השתנתה כאשר הסוכנים נדרשו לפעול ללא יעד מוגדר מראש. במצב זה נרשמה ירידה חדה בשיעורי ההצלחה, ולא כל האתגרים נפרצו. בנוסף, העלות לכל הצלחה עלתה פי 2 עד 2.5 יותר. החוקרים מציינים כי הסוכנים נטו להתפזר בין כיווני פעולה שונים או להיתקע בשיטה אחת, בניגוד לחוקר אנושי שיודע לזהות מבוי סתום ולשנות כיוון.