בולטימור: נער בן 16 נעצר באיומי אקדח, לאחר ש-AI זיהה דוריטוס כנשק

מקרה חריג אירע השבוע בבית ספר תיכון במרילנד שבארה"ב: נער בן 16 נעצר באיומי אקדח על ידי שוטרים שהגיעו בניידות חורקות לבית ספרו - לאחר שמערכת בינה מלאכותית לזיהוי נשק, התריעה על איום. 

הטעות הקריטית נבעה כאשר מערכת הבינה זיהתה תמונה שבה הופיעה שקית דוריטוס כנשק, אולם לאחר המעצר, כשהשוטרים בדקו את הנער הם נוכחו לדעת כי 'נשקו' היה שקית דוריטוס שקיפל והכניס לכיסו. הנער, טאקי אלן שמו, סיים אימון ערב בבית הספר, וישב עם חבריו לאחר שסיים את החטיף. לדבריו, הוא בכלל לא צפה את המהומה הגדולה שעומדת להתרחש, כשסיים עם שקית הדוריטוס, קיפל אותה והכניס אותה לכיסו. "דקות אחר כך כבר היו כאן שמונה ניידות משטרה, והשוטרים השכיבו אותי על הקרקע עם נשקים שלופים. זה היה מפחיד", שחזר. 

אז הסתבר כי מערכת הבינה המלאכותית של חברת Omnilert ניתחה את תמונות מצלמות האבטחה, וזיהתה בטעות את השקית כאובייקט דמוי נשק. לאחר חיפוש מקיף לא נמצא כל נשק והנער שוחרר אך האירוע הותיר אחריו סערה ציבורית גדולה. המשפחה סיפרה כי הוא חווה פחד עמוק והשפלה וכי איש מבית הספר לא התנצל בפניו לאחר התקרית. 

לדברי ההורים, הילד שלהם “אכל חטיפים ופתאום מצא את עצמו מול שמונה קצינים חמושים רק בגלל שהמערכת טעתה”.

מומחים בתחום הטכנולוגיה והחינוך מזהירים כי האירוע מדגים את הסיכון שבשימוש במערכות בינה מלאכותית במוסדות חינוך, ללא פיקוח הדוק. טעויות זיהוי עשויות להוביל למעצרי שווא ולהשפעה פסיכולוגית קשה, במיוחד על תלמידים צעירים. במערכת החינוך המקומית הבטיחו לבחון את התקרית ולהציע תמיכה רגשית לתלמידים שנכחו באירוע.