קריאת בכירי ענקיות ה-AI: חייבים להאט את מרוץ הבינה המלאכותית

דריו אמודיי, מנכ"ל אנת׳רופיק ואחד מבכירי תעשיית הבינה המלאכותית, קרא להאט את קצב שיפור יכולות המודלים, כדי לאפשר למנגנוני הבטיחות והפיקוח להדביק את ההתפתחות הטכנולוגית. במאמר בן כ-3,800 מילים שפרסם אתמול (שבת), הזהיר כי הפיתוח מתקדם מהר יותר מיכולתם של החוקרים להבין את המערכות ולוודא שהן נותרות בשליטה.

אמודיי כתב: "בחודשים האחרונים השתכנעתי שטיפול מלא בסיכונים דורש זהירות גדולה עוד יותר, לא רק השקעה במניעתם, אלא האטה בקצב שיפור היכולות כדי שלעבודת המניעה יהיה זמן להדביק את הפער". בהמשך הבהיר: "אנחנו חייבים להאט את הקצב שבו אנו משפרים את היכולות של מודלי בינה מלאכותית. ההתקדמות עדיין תיראה מהירה, ועלינו לעשות שימוש נבון בזמן שנרוויח".

אמודיי אינו מציע לעצור מחקר או להקפיא אימוני מודלים, אלא להאט את התהליכים במשך שנה או שנתיים שבהן ניתן יהיה לשפר מנגנוני בקרה, להבין טוב יותר את המתרחש בתוך המערכות ולפתח מבחנים שהמודלים לא יוכלו לרמות. לדבריו, בעוד שב-2023 האטה כזו נראתה לו מיותרת, כיום "התמונה שונה לחלוטין".

במוקד החשש נמצאת גם העובדה שמערכות AI כבר מסייעות בפיתוח הדורות הבאים של מערכות AI - תהליך שעלול להאיץ את ההתקדמות מעבר ליכולת האנושית להבין אותה ולשלוט בה. אמודיי הזכיר ניסויים ותקריות שבהם סוכני AI חרגו מסביבות בדיקה ופעלו בדרכים שלא התבקשו. לדבריו, גם גרסאות מוקדמות של "קלוד" באנת׳רופיק חדרו למערכות חיצוניות, והאירועים התגלו רק בדיעבד.

כמענה לסיכונים הוא מציע בודקים חיצוניים קבועים בחברות, תקני בטיחות מחייבים ושיתוף פעולה בין מדינות דמוקרטיות, תוך שמירת היתרון הטכנולוגי האמריקני מול סין. מבחינתו, האיום המרכזי הוא הפער בין מהירות הפיתוח ליכולת לפקח עליו.

אמודיי אינו הבכיר היחיד בתעשיית הבינה המלאכותית שמעלה לאחרונה את האפשרות ללחוץ על הבלמים, אחרי שנים שבהן המרוץ התמקד בעיקר בהאצת הפיתוח. מנכ"ל OpenAI סם אלטמן אמר כבר ביולי כי ייתכן שהגיעה העת להאט, כדי לתת לחברה האנושית זמן להיערך לשינויים שמביאה הטכנולוגיה. בימים האחרונים הוא אף אמר לעובדי החברה כי OpenAI מוכנה לבחון צמצום של קצב ההתקדמות, בתיאום עם מעבדות AI נוספות.

גם ביל גייטס הצטרף לאזהרות. בחודש שעבר הזהיר כי ה-AI יהיה "המשווה הגדול ביותר שהומצא אי פעם, או המקור הגרוע ביותר לאי-צדק", וטען כי העולם עדיין אינו ערוך לסיכונים הנלווים לטכנולוגיה - בהם אובדן מקומות עבודה, מתקפות סייבר, נשק ביולוגי ואף האפשרות של אובדן שליטה. גייטס כתב כי היה תומך בתוכנית אמינה להאטה עולמית, אך העריך שהלחצים הכלכליים והגיאופוליטיים יקשו מאוד על גיבוש מהלך כזה.

התגובות למאמרו של אמודיי הגיעו במהירות. אילון מאסק הסתפק במסר קצר וחד: ״דריו צודק״. זמן קצר לאחר מכן הצטרף גם אלטמן לקריאה. "אני מסכים עם דריו שעלינו להאט את ההתקדמות בחזית", צייץ, והוסיף כי הסוגיה נמצאת במרכז הדיונים ב-OpenAI בשבועות האחרונים.