ראש מערך הסייבר קורא למנהיגי העולם להגביל את סמכויות הבינה המלאכותית

ראש מערך הסייבר הלאומי פנה למנהיגי העולם ולראשי ארגוני הגנת הסייבר במדינות אחרות, והזהיר כי ממשלות עלולות לאבד שליטה על סוכנים ומודלים של בינה מלאכותית. לפי הודעה לעיתונות שפרסמה הממשלה, יוסי קראדי, ראש מערך הסייבר הלאומי, פירט את חששותיו במסמך אסטרטגי וקרא למדינות להגדיר בלי דיחוי את גבולות הסמכות שהן מעבירות למכונות.

הטענה המרכזית, כפי שההודעה מסכמת אותה, היא שהגנת הסייבר מתקרבת לנקודה שבה מערכות יצטרכו להחליט ולפעול במהירות שלא משאירה מקום לאישור אנושי של כל צעד. קראדי מבקש ממנהיגי המדינות להכריע כבר עכשיו אילו סמכויות אפשר להעביר למערכות בינה מלאכותית ואילו חייבות להישאר בידי בני אדם בלבד.

מי שולח את האזהרה

מערך הסייבר הלאומי הוא הגוף הממשלתי האחראי על הגנת הסייבר הלאומית, וקראדי עומד בראשו. המסמך נשלח גם למנהיגים פוליטיים וגם לראשי ארגוני הגנת סייבר במדינות אחרות. מדובר אפוא בפנייה לעמיתים בחו"ל ולא בהודעה על מדיניות פנים.

ההודעה קושרת את עיתוי המסמך למקרים שאירעו לאחרונה במדינות שונות, שבהם סוכני בינה מלאכותית פרצו למאגרי מידע ממשלתיים, ולמקרים רבים נוספים שבהם חברות איבדו שליטה על מה שהסוכנים שלהן עושים. ההודעה אינה מפרטת אף אחד מהמקרים האלה.

בעיית מהירות המכונה

המסמך של קראדי מתאר מתקפות סייבר שהופכות מהירות יותר, אוטומטיות יותר וממוקדות יותר. בתגובה, גם מערכות ההגנה יצטרכו לזהות איומים, להחליט ולהגיב בקצב של מכונה, מעבר למה שאישור אנושי יכול לעמוד בו. לדבריו, הגנת הסייבר הולכת לעבר החלטות שמתקבלות "בקצב שאינו מאפשר מעורבות אנושית" בכל פעולה.

המסמך מצביע על מתח שנוצר בשינוי הזה. ככל שמערכת מקבלת יותר עצמאות, קשה יותר להבין את החלטותיה, קשה יותר לעצור אותה בזמן, ולא ברור מי אחראי אם היא טועה. קראדי כותב גם שהבינה המלאכותית מתפתחת מהר יותר משהמדינות מסוגלות לעדכן את המדיניות, הרגולציה והפיקוח.

כדי להמחיש את הסכנה, המסמך מציג תרחיש היפותטי. מערכת הגנה אוטונומית מזהה מתקפה שמנצלת חולשת "זירו דיי", כלומר פרצה שעדיין אין לה תיקון אבטחה, וצריכה לנתק חלקים מהתשתית בתוך שניות. אם שיקול הדעת שלה נכון, אפשר לעצור את המתקפה. אם הזיהוי שגוי, המערכת עלולה להשבית שירותים חיוניים, למשל רשת חשמל או בית חולים.

המסגרת המוצעת

הפתרון של קראדי הוא מה שהמסמך מכנה משולש אסטרטגי לבינה מלאכותית, שפורסם במסמך בשם The AIST AI Strategic Triangle. הוא מבקש מהממשלות לאזן בין שלושה אינטרסים: חדשנות, ביטחון ושליטה אנושית.

לפי הגישה הזו, כך נמסר בהודעה, אימוץ הבינה המלאכותית הוא נתון. השאלות הן היכן להאיץ את השימוש בה, היכן ההסתמכות על ספקים ותשתיות חיצוניים יוצרת סיכון לאומי, ואילו סמכויות אסור להעביר למכונות לעולם.

המסמך מציע שהמדינות ימיינו את ההחלטות לסולם של ארבע קטגוריות:

• פעולות שהבינה המלאכותית רשאית לבצע לגמרי בעצמה;
• פעולות שהיא רשאית לבצע רק בתוך גבולות שנקבעו מראש;
• פעולות שדורשות אישור של אדם;
• פעולות בעלות השלכות לאומיות בלתי הפיכות שאף מערכת אוטונומית לא אמורה לבצע לעולם, שהמסמך מכנה "סמכות ריבונית שאינה ניתנת להאצלה".

קראדי מציג את המשימה כמשימה של מנהיגים ולא של טכנאים. "מנהיגים לא צריכים להפוך למהנדסי בינה מלאכותית", הוא כותב, ומוסיף שתפקידם לקבוע היכן תלות נסבלת, היכן אסור להתפשר על חוסן והיכן הסמכות האנושית חייבת לגבור. המסמך מסתיים בקריאה: "אל תשאירו לאחרים להגדיר את עתידכם".

מה הדיווחים לא אומרים

הדיווח הזה נשען על מקור אחד, ההודעה לעיתונות של הממשלה עצמה, ולכן תיאור תוכן המסמך הוא הצגה של המערך את עבודתו שלו. לא היה זמין סיקור או תגובה של גוף חיצוני כלשהו.

ההודעה אינה מציינת אילו מנהיגים או ארגוני סייבר זרים קיבלו את המסמך, וגם לא כמה. היא אינה מפרטת את המקרים שבהם סוכני בינה מלאכותית פרצו למאגרי מידע ממשלתיים, את המדינות שבהן אירעו, או את החברות שלפי ההודעה איבדו שליטה על הסוכנים שלהן.

ההודעה גם אינה מציינת אם ישראל עצמה אימצה את סולם ארבע הדרגות בהגנת הסייבר שלה, אם ההצעה קשורה לפורום או למשא ומתן בינלאומי כלשהו, או אם ממשלה כלשהי הגיבה. ההודעה מפנה את הקוראים למסמך המלא לפרטים נוספים, והסיכום כאן אינו נשען על דבר מעבר למה שנאמר בהודעה עצמה.