- המשא ומתן בין ממשל טראמפ לאנתרופיק נתקע עקב חששות לא פתורים בנוגע לפגיעויות "פריצת דרך" במודל קלוד פייבל 5.
- ה-NSA אישרה כי ניתן לעקוף מחסומי בטיחות כדי לגשת לנתונים רגישים של אבטחת סייבר וביוכימיה, מה שיוביל לבקרות יצוא מחמירות.
- מומחים בתעשייה מזהירים כי דרישת הממשלה למערכת עמידה בפני פריצות מכל הסוגים עלולה להיות בלתי אפשרית מבחינה טכנית עקב אופיים של מודלים גדולים של שפות.
- קיפאון זה מסמן שינוי משמעותי במדיניות האמריקאית, המתייחסת לבינה מלאכותית מתקדמת כתשתית לאומית אסטרטגית ולא רק לתוכנה מסחרית.
הקיפאון האחרון בין ממשל טראמפ לאנתרופיק שלח אדוות בעולם הטכנולוגיה, כאשר המשא ומתן על שחרורו של דגם קלוד פייבל 5 הגיע למבוי סתום השבוע. למרות ימים של שיחות ברמה גבוהה בהשתתפות בכירים ופקידי ממשל, הגבלות הייצוא המחמירות המוטלות על הבינה המלאכותית המתקדמת ביותר של אנתרופיק נותרו בתוקף. המצב הנוכחי מצביע על כך שוושינגטון אינה מוכנה עוד להיתקע בצד בזמן שמעבדות ממהרות לעבר מערכות חזקות יותר ויותר ללא ערבויות בטיחות חסינות כדורים.
בלב העניין טמונה טכניקה המכונה פריצת דרך, שבה משתמשים מניפולציות בהנחיות של בינה מלאכותית כדי לעקוף פרוטוקולי בטיחות. בעוד שאנתרופיק טענה בעקביות כי הסיכונים מנופחים מעבר לכל פרופורציה, חששות הממשל קיבלו תוקף על ידי ניתוח מעמיק שערכה הסוכנות לביטחון לאומי. הדרמה למעשה מתחה קו בחול, והראתה כי הבית הלבן רואה כעת מודלים של בינה מלאכותית בחזית כנכסים לאומיים אסטרטגיים הדורשים את אותה רמת בדיקה כמו נשק מתקדם או טכנולוגיה גרעינית.
התערבות ה-NSA והסגר של קלוד פייבל 5
המתח גבר בשבוע שעבר כאשר משרד המסחר הוציא הנחיה שחסמה למעשה את הגישה הבינלאומית ל-Fable 5. צעד זה לא היה רק מכשול בירוקרטי אקראי; הוא הופעל לאחר שמנכ"ל אמזון, אנדי ג'אסי, על פי הדיווחים התריע בפני שר האוצר סקוט בסנט בנוגע לפגיעויות אפשריות במערכת. כאשר ה-NSA התערב כדי לאמת את הטענות הללו, הם הגיעו למסקנה כי אכן ניתן לעקוף את אמצעי ההגנה שנועדו להגן על יכולות הסייבר והביוכימיה המתקדמות של מודל קלוד מיתוס .
מכיוון שהמודלים הללו קשורים זה בזה באופן כה עמוק, פרצה ב-Fable 5 הפונה לצרכן עלולה למסור את מפתחות הממלכה לגורמים פושעים המבקשים לנצל את הכוח הבסיסי של Mythos. אנתרופיק ניסתה להקל על המצב על ידי השבתת המודלים ברחבי העולם, בטענה שבלתי אפשרי מבחינה תפעולית להגביל את הגישה אך ורק לגופים זרים. סגירה מוחלטת זו הותירה משתמשים רבים במצב של אי ודאות, אך היא מדגישה כיצד הביטחון הלאומי מקבל כעת עדיפות על פני זמינות מסחרית בעיני ממשלת ארה"ב.
שדה קרב טכני: האם אפס סיכון אפשרי?
בעוד שהממשלה רוצה תיקון מלא, רבים בקהילה המדעית חושבים שוושינגטון מבקשת את הבלתי אפשרי. בניגוד לתוכנה מסורתית שבה אפשר פשוט לתקן חור בקוד, פריצות דרך מבוססות בינה מלאכותית הן מטרה נעה למדי משום שהן מסתמכות על הניואנסים של השפה האנושית ולא על באג טכני ספציפי. מומחים ציינו שכל עוד מודלים אלה מתוכננים להיות גמישים ויצירתיים, סביר להניח שתמיד תהיה דרך חכמה לשכנע אותם לעשות משהו שהם לא צריכים לעשות.
אנתרופיק מקדמת אסטרטגיית "הגנה לעומק", המתמקדת בניטור ותגובה מהירה במקום להבטיח מגן מושלם. עם זאת, נראה כי ממשל טראמפ מצפה לסטנדרט גבוה יותר של בטיחות ניתנת לאימות לפני שיאפשר למודל לחזור לטבע. התנגשות פילוסופית זו יוצרת חיכוכים רבים, שכן חברות טכנולוגיה חשות שהן מחויבות לסטנדרט של שלמות שפשוט לא קיים בעולם ההנדסה האמיתי.
ההשפעות האדוות של החלטה זו כבר מורגשות ברחבי התעשייה, ומאותתות על עידן חדש של "רגולציה בצללים" שבו בקרות יצוא משמשות ככלי עיקרי לפיקוח. על ידי הפיכת Anthropic למקרה המבחן עבור הכללים החדשים הללו , הבית הלבן שולח מסר ברור לענקיות אחרות כמו OpenAI וגוגל. אם אתם רוצים לפרוס את הדור הבא של מודלים חזיתיים, תצטרכו להוכיח לרשויות הפדרליות שהמחסומים הפנימיים שלכם הם יותר מסתם הצעה מנומסת למשתמש.
בהמשך, סביר להניח שהמוקד יעבור ליצירת מסגרת סטנדרטית למדידת סיכונים אלה, כך שהחלטות לא יתקבלו תוך כדי תנועה במהלך ישיבות חירום. לעת עתה, בקרות הייצוא ב-Claude Fable 5 מהוות תזכורת לכך שעידן המערב הפרוע של פיתוח הבינה המלאכותית מגיע לסיומו. התעשייה נכנסת לשלב אסטרטגי יותר, ואולי מוגבל יותר, שבו אבטחה וחדשנות חייבות סוף סוף למצוא דרך להתקיים יחד תחת עיניהם הפקוחות של הרגולטורים הלאומיים.
