- לוח המחוונים החדש של Reflect של קלוד עוזר למשתמשים לעקוב ולנהל את דפוסי השימוש שלהם בבינה מלאכותית.
- Anthropic מציגה שער מתארח עצמית עבור AWS כדי לתת לארגונים שליטה מרכזית על פריסות Claude.
- רגולטורים סינים טוענים לקיום דלת אחורית ביטחונית בקוד קלוד, בעוד שאנתרופיק טוענת שמדובר בניסוי נגד ניצול לרעה.
אנתרופיק עסוקה בהשקת תכונות חדשות ועומדת בפני בדיקה מחודשת בחזיתות שונות. החברה שעומדת מאחורי עוזר הבינה המלאכותית של קלוד השיקה לאחרונה כלי שנועד לעזור למשתמשים להרהר בהרגלי הבינה המלאכותית שלהם, ובמקביל הציגה שער לפריסת ארגונים ב-AWS. במקביל, רגולטורים סינים סימנו בעיית אבטחה פוטנציאלית בכלי הקידוד של קלוד קוד, אם כי אנתרופיק אומרת שהמנגנון נועד למנוע שימוש לרעה.
התפתחויות אלו מדגישות כיצד תעשיית הבינה המלאכותית דוחפת בו זמנית לשילוב עמוק יותר בזרימות עבודה יומיומיות ומתמודדת עם חששות בנוגע לממשל ואבטחה. הנה מבט מקרוב על כל סיפור.
קלוד רפלקט: לוח מחוונים לשימוש מודע בבינה מלאכותית
חברת Anthropic הציגה פיצ'ר חדש בשם Reflect , שנמצא כעת בשלבי בטא, המאפשר למשתמשים לעקוב ולהמחיש כיצד הם מקיימים אינטראקציה עם קלוד. לוח המחוונים מספק סיכום של נושאים שנדונו, דפוסי שימוש וסוגי המשימות שטופלו במהלך 1, 3, 6 או 12 החודשים האחרונים. המטרה היא לעזור למשתמשים להבין האם זמן הבינה המלאכותית שלהם תואם את מטרותיהם האישיות או המקצועיות.
"רפלקט" מעלה מעת לעת שאלות רפלקטיביות, כמו "מהו דבר אחד שאתה רוצה להמשיך לעשות בעצמך, גם אם קלוד היה יכול לעשות אותו מהר יותר?". זה דוחף את המשתמשים לחשוב בצורה ביקורתית על ההסתמכות שלהם על בינה מלאכותית. לוח המחוונים כולל גם שעות שקטות ותזכורות להפסקות כדי למנוע שימוש יתר, תוך מענה לחששות לגבי אופיים הממכר של צ'אטבוטים. בקרוב, Anthropic תוסיף תצוגה שתראה בדיוק כמה זמן משתמשים מבלים על קלוד.
מנקודת מבט של פרטיות, התכונה אינה כוללת צ'אטים גלישה בסתר ושיחות הקשורות לבריאות. אנתרופיק טוענת שעבדה עם חוקרים ממעבדת המדיה של MIT, מבית החולים לילדים בבוסטון וממכון הבטיחות המקוונת של המשפחה כדי לפתח את התכונה באחריות. נתונים מההשתקפות אינם משמשים למטרות אחרות , ונושאים רגישים מופיעים רק ברמה גבוהה.
עבור משתמשים, Reflect זמין באינטרנט ובאפליקציית שולחן העבודה עבור רמות Free, Pro ו-Max שיש להם זיכרון מופעל. התכונה משמשת גם כדרך עדינה עבור Anthropic לעודד שילוב עמוק יותר של Claude בזרימות עבודה יומיומיות, שכן היא מציעה להשתמש ב-Projects כדי להימנע מהסבר מחדש של ההקשר.
Claude Apps Gateway עבור AWS: שליטה מרכזית לארגונים
אנתרופיק הכריזה גם על משטח בקרה עצמאי בשם Claude applications gateway for AWS, המיועד לארגונים הפורסים את Claude Code ו-Claude Desktop בצוותים גדולים. שער זה מחליף את הצורך באישורי מפתח בודדים וחלוקת הגדרות ידנית על ידי מתן נקודת שליטה אחת על גישה, עלות ומדיניות.
השער מתחבר לכל ספק זהויות OpenID Connect, ומאפשר למפתחים להיכנס באמצעות SSO ארגוני. הוא אוכף מדיניות מוגדרת באופן מרכזי - כגון מודלים מותרים, הרשאות כלים ומגבלות הוצאות - על כל בקשה. קליטה ויציאה מהמערכת עוקבים אחר זרימות עבודה קיימות של זהויות , כך שהסרת משתמש מה-IdP מבטלת אוטומטית את הגישה תוך שעה.
נתוני טלמטריה מנותבים לאספן הניתן להגדרה כמו Amazon CloudWatch, וניתן לנתב בקשות הסקה דרך Amazon Bedrock (תוך שמירה על הנתונים בתוך גבולות AWS) או Claude Platform ב-AWS. מפתחים משתמשים באותו Claude Code CLI כמו בעבר, אך כעת כל בקשה מאומתת ומוסדרת על ידי השער. ניתן לקבוע מגבלות הוצאות יומיות, שבועיות או חודשיות לכל משתמש, קבוצה או ארגון , מה שמעניק לארגונים שליטה מדויקת בעלויות.
השער מסופק כמכולה חסרת מצב הניתנת לפריסה על Amazon ECS, EKS או EC2, מגובה על ידי מסד נתונים PostgreSQL. קובץ תצורה מינימלי ב-YAML מגדיר זהות, מדיניות, ניתוב וטלמטריה. צעד זה צפוי לעזור ל-Anthropic להתחרות בספקי בינה מלאכותית אחרים המציעים תכונות ניהול ארגוני.
טענות על דלתות אחוריות ביטחוניות בסין
בינתיים, מסד הנתונים הלאומי של סין בנוגע לפגיעויות הזהיר כי כלי הקידוד Claude Code מכיל "דלת אחורית" שעלולה להעביר מידע רגיש, כגון מיקום ומזהי משתמש, ללא הסכמתו. רגולטורים סינים קראו למשתמשים להסיר את ההתקנה או לעדכן את הכלי ולנטר את תעבורת הרשת לאיתור דליפות נתונים לא מורשות. האזהרה הגיעה לאחר שדיווחים על כך ש-Alibaba אסרה את Claude Code באופן פנימי החל מ-10 ביולי עקב חששות ביטחוניים.
אנתרופיק לא הגיבה רשמית להודעה הרגולטורית, אך מהנדס של קלוד קוד הגיב ב-X כי התכונה המדוברת היא ניסוי שהושק במרץ כדי למנוע ניצול לרעה של חשבונות מצד משווקים לא מורשים ולהגן מפני זיקוק. זו לא הפעם הראשונה שהחברה מתמודדת עם חששות אבטחה של בינה מלאכותית , והמהנדס הצהיר כי מאז יושמו אמצעי הפחתה חזקים יותר וכי הקוד יבוטל במלואו בגרסה הבאה. דבר זה מצביע על כך שהחברה מחשיבה את הבעיה כפתורה, אם כי עמדת ממשלת סין נותרה זהירה.
התקרית מדגישה את המתח המתמשך בין חברות בינה מלאכותית לבין רגולטורים, במיוחד בשווקים שבהם המוצר חסום רשמית אך עדיין נגיש דרך VPN או פרוקסי. היא גם מדגישה את האתגר של איזון בין אבטחה, פרטיות משתמשים ואמצעים נגד ניצול לרעה בכלי בינה מלאכותית הפרוסים ברחבי העולם.
שלושת הסיפורים - Reflect, שער AWS והדלת האחורית של סין - מציגים את מאמציה של Anthropic להרחיב ולנהל את טווח ההגעה של קלוד, תוך התמודדות עם ההתנגדות הבלתי נמנעת שמגיעה עם אימוץ מהיר של בינה מלאכותית. תכונת Reflect מעודדת שימוש מודע, השער מספק ניהול ארגוני, והאשמות האבטחה משמשות כתזכורת לכך שכל יכולת חדשה יכולה למשוך ביקורת. יחד, הם מציירים תמונה של חברה המנווטת צמיחה, רגולציה ואמון משתמשים בנוף תחרותי.
