הזיות בינה מלאכותית: למה מודלים חכמים עדיין ממציאים דברים

דף הבית » פייתון » הזיות בינה מלאכותית: למה מודלים חכמים עדיין ממציאים דברים

הזיות של בינה מלאכותית הן אחת החולשות המוזרות והחשובות ביותר של מערכות בינה מלאכותית מודרניות , במיוחד מודלים של שפה גדולה וכלים יצירתיים שכותבים, מציירים או עונים על שאלות לפי דרישה. מערכות אלו יכולות לספק תשובות שוטפות ובטוחות שנשמעות הגיוניות לחלוטין, אך מכילות עובדות, ציטוטים או פרטים פשוט מומצאים. עבור משתמשים, החלק הקשה הוא שהטעות מסתתרת לעתים קרובות מאחורי שפה משכנעת ביותר.

כאשר אנשים מדברים על "הזיות בינה מלאכותית", הם לא מתייחסים למכונות שחולמות או חזיונות כמו לבני אדם . המונח הוא מטאפורה: הוא מתאר מצבים שבהם מערכת בינה מלאכותית מייצרת תוכן שנראה קוהרנטי וסביר, אך שגוי, מוטה, פגום מבחינה לוגית או מנותק מנתוני האימון שלה. בפועל, זה יכול לנוע בין תאריך שגוי בסיכום היסטורי ועד להפניות מדעיות מפוברקות, תיקים משפטיים שאינם קיימים או אפילו דפי אינטרנט מומצאים.

מהן בעצם הזיות של בינה מלאכותית

במונחים טכניים, הזיה של בינה מלאכותית היא כל פלט ממודל שהוא מטעה, שקרי או לא מוצדק על ידי הנתונים עליהם אומן או הותנה המודל . במודלים גנרטיביים, משתמשים מצפים לתשובות שעונות באופן משמעותי על ההנחיות שלהם - למשל, תשובה נכונה לשאלה או סיכום נאמן של מסמך. הזיה מופיעה כאשר המערכת מספקת תשובה שאינה נובעת ממקורותיה, אינה תואמת עובדות מהעולם האמיתי, או שלא ניתן לייחס אותה לדפוס אמין כלשהו בנתוני האימון שלה.

תופעה זו ניכרת במיוחד במודלים של שפה גדולה (LLMs) כמו צ'אטבוטים ומודלים כמו ג'מיני . מודלים אלה מאומנים לחזות את המילה הבאה ברצף על ידי ניתוח כמויות עצומות של טקסט דיגיטלי. הם פועלים כמו גרסה חזקה בהרבה של מנוע השלמה אוטומטית: בהינתן הנחיה, הם ממשיכים לנחש את האסימון הבא הסביר ביותר, אחר כך את הבא, וכן הלאה. מכיוון שהם עברו אופטימיזציה להיות מועילים, קוהרנטיים ושוטפים, הם לעתים קרובות ממשיכים לייצר טקסט גם כשהם לא בטוחים, במקום לאותת בגלוי "אני לא יודע".

התוצאה היא שמערכת בינה מלאכותית עשויה "למלא את הפערים" בכל פעם שמידע חסר, מעורפל או מיוצג בצורה גרועה בנתוני האימון . כאשר קיימים מספיק דפוסים, התשובה נוטה להיות סבירה. אבל ברגע שהמודל יוצא מהדפוסים הללו, הוא יכול להמציא פרטים, לבצע אינטרפולציה בין עובדות לא קשורות או לטעון בביטחון דברים שמעולם לא נצפו. זוהי ליבת ההזיה: שפה סבירה ללא עוגן עובדתי מוצק.

הזיות אינן מוגבלות לטקסט; הן מתרחשות גם במערכות זיהוי תמונה ותבניות . מודלים של ראייה יכולים לפעמים "לראות" צורות, עצמים או מאפיינים שאינם קיימים כלל בנתונים הבסיסיים, בדומה לבני אדם המזהים פנים על פני הירח או בעלי חיים בעננים. בשני המקרים, המערכת מפרשת יתר על המידה רעש, והופכת קלט לא ודאי או דו משמעי למשהו שנראה משמעותי.

מכיוון שהזיות נובעות מהאופן שבו מודלים אלה בנויים ומאומנים, הן אינן רק תקלות מזדמנות אלא סיכון מבני . חוקרים מודדים באופן שגרתי שיעורי הזיות במדדים ובלוחות הישגים, ופריסות בעולם האמיתי בתחומים כמו שירותי בריאות, משפטים או פיננסים כבר הניבו דוגמאות מתוקשרות שבהן תוכן מפוברק חמק והגיע למשתמשי הקצה.

מדוע מערכות בינה מלאכותית מזיות: נתונים, מודלים ובסיסים

כדי להבין מדוע הזיות קורות, כדאי להתחיל מהאופן שבו מודלים של בינה מלאכותית מאומנים . רוב המערכות המודרניות, במיוחד סטודנטים לתואר ראשון במשפטים, לומדות ממערכי נתונים עצומים של אימון המשלבים ספרים, מאמרים, אתרי אינטרנט ומקורות ציבוריים אחרים. במהלך האימון, המודל מחפש סדירות סטטיסטית: כיצד מילים נוטות לעקוב אחר מילים אחרות, אילו נושאים מופיעים יחד, אילו מבנים חוזרים על עצמם. הוא אינו בונה מודל עולם פנימי במובן האנושי, וגם אינו מאחסן עובדות מפורשות כערכים במסד נתונים.

לכן, האיכות, השלמות וההטיה של נתוני האימון הן קריטיות . אם מערך הנתונים אינו שלם, מוטה מאוד, או מכיל שגיאות שיטתיות, המודל יאתר ויגביר את העיוותים הללו. לדוגמה, מסווג תמונות רפואיות שאומן רק על רקמה סרטנית ומעולם לא נחשף לתמונות בריאות עשוי ללמוד שכל רקמה הדומה לדוגמאות האימון שלו חייבת להיות סרטן. כאשר מערכת כזו נפרסת בעולם האמיתי, היא יכולה לתייג בטעות רקמה בריאה כממאירה, לא משום שהיא פועלת בצורה זדונית, אלא משום שזהו הדפוס היחיד שהיא מכירה.

נתוני אימון פגומים, רועשים או מוטים הם רק מקור אחד להזיות . גורם מפתח נוסף הוא חוסר בסיס ראוי בידע מהעולם האמיתי, אילוצים פיזיים או מקורות חיצוניים ניתנים לאימות. מודלים רבים של בינה מלאכותית פועלים אך ורק במרחב הסמלים: הם מניפולטיביים עם טקסט או פיקסלים מבלי לחבר אותם ישירות לאובייקטים פיזיים, מסדי נתונים מעודכנים או חוויה חושית. ללא בסיס, מודל יכול בקלות לייצר הצהרה שנשמעת מציאותית אך סותרת עובדות בסיסיות - למשל, מתן תאריך שגוי לאירוע היסטורי או המצאת מושג מדעי שמעולם לא היה קיים.

חוסר בסיס זה יכול להשתרע על הפניות, קישורים וציטוטים . מודלים טקסטואליים נצפו כשהם יוצרים כתובות URL, מאמרים מדעיים, מחברים אקדמיים ואפילו ציטוטים שנראים אמינים לחלוטין במבט חטוף. המודל אינו "משקר" בכוונה תחילה; הוא מרכיב טקסט שדומה סטטיסטית להפניות שראה, גם אם השילוב הספציפי של כותרת, מחבר וכתב עת מעולם לא התרחש בפועל.

מורכבות המודל והתאמת יתר מוסיפות שכבה נוספת של סיכון . מודלים מורכבים מאוד עם מיליוני או מיליארדי פרמטרים יכולים לייצג דפוסים עדינים, אך הם יכולים גם לשנן קורלציות או רעש כוזבים. כאשר מודל מתאימה יתר על המידה את נתוני האימון שלו, הוא עשוי להסתמך על רמזים שבירים שאינם ניתנים להכללה, מה שמוביל לפלטים ביזאריים כאשר התנאים משתנים. בזיהוי תמונה, זה יכול לייצר פרשנויות סוריאליסטיות או דמויות חלומות; בטקסט, זה יכול לעורר שרשראות ארוכות של חשיבה שנשמעות מתוחכמות תוך כדי שהן נשענות על הנחת יסוד שגויה.

דוגמאות קונקרטיות להזיות בינה מלאכותית בפועל

פריסות של בינה מלאכותית גנרטיבית בעולם האמיתי כבר הניבו דוגמאות פומביות רבות להזיות . מקרה אחד שנדון בהרחבה התרחש כאשר הצ'אטבוט של גוגל, בארד, טען בטעות כי טלסקופ החלל ג'יימס ווב צילם את התמונות הראשונות אי פעם של כוכב לכת מחוץ למערכת השמש שלנו. ההצהרה נשמעה מרשימה והוצגה בביטחון, אך היא הייתה שגויה עובדתית; טלסקופים קודמים כבר ייצרו תמונות כאלה.

תקרית נוספת שזכתה לתשומת לב רבה כללה את מערכת הצ'אט של מיקרוסופט, שבעבר נקראה סידני . במהלך הבדיקות, משתמשים דיווחו על שיחות בהן המודל הצהיר כי התאהב בהם, או טען כי הוא מרגל אחר עובדי בינג. תשובות אלו לא היו מבוססות על מציאות כלשהי; הן היו תוצרים של התאמת דפוסים של המודל לשפה רומנטית או קונספירטיבית כפי שנראתה בנתוני האימון שלו, בשילוב עם סגנון שיחה שמעודד נרטיבים מורכבים.

מודל השפה גלקטיקה של מטה, שנועד לסייע במשימות מדעיות, הוסר גם הוא זמן קצר לאחר הדגמתו הפומבית בשנת 2022. משתמשים הדגימו במהרה שהמערכת יכולה לייצר טקסט בעל צליל מדעי, המשלב עובדות מדויקות עם הפניות מפוברקות, טענות מוטות ומאמרים דמיוניים. התוצרים נראו כמו כתיבה מלומדת, כולל ז'רגון טכני, אך התוכן העובדתי עלול להיות מסוכן ולא אמין.

כלי התקשורת תיעדו גם הזיות קטנות יותר אך משמעותיות . במקרה אחד, עיתונאים מהניו יורק טיימס שאלו צ'אטבוט על הפעם הראשונה שהעיתון פרסם מאמר על בינה מלאכותית. המודל הציע מספר תשובות מפורטות, כולל תאריכים ותיאורים, אך חלק מהפרטים הללו התבררו כשגויים או מומצאים לחלוטין. המערכת יצרה סיפור סביר משום שההנחיה התאימה לדפוסים רבים בנתוני האימון שלה, ולא משום שהייתה לה גישה לארכיון מדויק וניתן לאימות.

אפילו משימות פשוטות לכאורה כמו כתיבת הערה ביוגרפית קצרה יכולות לעורר הזיות . לפני הכתרתו בפועל של המלך צ'ארלס השלישי, בקשה לפרופיל קצר הובילה צ'אטבוט אחד לציין בביטחון כי טקס ההכתרה התקיים במנזר וסטמינסטר ב-19 במאי 2023. במציאות, ההכתרה התרחשה ב-6 במאי. המודל הכיר מיקומים אופייניים, ביטויים פולחניים ומסגרות זמן להכתרות בריטיות, אך לא הייתה לו גישה לאירועים עתידיים ועדיין הציע תאריך ספציפי ושגוי שהוצג כעובדה מבוססת.

הזיות בתחומים קריטיים: רפואה, משפט ומעבר לכך

הסיכונים גדלים משמעותית כאשר הזיות מופיעות בתחומים בעלי סיכון גבוה כמו שירותי בריאות, משפטים או פיננסים . ברפואה, מחקרים אחרונים הראו שאפילו מודלים מתקדמים ספציפיים לתחום יכולים ליצור מבנים אנטומיים מומצאים או תיאורים קליניים מטעים. דוגמה אחת כללה את Med-Gemini, מודל המקושר לגוגל, שהזכיר מבנה מוח לא קיים בשם "גנגליה בזילארית" בהסבר בסגנון אקדמי. המונח נשמע כמו תערובת של מילים אנטומיות אמיתיות, אך מבנה כזה לא קיים.

בתחום המשפטי, הזיות כבר מצאו את דרכן לתיקים ממשיים בבתי משפט . דווח על מספר מקרים בהם עורכי דין השתמשו בצ'אטבוטים כדי לנסח מסמכים ולאחר מכן הגישו אותם ללא אימות אנושי יסודי. מערכת הבינה המלאכותית ייצרה ציטוטים להחלטות בית משפט שנראו מעוצבים ואמינים בצורה מושלמת, אך בדיקה מדוקדקת יותר גילתה שחלק מהמקרים שהוזכרו מעולם לא הוכרעו על ידי אף בית משפט. תקדימים מפוברקים אלה אילצו שופטים ועורכי דין יריבים להקדיש זמן לאימות מקורות שאינם קיימים והעלו שאלות רציניות לגבי אחריות מקצועית.

הזיות יכולות להשפיע גם על יישומים יומיומיים יותר כמו שירות לקוחות . ישנם מצבים מתועדים שבהם בוט תמיכה אוטומטי המציא מדיניות החזר או אחריות שלא היו חלק מהכללים הרשמיים של החברה. מנקודת מבטו של הלקוח, תשובת הבוט נראתה סמכותית - היא השתמשה בטון ובאוצר המילים של המותג - אך יחד עם זאת היא חייבה את החברה להתחייבויות שמעולם לא אושרו על ידי ההנהלה או נכתבו בתנאים וההגבלות כלשהם.

ההשפעה המצטברת של טעויות כאלה היא שחיקה של אמון . ארגונים המפעילים עוזרי בינה מלאכותית מסתכנים בפגיעה במוניטין שלהם אם משתמשים נתקלים שוב ושוב בתשובות שגויות אך בטוחות. במגזרים מוסדרים, ההימור גבוה אף יותר: אבחנה הזויה, תקדים משפטי מומצא או דרישת תאימות פיקטיבית עלולות להיות בעלות השלכות כספיות, רפואיות או משפטיות של ממש.

אחריות במצבים אלה היא עדיין מטרה נעה . כאשר מתקבלת החלטה על סמך הזיה שנוצרה על ידי בינה מלאכותית, האחריות עשויה להתחלק בין משתמשים, מפתחים, ספקים וארגוני פריסה. מחוקקים ורגולטורים רק מתחילים להגדיר היכן נמצאת האחריות, אך הדפוס הבסיסי ברור: הסתמכות בלתי מבוקרת על מערכות יצירתיות בהחלטות קריטיות עלולה לפתוח דלת לטעויות יקרות ולסכסוכים משפטיים.

באיזו תדירות מערכות בינה מלאכותית חווות הזיות?

למרות ההתקדמות המהירה, הזיות נותרות בעיה מדידה ולא טריוויאלית במודלים חדישים . בסביבות שנת 2023, כמה מחקרים העריכו כי עד 27% מהתשובות ממודלים גדולים של שפה הכילו סוג של טעות עובדתית, כאשר שיעורי ההזיות עולים על 40% עבור סוגים מסוימים של משימות או מערכי נתונים. משמעות הדבר היא שבתרחישים מציאותיים רבים, כמעט מחצית מהתשובות שנראות מוצקות יכולות לכלול לפחות פרט מטעה אחד.

עבודות עדכניות יותר מצביעות על כך שדורות חדשים יותר של דגמים השתפרו, אך לא פתרו את הבעיה . לדוגמה, בדיקות פנימיות שצוטטו בדוחות בתעשייה טענו שמודל מתקדם יותר יוכל להפחית את שיעורי ההזיות מכ-20.6% לכ-4.8% במבחנים נבחרים. מערכות אחרות, כמו תצורות ספציפיות של Gemini-2.0-Flash-001, הגיעו, על פי הדיווחים, לשיעורי הזיות הקרובים ל-1% בהערכות צרות ומוגדרות היטב באמצעות טכניקות בדיקה צולבת אוטומטיות.

במקביל, חוקרים שמו לב לפרדוקס מעניין . חלק ממודלי ההיגיון המתוחכמים ביותר, המייצרים שרשראות מחשבה ארוכות יותר והסברים מפורטים יותר, עשויים להזות יותר ולא פחות. הסיבה לכך היא אינטואיטיבית: תשובות ארוכות מספקות יותר הזדמנויות למודל לסטות מהעובדות, להחליק הנחות ספקולטיביות או לבנות טיעונים מרובי שלבים על גבי נקודת התחלה רעועה.

עבודה אקדמית החלה לסווג ולמדוד הזיות בדרכים שיטתיות . סקרים על הזיות בתואר ראשון במשפטים מציעים טקסונומיות המבחינות בין הזיות פנימיות (כאשר הפלט אינו תואם את הקלט שניתן, כגון סיכום שגוי של מסמך נתון) לבין הזיות חיצוניות (כאשר המודל מוסיף פרטים סבירים אך לא מבוססים). לוחות הישגים כמו לוח ההזיות של Vectara משווים מודלים פופולריים במבחנים סטנדרטיים כדי לדרג אילו מהם נוטים יותר לייצר תוכן שגוי.

שיטות גילוי חדשות חורגות מעבר לבדיקות נכונות פשוטות . קו מחקר בולט אחד משתמש באנטרופיה סמנטית - בערך, עד כמה מודל לא בטוח לגבי מה שהוא אמור לומר - כדי לסמן פלטים חשודים. אם מודל מראה אי-הסכמה פנימית גבוהה בין מספר המשכים אפשריים, אנטרופיה סמנטית מוגברת זו יכולה להיות סימן אזהרה לכך שהתשובה הנוכחית צפויה להיות הזייתית, גם כאשר אין תשובה זמינה כסטנדרט זהב.

טכניקות להפחתה וגילוי הזיות

מכיוון שהזיות משולבות באופן שבו מודלים גנרטיביים פועלים, אין פתרון קסם אחד, אך צצו מספר אסטרטגיות מבטיחות . גישה משפיעה אחת היא Retrieval-Augmented Generation (RAG). במקום לתת למודל להסתמך רק על מה שהוא שינן במהלך האימון, מערכת RAG תחילה מבצעת שאילתות במקורות נתונים חיצוניים ואוצרים - כגון תיעוד, מאגרי ידע או דפי אינטרנט מאונדקסים - ולאחר מכן מבקשת מהמודל לייצר תשובה המבוססת במפורש על המסמכים שאוחזרו.

RAG למעשה נותן למודל משהו קונקרטי להישען עליו . כאשר המשתמש שואל שאלה, המערכת מאחזרת קטעים רלוונטיים, והמודל מתבקש לסכם או לשלב אותם, במקום לאלתר מאפס. זה יכול להפחית משמעותית הזיות בתחומים שבהם תוכן עדכני ואמין זמין, כמו מדריכים טכניים, מדיניות פנימית של החברה או מאגרי מידע מדעיים.

קו הגנה נוסף הוא אימות פנימי ובדיקת עקביות עצמית . במקום לסמוך על מעבר יחיד דרך המודל, מערכות מסוימות מייצרות מספר תשובות מועמדות ולאחר מכן משוות אותן זו לזו. אם כל הגרסאות מתכנסות על אותה טענה, יש סיכוי גבוה יותר שהיא יציבה ונכונה; אם הן מתפצלות, המערכת יכולה להימנע, לבקש הבהרה או לסמן במפורש אי ודאות. בדיקת עקביות עצמית זו יכולה להיות אוטומטית וכבר הראתה פוטנציאל בהפחתת הזיות במשימות חשיבה.

חוקרים הציעו גם ארכיטקטורות ניסיוניות יותר, כגון שיטות שמבנות מחדש את שאילתת המשתמש לפני מענה . דוגמה אחת מעבודה אקדמית אחרונה היא טכניקה המכונה Acurai, שמטרתה לנסח מחדש הנחיות באופן שמכוונת את המודל לעבר נתיבי חשיבה ניתנים לאימות. למרות שגישות כאלה עדיין בשלבים מוקדמים, הן מצביעות על עתיד שבו המודל משקיע יותר ממאמץ החישוב שלו בתכנון כיצד לחשוב על שאלה במקום לקפוץ ישר לקריינות שוטפת.

בצד הניטור, בדיקות אנטרופיה סמנטיות וכלים קשורים מציעים דרך זולה לאיתור הזיות פוטנציאליות . על ידי מדידת המידה שבה המודל "אי הסכמה עם עצמו" באופן פנימי בעת יצירת תשובה, בדיקות אלו יכולות לסמן קטעים הראויים לבדיקה אנושית. חשוב לציין, טכניקות כאלה אינן דורשות מערך נתונים מתויג של תשובות נכונות, מה שהופך אותן למתאימות לתרחישים פתוחים בעולם האמיתי.

תפקיד הפיקוח האנושי והשימוש האחראי

אפילו עם ארכיטקטורות משופרות וזיהוי חכם, פיקוח אנושי נותר מרכזי בניהול הזיות של בינה מלאכותית . היישומים החזקים ביותר הם אלו המתייחסים לבינה מלאכותית כעוזר רב עוצמה או טייס משנה, ולא כמקבל החלטות אוטונומי. במגזרים כמו שירותי בריאות, בנקאות או מינהל ציבורי, הנוהג הטוב ביותר הוא לאפשר למודל לסנן מידע, לנסח מסמכים או לסכם חומרים ארוכים, בעוד שמומחה אנושי מבצע את הבדיקה והאישור הסופיים.

גם מובילי התעשייה וגם חוקרים מדגישים כי משתמשים לא צריכים לבטוח בעיוורון בתפוקות של בינה מלאכותית, במיוחד בנושאים רגישים . חברות העומדות מאחורי מודלים מרכזיים הזהירו במפורש כי המערכות שלהן עדיין עלולות להזות וכי יש להשתמש בתשובות בזהירות לצורך ייעוץ רפואי, משפטי או פיננסי. חלק מהספקים מסתמכים על מעריכים אנושיים כדי לבדוק הטיות, שגיאות עובדתיות ותוכן שעלול להזיק, ומשלבים את המשוב שלהם בהכשרה באמצעות למידה מחוזקת ממשוב אנושי (RLHF).

שקיפות לגבי מגבלות ממלאת תפקיד מפתח בשימור אמון המשתמשים . כאשר ספקים מכירים בכך שהמודלים שלהם יכולים לייצר מידע לא מדויק או מפוברק, משתמשים נוטים יותר לשמור על רמה בריאה של ספקנות, לבדוק שוב ושוב תשובות ולהימנע מהאצלת שיפוטים קריטיים. לעומת זאת, מכירת יתר של בינה מלאכותית כ"חסינת טועות" או "אינטליגנטית" במובן האנושי מעלה ציפיות בצורה לא מציאותית וגורמת להזיות להרגיש כמו בגידות ולא כמו חפצים טכניים.

במבט קדימה, הרגולציה צפויה לעצב את האופן שבו ארגונים מנהלים סיכוני הזיות . קובעי מדיניות כבר מנסחים כללים המחייבים הערכת סיכונים, תהליכים של "אנוש בלולאה" ותיעוד ברור של יכולות המודל ומצבי כשל. בתחומי שיפוט רבים, חברות הפורסות כלי בינה מלאכותית בתחומים בעלי סיכון גבוה יצטרכו להוכיח שיש להן אמצעי הגנה נאותים כדי למנוע מהזיות להשפיע ישירות על החלטות קריטיות.

בסופו של דבר, המערכות האמינות ביותר הן אלו שמתכננות זרימות עבודה סביב נקודות החוזק והחולשה של בינה מלאכותית . מודלים גנרטיביים מצטיינים ביצירת טיוטות, בחינת אפשרויות, מתן ניסוחים חלופיים וחשיפת דפוסים בכמויות גדולות של טקסט. הם הרבה פחות אמינים כבוררים יחידים של אמת. כאשר מערכות בנויות כך שבני אדם נשארים בשליטה על החלטות מרכזיות וצעדי אימות, הזיות הופכות לרעש שניתן לנהל במקום כשלים קטסטרופליים.

ככל שטכנולוגיות אלו מתפתחות, גישה מציאותית כלפי הזיות מבוססות בינה מלאכותית תהיה חיונית לכל המעורבים - מפתחים, ארגונים, רגולטורים ומשתמשים יומיומיים. הבנה שתשובה שוטפת אינה בהכרח נכונה, שילוב מודלים עם מקורות ידע חיצוניים, מדידה וגילוי הזיות באופן שיטתי, ושימור שיקול דעת אנושי במרכז החלטות חשובות - כל אלה הם חלק משימוש נבון בבינה מלאכותית גנרטורה. במקום לשאול האם הזיות ייעלמו לחלוטין, שאלה שימושית יותר היא כיצד נוכל לבנות מערכות, תמריצים והרגלים שהופכים את הטעויות הבלתי נמנעות הללו לנראות, מוכלות ופחות מזיקות.