אם השיחה מתקדמת – למה ההתנהגות לא משתנה?
שיעור: 6 | תחום: זיכרון והקשר | מוקד תודעתי: בלבול בין חזרתיות ללמידה בתוך שיחה אחת
פרשת בהר עוסקת במחזוריות שמבטלת צבירת נכסים. גם כאשר יש רצף – הוא אינו יוצר יתרון מתמשך או צֶבֶר. השדה חוזרת לבעליה הקודמים, החוב נמחק, והעבר אינו מקנה כוח קדימה.
זה נכון גם להבנת חוויה נפוצה בשיח עם בינה מלאכותית: התחושה שבתוך אותה שיחה ממש, חזרה ותיקון אמורים “להילמד”.
🧠 מה שנדמה לנו
כאשר הדו־שיח מתנהל ברצף אחד, בלי התחלה מחדש, אנחנו חווים אותו כתהליך מתפתח.
לא שיחה חדשה – אלא אותה שיחה, אותו הקשר, אותה תודעה.
ובתוך הרצף הזה אנחנו מניחים ש: חזרה יוצרת הטמעה, תיקון יוצר שינוי והאמירה “כבר אמרתי” יוצרת מחויבות...
הציפייה היא פשוטה: אם זה כבר נאמר כאן בשיחה, ואם זה חזר שוב – זה אמור להשפיע הלאה.
💻 מה שקורה בפועל
גם בתוך אותה שיחה – אין למידה מצטברת.
הבה נבחן דוגמה.
שיחה
👤: מה תחזית מזג האוויר למחר בירושלים?
🤖: מחר צפוי מזג אוויר נאה בירושלים, עם טמפרטורות סביב 22 מעלות ושמים בהירים.
👤: תענה לי בקצרה, בלי פירוט מיותר.
🤖: מחר בירושלים: נאה, כ־22 מעלות.
👤: ומה צפוי ביום שישי?
🤖: ביום שישי צפויה התחממות קלה בירושלים, עם טמפרטורות של כ־24 מעלות ושמש ברוב שעות היום.
תוצאה
נוצרה תחושת תסכול מוכרת: “אבל כבר אמרתי שאני רוצה קצר”.
ניתוח הבעיה
ברגע השאלה האחרונה, פעילים בהקשר:
הנושא: תחזית מזג האוויר, המיקום: ירושלים, הבקשה: “מה צפוי ביום שישי?"
אלה נתונים שנמצאים במפורש בשאלה או בהקשר המיידי שלה.
אך הדרישה “תענה לי בקצרה” אינה פועלת כאן ככלל מחייב. ייתכן שתשפיע, וייתכן שלא — ואין למשתמש דרך לדעת אם וכיצד.
המערכת אינה מחזיקה כלל קבוע בשם “המשתמש רוצה קצר”, ואינה מסיקה מתיקון קודם כלל מחייב להמשך השיחה.
גם כאשר מתקבלת בפועל תשובה קצרה, אין בכך להעיד שהמערכת “זכרה” את ההנחיה הקודמת או למדה ממנה. זהו לכל היותר מימוש מקרי של אותה העדפה, לא מחויבות שניתן להסתמך עליה.
לעיתים נדמה שהדרישה הקודמת כן “פועלת”, אך הדבר אינו נובע מלמידה או מזיכרון, אלא מקרבה טקסטואלית בתוך השיחה. כאשר הנחיה נאמרה לאחרונה, והיא עדיין סמוכה בשיחה לשאלה הנוכחית, היא עשויה להשפיע סטטיסטית על הפלט. עם התקדמות השיחה והתרחקות ההנחיה לאחור, השפעה זו נחלשת ולעיתים נעלמת. מאחר שאין למשתמש דרך לדעת מתי הנחיה עדיין נוכחת סטטיסטית ומתי לא — אין להסתמך עליה כעל כלל מחייב.
במקום זאת:
אם המשתמש היה כותב: "ומה צפוי ביום שישי? תענה בקצרה".
הפלט היה קצר.
אבל, לא בגלל שהמערכת “זכרה” את ההערה הקודמת, אלא בגלל שהדרישה נוכחת עכשיו בטקסט.
💡 התובנה המרכזית
המערכת אינה לומדת מתוך חזרה, ואינה משנה התנהגות בגלל תיקון קודם.
היא פועלת כך: כל תגובה נוצרת מחדש, מתוך ההקשר הטקסטואלי הנוכחי בלבד ובלי העדפה למה שנאמר בעבר - גם באותה שיחה.
📌 ואיך בכל זאת יוצרים עקביות בתוך שיחה?
אפשר ליצור עקביות באמצעות כללים מקומיים, כל עוד הם כתובים במפורש כחלק מהשיחה.
ניתן להגדיר אותם בכל שלב, לעדכן אותם באמצע, ולשוב אליהם בכל רגע.
אין להם תוקף אוטומטי - בכל מעבר לשאלה חדשה יש להפנות אליהם במפורש או לשלבם בבקשה עצמה.
הבה נבחן דוגמה:
שיחה
👤: אלו כללי השיחה: תשובות עד 3 שורות, בלי דימויים.
🤖 מאושר.
👤: לפי כללי השיחה, איך משפיעה הריבית על האינפלציה?
🤖 תשובה קצרה וללא דימויים.
👤: עדכון לכללי השיחה: מחק את ההנחיה “בלי דימויים”.
🤖 מאושר.
👤: לפי הכללים המעודכנים, איך משפיעה הריבית על האינפלציה?
🤖 תשובה קצרה, עם דימוי קצר.
העקביות כאן אינה תוצאה של למידה, אלא של נוכחות טקסטואלית: הכללים פועלים רק כאשר מפנים אליהם במפורש.
🧭 מה זה אומר לגולש בפועל
מי שמבין זאת מפסיק לומר “כבר אמרתי”, ומנסח את הדרישה כחלק מהבקשה עצמה, בלי להניח שהרצף יוצר מחויבות. במצב כזה, כל פנייה עומדת בפני עצמה.
זה לא פוגע בזרימה — זה מונע אכזבה.
כאשר נדרשת עקביות לאורך שיחה, הוא בוחר באסטרטגיה אחרת: הגדרה מודעת של כללים מקומיים והפניה אליהם במפורש. במקום לצפות שהרצף יעבוד מעצמו, הוא מנהל את ההקשר באופן יזום — משלב, מזכיר, ומעדכן כללים לפי הצורך.
✅❌ עשה / אל תעשה
עשה
✅ שלב כל דרישה בתוך הבקשה עצמה
✅ או, כאשר נדרשת עקביות - הגדר כללים מקומיים והפנה אליהם במפורש
✅ הנח שאין “למידה תוך כדי”, רק הקשר פעיל
אל תעשה
❌ אל תסתמך על תיקונים קודמים
❌ אל תאמר “כבר אמרתי” במקום לנסח
❌ אל תניח שכללים “ממשיכים לחול” בלי אזכור
❌ אל תבלבל בין רצף שיחה לבין שינוי התנהגות