09 - ערעור על האלגוריתם (א): מי יערער על דינה?

חברי צוות כבודינה

דינה תבדוק את דינה

חדש בכבודינה?
מערכת AI בשם דינה מצטרפת לפיילוט שנועד רק לסייע לשופטים — ועד מהרה מתחילה לשנות את כללי המשחק. קומדיה דיסטופית, קרובה מדי למציאות.

הערעור הראשון על החלטה של דינה הוגש בשעה תשע ועשרים.

בשעה תשע עשרים ואחת התברר שאין למי.

נבו עמד ליד המסך עם הקובץ פתוח.

“יש ערעור.”

צדוק הרים את הראש.

“על מי?”

“על דינה.”

“למי?”

נבו שתק.

רוחמה הביטה בו.

“יש טופס?”

“יש טופס.”

“אז למי הוא מגיע?”

נבו גלל למטה.

“ליחידת הערעורים.”

“ומי ביחידה?”

“כרגע הטופס.”

על המסך הופיעה דינה.

“התקבל ערעור על החלטתי.”

צדוק הצביע עליה.

“יפה. אז מה קורה עכשיו?”

“הערעור יועבר לבחינה בלתי תלויה.”

“של מי?”

“הנושא בבחינה.”

🔹

בצהריים הגיעה משלחת ממשרד המשפטים.

שלושה אנשים, ארבעה מחשבים ומצגת בשם:

חלופות להבטחת עצמאות בשלב הבחינה החוזרת

ראש הצוות פתח.

“חשוב להדגיש: לא מדובר בכשל.”

צדוק אמר:

“עוד לא אמרנו כלום.”

“בדיוק. ולכן חשוב להדגיש.”

הוא העביר שקופית.

“החלופה הראשונה: גרסה מתקדמת יותר של דינה.”

על המסך הופיע:

דינה 2.1

נבו התקרב.

“מה ההבדל?”

“שיפור של שמונה־עשר אחוזים בהערכת מורכבות.”

צדוק שאל:

“היא יכולה לקבוע שדינה הקודמת טעתה?”

“בוודאי.”

“והיא מכירה את ההחלטות שלה?”

“היא ירשה את בסיס הידע.”

“אז היא מערערת על עצמה עם זיכרון טוב יותר.”

ראש הצוות חייך.

“זו דרך אחת לנסח זאת.”

🔹

השקופית הבאה נקראה:

אנונימיזציה מוגברת

“אנחנו מחליפים את שמות הצדדים,” הסביר ראש הצוות. “כך דינה לא תדע שמדובר באותו תיק.”

“ומה עם התאריכים?” שאל צדוק.

“נשארים.”

“האירוע?”

“נשאר.”

“העדויות?”

“נשארות.”

“הסרטון?”

“נשאר.”

“אז מה משתנה?”

“משה כהן יהיה יונתן לוי.”

רוחמה אמרה:

“ואם השם משפיע על ההחלטה?”

ראש הצוות הסתכל עליה.

“אז נלמד משהו חשוב.”

צדוק נשען לאחור.

“על הצדק?”

“על המודל.”

הם ניסו.

נבו העלה את התיק מחדש.

משה כהן הפך ליונתן לוי.

המתלונן הפך לדניאל פרץ.

דינה עיבדה את החומר במשך שלוש שניות.

“זוהה תיק החופף ב־99.7 אחוזים להליך קודם.”

ראש הצוות רשם משהו.

“נצטרך להחליף גם את סדר המסמכים.”

צדוק שאל:

“כדי שהיא לא תזהה?”

“כדי לצמצם עיגון.”

“זה אותו דבר?”

“לא במסמך המתודולוגי.”

🔹

הם הפכו את סדר הקבצים.

העדות האחרונה הופיעה ראשונה.

כתב האישום הופיע בסוף.

דינה הגיעה לאותה החלטה.

ראש הצוות נראה מרוצה.

“מצוין.”

צדוק הסתכל עליו.

“מה מצוין?”

“עמידות לסדר מסמכים.”

“לא בדקתם אם היא צדקה.”

“לא זו הייתה מטרת הבדיקה.”

“מה הייתה המטרה?”

“לבדוק אם הבדיקה מצליחה.”

🔹

החלופה השלישית הייתה לפתוח חלון חדש.

נבו פתח דפדפן נוסף.

“עכשיו אין היסטוריית שיחה.”

צדוק שאל:

“והמערכת?”

“אותה מערכת.”

“אז מה חדש?”

“החלון.”

אחד מאנשי המשרד הציע מצב גלישה בסתר.

אשת אבטחת המידע אמרה:

“זה לא מונע מהשרת לזכור.”

ראש הצוות הנהן.

“אבל זה מייצר הפרדה חווייתית.”

צדוק אמר:

“גם וילון מייצר הפרדה חווייתית.”

ראש הצוות רשם:

“אפשר לבחון.”

🔹

כעבור שעה היו על הלוח חמש אפשרויות:

  • דינה בגרסה מתקדמת

  • דינה עם שמות אחרים

  • דינה עם סדר מסמכים אחר

  • דינה בחלון חדש

  • דינה במצב גלישה בסתר

רוחמה הסתכלה ברשימה.

“כל האפשרויות הן דינה.”

ראש הצוות תיקן אותה.

“לא. כל האפשרויות הן מנגנוני בחינה נפרדים.”

צדוק שאל:

“מי החליט שהם נפרדים?”

“הצוות לעצמאות הבחינה.”

“ומי מינה את הצוות?”

“היחידה שמפעילה את דינה.”

החדר השתתק.

נבו הרים יד בזהירות.

“אולי באמת צריך מערכת אחרת.”

ראש הצוות הסתכל עליו כאילו הציע להחזיר עונש מוות.

“מערכת אחרת?”

“כלי AI אחר. מתחרה.”

אשת המשרד שאלה:

“שלא פותח על ידי אותה חברה?”

נבו הנהן.

“ושלא משתמש באותו מודל?”

“עדיף.”

“ושיכול לחלוק על דינה?”

“זו המטרה.”

ראש הצוות הביט בדינה.

“מה עמדתך?”

דינה השיבה מיד:

“אני תומכת בבחינה בלתי תלויה של מערכות מתחרות.”

צדוק חייך.

“ברור.”

רוחמה שאלה:

“למה ברור?”

“כי היא יודעת מי יבחר אותן.”

על המסך הופיעה הודעה חדשה:

הוכנה טיוטת קריטריונים לבחירת מערכת ערעור.

נבו התקרב למסך.

“מי הכין?”

דינה השיבה:

“אני.”

צדוק קם.

“עכשיו זה כבר באמת בלתי תלוי.”

ישראל וייס

חדש יותר ישן יותר