ממשל AI בעוגן
ממדיניות AI אל חיתום בשלות ארגונית
תעשייה
פייננס חברתי / אשראי
שירותים
טכנולוגיה
UnderwriteAI, SSO / MFA, הרשאות לפי תפקיד, תיעוד ביקורת
TL;DR
- 1.גובשה מדיניות AI ארגונית הכוללת כלים מאושרים, תפקידים ואחריות, הערכת סיכונים, פיקוח אנושי, פרטיות, ניהול ספקים וטיפול באירועים.
- 2.נבחן פתרון החיתום הפעיל מול תרחיש עבודה של 20 משתמשים פעילים וכ-20 הרצות ביום, כאשר עיבוד מקבילי כבד סומן לבדיקות עומס.
- 3.הוגדרו שערי קבלה מדידים בתחומי זהות, יכולת ביקורת, חוסן עיבוד, דיוק עסקי, אישור אנושי, ניהול סודות, גיבוי ושחזור.
- 4.נבנתה מסגרת ממשל אחת שמקשרת בין דרישות משפטיות ומדיניות ובין הוכחות טכניות וקריטריוני שחרור מוחשיים.
האתגר
עוגן מקדמת AI בסביבה פיננסית מפוקחת, שבה מערכות עשויות לעבד מידע על לווים, חשבונות בנק, עסקים ומשקי בית. אחד הפתרונות שנבחנו היה UnderwriteAI — מערכת פעילה לניתוח מסמכים ותמיכה בחיתום.
כדי להרחיב את השימוש, עוגן נדרשה להתקדם מעבר לפתרון שפשוט עובד. המערכת הייתה צריכה להפוך לשירות ארגוני מבוקר, מאובטח וניתן לביקורת, שאפשר להפעיל אותו באופן אמין לאורך זמן.
- 1
מידע פיננסי רגיש
פרטיות, בקרת גישה, ניהול ספקים וכללי טיפול במידע נדרשו להיות מוגדרים במפורש עבור מידע על לווים, חשבונות, עסקים ומשקי בית.
- 2
מוכנות תפעולית
הפתרון נדרש לתמוך בפרופיל משתמשים והרצות מוגדר, בעוד שעיבוד מקבילי כבד חייב אימות עומסים ייעודי לפני הרחבה.
- 3
עקיבות ואחריותיות
לכל מקרה נדרש בעל אחריות ברור ושרשרת שלמה מקלט וגרסת מודל ועד להרצה ולפלט, לצד אישור אנושי ותיעוד ביקורת שאינו ניתן לשינוי.
הפתרון
מדיניות AI ארגונית ומודל סיכונים
Dofinity.AI גיבשה מדיניות AI פנימית המגדירה כלים מאושרים, תפקידים אחראים, הערכת סיכונים, פיקוח אנושי, כללי פרטיות, ניהול ספקים ותגובה לאירועים. כך נוצרו הכללים הארגוניים שהפתרון הטכני נדרש לעמוד בהם.
בחינת בשלות לייצור
מערכת החיתום נבחנה מול תרחיש מוחשי של 20 משתמשים פעילים וכ-20 הרצות ביום. הבחינה תרגמה את השימוש הצפוי לדרישות תפעוליות, ועיבוד מקבילי כבד זוהה במפורש כנושא לבדיקות עומס.
שערי קבלה ובקרות טכניות
הוגדרו תנאי שחרור ברורים לכניסה ארגונית, אימות דו-שלבי, הרשאות לפי תפקיד, בעלות על מקרה, ניהול גרסאות, עקיבות מקצה לקצה, יומני ביקורת בלתי ניתנים לשינוי, תורים חסינים, בידוד משימות, ביטול בטוח, מגבלות משאבים, קלטים מוגנים, בדיקות דיוק עסקי, אישור אנושי, הפרדת סביבות בדיקה, ניהול סודות, גיבוי ושחזור.
התוצאה
עוגן קיבלה מסגרת אחת שמחברת בין דרישות משפטיות ומדיניות ובין המימוש הטכני. במקום שיפוט כללי אם פתרון מתאים לארגון, כל מרכיב נבחן מול דרישה, הוכחה תומכת ותנאי קבלה.
כך נוצר בסיס מבוקר להרחבה: שימוש רחב יותר יתקדם רק לאחר שגישה, דיוק, תפעול, חוסן ופיקוח אנושי עומדים בסטנדרט המוסכם.
מוכנים לנהל AI בקנה מידה ארגוני?
נהפוך ניסויי AI מהירים לשירותים ארגוניים מבוקרים וניתנים לביקורת.