ניתוח בינה מלאכותית עם מעורבות אנושית: המדריך המלא

אוטומציה מלאה היא הבטחה מפתה. אבל בהחלטות עסקיות רציניות, כאלה שנוגעות לסיכון, לרווחיות, לציות רגולטורי וללקוחות, ה-AI לבדו לרוב אינו מספיק. בהקשר ה-IT האיטלקי, האימוץ של תהליכי Human-in-the-Loop מואץ: בחברות טכנולוגיה עם פחות מ-250 עובדים, השימוש ב-AI HITL לניתוח נתונים גדל ב-40% תוך שישה חודשים, מ-6.3% ל-8.8% עד ספטמבר 2025, על פי נתונים שדווחו על ידי Software Oasis. זה לא פרט טכני. זה אות אסטרטגי.

הסיבה פשוטה. הבינה המלאכותית מצטיינת בטיפול בנפח, במהירות ובחזרות. בני האדם מצטיינים כאשר נדרשים הקשר, שיקול דעת ואחריות. אם מפרידים בין שני העולמות הללו, התוצאה היא איטיות או טעויות. אם משלבים ביניהם היטב, הופכים את הניתוח למערכת קבלת החלטות איתנה יותר.

לכן ה-human-in-the-loop AI analytics הופך למודל תפעולי, לא רק לקטגוריה טכנולוגית. עבור עסקים קטנים ובינוניים איטלקיים רבים, זו גם הדרך הריאלית ביותר לאמץ AI מבלי לבנות מאפס צוות מדעני נתונים. וזה מסביר מדוע prompt engineering לבדו לא עוזר הרבה כאשר הבעיה האמיתית אינה יצירת תשובה, אלא קבלת החלטה אמינה.

מבוא: בינה מלאכותית לבדה אינה מספיקה

מערכת אוטומטית לחלוטין פועלת היטב כל עוד העולם מתנהג כצפוי. הבעיה היא שעסקים, לקוחות, שרשרת האספקה והונאות לעולם אינם פועלים לפי תסריט מסודר. די בחריגה אחת, בשינוי רגולטורי או בסימן מעורפל, והתוצאה הנכונה מבחינה סטטיסטית עלולה להפוך להחלטה שגויה מבחינה עסקית.

ההיגיון העומד בבסיס ה-HITL נובע מכך. הוא אינו מוסיף בודק אנושי "בשלב הסופי" מתוך זהירות בירוקרטית. הוא מעצב מחדש את התהליך כך שה-AI תפעל בתחומים שבהם היא חזקה ביותר, ותפנה להתערבות אנושית רק במקומות שבהם הדבר באמת חשוב.

המטרה אינה להאט את האוטומציה. המטרה היא למנוע מהאוטומציה לטעות בהחלטות שהמחיר שלהן הכי גבוה.

עבור מנהיג עסקי מנוסה, זה משנה את השאלה. כבר לא "כמה אני יכול לאוטומט?", אלא "איזה חלק מההחלטה חייב להישאר קונטקסטואלי, ניתן להסבר וניתן לשליטה?". שם ה-human-in-the-loop AI analytics הופך ליתרון תחרותי, במיוחד בפיננסים ובקמעונאות, שבהם מהירות ושיקול דעת חייבים להתקיים יחד.

מהו הגישה של ניתוח בינה מלאכותית עם מעורבות אנושית (Human-in-the-Loop)

מבחינת ארגון, ה-HITL אינו פונקציה טכנית נוספת. זהו מודל תפעולי שנועד לקבוע מי עושה מה בין המערכת לאנשים לאורך תהליך הניתוח.

בניתוח בינה מלאכותית מסוג "human-in-the-loop", הבינה המלאכותית בוחנת כמויות גדולות של נתונים, מבצעת סיווג, חיזוי או התראה, ולאחר מכן מפנה להתערבות אנושית רק את המקרים הדורשים שיקול דעת בהקשר הספציפי. זה קורה, למשל, כאשר האות אינו חד-משמעי, הערך הכלכלי של ההחלטה גבוה, או שהסיכון הרגולטורי אינו מאפשר תגובה אוטומטית ללא אימות.

היחסים דומים לאלה שבין טייס קווי לבין מערכת הטייס האוטומטי. המכונה מתמודדת היטב עם החלקים הסטנדרטיים והחוזרים על עצמם. האדם מפקח על הנקודות שבהן ניסיון, הקשר ואחריות הם גורמים מכריעים.

המודל התפעולי, בלי מונחים מקצועיים

בפועל, התהליך מתנהל כך:

• ה-AI מנתח את הנתונים ומזהה דפוסים, חריגות ומתאמים שבעין אנושית היו דורשים הרבה יותר זמן.
• המערכת מודדת את רמת הביטחון של התחזית, או מיישמת ספי סיכון שהוגדרו על ידי העסק.
• המפעיל האנושי מתערב במקרים שנבחרו, תוך שימוש בהקשר מסחרי, היסטוריית לקוח, מדיניות פנימית או קריטריוני ציות.
• ההחלטה האנושית הופכת למשוב שימושי לתיקון המודל ולחידוד הכללים במחזורים הבאים.

כאן מתבטא ההבדל בין תיאוריה לבין החזר ההשקעה (ROI). מערכת HITL טובה אינה מעבירה את הכל לבדיקה ידנית. אילו הייתה עושה זאת, היא הייתה מאבדת את יתרון הגודל של האוטומציה. לעומת זאת, אילו הייתה מותירה את ההחלטה בידי המודל בכל מקרה, היא הייתה חושפת את החברה לטעויות היקרות ביותר. הערך נובע מבחירה מושכלת של הנקודות שבהן ההתערבות האנושית באמת משנה את התוצאה הכלכלית או את פרופיל הסיכון.

עבור חברה קטנה ובינונית (SME) איטלקית, היבט זה חשוב יותר מהמורכבות של האלגוריתם. בתחום הפיננסי, משמעות הדבר היא שהאנליסט יבדוק רק את התיקים בעלי פרופיל חריג או תיעוד לא עקבי. בתחום הקמעונאות, משמעות הדבר היא שהמערכת תעביר למנהל הקטגוריה או למנהל המסחר האלקטרוני רק התראות בנוגע לתמחור, מלאי או נטישת לקוחות, שהמערכת אינה מצליחה לפרש בוודאות מספקת. פלטפורמות כמו ELECTE את המודל הזה לבר-ביצוע גם ללא צוות פנימי של מדעני נתונים, מכיוון שהן הופכות את המשוב התפעולי לחלק מובנה בתהליך.

שלוש רמות אוטומציה שונות מאוד

כדי למנוע בלבול, כדאי להבחין בין שלושה מודלים.

ההבדל הוא ארכיטקטוני, ולא סמנטי. הוא מגדיר זמני תגובה, עלויות תפעול, איכות ההחלטות ורמת השליטה שההנהלה שומרת על התהליך.

כלל שימושי הוא פשוט. השימוש ב-HITL מוצדק כאשר עלות הביקורת הממוקדת נמוכה מהעלות הפוטנציאלית של טעות אוטומטית. לכן, הוא מיושם ביתר קלות בתהליכים שבהם מספר קטן של מקרים שגויים עלול לפגוע ברווחיות, ליצור חיכוך עם הלקוח או להוביל לבעיית תאימות.

בקיצור, ניתוח בינה מלאכותית מסוג "human-in-the-loop" אינו מוסיף אנשים מתוך זהירות. הוא מקצה לאנשים את השלבים שבהם שיקול דעתם מייצר את הערך הכלכלי הגדול ביותר ואת השליטה הניהולית הרבה ביותר.

היתרונות והסיכונים שבשיתוף הפעולה בין האדם למכונה

עבור מנהיג עסקי, העניין אינו להוסיף בקרה אנושית מתוך זהירות. העניין הוא להקצות את שיקול הדעת האנושי לאותם מקומות שבהם האוטומציה מאבדת מדיוקה הכלכלית. ה-HITL פועל ביעילות כאשר הוא מפחית את עלות הטעויות יותר מאשר הוא מעלה את עלות התהליך.

דבר זה משנה את האופן שבו יש להתייחס לערך של ניתוח בינה מלאכותית. מודל טהור ממקסם את היקף הפעילות ואת המהירות. מודל הכולל מעורבות אנושית ממקסם את האיזון בין אוטומציה לאיכות קבלת ההחלטות בשלבים המשפיעים על הרווחיות, הסיכון והאמון הפנימי. עבור חברות קטנות ובינוניות רבות באיטליה, במיוחד בתחום הפיננסי והקמעונאי, זהו הבדל אסטרטגי. אין צורך לשאוף לאוטומציה מוחלטת. יש צורך לאוטומטיזציה נכונה של זרימות בעלות נפח גבוה, ולהעסיק אנשים במקרים העלולים לגרום להפסדים, מחלוקות או החלטות עסקיות שגויות.

היכן נוצר הערך

הערך מתמקד בנקודות החיכוך בתהליך, ולא בפיקוח האנושי כשלעצמו.

שלושת היתרונות הבאים חוזרים על עצמם שוב ושוב:

• החלטות טובות יותר במקרים מעורפלים. האנליסט מוסיף הקשר תפעולי, היסטוריית לקוח, חריגים מסחריים או אילוצים רגולטוריים שהמודל אינו רואה באמינות מספקת.
• אמון רב יותר מצד ההנהלה. מערכת שמציגה ספי סף, נימוקי אסקלציה ומעקב אחר בדיקות קלה יותר לאימוץ בתהליכים שדורשים אחריות פורמלית.
• מודלים שמשתפרים עם הזמן. משוב אנושי, כאשר הוא מובנה, הופך לאות שימושי לחידוד סיווגים, סדרי עדיפויות וספי התערבות.

התוצאה העסקית ברורה: פחות החלטות שמתקבלות באופן אוטומטי ללא בדיקה במקומות שבהם טעות עולה ביוקר.

אנלוגיה מועילה היא זו של בקרת איכות בתעשייה. אף חברה רצינית לא מציבה בודק על כל פריט אם הפגם הוא נדיר וזול לתיקון. אך אף חברה לא משאירה ללא בדיקה את האצוות שבהן טעות עלולה לגרום להחזרות, לקנסות או לפגיעה במוניטין. ה-HITL מיישם את אותה ההיגיון על החלטות המבוססות על נתונים. הוא דוגם, מסנן ומעביר לדרג גבוה יותר רק במקרים שבהם הסיכון מצדיק זאת.

לכן הגישה הזו מעניינת גם עבור חברות שאין להן צוות של מדעני נתונים. פלטפורמות כמו ELECTE את המורכבות התפעולית, מכיוון שהן הופכות את המשוב של מי שעוסק באשראי, בתמחור, במלאי או בלקוחות לשלב שניתן לנהל בתוך זרימת העבודה, ולא לפרויקט טכני נפרד.

שם הפרויקטים נעשים מורכבים

היתרונות אינם מובטחים. תהליך שתוכנן בצורה לקויה יישאר תהליך שתוכנן בצורה לקויה, גם אם הוא כולל בודק אנושי.

הסיכונים הנפוצים ביותר הם:

• צוואר בקבוק תפעולי. אם הספים מוגדרים בצורה שגויה, יותר מדי חריגים מגיעים לצוות והזמן תגובה מחמיר.
• הטיה אנושית שחוזרת למערכת. אם מי שמבצע את הבדיקה מחליט בצורה לא עקבית או לא מתועדת, המודל לומד אותות מעוותים.
• עלות ארגונית שמוערכת בחסר. נדרשים תפקידים ברורים, תורי עבודה, סדרי עדיפויות, ממשקים פשוטים וקריטריוני הסלמה שניתנים לבדיקה.
• ממשל דמה. נוכחות של אדם בתהליך אינה מבטיחה שליטה אמיתית אם לא קיימים מסלולי ביקורת, מדדים ואחריות מוגדרת.

פרויקט HITL נכשל לעתים קרובות מסיבה מאוד קונקרטית. החברה משלבת אנשים בתהליך אוטומטי מבלי לעצב מחדש את נקודות ההחלטה, את זמני ההתערבות ואת הקריטריונים שבאמצעותם מקרה מועבר לבדיקה.

יש כאן גם טעות בתפיסה הניהולית. צוותים מסוימים מתייחסים ל-HITL כשלב זמני, שימושי רק עד שהמודל יהיה "טוב" מספיק כדי לפעול בכוחות עצמו. בתהליכים בעלי השפעה רבה, הנחה זו מתקיימת לעיתים רחוקות. בתחומי האשראי, המאבק בהונאה, תמהיל המוצרים או תמחור מבצעי, הפיקוח הסלקטיבי אינו עלות עודפת שיש לבטל. זהו מרכיב קבוע במודל התפעולי, משום שהוא מגן על הדוח הכספי ומאפשר להציג את ההחלטות בצורה משכנעת.

השאלה, אם כן, אינה האם להגיע למצב של אפס פיקוח. השאלה היא היכן הפיקוח מניב את התשואה הגבוהה ביותר על ההשקעה (ROI) והיכן הוא דווקא מעכב את התהליך מבלי ליצור ערך. הבחנה זו קובעת במידה רבה את התשואה על ההשקעה, במיוחד עבור חברות קטנות ובינוניות (SME) הנדרשות לאמץ ניתוח נתונים מבוסס בינה מלאכותית (AI) עם משאבים מוגבלים ויעדים הניתנים למדידה בטווח הקצר.

שימוש מעשי בתחום הפיננסי

בתחום הפיננסי, חשיבותו של ה-HITL באה לידי ביטוי במקרים המשפיעים ביותר על הדוח הכספי ועל האחריות הרגולטורית. לא בפעולות שגרתיות, שהאוטומציה מטפלת בהן היטב, אלא בהחלטות בעלות רמת אי-ודאות גבוהה, שבהן טעות עולה זמן, פגיעה במוניטין או התערבות של גופי ביקורת.

הדוגמה הברורה ביותר היא המאבק בהלבנת הון. המודל מנתח כמויות גדולות של עסקאות, מזהה דפוסים חריגים וקובע סדר עדיפויות לטיפול במקרים. האנליסט מתערב רק במקרים שבהם נדרש שיקול דעת. בפועל, הבינה המלאכותית פועלת כמערכת מיון מהירה, בעוד שמנהל הציות מטפל במקרים החריגים הדורשים הבנת הקשר, ניסיון ויכולת לנמק החלטה.

כאשר המודל מסמן והאנליסט מחליט

נבחן לקוח עסקי שפעילותו חורגת מהדפוס ההיסטורי. מנוע אוטומטי עשוי לסווג את המקרה כחשוד משום שהוא מזהה סטייה סטטיסטית. לעומת זאת, אנליסט עשוי לקשר את הסטייה הזו לארגון מחדש של החברה, לשלב עונתי בעסק או לתיעוד שכבר קיים במערכות הפנימיות.

כאן נוצר ה-ROI האמיתי.

אם כל חריגה מטופלת כסיכון מלא, הבנק מגדיל את מספר התוצאות החיוביות השגויות, מעכב את צוותי הבקרה ומפנה זמן מהטיפול במקרים הקריטיים באמת. לעומת זאת, אם המודל מסנן את המקרים הגבוליים והמפעיל מאשר אותם, המוסד מצמצם את עלויות התפעול של הבדיקה מבלי לפגוע באיכות הפיקוח. עבור חברה פיננסית קטנה או בינונית או עבור ארגון עם צוותי ציות מצומצמים, הדבר משפיע על הקיימות של התהליך יותר מאשר הדיוק התיאורטי של המודל.

למי שרוצה לראות כיצד הנושא מיושם בפועל, הסרטון הזה מספק מידע מועיל:

כי זה חשוב גם לצורכי ציות ופיקוח

בתחום האשראי ההיגיון דומה, אך היתרון הניהולי בולט עוד יותר. מודל דירוג יכול לעבד במהירות משתנים מובנים רבים. עם זאת, ישנם פרופילים שקשה לנתח באמצעות כללים סטנדרטיים, כגון פרילנסרים, מיקרו-עסקים, חברות עם אופי עונתי מובהק או מצבים פיננסיים שאינם ליניאריים.

במקרים אלה, ה-HITL משפר שלושה מדדי ביצוע:

1. מפחית תוצאות שגויות חיוביות, ומגביל דחיות או חסימות שלא היו עומדות בבדיקה ידנית;
2. הופך את ההחלטה לניתנת להסבר, מכיוון שהשלב האנושי משאיר עקבות של הקריטריון שיושם;
3. מפשט ביקורות ובקרות פנימיות, שכן התהליך מתעד מי אימת את המקרה, עם אילו ראיות ובאיזה רגע.

מבחינת מנהל מנוסה, זהו העיקר האסטרטגי. ה-HITL אינו מסתפק בהוספת חתימה אנושית בשלב הסופי של התהליך. הוא מעצב מחדש את תהליך קבלת ההחלטות, כך שהמומחיות תופנה אך ורק לאזורים שבהם הסיכוי לטעויות באוטומציה הוא הגבוה ביותר, או שבהם ההשפעה הרגולטורית היא המשמעותית ביותר.

מבחינה רגולטורית, מומלץ לנקוט בגישה זהירה. אין להתייחס לחובה ספציפית של Consob בנוגע ל-HITL בתחום ניתוח הבינה המלאכותית כאל עובדה מוגמרת, ללא התייחסות רגולטורית ישירה וניתנת לאימות באותו סעיף. עם זאת, הכיוון ברור: בפעילויות של ציות, בקרה ומתן אשראי, גוברות הציפיות בנוגע לניתנות למעקב, לפיקוח אנושי ולהנמקה של החלטות אוטומטיות.

עבור חברות קטנות ובינוניות באיטליה, הבחנה זו חשובה מאוד. פרויקט HITL מתוכנן היטב אינו מחייב בהכרח צוות פנימי של מדעני נתונים. הוא דורש פלטפורמה שתנתב מקרים מסופקים, תאסוף משוב, תנהל תיעוד ביקורת ותקל על עבודת צוותי הכספים והסיכונים. כאן נכנסים לתמונה כלים כמו ELECTE את רף הכניסה. הם הופכים את ה-HITL מארכיטקטורה תיאורטית לתהליך מדיד, עם יתרונות מוחשיים מבחינת זמני הביקורת, איכות ההחלטות ועלות הציות.

שימושים בתחום הקמעונאות והמסחר האלקטרוני

בתחום הקמעונאות, הטעות היקרה ביותר אינה נובעת מתחזית לא מדויקת באופן תיאורטי. היא נובעת מתחזית נכונה על סמך נתונים היסטוריים, אך שגויה ביחס להקשר הממשי של נקודת המכירה, האזור או שבוע המבצעים. לכן לגישה של "human-in-the-loop" יש ערך תפעולי ישיר. היא משלבת שיקול דעת עסקי במקרים שבהם המודל, כשלעצמו, עלול לפרש את העבר בדייקנות אך את ההווה באיחור.

תחזיות, מלאי והמצב המקומי

קמעונאי משתמש ב-AI כדי להעריך את הביקוש, הזמנות חוזרות וחלוקת המלאי בין הערוצים והחנויות. המודל מזהה עונתיות, מגמות של מכירה מוחלטת, השפעות של מבצעים קודמים ותחלופה לפי SKU. עם זאת, מנהל הקטגוריה רואה סימנים שלעתים רחוקות נכנסים מיד למאגרי הנתונים: תוכן ברשתות החברתיות שמאיץ את הביקוש, חג מקומי, עיכוב מצד הספק, קמפיין אגרסיבי של מתחרה באותו אזור.

העניין הוא לא לתקן את המודל כל הזמן. העניין הוא להתערב רק כאשר עלות הטעות עולה על עלות הבדיקה האנושית. בתחום הקמעונאות זה קורה לעתים קרובות במוצרים עונתיים, במוצרים בעלי רווחיות גבוהה, במבצעים ובמבחר מוצרים מקומי.

עבור חברה קטנה ובינונית איטלקית, היתרון הוא מוחשי. פחות מחסור במלאי של המוצרים הנמכרים באמת. פחות הון קפוא במוצרים שאינם נמכרים היטב. פחות הנחות כפויות בסוף מחזור המכירה. למעשה, ה-HITL פועל כמו מגדל פיקוח: הבינה המלאכותית מנהלת את התנועה השוטפת, ומנהל המכירות מטפל במקרים חריגים העלולים להשפיע על הרווחיות ועל השירות.

העיכוב באימוץ הופך גישה זו לרלוונטית עוד יותר. לפי ISTAT, רק חלק מוגבל מהחברות עם 10 עובדים ומעלה משתמש בטכנולוגיות בינה מלאכותית, עם הבדלים משמעותיים לפי גודל החברה והמגזר, כפי שדווח בסקר הרשמי על השימוש ב-ICT בחברות: ISTAT, Imprese e ICT. עבור חברות רבות בקטגוריית ה-PMI, הבעיה אינה להבין אם ה-AI שימושי. הבעיה היא לאמץ אותו מבלי לבנות צוות טכני ייעודי. פלטפורמה שמכניסה את המנהל ללולאת קבלת ההחלטות מפחיתה חסם זה.

מחירים, מבצעים והחלטות שמגנות על הרווחיות

אותו דפוס תקף גם לתחומי התמחור והשיווק, שבהם אוטומציה מוחלטת עשויה אמנם לשפר את המהירות, אך גם להוביל להחלטות קצרות רואי.

• תמחור דינמי. האלגוריתם מציע שינוי עקבי עם הביקוש, המלאי וההתנהגות ההיסטורית. מנהל המכירות יכול לעצור אותו אם קיים סיכון לפגיעה במיצוב המותג או ליצירת חוסר עקביות בין הערוץ המקוון לחנות הפיזית.
• מבצעים. הבינה המלאכותית מזהה אשכולות וחלונות זמן עם סבירות גבוהה יותר להמרה. צוות השיווק בודק אם ההודעה מתאימה להקשר, אם המבצע פוגע בקווי מוצר אחרים או אם לחנות אכן יש מלאי זמין.
• מגוון מוצרים. המודל מציע אילו קטגוריות לקדם. הקונה מתקן בהתאם למגבלות לוגיסטיות, הסכמים עם ספקים או רגישויות ספציפיות של השוק המקומי.

כאן מתגלה נקודה אסטרטגית שלעתים קרובות לא מוערכת כראוי. בתחום הקמעונאות, המטרה אינה למקסם כל תחזית ותחזית. המטרה היא לקבל החלטות שניתן לחזור עליהן, אשר ישמרו על הרווחיות, על הזמינות על המדפים ועל העקביות המסחרית. ה-HITL מעביר את העבודה האנושית מפעולות חוזרות ונשנות אל חריגים בעלי השפעה רבה.

עבור אתר מסחר מקוון או רשת מקומית, ההבדל הזה חשוב יותר מהמורכבות של המודל. מערכת חיזוי מספקת התראות. מערכת הכוללת מעורבות אנושית מסייעת לצוות לקבל החלטות מוקדם יותר, תוך התייחסות להקשר רחב יותר ועם פחות חיכוך תפעולי. ובדיוק בנקודה זו פתרונות כמו ELECTE למעניינים עבור חברות קטנות ובינוניות. הם הופכים לתהליך בר-ביצוע מה שעד לפני שנים ספורות נראה כמיועד רק לקמעונאים המעסיקים מדעני נתונים פנימיים ומחזיקים בתקציבים של חברות ענק.

כיצד ELECTE את זרימת ה-Human-in-the-Loop

מודל HITL מועיל רק אם תהליך העבודה מובן למקבלי ההחלטות. אם הבדיקה מצריכה מעורבות של מדעני נתונים, שאילתות ידניות או שלבים טכניים מורכבים, חברות קטנות ובינוניות רבות נוטשות את המשימה עוד לפני שהן מתחילות.

תהליך העבודה בפועל

בפלטפורמה שתוכננה כהלכה, התהליך אמור להיראות כך:

1. חיבור למקורות הנתונים
   CRM, ERP, מסחר אלקטרוני, גיליונות תפעוליים ומערכות פיננסיות נכנסים לאותו זרם מידע.
2. ניתוח אוטומטי של האותות
   ה-AI מעבד את הנתונים ומייצר תחזיות, התראות, דוחות וחריגות.
3. הקצאת רמת ביטחון ועדיפות
   לא כל תובנה שווה באותה מידה. חלקן ברורות, אחרות דורשות בדיקה.
4. העברה סלקטיבית למשתמש
   מקרים לא ודאיים או בעלי השפעה גבוהה מגיעים ללוח בקרה לבדיקה.
5. משוב אנושי
   המנהל מאשר, מתקן או דוחה את התובנה כשההקשר גלוי לעין.
6. למידה מתמשכת
   המערכת משתמשת במשוב הזה כדי לחדד את המודל לאורך זמן.

היגיון זה עולה בקנה אחד עם ארכיטקטורת לולאת המשוב הפעילה המתוארת במקורות המאושרים: הבינה המלאכותית מבקשת אימות אנושי בנקודות שבהן אי-הוודאות היא הגדולה ביותר, במקום לדרוש בקרה על כל מאגר הנתונים. זהו הצעד שהופך את ה-HITL לבר-קיימא, ולא רק לנכון מבחינה תיאורטית.

מדוע מודל זה נגיש גם לעסקים קטנים ובינוניים

עבור חברה קטנה ובינונית, האתגר האמיתי אינו "להשתמש ב-AI". האתגר הוא להשתמש בה מבלי להקים מחלקה טכנית ייעודית. זו הסיבה שהממשק חשוב לא פחות מהמודל.

גישה יעילה צריכה לכלול:

• לוחות בקרה ברורים, לא פלטים אטומים;
• התראות על חריגות אמיתיות, לא רעש מתמיד;
• הקשר גלוי לצד התובנה, כך שהאדם יכול להחליט במהירות;
• אינטגרציות חלקות עם המערכות הקיימות בשימוש, כפי שמתואר בעמוד הייעודי לאינטגרציות של Electe.

אם הבודק צריך לפרש מודל ללא הקשר, הלולאה נשברת. אם הוא רואה תובנה, נימוק והשפעה באותו מרחב, הלולאה הופכת להחלטה.

כאן טמון היתרון האסטרטגי. ה-HITL לא צריכה לדרוש מהחברות הקטנות והבינוניות להתאים את עצמן לטכנולוגיה. על הפלטפורמה היא זו שתתרגם את המורכבות האנליטית לתהליך שמנהל כספים, תפעול או קמעונאות יוכל לנהל בכמה צעדים בודדים.

שיטות מומלצות ליישום מוצלח

פרויקטי HITL מייצרים ערך כאשר הם מצמצמים את עלויות קבלת ההחלטות, ולא כאשר הם מוסיפים רובד בקרה חדש. עבור חברה קטנה או בינונית באיטליה, המטרה אינה לשלב בדיקה אנושית בכל שלב. המטרה היא לבחור את השלבים שבהם שיקול הדעת האנושי מתקן טעויות יקרות, מאיץ את הטיפול בחריגים והופך את המודל ליעיל יותר לאורך זמן.

לכן, סדר הפעולות חשוב יותר מהשאיפה הראשונית. מקרה שימוש טוב ראשון כולל שלושה מאפיינים יחד: השפעה כלכלית ניכרת, נתונים היסטוריים מספקים והחלטה שכבר תלויה כיום בניסיונו של אדם. תחום הפיננסים והקמעונאות נכללים לעתים קרובות בפרופיל זה. בתחום האשראי המסחרי, למשל, בדיקה ממוקדת של מקרים מעורפלים יכולה לצמצם טעויות הערכה מבלי להאט את הזרימה כולה. בתחום הקמעונאות, אותו עיקרון חל על הזמנות חוזרות, תמחור מבצעי וניהול חריגות במלאי.

כאן נקבע ה-ROI.

אם הצוות האנושי מתערב בכל החלטה, הבינה המלאכותית הופכת רק לשלב ביניים. אם היא מתערבת רק במקרים של אי-ודאות גבוהה או השפעה רבה, החברה זוכה לתוצאה שונה בתכלית: פחות עומס תפעולי במקרים פשוטים ויותר תשומת לב למקרים שבאמת משנים את התוצאה הכלכלית. זוהי ההיגיון שהוזכר קודם לכן. על ידי ריכוז המשוב בנקודות הנכונות, הארגון מנצל טוב יותר הן את זמנם של העובדים והן את יכולות המודל.

השיטה המומלצת השנייה נוגעת לעיצוב נקודת ההתערבות האנושית. ביישומים רבים הבעיה אינה האלגוריתם, אלא העמימות בתהליך. אם לא ברור מי מאשר, באילו ספים ועל סמך אילו נתונים, המערכת לא לומדת. היא רק מעבירה את החיכוך משלב אחד לשני.

לפני העלייה לאוויר, מומלץ להגדיר ארבעה מרכיבים תפעוליים:

• תפקיד קבלת החלטות מוגדר, למשל בקר, אנליסט סיכונים, קניין או מנהל סניף
• קריטריוני הסלמה, המבוססים על רמת הביטחון של המודל, הערך הכלכלי של המקרה או הסיכון הרגולטורי
• ההקשר המוצג לבודק, כגון היסטוריית הלקוח, הנימוק להתראה, ההשפעה המשוערת ונתוני תמיכה
• אופן השימוש החוזר במשוב, כך שהתיקון נכנס למערכת ומשפר את המקרים העתידיים

כלל אצבע שיעזור לכם להבין אם הפרויקט מוכן: אם הבודק אינו יודע מדוע הוטל עליו לטפל במקרה זה, פירוש הדבר שהיישום עדיין אינו מוכן.

ישנה טעות נפוצה נוספת בקרב חברות קטנות ובינוניות. נהוג לחשוב שיש צורך להכשיר את ההנהלה במתמטיקה של המודל. אך למעשה נדרש דבר אחר: היכולת לזהות חריגה, להעריך את סבירות התובנה ולספק משוב עקבי. זהו הבדל משמעותי. מנהל קטגוריה אינו צריך לאמן את האלגוריתם. עליו לזהות אם הצעת הזמנה מחודשת מתעלמת ממבצע מקומי, מחלפת ספקים או ממחסור במלאי שכבר ידוע לצוות.

פלטפורמות כמו ELECTE גישה זו לנגישה יותר, דווקא משום שהן מסתירות את המורכבות הטכנית מאחורי ממשק תפעולי. עבור חברות קטנות ובינוניות רבות, היתרון האסטרטגי טמון בכך: אין צורך להקים צוות של מדעני נתונים כדי להשתמש כראוי בניתוח בינה מלאכותית, אלא לאפשר למחלקות הכספים והקמעונאות לתקן, לאמת ולשפר את המערכת במסגרת זרימת העבודה היומיומית.

איכות היישום נמדדת באמצעות מספר מצומצם של מדדים קונקרטיים: משך זמן הבדיקה לכל חריגה, שיעור אימוץ ההמלצות, הפחתת השגיאות החוזרות וההשפעה הכלכלית של התיקונים. אם הנתונים הללו אינם משתפרים, הפרויקט רק אוטומטי את התפוקה. הוא עדיין לא משפר את קבלת ההחלטות.

ניתוח נתונים טוב מסוג human-in-the-loop AI analytics משתמש במעט התערבויות אנושיות, ממוקמות היטב וניתנות למעקב. כך שיתוף הפעולה בין אדם ומכונה מפסיק להיות הבטחה טכנית והופך למשמעת תפעולית עם תשואות מדידות.

ממשל ואתיקה בבינה מלאכותית היברידית

כאשר הבינה המלאכותית נכנסת לתהליך המשפיע על אשראי, מחירים, הונאות או ציות לתקנות, השאלה המרכזית משתנה. לא משנה רק אם המודל מספק תחזית מדויקת. מה שחשוב הוא אם החברה יכולה לשחזר כיצד אותה תחזית הפכה להחלטה, מי אישר אותה ועל סמך אילו קריטריונים.

כאן, הממשל אינו מהווה רובד ניהולי שנוסף בדיעבד. הוא פועל כמו מערכת הבקרה של פס ייצור: אם נקודות הבדיקה מוגדרות היטב, הארגון מצמצם טעויות יקרות עוד בטרם הן מגיעות ללקוח, למבקר או לרשות הפיקוח. ב-AI היברידית, ערכו של ההתערבות האנושית טמון גם בכך: הפיכתו של תהליך, שעלול להישאר מעורפל באוטומציה טהורה, לתהליך שניתן לעקוב אחריו.

הטיה, אחריותיות ועקיבות

הנקודה הראשונה היא ההטיה. בתחום הפיננסי, כפי שכבר צוין לעיל, הבעיה אינה נובעת רק מהנתונים ההיסטוריים, אלא גם מהאופן שבו המודל מתרגם נתונים אלה לאותות תפעוליים. מנגנון פיקוח אנושי (human-in-the-loop) שתוכנן כהלכה מסייע באיתור חריגות שהמערכת רואה כנורמליות, משום שלמדה אותן מהעבר.

אולם, נוכחות אנושית אינה פותרת את הבעיה מעצם הגדרתה. היא רק מעבירה אותה למישור אחר אם אין משמעת תפעולית. מבקר יכול לשפר החלטה, אך הוא גם עלול לאשר באופן מכני את המלצות המודל או להכניס העדפות סובייקטיביות שקשה לזהות.

לכן, בחברות קטנות ובינוניות (SME) המעוניינות להשיג תשואה אמיתית על ההשקעה (ROI) מפרויקטי HITL בתחומי הפיננסים והקמעונאות, מומלץ להתייחס לשלושה מרכיבים אלה כאל חלקים מהתהליך, ולא כאל פורמליות של ביקורת:

• יומן החלטות, כדי לקשר כל אישור או שינוי לתפקיד מדויק;
• נימוק מובנה לבדיקה, שימושי כדי להבחין בין חריגה עסקית לבין שיפוט אינטואיטיבי;
• ניתוח תקופתי של דפוסי אישור ותיקון, כדי להבין אם הצוות האנושי משפר את המודל או רק מאשר את הפלטים.

להבחנה זו יש השפעה כלכלית ישירה. אם המשוב האנושי אינו מתועד ואינו ניתן לשימוש חוזר, החברה משלמת פעמיים. פעם אחת עבור הטכנולוגיה, ופעם שנייה עבור בדיקה ידנית שאינה מייצרת למידה.

ה-GDPR ובקרה תפעולית

הנקודה השנייה היא האחריות. בהחלטה רגישה, האמירה ש"האלגוריתם הציע זאת" אינה מספיקה למבקר, ללקוח עסקי או למחלקת ניהול סיכונים. יש צורך בשרשרת קבלת החלטות ברורה. הנתונים ששימשו כבסיס, הסף שהפעיל את תהליך ההסלמה, ההתערבות האנושית וההחלטה הסופית.

מנקודת המבט של תקנת ה-GDPR, גישה זו מסייעת מכיוון שהיא מקלה על הוכחת צמצום הנתונים, בקרת הגישה והפיקוח על החלטות הנוגעות למידע רגיש. היא אינה מבטיחה תאימות באופן אוטומטי. עם זאת, היא מצמצמת נקודת תורפה אופיינית לפרויקטי בינה מלאכותית בחברות קטנות ובינוניות: קיומו של מודל מתפקד מבחינה טכנית, אך שקשה להגן עליו מבחינה תיעודית.

זה המקום שבו יוזמות רבות נתקעות. לא בגלל מגבלות האלגוריתם, אלא משום שאף אחד לא הגדיר מי רשאי לתקן המלצה, באילו מקרים, על סמך אילו ראיות ובאיזו אחריות סופית.

עבור מנהל בחברה, המבחן המעשי הוא פשוט: האם ניתן להסביר את ההחלטה הזו באופן עקבי בפני מבקר פנימי, לקוח או רשות פיקוח? אם התשובה אינה חד-משמעית, הסיכון אינו תיאורטי. הוא מעשי.

כדי להגדיר את המנגנונים הללו בצורה פרגמטית, מבלי ליצור מורכבות בלתי ניתנת לניהול עבור צוותים קטנים, שימושי גם המדריך של Electe בנושא בינה מלאכותית אחראית ויישום אתי של בינה מלאכותית.

מסקנות וצעדים מעשיים להמשך

הלקח החשוב ביותר הוא זה: human-in-the-loop AI analytics אינה פתרון זמני בהמתנה ל-AI "אוטונומית יותר". לרוב מדובר במודל הבשל ביותר להפיכת ניתוח הנתונים להחלטות אמינות, ניתנות להסבר ומועילות לעסק.

ה-AI אחראית על קנה המידה, המהירות וזיהוי הדפוסים. בני האדם אחראים על חריגים, אחריות והקשר. כאשר שני המישורים הללו פועלים יחד, החברה לא רק זוכה לאוטומציה רבה יותר. היא זוכה גם לאיכות החלטות טובה יותר.

נקודות מפתח

• בחר תהליך בעל השפעה גבוהה. התחל מסיכון, מלאי, תמחור או ציות, לא ממקרים שוליים.
• הגדר ספי הסלמה ברורים. האדם צריך להתערב במקרים הנכונים, לא בכולם.
• עצב את המשוב כחלק מהמודל. הבדיקה צריכה לשפר את המערכת, לא להישאר פעולה מבודדת.
• התייחס לממשל ולמעקב כדרישות. לא כבקרות שמוסיפים בדיעבד.
• שקול פלטפורמות נגישות. עבור עסק קטן או בינוני, היתרון האמיתי מגיע כאשר התהליך נשאר מובן גם ללא צוות טכני ייעודי.

אם ברצונך להפוך נתונים גולמיים להחלטות אמינות יותר מבלי להגדיל את המורכבות התפעולית, גלה כיצד Electe, פלטפורמת ניתוח נתונים מבוססת AI לעסקים קטנים ובינוניים, יכולה לתמוך בגישת Human-in-the-Loop באמצעות דמו מותאם אישית.