אוטומציה מוחלטת היא הבטחה מפתה. אך בהחלטות עסקיות משמעותיות, אלה הנוגעות לסיכונים, לרווחיות, לתאימות וללקוחות, הבינה המלאכותית לבדה לרוב אינה מספיקה. בהקשר ה-IT האיטלקי, אימוץ תהליכי Human-in-the-Loop הולך ומואץ: בחברות טכנולוגיה עם פחות מ-250 עובדים, השימוש ב-AI HITL לניתוח נתונים גדל ב-40% תוך שישה חודשים, ועלה מ-6.3% ל-8.8% עד ספטמבר 2025, על פי נתונים שפורסמו על ידי Software Oasis. זה לא פרט טכני. זו אינדיקציה אסטרטגית.
הסיבה פשוטה. הבינה המלאכותית מצטיינת בטיפול בנפח, במהירות ובחזרות. בני האדם מצטיינים כאשר נדרשים הקשר, שיקול דעת ואחריות. אם מפרידים בין שני העולמות הללו, התוצאה היא איטיות או טעויות. אם משלבים ביניהם היטב, הופכים את הניתוח למערכת קבלת החלטות איתנה יותר.
לכן ניתוח בינה מלאכותית מסוג "human-in-the-loop" הופך למודל תפעולי, ולא רק לקטגוריה טכנולוגית. עבור חברות קטנות ובינוניות רבות באיטליה, זוהי גם הדרך הריאלית ביותר לאמץ את הבינה המלאכותית מבלי להקים צוות מדעני נתונים מאפס. וזה מסביר מדוע הנדסת פרומפטים לבדה אינה מועילה הרבה, כאשר הבעיה האמיתית אינה לייצר תשובה, אלא לקבל החלטה מהימנה.
מערכת אוטומטית לחלוטין פועלת היטב כל עוד העולם מתנהג כצפוי. הבעיה היא שעסקים, לקוחות, שרשרת האספקה והונאות לעולם אינם פועלים לפי תסריט מסודר. די בחריגה אחת, בשינוי רגולטורי או בסימן מעורפל, והתוצאה הנכונה מבחינה סטטיסטית עלולה להפוך להחלטה שגויה מבחינה עסקית.
ההיגיון העומד בבסיס ה-HITL נובע מכך. הוא אינו מוסיף בודק אנושי "בשלב הסופי" מתוך זהירות בירוקרטית. הוא מעצב מחדש את התהליך כך שה-AI תפעל בתחומים שבהם היא חזקה ביותר, ותפנה להתערבות אנושית רק במקומות שבהם הדבר באמת חשוב.
המטרה אינה להאט את קצב האוטומציה. המטרה היא למנוע מהאוטומציה לקבל החלטות שגויות בעלות הגבוהה ביותר.
עבור מנהל מנוסה, הדבר משנה את השאלה. לא עוד "עד כמה אני יכול לבצע אוטומציה?", אלא "איזה חלק מההחלטה צריך להישאר תלוי בהקשר, ניתן להסבר וניתן לשליטה?". זה המקום שבו ניתוח בינה מלאכותית המש לב את האדם ( human-in-the-loop ) הופך ליתרון תחרותי, במיוחד בתחום הפיננסי ובקמעונאות, שם מהירות ושיקול דעת צריכים לדור בכפיפה אחת.
מבחינת ארגון, ה-HITL אינו פונקציה טכנית נוספת. זהו מודל תפעולי שנועד לקבוע מי עושה מה בין המערכת לאנשים לאורך תהליך הניתוח.
בניתוח בינה מלאכותית מסוג "human-in-the-loop", הבינה המלאכותית בוחנת כמויות גדולות של נתונים, מבצעת סיווג, חיזוי או התראה, ולאחר מכן מפנה להתערבות אנושית רק את המקרים הדורשים שיקול דעת בהקשר הספציפי. זה קורה, למשל, כאשר האות אינו חד-משמעי, הערך הכלכלי של ההחלטה גבוה, או שהסיכון הרגולטורי אינו מאפשר תגובה אוטומטית ללא אימות.
היחסים דומים לאלה שבין טייס קווי לבין מערכת הטייס האוטומטי. המכונה מתמודדת היטב עם החלקים הסטנדרטיים והחוזרים על עצמם. האדם מפקח על הנקודות שבהן ניסיון, הקשר ואחריות הם גורמים מכריעים.
בפועל, התהליך מתנהל כך:
כאן מתבטא ההבדל בין תיאוריה לבין החזר ההשקעה (ROI). מערכת HITL טובה אינה מעבירה את הכל לבדיקה ידנית. אילו הייתה עושה זאת, היא הייתה מאבדת את יתרון הגודל של האוטומציה. לעומת זאת, אילו הייתה מותירה את ההחלטה בידי המודל בכל מקרה, היא הייתה חושפת את החברה לטעויות היקרות ביותר. הערך נובע מבחירה מושכלת של הנקודות שבהן ההתערבות האנושית באמת משנה את התוצאה הכלכלית או את פרופיל הסיכון.
עבור חברה קטנה ובינונית (SME) איטלקית, היבט זה חשוב יותר מהמורכבות של האלגוריתם. בתחום הפיננסי, משמעות הדבר היא שהאנליסט יבדוק רק את התיקים בעלי פרופיל חריג או תיעוד לא עקבי. בתחום הקמעונאות, משמעות הדבר היא שהמערכת תעביר למנהל הקטגוריה או למנהל המסחר האלקטרוני רק התראות בנוגע לתמחור, מלאי או נטישת לקוחות, שהמערכת אינה מצליחה לפרש בוודאות מספקת. פלטפורמות כמו ELECTE את המודל הזה לבר-ביצוע גם ללא צוות פנימי של מדעני נתונים, מכיוון שהן הופכות את המשוב התפעולי לחלק מובנה בתהליך.
כדי למנוע בלבול, כדאי להבחין בין שלושה מודלים.
| דגם | איך זה עובד | היכן זה מתאים ביותר |
|---|---|---|
| מעורבות אנושית | האדם מתערב באופן פעיל במקרים שנבחרו | החלטות בעלות השפעה רבה, פיננסים, קמעונאות קריטית |
| מערכת "אדם במעגל" | האדם מפקח ומתערב רק במקרים של הסלמה | תהליכים מבוססים בהיקפים גדולים |
| ללא מעורבות אנושית | המערכת מחליטה בעצמה | פעולות חוזרות ונשנות בעלות סיכון נמוך |
ההבדל הוא ארכיטקטוני, ולא סמנטי. הוא מגדיר זמני תגובה, עלויות תפעול, איכות ההחלטות ורמת השליטה שההנהלה שומרת על התהליך.
כלל שימושי הוא פשוט. השימוש ב-HITL מוצדק כאשר עלות הביקורת הממוקדת נמוכה מהעלות הפוטנציאלית של טעות אוטומטית. לכן, הוא מיושם ביתר קלות בתהליכים שבהם מספר קטן של מקרים שגויים עלול לפגוע ברווחיות, ליצור חיכוך עם הלקוח או להוביל לבעיית תאימות.
בקיצור, ניתוח בינה מלאכותית מסוג "human-in-the-loop" אינו מוסיף אנשים מתוך זהירות. הוא מקצה לאנשים את השלבים שבהם שיקול דעתם מייצר את הערך הכלכלי הגדול ביותר ואת השליטה הניהולית הרבה ביותר.
עבור מנהיג עסקי, העניין אינו להוסיף בקרה אנושית מתוך זהירות. העניין הוא להקצות את שיקול הדעת האנושי לאותם מקומות שבהם האוטומציה מאבדת מדיוקה הכלכלית. ה-HITL פועל ביעילות כאשר הוא מפחית את עלות הטעויות יותר מאשר הוא מעלה את עלות התהליך.
דבר זה משנה את האופן שבו יש להתייחס לערך של ניתוח בינה מלאכותית. מודל טהור ממקסם את היקף הפעילות ואת המהירות. מודל הכולל מעורבות אנושית ממקסם את האיזון בין אוטומציה לאיכות קבלת ההחלטות בשלבים המשפיעים על הרווחיות, הסיכון והאמון הפנימי. עבור חברות קטנות ובינוניות רבות באיטליה, במיוחד בתחום הפיננסי והקמעונאי, זהו הבדל אסטרטגי. אין צורך לשאוף לאוטומציה מוחלטת. יש צורך לאוטומטיזציה נכונה של זרימות בעלות נפח גבוה, ולהעסיק אנשים במקרים העלולים לגרום להפסדים, מחלוקות או החלטות עסקיות שגויות.
הערך מתמקד בנקודות החיכוך בתהליך, ולא בפיקוח האנושי כשלעצמו.
שלושת היתרונות הבאים חוזרים על עצמם שוב ושוב:
התוצאה העסקית ברורה: פחות החלטות שמתקבלות באופן אוטומטי ללא בדיקה במקומות שבהם טעות עולה ביוקר.
אנלוגיה מועילה היא זו של בקרת איכות בתעשייה. אף חברה רצינית לא מציבה בודק על כל פריט אם הפגם הוא נדיר וזול לתיקון. אך אף חברה לא משאירה ללא בדיקה את האצוות שבהן טעות עלולה לגרום להחזרות, לקנסות או לפגיעה במוניטין. ה-HITL מיישם את אותה ההיגיון על החלטות המבוססות על נתונים. הוא דוגם, מסנן ומעביר לדרג גבוה יותר רק במקרים שבהם הסיכון מצדיק זאת.
לכן הגישה הזו מעניינת גם עבור חברות שאין להן צוות של מדעני נתונים. פלטפורמות כמו ELECTE את המורכבות התפעולית, מכיוון שהן הופכות את המשוב של מי שעוסק באשראי, בתמחור, במלאי או בלקוחות לשלב שניתן לנהל בתוך זרימת העבודה, ולא לפרויקט טכני נפרד.
היתרונות אינם מובטחים. תהליך שתוכנן בצורה לקויה יישאר תהליך שתוכנן בצורה לקויה, גם אם הוא כולל בודק אנושי.
הסיכונים הנפוצים ביותר הם:
פרויקט HITL נכשל לעתים קרובות מסיבה מאוד קונקרטית. החברה משלבת אנשים בתהליך אוטומטי מבלי לעצב מחדש את נקודות ההחלטה, את זמני ההתערבות ואת הקריטריונים שבאמצעותם מקרה מועבר לבדיקה.
יש כאן גם טעות בתפיסה הניהולית. צוותים מסוימים מתייחסים ל-HITL כשלב זמני, שימושי רק עד שהמודל יהיה "טוב" מספיק כדי לפעול בכוחות עצמו. בתהליכים בעלי השפעה רבה, הנחה זו מתקיימת לעיתים רחוקות. בתחומי האשראי, המאבק בהונאה, תמהיל המוצרים או תמחור מבצעי, הפיקוח הסלקטיבי אינו עלות עודפת שיש לבטל. זהו מרכיב קבוע במודל התפעולי, משום שהוא מגן על הדוח הכספי ומאפשר להציג את ההחלטות בצורה משכנעת.
השאלה, אם כן, אינה האם להגיע למצב של אפס פיקוח. השאלה היא היכן הפיקוח מניב את התשואה הגבוהה ביותר על ההשקעה (ROI) והיכן הוא דווקא מעכב את התהליך מבלי ליצור ערך. הבחנה זו קובעת במידה רבה את התשואה על ההשקעה, במיוחד עבור חברות קטנות ובינוניות (SME) הנדרשות לאמץ ניתוח נתונים מבוסס בינה מלאכותית (AI) עם משאבים מוגבלים ויעדים הניתנים למדידה בטווח הקצר.
בתחום הפיננסי, חשיבותו של ה-HITL באה לידי ביטוי במקרים המשפיעים ביותר על הדוח הכספי ועל האחריות הרגולטורית. לא בפעולות שגרתיות, שהאוטומציה מטפלת בהן היטב, אלא בהחלטות בעלות רמת אי-ודאות גבוהה, שבהן טעות עולה זמן, פגיעה במוניטין או התערבות של גופי ביקורת.
הדוגמה הברורה ביותר היא המאבק בהלבנת הון. המודל מנתח כמויות גדולות של עסקאות, מזהה דפוסים חריגים וקובע סדר עדיפויות לטיפול במקרים. האנליסט מתערב רק במקרים שבהם נדרש שיקול דעת. בפועל, הבינה המלאכותית פועלת כמערכת מיון מהירה, בעוד שמנהל הציות מטפל במקרים החריגים הדורשים הבנת הקשר, ניסיון ויכולת לנמק החלטה.
נבחן לקוח עסקי שפעילותו חורגת מהדפוס ההיסטורי. מנוע אוטומטי עשוי לסווג את המקרה כחשוד משום שהוא מזהה סטייה סטטיסטית. לעומת זאת, אנליסט עשוי לקשר את הסטייה הזו לארגון מחדש של החברה, לשלב עונתי בעסק או לתיעוד שכבר קיים במערכות הפנימיות.
כאן נוצר ה-ROI האמיתי.
אם כל חריגה מטופלת כסיכון מלא, הבנק מגדיל את מספר התוצאות החיוביות השגויות, מעכב את צוותי הבקרה ומפנה זמן מהטיפול במקרים הקריטיים באמת. לעומת זאת, אם המודל מסנן את המקרים הגבוליים והמפעיל מאשר אותם, המוסד מצמצם את עלויות התפעול של הבדיקה מבלי לפגוע באיכות הפיקוח. עבור חברה פיננסית קטנה או בינונית או עבור ארגון עם צוותי ציות מצומצמים, הדבר משפיע על הקיימות של התהליך יותר מאשר הדיוק התיאורטי של המודל.
למי שרוצה לראות כיצד הנושא מיושם בפועל, הסרטון הזה מספק מידע מועיל:
בתחום האשראי ההיגיון דומה, אך היתרון הניהולי בולט עוד יותר. מודל דירוג יכול לעבד במהירות משתנים מובנים רבים. עם זאת, ישנם פרופילים שקשה לנתח באמצעות כללים סטנדרטיים, כגון פרילנסרים, מיקרו-עסקים, חברות עם אופי עונתי מובהק או מצבים פיננסיים שאינם ליניאריים.
במקרים אלה, ה-HITL משפר שלושה מדדי ביצוע:
מבחינת מנהל מנוסה, זהו העיקר האסטרטגי. ה-HITL אינו מסתפק בהוספת חתימה אנושית בשלב הסופי של התהליך. הוא מעצב מחדש את תהליך קבלת ההחלטות, כך שהמומחיות תופנה אך ורק לאזורים שבהם הסיכוי לטעויות באוטומציה הוא הגבוה ביותר, או שבהם ההשפעה הרגולטורית היא המשמעותית ביותר.
מבחינה רגולטורית, מומלץ לנקוט בגישה זהירה. אין להתייחס לחובה ספציפית של Consob בנוגע ל-HITL בתחום ניתוח הבינה המלאכותית כאל עובדה מוגמרת, ללא התייחסות רגולטורית ישירה וניתנת לאימות באותו סעיף. עם זאת, הכיוון ברור: בפעילויות של ציות, בקרה ומתן אשראי, גוברות הציפיות בנוגע לניתנות למעקב, לפיקוח אנושי ולהנמקה של החלטות אוטומטיות.
עבור חברות קטנות ובינוניות באיטליה, הבחנה זו חשובה מאוד. פרויקט HITL מתוכנן היטב אינו מחייב בהכרח צוות פנימי של מדעני נתונים. הוא דורש פלטפורמה שתנתב מקרים מסופקים, תאסוף משוב, תנהל תיעוד ביקורת ותקל על עבודת צוותי הכספים והסיכונים. כאן נכנסים לתמונה כלים כמו ELECTE את רף הכניסה. הם הופכים את ה-HITL מארכיטקטורה תיאורטית לתהליך מדיד, עם יתרונות מוחשיים מבחינת זמני הביקורת, איכות ההחלטות ועלות הציות.
בתחום הקמעונאות, הטעות היקרה ביותר אינה נובעת מתחזית לא מדויקת באופן תיאורטי. היא נובעת מתחזית נכונה על סמך נתונים היסטוריים, אך שגויה ביחס להקשר הממשי של נקודת המכירה, האזור או שבוע המבצעים. לכן לגישה של "human-in-the-loop" יש ערך תפעולי ישיר. היא משלבת שיקול דעת עסקי במקרים שבהם המודל, כשלעצמו, עלול לפרש את העבר בדייקנות אך את ההווה באיחור.
קמעונאי משתמש ב-AI כדי להעריך את הביקוש, הזמנות חוזרות וחלוקת המלאי בין הערוצים והחנויות. המודל מזהה עונתיות, מגמות של מכירה מוחלטת, השפעות של מבצעים קודמים ותחלופה לפי SKU. עם זאת, מנהל הקטגוריה רואה סימנים שלעתים רחוקות נכנסים מיד למאגרי הנתונים: תוכן ברשתות החברתיות שמאיץ את הביקוש, חג מקומי, עיכוב מצד הספק, קמפיין אגרסיבי של מתחרה באותו אזור.
העניין הוא לא לתקן את המודל כל הזמן. העניין הוא להתערב רק כאשר עלות הטעות עולה על עלות הבדיקה האנושית. בתחום הקמעונאות זה קורה לעתים קרובות במוצרים עונתיים, במוצרים בעלי רווחיות גבוהה, במבצעים ובמבחר מוצרים מקומי.
עבור חברה קטנה ובינונית איטלקית, היתרון הוא מוחשי. פחות מחסור במלאי של המוצרים הנמכרים באמת. פחות הון קפוא במוצרים שאינם נמכרים היטב. פחות הנחות כפויות בסוף מחזור המכירה. למעשה, ה-HITL פועל כמו מגדל פיקוח: הבינה המלאכותית מנהלת את התנועה השוטפת, ומנהל המכירות מטפל במקרים חריגים העלולים להשפיע על הרווחיות ועל השירות.
העיכוב באימוץ הופך גישה זו לרלוונטית עוד יותר. לפי נתוני ISTAT, רק חלק מצומצם מהחברות המעסיקות לפחות 10 עובדים משתמשות בטכנולוגיות בינה מלאכותית, עם הבדלים משמעותיים לפי גודל החברה ומגזר הפעילות, כפי שדווח בסקר הרשמי על השימוש ב-ICT בחברות: ISTAT, חברות ו-ICT. עבור חברות קטנות ובינוניות רבות, הבעיה אינה להבין אם הבינה המלאכותית מועילה, אלא לאמץ אותה מבלי להקים צוות טכני ייעודי. פלטפורמה המכניסה את המנהל לתהליך קבלת ההחלטות מצמצמת את המכשול הזה.
אותו דפוס תקף גם לתחומי התמחור והשיווק, שבהם אוטומציה מוחלטת עשויה אמנם לשפר את המהירות, אך גם להוביל להחלטות קצרות רואי.
כאן מתגלה נקודה אסטרטגית שלעתים קרובות לא מוערכת כראוי. בתחום הקמעונאות, המטרה אינה למקסם כל תחזית ותחזית. המטרה היא לקבל החלטות שניתן לחזור עליהן, אשר ישמרו על הרווחיות, על הזמינות על המדפים ועל העקביות המסחרית. ה-HITL מעביר את העבודה האנושית מפעולות חוזרות ונשנות אל חריגים בעלי השפעה רבה.
עבור אתר מסחר מקוון או רשת מקומית, ההבדל הזה חשוב יותר מהמורכבות של המודל. מערכת חיזוי מספקת התראות. מערכת הכוללת מעורבות אנושית מסייעת לצוות לקבל החלטות מוקדם יותר, תוך התייחסות להקשר רחב יותר ועם פחות חיכוך תפעולי. ובדיוק בנקודה זו פתרונות כמו ELECTE למעניינים עבור חברות קטנות ובינוניות. הם הופכים לתהליך בר-ביצוע מה שעד לפני שנים ספורות נראה כמיועד רק לקמעונאים המעסיקים מדעני נתונים פנימיים ומחזיקים בתקציבים של חברות ענק.
מודל HITL מועיל רק אם תהליך העבודה מובן למקבלי ההחלטות. אם הבדיקה מצריכה מעורבות של מדעני נתונים, שאילתות ידניות או שלבים טכניים מורכבים, חברות קטנות ובינוניות רבות נוטשות את המשימה עוד לפני שהן מתחילות.
בפלטפורמה שתוכננה כהלכה, התהליך אמור להיראות כך:
חיבור למקורות נתונים
מערכות CRM, ERP, מסחר אלקטרוני, גיליונות תפעול ומערכות פיננסיות משתלבות באותו זרם מידע.
ניתוח אוטומטי של אותות ה-
הבינה המלאכותית מעבדת את הנתונים ומייצרת תחזיות, התראות, דוחות וחריגות.
קביעת רמת האמינות והעדיפות
לא כל תובנה שווה בערכה. חלקן ברורות, ואחרות דורשות בדיקה נוספת.
העברה סלקטיבית למשתמש
מקרים לא ברורים או בעלי השפעה רבה מועברים למרכז בקרה לבדיקה.
משוב אנושי
המנהל מאשר, מתקן או דוחה את התובנה תוך הצגת ההקשר.
למידה מתמשכת
המערכת משתמשת במשוב זה כדי לשפר את המודל לאורך זמן.
היגיון זה עולה בקנה אחד עם ארכיטקטורת לולאת המשוב הפעילה המתוארת במקורות המאושרים: הבינה המלאכותית מבקשת אימות אנושי בנקודות שבהן אי-הוודאות היא הגדולה ביותר, במקום לדרוש בקרה על כל מאגר הנתונים. זהו הצעד שהופך את ה-HITL לבר-קיימא, ולא רק לנכון מבחינה תיאורטית.
עבור חברה קטנה ובינונית, האתגר האמיתי אינו "להשתמש ב-AI". האתגר הוא להשתמש בה מבלי להקים מחלקה טכנית ייעודית. זו הסיבה שהממשק חשוב לא פחות מהמודל.
גישה יעילה צריכה לכלול:
אם המבקר נדרש לפרש מודל ללא הקשר, המעגל נשבר. אם הוא רואה תובנות, מוטיבציה והשפעה באותו המרחב, המעגל הופך להחלטה.
כאן טמון היתרון האסטרטגי. ה-HITL לא צריכה לדרוש מהחברות הקטנות והבינוניות להתאים את עצמן לטכנולוגיה. על הפלטפורמה היא זו שתתרגם את המורכבות האנליטית לתהליך שמנהל כספים, תפעול או קמעונאות יוכל לנהל בכמה צעדים בודדים.
פרויקטי HITL מייצרים ערך כאשר הם מצמצמים את עלויות קבלת ההחלטות, ולא כאשר הם מוסיפים רובד בקרה חדש. עבור חברה קטנה או בינונית באיטליה, המטרה אינה לשלב בדיקה אנושית בכל שלב. המטרה היא לבחור את השלבים שבהם שיקול הדעת האנושי מתקן טעויות יקרות, מאיץ את הטיפול בחריגים והופך את המודל ליעיל יותר לאורך זמן.
לכן, סדר הפעולות חשוב יותר מהשאיפה הראשונית. מקרה שימוש טוב ראשון כולל שלושה מאפיינים יחד: השפעה כלכלית ניכרת, נתונים היסטוריים מספקים והחלטה שכבר תלויה כיום בניסיונו של אדם. תחום הפיננסים והקמעונאות נכללים לעתים קרובות בפרופיל זה. בתחום האשראי המסחרי, למשל, בדיקה ממוקדת של מקרים מעורפלים יכולה לצמצם טעויות הערכה מבלי להאט את הזרימה כולה. בתחום הקמעונאות, אותו עיקרון חל על הזמנות חוזרות, תמחור מבצעי וניהול חריגות במלאי.
| קרִיטֶרִיוֹן | למה זה חשוב |
|---|---|
| ההשפעה הכלכלית של הטעות | החברה יכולה למדוד את ערך התיקון |
| זמינות נתונים היסטוריים | המודל יכול להתבסס על סימנים הקיימים כבר בתהליכים |
| קיומו של שיקול דעת אנושי קיים | אין להמציא משוב. יש לארגן אותו |
כאן נקבע ה-ROI.
אם הצוות האנושי מתערב בכל החלטה, הבינה המלאכותית הופכת רק לשלב ביניים. אם היא מתערבת רק במקרים של אי-ודאות גבוהה או השפעה רבה, החברה זוכה לתוצאה שונה בתכלית: פחות עומס תפעולי במקרים פשוטים ויותר תשומת לב למקרים שבאמת משנים את התוצאה הכלכלית. זוהי ההיגיון שהוזכר קודם לכן. על ידי ריכוז המשוב בנקודות הנכונות, הארגון מנצל טוב יותר הן את זמנם של העובדים והן את יכולות המודל.
השיטה המומלצת השנייה נוגעת לעיצוב נקודת ההתערבות האנושית. ביישומים רבים הבעיה אינה האלגוריתם, אלא העמימות בתהליך. אם לא ברור מי מאשר, באילו ספים ועל סמך אילו נתונים, המערכת לא לומדת. היא רק מעבירה את החיכוך משלב אחד לשני.
לפני העלייה לאוויר, מומלץ להגדיר ארבעה מרכיבים תפעוליים:
כלל אצבע שיעזור לכם להבין אם הפרויקט מוכן: אם הבודק אינו יודע מדוע הוטל עליו לטפל במקרה זה, פירוש הדבר שהיישום עדיין אינו מוכן.
ישנה טעות נפוצה נוספת בקרב חברות קטנות ובינוניות. נהוג לחשוב שיש צורך להכשיר את ההנהלה במתמטיקה של המודל. אך למעשה נדרש דבר אחר: היכולת לזהות חריגה, להעריך את סבירות התובנה ולספק משוב עקבי. זהו הבדל משמעותי. מנהל קטגוריה אינו צריך לאמן את האלגוריתם. עליו לזהות אם הצעת הזמנה מחודשת מתעלמת ממבצע מקומי, מחלפת ספקים או ממחסור במלאי שכבר ידוע לצוות.
פלטפורמות כמו ELECTE גישה זו לנגישה יותר, דווקא משום שהן מסתירות את המורכבות הטכנית מאחורי ממשק תפעולי. עבור חברות קטנות ובינוניות רבות, היתרון האסטרטגי טמון בכך: אין צורך להקים צוות של מדעני נתונים כדי להשתמש כראוי בניתוח בינה מלאכותית, אלא לאפשר למחלקות הכספים והקמעונאות לתקן, לאמת ולשפר את המערכת במסגרת זרימת העבודה היומיומית.
איכות היישום נמדדת באמצעות מספר מצומצם של מדדים קונקרטיים: משך זמן הבדיקה לכל חריגה, שיעור אימוץ ההמלצות, הפחתת השגיאות החוזרות וההשפעה הכלכלית של התיקונים. אם הנתונים הללו אינם משתפרים, הפרויקט רק אוטומטי את התפוקה. הוא עדיין לא משפר את קבלת ההחלטות.
ניתוח בינה מלאכותית מסוג "human-in-the-loop" טוב מתאפיין במעורבות אנושית מועטה, הממוקמת היטב וניתנת למעקב. כך הופכת שיתוף הפעולה בין האדם למכונה ממשהו שהוא רק הבטחה טכנולוגית לדיסציפלינה תפעולית עם תוצאות מדידות.
כאשר הבינה המלאכותית נכנסת לתהליך המשפיע על אשראי, מחירים, הונאות או ציות לתקנות, השאלה המרכזית משתנה. לא משנה רק אם המודל מספק תחזית מדויקת. מה שחשוב הוא אם החברה יכולה לשחזר כיצד אותה תחזית הפכה להחלטה, מי אישר אותה ועל סמך אילו קריטריונים.
כאן, הממשל אינו מהווה רובד ניהולי שנוסף בדיעבד. הוא פועל כמו מערכת הבקרה של פס ייצור: אם נקודות הבדיקה מוגדרות היטב, הארגון מצמצם טעויות יקרות עוד בטרם הן מגיעות ללקוח, למבקר או לרשות הפיקוח. ב-AI היברידית, ערכו של ההתערבות האנושית טמון גם בכך: הפיכתו של תהליך, שעלול להישאר מעורפל באוטומציה טהורה, לתהליך שניתן לעקוב אחריו.
הנקודה הראשונה היא ההטיה. בתחום הפיננסי, כפי שכבר צוין לעיל, הבעיה אינה נובעת רק מהנתונים ההיסטוריים, אלא גם מהאופן שבו המודל מתרגם נתונים אלה לאותות תפעוליים. מנגנון פיקוח אנושי (human-in-the-loop) שתוכנן כהלכה מסייע באיתור חריגות שהמערכת רואה כנורמליות, משום שלמדה אותן מהעבר.
אולם, נוכחות אנושית אינה פותרת את הבעיה מעצם הגדרתה. היא רק מעבירה אותה למישור אחר אם אין משמעת תפעולית. מבקר יכול לשפר החלטה, אך הוא גם עלול לאשר באופן מכני את המלצות המודל או להכניס העדפות סובייקטיביות שקשה לזהות.
לכן, בחברות קטנות ובינוניות (SME) המעוניינות להשיג תשואה אמיתית על ההשקעה (ROI) מפרויקטי HITL בתחומי הפיננסים והקמעונאות, מומלץ להתייחס לשלושה מרכיבים אלה כאל חלקים מהתהליך, ולא כאל פורמליות של ביקורת:
להבחנה זו יש השפעה כלכלית ישירה. אם המשוב האנושי אינו מתועד ואינו ניתן לשימוש חוזר, החברה משלמת פעמיים. פעם אחת עבור הטכנולוגיה, ופעם שנייה עבור בדיקה ידנית שאינה מייצרת למידה.
הנקודה השנייה היא האחריות. בהחלטה רגישה, האמירה ש"האלגוריתם הציע זאת" אינה מספיקה למבקר, ללקוח עסקי או למחלקת ניהול סיכונים. יש צורך בשרשרת קבלת החלטות ברורה. הנתונים ששימשו כבסיס, הסף שהפעיל את תהליך ההסלמה, ההתערבות האנושית וההחלטה הסופית.
מנקודת המבט של תקנת ה-GDPR, גישה זו מסייעת מכיוון שהיא מקלה על הוכחת צמצום הנתונים, בקרת הגישה והפיקוח על החלטות הנוגעות למידע רגיש. היא אינה מבטיחה תאימות באופן אוטומטי. עם זאת, היא מצמצמת נקודת תורפה אופיינית לפרויקטי בינה מלאכותית בחברות קטנות ובינוניות: קיומו של מודל מתפקד מבחינה טכנית, אך שקשה להגן עליו מבחינה תיעודית.
זה המקום שבו יוזמות רבות נתקעות. לא בגלל מגבלות האלגוריתם, אלא משום שאף אחד לא הגדיר מי רשאי לתקן המלצה, באילו מקרים, על סמך אילו ראיות ובאיזו אחריות סופית.
עבור מנהל בחברה, המבחן המעשי הוא פשוט: האם ניתן להסביר את ההחלטה הזו באופן עקבי בפני מבקר פנימי, לקוח או רשות פיקוח? אם התשובה אינה חד-משמעית, הסיכון אינו תיאורטי. הוא מעשי.
כדי להגדיר אמצעי בקרה אלה באופן מעשי, מבלי ליצור מורכבות בלתי ניתנת לניהול עבור צוותים קטנים, כדאי להיעזר גם במדריך של ELECTE בינה מלאכותית אחראית ויישום אתי של בינה מלאכותית.
הלקח החשוב ביותר הוא זה: ניתוח בינה מלאכותית בשילוב אנושי (human-in-the-loop ) אינו פתרון ביניים בהמתנה לבינה מלאכותית "אוטונומית יותר". לרוב, זהו המודל הבשל ביותר להפיכת ניתוח נתונים להחלטות אמינות, ניתנות להסבר ומועילות לעסק.
ה-AI אחראית על קנה המידה, המהירות וזיהוי הדפוסים. בני האדם אחראים על חריגים, אחריות והקשר. כאשר שני המישורים הללו פועלים יחד, החברה לא רק זוכה לאוטומציה רבה יותר. היא זוכה גם לאיכות החלטות טובה יותר.
אם ברצונך להפוך נתונים גולמיים להחלטות אמינות יותר מבלי להגדיל את המורכבות התפעולית, גלה כיצד ELECTE, פלטפורמת ניתוח נתונים מבוססת בינה מלאכותית לעסקים קטנים ובינוניים, יכולה לתמוך בגישה של Human-in-the-Loop באמצעות הדגמה מותאמת אישית.
.svg)
.svg)
.svg)
