jev: שכבת קבלת ההחלטות שיכולה לשנות את הדרך שבה אנחנו בונים מערכות AI

jev אינו עוד מודל שפה שמנסה לנסח תשובה ארוכה יותר. הוא נועד לקבל החלטות מובנות, במהירות ובעלות נמוכה, בלי לייצר פלט ארוך מילה אחרי מילה.

בעיניי, זאת בדיוק הסיבה שההתעניינות סביב jev מוצדקת. הוא מציע דרך אחרת לחשוב על מערכות בינה מלאכותית: לא כל משימה צריכה להסתיים בפסקה. לפעמים המערכת צריכה רק לבחור נכון.

רוב השיח סביב AI מתמקד במודל החדש ביותר. בכל פעם יוצא מודל חזק יותר או מהיר יותר, והדיון מיד עובר לשאלה מי מוביל. בפועל, עסקים רבים עדיין לא מחלקים נכון את העבודה בין המודלים שכבר זמינים להם.

לכן השאלה החשובה אינה רק איזה מודל חדש יצא. השאלה היא איזה סוג פלט נדרש בכל שלב. כאן jev נכנס לתמונה.

מהו jev ולמה הוא שונה ממודל שפה?

מודל שפה קלאסי מקבל שאלה, מנתח את ההקשר ומייצר תשובה רציפה. הוא חוזה את המילה הבאה, אחר כך את המילה שאחריה, וממשיך עד שהוא משלים את הפלט.

המנגנון הזה מצוין לכתיבה, הסברים, סיכומים, תכנון וקוד. כאשר צריך לנסח רעיון או לנתח נושא מורכב, תשובה מפורטת היא יתרון.

אבל לא כל משימה דורשת תשובה ארוכה. לעיתים המערכת צריכה לקבל החלטה אחת בלבד.

האם יש חשבונית במייל? האם הפנייה קשורה לבנק? האם לקוח מביע חוסר שביעות רצון? מה ציון הרלוונטיות של מסמך מסוים?

במקרים כאלה, יצירת טקסט מלא עלולה לבזבז זמן ומשאבים. jev מתמקד בהחלטה עצמה, ולא בהסבר ארוך של ההחלטה.

שלושת סוגי הפלט המרכזיים של jev

1. תשובה בינארית: אמת או שקר

האפשרות הראשונה היא תשובה בינארית. המערכת מחזירה ערך של אמת או שקר, כן או לא.

לדוגמה, אפשר להעביר ל-jev אוסף מיילים ולבקש ממנו לבדוק אם בכל מייל קיימת חשבונית. הוא אינו צריך לנסח סיכום של המייל. הוא גם אינו צריך להסביר את ההחלטה בכל פעם.

הוא צריך לזהות תנאי מוגדר ולהחזיר תוצאה ברורה. אם נמצאה חשבונית, אפשר להעביר את המייל להמשך טיפול. אם לא, אפשר לנתב אותו למסלול אחר.

היכולת הזאת מתאימה לסינון, אימות, זיהוי תנאים והפעלת תהליכים אוטומטיים.

2. בחירה מתוך כמה אפשרויות

האפשרות השנייה היא סיווג. במקום לקבל תשובה פתוחה, jev מקבל קבוצת אפשרויות מוגדרת ובוחר את האפשרות המתאימה.

נניח שמגיע מייל חדש לארגון. המערכת יכולה לבדוק אם הוא קשור לבנק, כולל חשבונית, קשור לשירות תוכנה או דורש טיפול אנושי.

במקום לבקש ממודל שפה לכתוב הסבר, מגדירים מראש את הקטגוריות הרצויות. כך מקבלים פלט עקבי שקל לחבר למערכת.

עקביות חשובה מאוד כאשר כל תשובה צריכה להפעיל פעולה. סיווג ברור מאפשר להקצות משימות, לנתב פניות ולנהל נתונים בצורה מסודרת.

3. ציון מספרי

האפשרות השלישית היא דירוג. jev יכול לקבל תוכן ולתת לו ציון לפי קריטריון שהוגדר מראש.

לדוגמה, אפשר לבקש ממנו לדרג את רמת שביעות הרצון של לקוחות בסולם של 1 עד 10. אפשר להשתמש בציון גם כדי להעריך רלוונטיות, דחיפות, איכות לידים או התאמה למדיניות פנימית.

הנקודה החשובה היא להגדיר היטב את משמעות הציון. ציון 8 צריך להיות שונה מציון 4 לפי כללים ברורים.

בלי הגדרה טובה, גם מודל מהיר וזול עלול להחזיר תוצאות שקשה להשתמש בהן.

למה החלטה קצרה יכולה להיות מהירה וזולה יותר?

העלות והמהירות של מודל שפה מושפעות, בין היתר, מכמות הפלט שהוא מייצר. כאשר המודל כותב פסקאות, הוא מייצר רצף של טוקנים. כל טוקן דורש עיבוד נוסף, זמן ומשאבים.

לעומת זאת, תשובה מסוג אמת או שקר, קטגוריה או ציון היא קצרה ומובנית. המערכת אינה מבזבזת משאבים על ניסוח שאיש לא ביקש ממנה.

במקרים מסוימים, ההבדל עשוי להיות משמעותי מאוד. עם זאת, התוצאה תלויה בכמות הנתונים, במודל, בהגדרות ובתשתית.

לכן לא כדאי להסתפק בהבטחות כלליות. צריך לבדוק כל מקרה באמצעות מדידה אמיתית. מודדים זמן תגובה, עלות, דיוק ושיעור טעויות.

לא כל החלטה צריכה להפוך לתשובה. לפעמים המערכת צריכה רק לבחור נכון.

jev וחיפוש מולטימודלי

אחד השימושים המעניינים של jev הוא חיפוש שמבין יותר ממילים. חיפוש מסורתי מתבסס בדרך כלל על טקסט, מילות מפתח או התאמות בין ביטויים.

אבל מידע עסקי אינו נמצא רק במסמכים כתובים. ארגון עשוי להחזיק תמונות, הקלטות, סרטונים, מסמכים ומיילים.

לעיתים המידע החשוב מופיע בתוך תמונה או נאמר בהקלטה. חיפוש רגיל עלול לפספס אותו, גם כאשר הוא קיים במערכת.

jev יכול לסייע ביצירת שכבת חיפוש שמקבלת טקסט, תמונה ואודיו. לדוגמה, משתמש יכול לחפש כל תוכן הקשור לכלי מסוים.

תוצאת החיפוש עשויה לכלול מסמך שבו מופיע השם, תמונה שבה מופיע הלוגו או הקלטה שבה נאמר המונח.

המשמעות היא מעבר מחיפוש שמזהה מילים לחיפוש שמבין הקשרים. היכולת הזאת יכולה לשפר מערכות ידע, מאגרי מסמכים, מוקדי שירות וכלי עבודה פנימיים.

למי שרוצה להעמיק בכיוון הזה, אפשר לצפות גם בסרטון הבא: הסבר נוסף על jev ויישומי AI.

החיבור בין jev לסוכני AI

סוכן AI אינו רק צ'אטבוט. סוכן מקבל משימה, מנתח מצב, בוחר פעולה ומפעיל כלים.

בכל אחד מהשלבים האלה הוא צריך לקבל החלטות. כאן jev יכול לשמש כשכבת ניתוב.

במקום לשלוח כל משימה למודל החזק והיקר ביותר, אפשר להעביר אותה קודם דרך רכיב שמעריך את סוג המשימה.

ניתוב לפי מורכבות

משימה פשוטה יכולה לעבור למודל מהיר וזול. משימה מורכבת יותר יכולה לעבור למודל מתקדם.

משימה רגישה יכולה לדרוש אישור אנושי או בדיקה נוספת. כך הסוכן אינו משתמש באותו כלי לכל פעולה.

הוא בוחר את הכלי שמתאים למצב. החלטה כזאת יכולה לצמצם שימוש מיותר במודלים יקרים ולשפר את זמני התגובה.

בחירת הפעולה הבאה

סוכן יכול להשתמש ב-jev כדי לבחור אם לשלוח מייל, לחפש מידע, לעדכן מערכת CRM, לבקש פרטים נוספים או להעביר את הטיפול לנציג.

הפעולות צריכות להיות מוגדרות מראש ובצורה ברורה. jev אינו מחליף תכנון של הסוכן. הוא מוסיף שכבת החלטה ממוקדת בתוך התהליך.

בקרה על עלויות

כאשר סוכן מפעיל מודלים רבים, העלות עלולה לגדול במהירות. הדבר בולט במיוחד כאשר הוא מעבד מאות או אלפי פניות, מסמכים או הודעות.

שילוב נכון של רכיב החלטה מאפשר לשמור את המודל החזק למשימות שבאמת דורשות אותו. כך אפשר להפוך מערכת חכמה למערכת שאפשר להפעיל לאורך זמן.

איך מתחילים להשתמש ב-jev בצורה נכונה?

מגדירים החלטה אחת ברורה. מתחילים בשאלה פשוטה, כמו האם יש חשבונית, מה סוג הפנייה או האם נדרש טיפול אנושי.
קובעים את הפלט הרצוי. בוחרים בין אמת או שקר, קטגוריה, רשימת אפשרויות או ציון מספרי.
מגדירים דוגמאות. נותנים למערכת מקרים חיוביים ושליליים כדי לחדד את משמעות ההחלטה.
בודקים מידע אמיתי. לא מסתפקים בדוגמה אחת. בוחנים מגוון מקרים, כולל מקרים עמומים.
מודדים תוצאה ועלות. בודקים מהירות, דיוק, שיעור טעויות ועלות לכל משימה.
מוסיפים מנגנון הסלמה. כאשר רמת הביטחון נמוכה או שהמקרה חריג, מעבירים אותו לבדיקה נוספת.

השוואה בין מודל שפה לבין jev

מאפיין	מודל שפה	jev
סוג פלט	טקסט חופשי או תשובה מפורטת	החלטה מובנית, סיווג או ציון
מתאים במיוחד ל	כתיבה, הסבר, סיכום ותכנון	סינון, ניתוב, דירוג וחיפוש
אורך הפלט	יכול להיות ארוך	קצר ומוגדר מראש
שילוב במערכות	דורש לעיתים חילוץ נתונים מהטקסט	מתאים יותר לפלט מובנה
שימוש בסוכן	מבצע משימות מורכבות ומייצר תוכן	מסייע לבחור את הפעולה או המודל

שימושים אפשריים מעבר לאוטומציות עסקיות

הפוטנציאל של jev אינו מוגבל למיילים ולסוכנים. כל מערכת שצריכה לקבל החלטות רבות בזמן קצר יכולה להיעזר בו.

שירות לקוחות: זיהוי נושא הפנייה, דחיפות או רמת שביעות רצון.
מערכות ידע: דירוג רלוונטיות של מסמכים ותוצאות חיפוש.
פיננסים: סיווג מסמכים ובדיקת תנאים מוגדרים.
ניהול תוכן: מיון תמונות, הקלטות וטקסטים לפי נושא.
גיימינג: בחירת הפעולה הבאה לפי מצב המשתמש וההקשר.
תפעול: ניתוב משימות לצוות, למערכת או למודל המתאים.

בעולם הגיימינג, לדוגמה, מהירות ההחלטה חשובה במיוחד. מערכת יכולה לבחור בזמן אמת איזה תוכן להציג, כיצד להגיב לפעולת משתמש או איזה אירוע להפעיל.

ככל שההחלטה מהירה יותר, כך החוויה יכולה להרגיש טבעית ומותאמת יותר.

מה חשוב לבדוק לפני שמכניסים jev למערכת?

הטכנולוגיה אינה פתרון קסם. לפני שמכניסים אותה לתהליך עסקי, צריך לבדוק אם ההחלטה ניתנת להגדרה ברורה.

אם בני אדם אינם מסכימים על משמעות הציון או הקטגוריה, גם המערכת תתקשה לספק תוצאה עקבית.

כדאי לבחון גם טעויות. החלטה שגויה עלולה להוביל להחמצת לקוח, לשליחת מידע לא נכון או להפעלת פעולה בלתי הפיכה.

במקרים כאלה רצוי להוסיף אישור אנושי, סף ביטחון או מסלול חריגים.

בנוסף, צריך למדוד את המערכת לאורך זמן. נתונים משתנים, ניסוחי משתמשים משתנים ותהליכים עסקיים מתעדכנים.

מערכת שעבדה היטב בחודש הראשון עשויה לדרוש כוונון בהמשך.

שאלות נפוצות על jev

האם jev מחליף מודל שפה?

לא. jev מתאים לשכבת החלטה, סיווג, דירוג וניתוב. מודלי שפה עדיין נחוצים לכתיבה, הסברים, ניתוח מורכב ויצירת תוכן.

ברוב המקרים, השילוב ביניהם יעיל יותר מהחלפה מלאה.

האם jev מתאים לכל עסק?

הוא מתאים במיוחד לעסקים שמעבדים כמויות גדולות של מידע וצריכים לקבל החלטות חוזרות.

אם יש לכם מאות מיילים, מסמכים, פניות או פריטי תוכן, כדאי לבדוק אם החלטה מובנית יכולה לייעל את התהליך.

האם jev יכול לעבוד עם תמונות ואודיו?

לפי היכולות המתוארות, jev מיועד לעבוד עם סוגי מידע שונים, כולל טקסט, תמונות ואודיו.

היישום המדויק תלוי במערכת, בתשתית ובממשק הזמין עבורו.

איך יודעים אם כדאי להשתמש ב-jev?

מתחילים בתהליך אחד שחוזר על עצמו ודורש החלטה ברורה. משווים בין מודל שפה רגיל לבין jev לפי דיוק, מהירות, עלות וקלות השילוב.

אם מתקבל שיפור ממשי, אפשר להרחיב בהדרגה.

סיכום: jev משנה את הדרך שבה מערכות AI מקבלות החלטות

jev מעניין לא בגלל שהוא עוד כלי חדש, אלא בגלל שהוא מציע דרך שונה לבנות מערכות בינה מלאכותית.

במקום לבקש ממודל לכתוב תשובה לכל מצב, אפשר להפריד בין הבנה, החלטה ופעולה.

ההפרדה הזאת מאפשרת לבנות סוכנים יעילים יותר, חיפושים חכמים יותר ותהליכים זולים ומהירים יותר. היא גם מאפשרת להשתמש בכל מודל לפי התפקיד שבו הוא חזק באמת.

הנקודה החשובה היא לא לרדוף אחרי כל מודל חדש. חשוב יותר להבין איזה סוג החלטה המערכת צריכה לקבל, ומה הדרך הפשוטה והיעילה ביותר לבצע אותה.

במקרים רבים, jev עשוי להיות שכבת ההחלטה שחסרה בין המידע לבין הפעולה.