בשנה האחרונה קרה דבר מוזר בעולם ה-AI העסקי. המחיר של כל טוקן, יחידת הטקסט הבסיסית שמודלים צורכים, ירד בחדות, ובכל זאת חברות רבות מגלות שחשבון ה-AI שלהן דווקא מזנק. הפער הזה הוא אחד האתגרים המרכזיים של אוטומציה עסקית מבוססת סוכנים בשנת 2026, והוא מלמד למה חיסכון לכאורה במחיר לא מבטיח חיסכון בפועל.
הפרדוקס, מחיר יורד וחשבון שמזנק
לפי ניתוח של יותר מ-2.4 מיליארד קריאות API ארגוניות, המחיר המשוקלל למיליון טוקנים ירד בכ-67 אחוז בתוך שנה, מ-18.40 דולר ל-6.07 דולר, בין הרבעון הראשון של 2025 לרבעון הראשון של 2026. ובכל זאת, חברת הייעוץ EY מצאה שאינטראקציה בודדת שבשנת 2023 עלתה כ-0.04 דולר בצ'אטבוט פשוט, עולה בשנת 2026 כ-1.20 דולר כשמדובר במערכת סוכנים מתוזמרת, פי שלושים יותר.
ההסבר פשוט. ההוצאה הכוללת היא מכפלה של מחיר ליחידה בכמות היחידות. המחיר ליחידה יורד, אבל הכמות שסוכן חכם צורך גדלה הרבה יותר מהר, ולכן החשבון הסופי עולה.
למה סוכן בולע כל כך הרבה טוקנים
צ'אטבוט רגיל עונה על שאלה אחת ומסיים. סוכן עובד אחרת. הוא מפרק את המשימה, שולף מידע, מפעיל כלים, בודק את עצמו, לפעמים חוזר על צעד שנכשל, ומעביר עבודה לסוכנים אחרים. מכיוון שכל קריאה למודל היא חסרת זיכרון, הסוכן שולח מחדש את כל ההיסטוריה של השיחה בכל צעד. בצעד העשרים הוא כבר משלם על אותו הקשר עשרים פעם.
לפי הערכות בתעשייה, בהן של Gartner, מערכת סוכנים צורכת פי חמישה עד פי שלושים יותר טוקנים למשימה מאשר צ'אט פשוט. לולאות של חזרה על טעויות ושליפת מסמכים חיצונית מנפחות את החשבון עוד יותר. זה בדיוק המנגנון שהופך הדגמה זולה למערכת ייצור יקרה.
מחדר ההדגמה אל החשבונית
הבעיה הגדולה היא שהפיילוט כמעט תמיד זול, והייצור כמעט תמיד יקר בהרבה, כי מעטים מדמים מראש את ההבדל. הדוגמאות כבר כאן. בסקר של CloudZero בקרב 500 מנהלי הנדסה, ההוצאה החודשית הממוצעת על AI עלתה בכ-36 אחוז לכ-85,500 דולר. באפריל 2026 מסר מנהל הטכנולוגיה של Uber שהחברה מיצתה את כל תקציב ה-AI השנתי לפיתוח קוד בתוך ארבעה חודשים בלבד. לפי ניתוחים בתעשייה, כ-73 אחוז מהחברות חרגו מתקציב ה-AI שהציבו לעצמן.
כאן טמונה הסכנה השקטה לכל פרויקט אוטומציה עסקית. מערכת שנראתה משתלמת על הנייר יכולה לאכול את כל התועלת הכלכלית שלה בעלויות תפעול שאיש לא תכנן מראש.
איך שולטים בעלות
החדשות הטובות הן שרוב העלות ניתנת לשליטה. הכלי הראשון הוא ניתוב חכם בין מודלים. במקום להריץ הכול על המודל החזק והיקר ביותר, אפשר לשלוח את רוב המשימות הפשוטות למודל קטן וזול, ולהסלים למודל החזק רק את החלק הקשה. הערכות מראות שכ-85 אחוז מהשאילתות הארגוניות יכולות להיפתר במודל מדרגה זולה, ושמעבר כזה חוסך לרוב בין 60 ל-90 אחוז מהעלות בלי פגיעה מהותית בתוצאה.
הכלי השני הוא ניקיון ההקשר. במקום לשלוח שוב ושוב את כל ההיסטוריה, אפשר לשמור רק את הצעדים האחרונים, לקצר תוצאות ארוכות של כלים, ולסכם מדי כמה צעדים. הכלי השלישי הוא נראות. כשמודדים צריכת טוקנים ברמת הסשן ולא רק בחשבונית החודשית, לולאה שנתקעה מתגלה בדקות ולא בסוף החודש, ואפשר לעצור אותה בזמן.
יש גם שאלה בסיסית יותר. לא כל משימה זקוקה לסוכן. לפי InfoWorld, למשימות כמו סיווג, חילוץ מידע, סיכום או ניתוב, כלי אוטומציה קלאסיים, מנועי חוקים או RPA לרוב זולים יותר, צפויים יותר וקלים יותר לשליטה מאשר סוכן חכם. לפעמים הפתרון היעיל הוא פשוט לא להשתמש בכלי הכי מתוחכם.
הצד השני, מה כדאי לדעת
חשוב לא לגלוש לפסימיות. גם כשסוכן שורף הרבה טוקנים, בקנה מידה גדול הערך עדיין יכול להצדיק את העלות. ניתוח שהובא ב-Forbes מצא שבמערכות עם מיליוני אינטראקציות בחודש, העלות השנתית עדיין נמוכה בהרבה מזו של צוות אנושי מקביל. במילים אחרות, השאלה האמיתית היא לא אם AI יקר מדי, אלא אם תכננת אותו ומדדת אותו נכון.
כדאי גם לזכור שהמספרים משתנים בין מקור למקור, ושחלקם מגיעים מחברות ייעוץ ומספקים שמוכרים בדיוק את כלי הבקרה והנראות שהם ממליצים עליהם, ולכן נכון להתייחס אליהם ככיוון ולא כמדע מדויק. ולבסוף, זו אינה בעיה של ספק בודד. ספקים גדולים כמו OpenAI, Google ו-Anthropic מציעים מדרגות מודלים בטווח מחירים רחב, וההתייקרות נובעת מאופן השימוש בסוכנים ומהאדריכלות סביבם, לא ממודל כזה או אחר. השורה התחתונה, טוקנים זולים לא הופכים אוטומציה עסקית לזולה. מה שקובע את החשבון הוא כמה חכם בנוי התהליך, לאיזה מודל מנותבת כל משימה, וכמה מוקדם אתה רואה לאן הכסף הולך.
1. מהו הפרדוקס המרכזי שהמאמר מתאר בעולם ה-AI העסקי?
המחיר המשוקלל למיליון טוקנים ירד בכ-67 אחוז בתוך שנה, מ-18.40 דולר ל-6.07 דולר, בין הרבעון הראשון של 2025 לרבעון הראשון של 2026. ובכל זאת חברות רבות מגלות שחשבון ה-AI שלהן דווקא מזנק. ההסבר פשוט: ההוצאה הכוללת היא מכפלה של מחיר ליחידה בכמות היחידות, והכמות שסוכן חכם צורך גדלה הרבה יותר מהר מכפי שהמחיר ליחידה יורד.
2. מדוע סוכן AI צורך הרבה יותר טוקנים מצ'אטבוט רגיל?
צ'אטבוט רגיל עונה על שאלה אחת ומסיים, בעוד סוכן מפרק את המשימה, שולף מידע, מפעיל כלים, בודק את עצמו, לפעמים חוזר על צעד שנכשל, ומעביר עבודה לסוכנים אחרים. מכיוון שכל קריאה למודל היא חסרת זיכרון, הסוכן שולח מחדש את כל היסטוריית השיחה בכל צעד, כך שבצעד העשרים הוא כבר משלם על אותו הקשר עשרים פעם. לפי הערכות, מערכת סוכנים צורכת פי חמישה עד פי שלושים יותר טוקנים למשימה מצ'אט פשוט.
3. אילו דוגמאות מהשטח ממחישות את הזינוק בעלויות?
בסקר של CloudZero בקרב 500 מנהלי הנדסה, ההוצאה החודשית הממוצעת על AI עלתה בכ-36 אחוז לכ-85,500 דולר. באפריל 2026 מסר מנהל הטכנולוגיה של Uber שהחברה מיצתה את כל תקציב ה-AI השנתי לפיתוח קוד בתוך ארבעה חודשים בלבד, ולפי ניתוחים בתעשייה כ-73 אחוז מהחברות חרגו מתקציב ה-AI שהציבו לעצמן. הסכנה השקטה היא שמערכת שנראתה משתלמת על הנייר יכולה לאכול את כל התועלת הכלכלית שלה בעלויות תפעול שאיש לא תכנן.
4. אילו כלים מאפשרים לשלוט בעלות הטוקנים?
הכלי הראשון הוא ניתוב חכם בין מודלים, כלומר שליחת רוב המשימות הפשוטות למודל קטן וזול והסלמה למודל החזק רק בחלק הקשה, מה שחוסך לרוב בין 60 ל-90 אחוז מהעלות. הכלי השני הוא ניקיון ההקשר, שמירת הצעדים האחרונים בלבד וקיצור תוצאות ארוכות במקום שליחה חוזרת של כל ההיסטוריה. הכלי השלישי הוא נראות, מדידת צריכת טוקנים ברמת הסשן כדי לגלות לולאה שנתקעה תוך דקות ולא בסוף החודש. בנוסף, לא כל משימה זקוקה לסוכן, ולעיתים כלי אוטומציה קלאסיים כמו מנועי חוקים או RPA זולים וצפויים יותר.
5. מדוע לא נכון לגלוש לפסימיות לגבי עלויות ה-AI?
גם כשסוכן שורף הרבה טוקנים, בקנה מידה גדול הערך עדיין יכול להצדיק את העלות. ניתוח שהובא ב-Forbes מצא שבמערכות עם מיליוני אינטראקציות בחודש, העלות השנתית עדיין נמוכה בהרבה מזו של צוות אנושי מקביל. השאלה האמיתית היא לא אם AI יקר מדי, אלא אם תכננת אותו ומדדת אותו נכון. כדאי גם לזכור שחלק מהמספרים מגיעים מספקים שמוכרים בדיוק את כלי הבקרה שהם ממליצים עליהם, ולכן נכון להתייחס אליהם ככיוון ולא כמדע מדויק.
