דסק וניתוח נתונים

שכבות מודל ותקרות תקציב

רישום אישור מודל והכנסתו לשירות הם שני מעשים נפרדים, ואין שום שדה בסטודיו שיכול להחזיק מפתח API גולמי.

מאת צוות קו פורסם 2 דק׳ קריאה

העוזר של הארגון שלכם רץ על אישורי מודל שהצוות שלכם רושם ישירות — זו הקליטה המונהגת-על-ידי-מנהל שה-CLAUDE.md מתאר, מיושמת על המשאב היחיד שכלום אחר לא יכול להחליף. הקמת אחד היא שני מעשים נפרדים.

1. רישום — זה לא נוגע בכספת

מלאו את הספק (OpenAI, Azure OpenAI, Anthropic, Bedrock, Vertex, או נקודת קצה מקומית תואמת OpenAI), מזהה מודל זול ומזהה מודל חזק, ואת שם ערך הכספת שמחזיק את האישור. אופציונלית, מודל תרגום, מודל דירוג מחדש (reranker), והאם דירוג מחדש פעיל.

רישום יוצר את השורה כלא-מאומת (Unverified), ולא קורא בכלל לכספת בשלב הזה — הוא לא יכול, כי אין שדה במסך הזה או בכל שדה בשרת שמאחוריו שיכול לשאת את ערך המפתח בפועל. כל שטח האישורים, בכל רמת הרשאה, הוא שם שאתם מספקים וטביעת אצבע שהפלטפורמה מציגה לכם בחזרה מאוחר יותר. זו הצורה של הרשומה עצמה, לא הגבלה שמסך אחד זה במקרה מוסיף.

אישור לא-מאומת עדיין לא ניתן לשימוש — רק אישורים פעילים אי פעם מוחזרים לכל דבר שצריך להריץ מודל. רישום והפעלה מפוצלים לשני מעשים בדיוק כדי ש"שמרנו שם" ו"אימתנו שיש חומר אמיתי מאחורי השם הזה" יישארו שתי טענות שונות ומתויגות בכנות.

2. הפעלה — זה הרגע שבו הכספת בפועל נקראת

הפעלה קוראת לכספת פעם אחת, שומרת רק את טביעת האצבע התוצאתית וחותמת זמן שימוש אחרון, והופכת את השורה לפעילה. מאותו רגע האישור יכול לשרת בקשות אמיתיות.

שתי שכבות, ותקרה שהצוות שלכם יכול לראות מתמלאת

המודל הזול מטפל בבירור פשוט; המודל החזק שמור לשאלות שבאמת זקוקות לו — מנותב אוטומטית, לפי דירוג-קדימה מבוסס-ביטחון של הפלטפורמה, לא נבחר ידנית לפי יכולת. מודלי התרגום ודירוג המחדש האופציונליים הם הגדרות עצמאיות: השארת תרגום ריק אומרת שהשכבה שברירת המחדל של טבלת הניתוב מטפלת בזה, בעוד השארת מודל דירוג מחדש ריק אומרת שהארגון הזה פשוט לא מדרג מחדש.

התקרה הקשיחה (hard ceiling) היא תקרת התקציב של הארגון שלכם, גלויה כמספר שמתמלא ולא כברירת מחדל חבויה איפשהו בדשבורד חיוב שאין לכם גישה אליו.

קבעו את מודל שכבת-החוזק בכוונה ולא תשאירו אותו כברירת המחדל של הפלטפורמה — זו השכבה שכל שאלה מוסלמת ובעלת ביטחון נמוך בארגון שלכם בסופו של דבר רצה מולה, אז שווה שזו תהיה בחירה ולא תאונה.