ארכיטקטורת דאטה
המעבר לשימוש ארגוני בבינה מלאכותית מעלה שאלה חדשה: מי באמת שולט במערכת? האם זה הארגון שמחזיק בנתונים ובידע העסקי, או ספק הטכנולוגיה שמספק את המודל, התשתית וממשקי ה־API? כפי שהסברנו במאמר על ריבונות דיגיטלית והמאבק הגיאופוליטי על ענן ו־AI, ריבונות אינה מסתכמת במיקום הפיזי של השרתים. היא כוללת גם שליטה משפטית, תפעולית וטכנולוגית במידע ובמערכות המעבדות אותו.
ברמת הארגון, המשמעות רחבה עוד יותר. ריבונות AI מחייבת שליטה בדאטה, בהרשאות, בפרומפטים, בשכבה הסמנטית, במודלים ובתהליכי קבלת ההחלטות שנבנים סביבם. ארגון שמחבר כלי AI למערכותיו ללא תכנון מוקדם עלול לגלות שהידע העסקי שלו מפוזר בין מערכות, שהפרומפטים הקריטיים אינם מתועדים ושהחלפת ספק הפכה לפרויקט מורכב ויקר.
המטרה אינה להתנתק מספקיות הענן וה־AI המובילות, אלא לבנות ארכיטקטורה שבה הארגון יכול להשתמש בחדשנות שלהן בלי לאבד שליטה בנכסיו החשובים ביותר.
ריבונות AI ארגונית היא היכולת של הארגון להחליט כיצד הדאטה והידע שלו משמשים מערכות בינה מלאכותית, מי רשאי לגשת אליהם, באילו מודלים ייעשה שימוש וכיצד ניתן להחליף רכיב טכנולוגי בלי לפגוע ברציפות העסקית.
אפשר לחלק אותה לחמש שכבות מרכזיות:
ארגון אינו חייב לפתח מודל שפה גדול בעצמו כדי להשיג ריבונות AI. הוא כן צריך להבטיח שהידע העסקי, הגדרות הנתונים ותהליכי הבקרה אינם כלואים בתוך פלטפורמה אחת.
בפרויקטים ראשוניים של בינה מלאכותית, פרומפטים נכתבים לעיתים באופן מקומי על ידי עובדים, מפתחים או אנשי אנליזה. כל אחד מנסח הוראות בדרך מעט שונה, ואין בהכרח תיעוד של גרסאות, מקורות מידע, כללי אבטחה או תוצאות הבדיקות.
כל עוד מדובר בניסוי מצומצם, השיטה עשויה להספיק. כאשר הפרומפט מפעיל תהליך עסקי, מנתח נתונים או מייצר תשובה המוצגת ללקוח, הוא הופך לחלק מהמערכת הארגונית. בשלב זה, הנדסת פרומפטים אינה רק מיומנות ניסוח. היא שכבת לוגיקה שצריך לנהל בדומה לקוד.
מערך פרומפטים ארגוני נכון צריך לכלול:
הפרומפט צריך גם להיות מופרד ככל האפשר מהמודל שמפעיל אותו. אם כל הלוגיקה העסקית נכתבת בפורמט ייחודי של ספק אחד, החלפת המודל בעתיד תחייב כתיבה מחדש ובדיקות נרחבות. לעומת זאת, ניהול עצמאי של הפרומפטים ושל משתני ההקשר מאפשר לארגון לשמור את הידע העסקי בידיו.
הפרדה זו חשובה גם מבחינת אבטחה. OWASP מגדירה Prompt Injection כאחד הסיכונים המרכזיים ביישומי מודלי שפה: קלט זדוני עלול לגרום למודל להתעלם מהוראות, לחשוף מידע או לבצע פעולה לא רצויה. לכן פרומפט טוב אינו תחליף להרשאות, סינון קלט, הגבלת פעולות ובדיקת הפלט לפני העברתו למערכות אחרות. OWASP – Prompt Injection
אחד מתרחישי השימוש המבוקשים ביותר כיום הוא שילוב בינה מלאכותית במערכות אנליטיקה עסקית. במקום לעבור בין דוחות, לכתוב שאילתות או לבקש מאנליסט להפיק ניתוח, המשתמש שואל שאלה בשפה טבעית ומקבל תשובה המבוססת על נתוני הארגון.
לדוגמה:
כיצד השתנה שיעור הרווחיות בכל אחד מאזורי הפעילות ברבעון האחרון, ומהם שלושת הגורמים המרכזיים לשינוי?
כדי לענות נכון, המודל חייב לדעת מהי ההגדרה הארגונית ל"רווחיות", אילו חברות ופעילויות נכללות בכל אזור, מהו מקור הנתונים המוסמך ואילו הרשאות יש למשתמש ששאל את השאלה. מודל שפה לבדו אינו מחזיק בידע הזה.
לכן, שילוב AI במערכות BI קיימות דורש מספר שכבות:
השכבה הסמנטית היא רכיב מרכזי במיוחד. היא מחברת בין השפה שבה מנהלים ועובדים שואלים שאלות לבין המבנה הטכני של מסדי הנתונים. בעמוד השותפים הטכנולוגיים של Nogamy ניתן לראות דוגמה לפתרון המייצר מילון מונחים עסקי המקושר לקטלוג הטכני של הארגון (SOLID).
בלי שכבה כזו, גם מודל מתקדם עלול לבחור שדה שגוי, לפרש מדד בצורה לא נכונה או להחזיר תשובות שונות לשאלות בעלות משמעות זהה.
Retrieval-Augmented Generation, או RAG, היא ארכיטקטורה שבה המערכת מאתרת מידע רלוונטי במקורות הארגוניים ומעבירה למודל רק את ההקשר הדרוש לצורך יצירת התשובה.
במקום לצפות שהמודל "יזכור" את הידע הארגוני, המערכת מחפשת את המידע בזמן הבקשה. כך ניתן לעבוד עם מסמכים, נהלים, קטלוגי מוצרים, נתוני שירות ומאגרי ידע שמתעדכנים באופן שוטף.
היתרון אינו רק שיפור הדיוק. RAG מאפשר לארגון:
גם כאשר משתמשים ב־RAG, אין להניח שכל תשובה תהיה נכונה. נדרשים מנגנוני בדיקה, הצגת מקורות ובקרה אנושית בתהליכים בעלי השפעה עסקית משמעותית. מסגרת ניהול הסיכונים של NIST לבינה מלאכותית יוצרת ממליצה להתייחס לממשל, מדידה וניהול סיכונים לאורך כל מחזור החיים של המערכת, ולא רק בשלב ההשקה. NIST AI Risk Management Framework
להרחבה על החיבור בין מודלים, ידע ארגוני ואנליטיקה ניתן לקרוא גם על השילוב בין Watsonx, RAG ו־Business Intelligence.
לעיתים ארגון מתחיל מפרויקט AI ורק לאחר מכן מגלה שהבעיה המרכזית נמצאת בתשתית הנתונים. המידע מפוזר בין מערכות, שמות השדות אינם אחידים, הגדרות המדדים משתנות בין מחלקות וחלק מהנתונים אינם מתעדכנים בזמן.
מודל שפה אינו פותר את הבעיות האלה. להפך: הוא עלול להסתיר אותן מאחורי תשובה שכתובה היטב ונשמעת משכנעת.
לכן, הקמת מערך דאטה בארגון צריכה להתחיל בשאלות עסקיות:
במקרים רבים אין צורך להחליף את כל תשתית ה־BI הקיימת. ניתן לבנות שכבה חדשה מעל נכסי המידע שכבר נצברו בארגון. שירות Nogamy Think לתכנון ארכיטקטורת דאטה כולל בניית מפת דרכים למערך Data Analytics, תכנון ארכיטקטורת Big Data, בחירת כלים ובניית תוכנית Data Science המותאמת לצרכים ולתשתיות הקיימות.
הבחירה אינה צריכה להתבסס רק על איכות הדגמה או על היכולת לייצר דשבורד במהירות. יש לבחון את כל שרשרת הנתונים וההחלטות.
הפתרון צריך להתחבר למקורות המידע, למחסן הנתונים, לשכבה הסמנטית ולמערכת ההרשאות בלי ליצור עותקים לא מבוקרים של מידע רגיש.
חשוב לבדוק אם המערכת משתמשת בהגדרות ובמדדים הארגוניים או מנסה להסיק בעצמה את משמעות הנתונים. התשובה לשאלה "מה היו ההכנסות?" חייבת להיות זהה לזו שמופיעה בדוחות הרשמיים.
"ניתוח בזמן אמת" אינו תמיד עיבוד של כל אירוע ברגע התרחשותו. יש להגדיר מהו זמן העדכון העסקי הנדרש: שניות, דקות, שעות או פעם ביום. הדרישה משפיעה על הארכיטקטורה, העלויות ומורכבות היישום.
המודל צריך לקבל רק את המידע שהמשתמש רשאי לראות. אין להסתפק בהרשאה כללית לאפליקציה כאשר הנתונים עצמם מחייבים הפרדה בין יחידות, תפקידים, לקוחות או מדינות.
יש לתעד באיזה מודל נעשה שימוש, איזו גרסת פרומפט הופעלה, אילו מקורות מידע נשלפו ומה הייתה התשובה. התיעוד מאפשר לבדוק תקלות, למדוד ביצועים ולשחזר החלטות.
יש לבדוק האם ניתן להחליף מודל, ספק ענן, בסיס נתונים וקטורי או כלי BI בלי לבנות מחדש את כל המערכת. ארכיטקטורה גמישה אינה מחייבת שכל הרכיבים יהיו ניטרליים לחלוטין, אבל היא כן צריכה למנוע מצב שבו הידע והלוגיקה הארגונית כלואים בתוך רכיב אחד.
בתהליכים הכוללים החלטות פיננסיות, משפטיות, רפואיות או תפעוליות משמעותיות, יש להגדיר באיזה שלב אדם מאשר את התוצאה. גם רגולציית ה־AI האירופית מדגישה דרישות כמו תיעוד, עקיבות, שקיפות ובקרה אנושית במערכות בסיכון גבוה. EU AI Act
דוגמה מעשית להתפתחות בתחום ניתן לראות במאמר על בניית דשבורדים ב־Power BI באמצעות AI והנדסת פרומפטים. היכולת לקצר את זמן הפיתוח משמעותית אינה מבטלת את הצורך באימות אנושי, במודל נתונים איכותי ובבקרת הרשאות.
ריבונות AI אינה פרויקט חד־פעמי. היא דרך לתכנן ולנהל מערכות AI לאורך זמן. מומלץ להתקדם בשלבים.
יש לבחור תהליכים שבהם AI יכול לייצר ערך מדיד: קיצור זמני ניתוח, שיפור השירות, איתור חריגות, הנגשת מידע או אוטומציה של פעולה ידנית.
עבור כל תרחיש יש לזהות את מקורות המידע, איכותם, הבעלים שלהם, רמת הרגישות ותדירות העדכון.
המדיניות צריכה לקבוע אילו נתונים מותר להעביר לכל מודל, אילו שימושים מחייבים אישור, כיצד נשמרים פרומפטים ומהן דרישות התיעוד והבקרה.
יש ליצור הגדרות עסקיות מוסכמות ומנגנון שמחבר בין השאלות בשפה טבעית לבין מקורות המידע הנכונים.
במקום לחבר כל מערכת ישירות לספק AI, מומלץ להקים שכבה שמנהלת בחירת מודל, פרומפטים, הרשאות, ניטור, מגבלות שימוש ועלויות.
יש להכין מראש שאלות, תרחישי קצה ותשובות מצופות. הבדיקה צריכה לכלול איכות, אבטחה, מהירות, יציבות ועלות – ולא רק התרשמות כללית מהניסוח.
הפיילוט צריך להתבצע מול משתמשים אמיתיים ולהימדד באמצעות KPI ברורים, כגון זמן טיפול, שיעור תשובות נכונות, שימוש בפועל וחיסכון בעבודה ידנית.
עוד לפני ההטמעה המלאה יש לבדוק כיצד ניתן להעביר את הפרומפטים, החיבורים, ההגדרות ומקרי הבדיקה למודל או לפלטפורמה אחרת.
ארגון ריבוני אינו בהכרח ארגון שמפתח בעצמו כל רכיב. לרוב, הגישה הנכונה היא להשתמש בשירותי ענן, במודלים מסחריים ובכלי BI מתקדמים – אך לעשות זאת בתוך ארכיטקטורה שנבנתה בהתאם לצורכי הארגון.
בבחינת חברות יישום AI בישראל או ספקי שירותים בתחום ה־AI, חשוב לחפש ניסיון שאינו מוגבל למודל או למוצר מסוים. שילוב מוצלח של AI במערכות אנליטיקה עסקית דורש הבנה בארכיטקטורת דאטה, אינטגרציית נתונים, BI, אבטחה, שכבות סמנטיות והנדסת פרומפטים.
Nogamy מתכננת ומיישמת מערכי Data Analytics, BI ו־AI עבור ארגונים, תוך התאמת הארכיטקטורה לצרכים העסקיים, למערכות הקיימות ולפרופיל הסיכון. המטרה היא לא רק להפעיל מודל, אלא לבנות יכולת ארגונית יציבה, מבוקרת וגמישה שניתן להרחיב לאורך זמן.
מה הקשר בין הנדסת פרומפטים לריבונות AI?
פרומפטים כוללים חלק מהלוגיקה, הידע והכללים העסקיים שמכוונים את מערכת ה־AI. כאשר הם מנוהלים רק בתוך כלי של ספק מסוים, הארגון עלול לפתח בו תלות. ניהול עצמאי של פרומפטים, גרסאות, בדיקות והרשאות מאפשר לשמור את הידע הארגוני, לבצע בקרה ולהפעיל את אותה לוגיקה מול מודלים שונים.
האם חייבים להחליף את מערכת ה־BI כדי לשלב בה יכולות AI?
ברוב המקרים לא. ניתן לחבר AI למערכות BI קיימות באמצעות APIs, שכבה סמנטית, RAG ושכבת תיווך המנהלת הרשאות ופרומפטים. לפני היישום יש לבדוק את איכות מודל הנתונים, אחידות המדדים ויכולת המערכת לספק מידע עדכני ומבוקר.
איך בוחרים חברת יישום AI בישראל?
מומלץ לבחור חברה שמבינה את כל שרשרת הערך: מהגדרת הצורך העסקי, דרך הקמת מערך דאטה ואינטגרציה ועד פיתוח, אבטחה, BI, הנדסת פרומפטים וניהול המערכת לאחר ההשקה. חשוב גם לבדוק שהפתרון המוצע מאפשר ניטור, מדידת איכות והחלפת מודלים או ספקים בעתיד.
