בינה מלאכותית סודית בתוך הארגון

באופן כללי, אסיסטנטים לקידוד מבוססי בינה מלאכותית, מודלים לשפה רחבה ציבוריים, סוכנים אוטונומיים, IDEs מונעי בינה מלאכותית ו-APIs של צד שלישי הופכים במהירות לחלק מעבודת היום-יום. חלקם מאושרים רשמית. אחרים מתקבלים בשקט. אחרים עשויים להיות לא נראים לחלוטין לאנשים המופקדים על ביטחון, ארכיטקטורה, עמידה בתקנות וממשלה. ברוכים הבאים לעידן של בינה מלאכותית סודית. הבעיה אינה פשוטה יותר בשאלה האם על הארגון לאמץ בינה מלאכותית. אימוץ הבינה המלאכותית כבר קורה, לרוב מלמטה למעלה ובמהירות רבה יותר מכפי שתהליכי ממשלה המסורתיים יכולים להכיל. מפתח מעתיק קוד קנייני למודל חיצוני. צוות אחר מחבר שירות בינה מלאכותית דרך API. מהנדס מתקין כלי פיתוח מונעי בינה מלאכותית באמצעות חשבון אישי. סוכן אוטונומי מקבל גישה למסמכים, לתיעוד או לסביבות פיתוח. צוותים שונים מאמצים עצמאית מודלים וכלים שונים. במובן הפרטי, החלטות אלו עשויות להיראות חסרות נזק. באופן כללי, הן עשויות ליצור תשתית בינה מלאכותית שאף אחד לא תכנן במכוון ואף אחד לא שולט בה לחלוטין. ב-webinar הזה, מארק וג'יימס יחקור מה קורה כאשר אימוץ הבינה המלאכותית נע במהירות רבה יותר מהממשלה הארגונית, כולל: • עליית הבינה המלאכותית הסודית: מדוע אימוץ לא רשמי של בינה מלאכותית הופך לחדשנות האפלה, רק שייתכן שיהיה קשה הרבה יותר לראות ולשלוט בו. • שטח ההתקפה הבלתי נראה של הבינה המלאכותית: מה קורה כאשר קוד מקורי, אישורי גישה, מידע על לקוחות, תיעוד פנימי וקניין רוחני מתחילים לזרום דרך מודלים ו-APIs חיצוניים. • בעיית ה-API: כיצד אינטגרציות שנראות פשוטות יכולות ליצור תלות לא מפוקחת, זרימות נתונים בלתי צפויות ורשת מתרחבת של שירותי בינה מלאכותית מצד שלישי. • מי באמת יש לו גישה למה? מדוע סוכני הבינה המלאכותית וכלים לפיתוח אוטונומיים יותר מסבכים את ההנחות המסורתיות לגבי זהות, הרשאות ובקרת גישה. • עמידה בתקנות ללא שקיפות: כיצד יכולים צוותים משפטיים, ביטחוניים או עומדים בתקנות לממש את מערכת הבינה המלאכותית שהם עשויים אפילו לא לדעת שהיא בשימוש? • המלכודת של הפירוק: מה קורה כאשר כל צוות פיתוח בוחר את המודלים, הכלים, הסוכנים והזרימות עבודה שלו, ויוצר ארכיטקטורת בינה מלאכותית ארגונית אקראית. • פרדוקס התפוקה: האיסור על בינה מלאכותית עשוי להפחית סיכונים על הנייר תוך עידוד עובדים להשתמש בה בסודיות. אימוץ בלתי מפוקח יוצר קבוצת סיכונים שונה. היכן נמצא האיזון המעשי? • מעיכוב לאפשרות מוסדרת: גישות מעשיות למתן גישה למפתחים לפונקציות חזקות של בינה מלאכותית תוך שמירה על שליטה ארגונית על נתונים, ביטחון, ארכיטקטורה ועומדים בתקנות. • הבעיה הבאה בממשלה, בינה מלאכותית אוטונומית: אסיסטנט הקידוד של היום מחכה להוראות. סוכן ההנדסה של מחר עשוי לתכנן, לבצע, לגשת למערכות ולבצע שינויים עם פחות מעורבות אנושית. האם מבני הממשלה של היום מוכנים למעבר הזה? השאלה הלא נוחה עבור מנהיגי הארגון הולכת ונעשית פשוטה יותר: האם אתה מנהל את הבינה המלאכותית שמשתמשים בה בתוך הארגון שלך, או שאתה פשוט מנהל את הבינה המלאכותית שאתה יודע עליה? בינה מלאכותית סודית כבר מתפתחת. הארגונים שיגיבו בהצלחה לא יהיו בהכרח אלה שמטילים את המגבלות הכי רבות. הם יהיו אלה שיכולים להפוך את הבינה המלאכותית המנוהלת לקלה יותר לשימוש מאשר הבינה המלאכותית הבלתי מנוגדת, לאפשר ניסויים ותפוקה מבלי להיכנע לשקיפות ולשליטה.