ההבטחה הגדולה של מהפכת הבינה המלאכותית נשענת על אוטומציה יעילה, קבלת החלטות מהירה וחיסכון משמעותי במשאבים, אך מתחת לפני השטח הולכת ומתפתחת שאלת אחריות כבדה שאין לה עדיין תשובה ברורה. כאשר מערכת אלגוריתמית מקבלת החלטה פיננסית שגויה, מספקת מידע מטעה או גורמת לקריסת מערכות, שאלת האשמה הופכת ממחלוקת טכנולוגית לסוגיה משפטית ומאזנית סבוכה. בעולם הביטוח הבינלאומי מתחדד הפער בין פוטנציאל הנזק העצום של מודלי שפה וסוכנים אוטונומיים לבין היקף ההגנה שהמבטחים מוכנים לספק בפועל, כאשר ההערכות בענף מדברות על חשיפות מצרפיות בהיקפי עתק אל מול פוליסות ממוקדות שמציעות תקרות כיסוי סולידיות בהרבה.
סוגיית האחריות אינה שמורה עוד רק למפתחות המודלים הגדולות, אלא חודרת לכל ארגון המטמיע כלי בינה מלאכותית בתהליכי העבודה היומיומיים. בנקים המפעילים סוכנים אוטונומיים לצורך ביצוע פעולות, חברות ביטוח המשלבות אלגוריתמים במוקדי שירות וארגוני בריאות הנעזרים בניתוח נתונים מוצאים את עצמם חשופים לסיכונים החוצים ענפי ביטוח מסורתיים. סיכוני המודלים נוגעים בו-זמנית לאחריות מקצועית, הגנת סייבר, ביטוחי רכוש ואחריות נושאי משרה. בשל כך, האמירה השגרתית של מנהלים כי הארגון מבוטח היטב אינה מספקת עוד הגנה ממשית מול מורכבות הכשלים שאינם נובעים בהכרח מאירועי פריצה.
אחת התופעות המטרידות ביותר את שוק הביטוח מכונה סיכון שקט, מצב שבו הפוליסה הקיימת אינה מחריגה במפורש שימוש בבינה מלאכותית אך גם אינה מציינת אותה כמכוסה. הערכות בענף ניהול הסיכונים מצביעות על כך שמרבית החשיפות של חברות נמצאות כיום בדיוק באותו שטח אפור ומעורפל. היעדר התייחסות מפורשת בפוליסה אינו מהווה הבטחה לתשלום בעת אירוע נזק, אך הוא גם אינו שולל אותו מראש, מה שמייצר קרקע פורייה לעימותים משפטיים ממושכים ויקרים סביב פרשנות החוזים.
המתח הזה כבר הגיע לפתחו של שוק הביטוח העולמי, שם ניטש מאבק בין ברוקרים מובילים לבין מבטחי משנה. חברות תיווך וניהול סיכונים גדולות מתנגדות נחרצות לניסיונות להכניס החרגות גורפות לסיכוני בינה מלאכותית, ומזהירות כי החרגות רחבות מדי יותירו את הלקוחות עם פערי הגנה מסוכנים. מנגד, מבטחי משנה חוששים מתרחיש מערכתי שבו כשל יחיד במודל פופולרי או בתשתית ענן מרכזית יפגע בו-זמנית באלפי חברות שונות, ויגרור גל תביעות חסר תקדים שיאיים על יציבות הענף כולו.
במקביל לעימותים סביב החרגות, חלק מחברות הביטוח בוחרות בגישה פרואקטיבית ומפתחות מוצרים ייעודיים להבטחת ביצועי מודלים. כיסויים אלה נשענים על בדיקות טכנולוגיות מעמיקות של איכות הנתונים, תהליכי האימון ויציבות התוצאות, ומגדירים ספי ביצוע ברורים שסטייה מהם מזכה בפיצוי. גישה זו הופכת את ניהול הסיכונים הטכנולוגי לתנאי מסחרי מובהק לקבלת ביטוח, ומאלצת ארגונים להוכיח רמת בקרה ופיקוח מחמירה על האלגוריתמים שהם מפעילים.
החשיפה מגיעה עד לחדרי הישיבות ולשולחנם של הדירקטורים. דוחות עדכניים בתחום אחריות נושאי משרה מדגישים כי מנהלים עלולים לעמוד בפני תביעות אישיות בגין מצגי שווא בנוגע ליכולות הטכנולוגיה, הסתרת סיכונים בדיווחים כספיים או כשלים בפיקוח על מערכות אוטונומיות. גם כאשר המנהל פעל בתום לב וללא רשלנות פושעת, עלויות ההגנה המשפטית והחקירות עשויות להגיע למיליוני דולרים ולהעיק על מאזן החברה.
עבור המגזר העסקי בישראל וציבור המשקיעים, המשמעות ברורה ודורשת שינוי תפיסה. הטמעת בינה מלאכותית אינה נמדדת רק ביעילות התפעולית או בצמיחת ההכנסות שהיא מייצרת, אלא גם בשאלה מי יישא בעלויות כאשר המערכת תבצע טעות חמורה. בדיקת נאותות אמיתית בעידן הנוכחי מחייבת מיפוי מדויק של תלות באלגוריתמים חיצוניים, בחינת גבולות האחריות בחוזים והבנה עמוקה של פערי הכיסוי הביטוחי, בטרם הנזק הטכנולוגי יתגלגל ישירות אל שורת הרווח.
