הטכנולוגיה שאמורה להעניק יתרון אסטרטגי לשדה הקרב כמעט וגררה את שתי המעצמות הגדולות בעולם לעימות צבאי ישיר וחסר תקדים. באביב האחרון, בעיצומה של המתיחות הגיאופוליטית והמלחמה מול איראן, כוחות צבא ארה"ב במזרח התיכון היו רחוקים דקות ספורות מפעולה שהייתה עשויה לשנות את פני ההיסטוריה. מטוסי קרב כבר חגו באוויר, וכוחות מיוחדים חמושים התכוננו לפשוט על ספינת משא סינית, לאחר שדוח מודיעיני הצביע על כך שהיא נושאת רכיבים המיועדים לתוכנית נשק גרעיני. אולם, רגע לפני נקודת האל־חזור, התברר כי הדוח הזה היה שגוי לחלוטין ונשען כולו על הזיה של כלי בינה מלאכותית. האירוע הדרמטי הזה ממחיש את הסכנה האמיתית הטמונה באימוץ עיוור של טכנולוגיות מתקדמות במערכות קריטיות מבלי לשלב בקרת איכות אנושית הדוקה.

השתלשלות העניינים שהובילה לתקרית החלה כשאנליסט של פיקוד המבצעים המיוחדים של ארה"ב באזור הפסיפי, המוצב בהוואי, החליט לייעל את עבודתו. הוא הזין לתוך צ'אטבוט מודיעיני נתונים גלויים ממקורות פתוחים לצד מידע מסווג שהתקבל ממודיעין אותות, וביקש מהמערכת לנתח את רשימת המטען של הספינה הסינית. כלי הבינה המלאכותית חיבר בין חלקי המידע השונים, שלף מסקנות שגויות לחלוטין, וקבע בנחרצות כי הספינה מובילה חומרים המיועדים לייצור נשק. האנליסט לא עצר שם, אלא השתמש באותו מודל כדי לערוך ולעצב את הממצאים בפורמט התקני והמוכר של דוחות מודיעין צבאיים. מכיוון שהדוח נראה רשמי, מנוסח היטב ונטול הסתייגויות, קצינים בכירים בשרשרת הפיקוד קיבלו אותו כעובדה מוגמרת והפיצו אותו הלאה לדרגים המבצעיים. רק בדיקה מאוחרת של הרגע האחרון חשפה כי המסמך כולו היה תוצר של פילטור טכנולוגי כושל וחסר כל בסיס במציאות.

למרות כמעט־האסון הזה, המרוץ לשילוב בינה מלאכותית במערכות הביטחון האמריקאיות לא עוצר בשום שלב, אלא רק מאיץ את קצבו. הקהילה המודיעינית והצבאית בארה"ב משלבת כיום מודלים של למידת מכונה כמעט בכל נדבך אפשרי, החל מניהול לוגיסטי ותקציבי, דרך ניתוח תצלומי אוויר ועד לבחירת מטרות תקיפה. התפיסה השלטת במסדרונות הפנטגון היא שמי שלא יאמץ את הטכנולוגיה במהירות, יישאר מאחור מול מעצמות יריבות. דחיפה משמעותית לכך ניתן לראות באסטרטגיית ההאצה של הבינה המלאכותית שעליה הכריז מזכיר ההגנה האמריקאי פיט הגסת' בחודש ינואר האחרון. הגסת' הבהיר אז כי המטרה היא להסיר חסמים בירוקרטיים, למקד את ההשקעות התקציביות ולשחרר רסן בכל הנוגע לניסויים טכנולוגיים כדי להבטיח את ההובלה האמריקאית בשדה הקרב העתידי.

ואכן, המילים הללו תורגמו מהר מאוד למעשים משמעותיים בשטח. חזינו לאחרונה בפריסה רחבה של פלטפורמת העבודה התקנית GenAI.mil, המבוססת על טכנולוגיה של גוגל ומותאמת במיוחד למחלקת ההגנה האמריקאית. הפלטפורמה הזו הונחתה ישירות על שולחנות העבודה של עובדי הפנטגון כדי לקצר תהליכים ולייעל זרימות עבודה, מתוך הבנה שהשליטה בכלים הללו תאפשר להקדים את צעדי האויב. המהלכים הללו משקפים שינוי גישה עמוק: הפנטגון עבר ממדיניות זהירה וארוכה של בחינת מודלים במעבדה, לתפיסה מבצעית אגרסיבית שבה הבינה המלאכותית מוטמעת קודם כל בשטח, מתוך הנחה שההתאמות והתיקונים יצטרכו להיעשות תוך כדי תנועה. הגישה הזו מגובה בתקציבי עתק ומשפיעה באופן ישיר על חברות הטכנולוגיה שמספקות את התשתית.

הדחיפות הזו נובעת לא רק מרצון להתייעל אלא מתוך חרדה אמיתית מהתקדמותה הטכנולוגית של סין. התחרות עלתה מדרגה נוספת בחודש יוני האחרון, עם פרסומה של הנחיה נשיאותית חדשה שדרשה מסוכנויות המודיעין ומזרועות הצבא להאיץ את קצב האימוץ של מודלים מתקדמים ולשנות את תהליכי הרכש המסורבלים תוך תקופה קצרה. ההנחיה החמירה את נהלי האבטחה בעקבות התקפות זיקוק, שבהן מעבדות בסין ניסו לשאוב יכולות ממודלים אמריקאיים על ידי הזנת מיליוני שאילתות למערכות מסחריות בניסיון לחקות את דרך הפעולה שלהן. הדאגה הזו חלחלה גם לדיונים בסנאט, שם מופעל לחץ כבד לסגור פרצות בחוקי ייצוא הטכנולוגיה, מחשש שגורמי צד שלישי עוקפים את המגבלות ורוכשים שבבי בינה מלאכותית מתקדמים שמוצאים את דרכם לצבא סין.

המפגש הטעון שבין צורכי הביטחון הלאומי לבין השווקים הפיננסיים יוצר כיום מציאות כלכלית מורכבת ומרתקת עבור משקיעים מוסדיים ופרטיים כאחד. כאשר הפנטגון מפנה משאבים כה עצומים להאצת תהליכי הפיתוח, חברות המייצרות חומרה קשיחה, שבבים ומערכות סייבר רואות זינוק בביקושים שמיתרגם לעיתים לעלייה של עשרות אחוזים בשורת ההכנסות. מודלים עסקיים של חברות תוכנה נבחנים כעת לא רק על סמך נתוני הצמיחה הרבעוניים שלהן, אלא גם על פי היכולת לעמוד בתקני האבטחה הנוקשים ביותר של הממשל תוך הגנה על קוד המקור. המשקיעים בוול סטריט עוקבים בדריכות אחר כל תזוזה ברגולציה ובמדיניות הייצוא, שכן החלטה ממשלתית אחת עלולה לחתוך ב-20% או ב-30% את פוטנציאל המכירות של יצרנית שבבים המסתמכת על השוק האסייתי, או מנגד להעניק חוזה של מיליארדי דולרים לחברה שמצליחה לספק מעטפת ביטחונית מושלמת.

התקרית שבה הצ'אטבוט כמעט הצית מלחמה במזרח התיכון מדגישה את הפער העצום והמסוכן שבין היכולת החישובית לבין שיקול הדעת האנושי. כאשר מערכת אלגוריתמית מתבקשת לנתח כמויות אדירות של נתונים בשבריר שנייה, היא מסוגלת לאתר תבניות ששום עין אנושית לא הייתה קולטת, אך באותה נשימה היא נעדרת כל הבנה של הקשר טקסטואלי, אינטואיציה או היגיון בריא. הקלות שבה המערכת הלבישה את ההזיה הטכנולוגית שלה בתבנית של דוח רשמי היא אולי נקודת התורפה המשמעותית מכולן. בעידן שבו אנו נוטים לבטוח יותר ויותר בתוצרים ממוחשבים, דווקא האריזה המקצועית והמוקפדת עלולה לעוור את עיניהם של מקבלי ההחלטות, להרדים את מנגנוני הבקרה הטבעיים ולייצר תחושת ביטחון מזויפת.

האתגר המרכזי שניצב כיום בפני מפתחי הבינה המלאכותית והדרג הצבאי הוא יצירת מנגנוני בלימה אפקטיביים שלא יאטו את קצב קבלת ההחלטות, אך במקביל ימנעו טעויות קטסטרופליות בשטח. בעוד שהטכנולוגיה ממשיכה להשתכלל ולהפוך לחלק אורגני משרשרת הפיקוד, ברור לכל כי השאלה אינה האם נראה עוד תקלות וזיהויים שגויים, אלא מתי בדיוק הם יתרחשו ועד כמה המערכת תהיה ערוכה לעצור אותם בזמן. אימוץ נרחב של כלי אוטומציה יכול בהחלט לייעל את העבודה האנליטית, אך ברגעי האמת, כאשר מדובר על חיי אדם והשלכות מאקרו־כלכליות וגיאופוליטיות רחבות, הנוכחות האנושית והיכולת להטיל ספק במכונה נותרות קריטיות יותר מאי פעם. הדינמיקה הזו מבטיחה שהשיח סביב גבולות הבינה המלאכותית רק ילך ויתעצם, וימשיך להעסיק את מקבלי ההחלטות ואת השווקים הגלובליים עוד שנים רבות.