תַקצִיר

המיליטריזציה המואצת של בינה מלאכותית על ידי נאט”ו בשנת 2025 מגבשת אחת הדילמות העמוקות ביותר של הלוחמה המודרנית: האצלת סמכות קטלנית לאלגוריתמים. בעוד שהנרטיב הרשמי מדגיש חדשנות אחראית, שקיפות ומסגרות של אחריות, המסלול האמפירי של השקעה, בדיקות ועדכון דוקטרינה משקף מציאות מורכבת יותר. הקמת קרן החדשנות של נאט”ו בשנת 2024 והרחבת מתקן ההון הביטחוני של האיחוד האירופי סימנו זרימות הון משמעותיות למערכות בינה מלאכותית דו-שימושיות בעלות פוטנציאל ליישומים קטלניים ( הפרלמנט האירופי, ינואר 2024 ). ניסויים מבצעיים מקבילים, כגון פריסות ימיות של כוח המשימה X בפברואר 2025 , הציגו פלטפורמות אוטונומיות המסוגלות להרתעה מזוינת בתנאים מפוקחים למחצה ( Business Insider, פברואר 2025 ). יוזמות אלו התפתחו לצד דיונים נורמטיביים במסגרת אמנת האומות המאוחדות בדבר נשק קונבנציונלי מסוים (CCW) , שם קריאות לאיסורים מחייבים מבחינה משפטית על מערכות נשק אוטונומיות קטלניות (LAWS) נותרו נחסמו על ידי ארצות הברית , רוסיה וישראל , בעוד שאוסטריה , צ’ילה ומקסיקו דגלו באיסורים קטגוריים ( דו”ח CCW של האו”ם, אוקטובר 2023 ).

מחקר ביקורתי מדגיש כי אוטונומיה במערכות נשק אינה מאפיין בינארי אלא ספקטרום של סמכות הולכת וגוברת של קבלת החלטות מכונה, החל מזיהוי מטרות ועד לאישור פעולות בזמן אמת ([Scharre, “Army of None”, MIT Press, 2018]). הנחיות האוטונומיה של נאט”ו למתרגלים שפורסמו בדצמבר 2023 על ידי מרכז הכשירות האווירית המשותף (JAPCC) ניסו לקודד הגדרות, קטגוריות מבצעיות ואמצעי הגנה ( JAPCC, 2023 ). עם זאת, נותרו פערים משמעותיים בין מסגרות שאפתניות למציאות בשדה הקרב. היעדר דוקטרינה מחייבת מבחינה משפטית של נאט”ו המפרטת ספי שליטה אנושיים מינימליים – בין אם “אדם בלולאה” או “אדם בלולאה” – יוצר עמימות בייחוס אחריות, במיוחד בנפגעים אזרחיים שנגרמו מטעויות.

אופי “הקופסה השחורה” של מודלים מודרניים של למידת מכונה מחריף את הסיכונים הללו. סקירות שיטתיות בשנת 2024 על ידי ה- OECD AI Policy Observatory הדגישו כי יכולת ההסבר פוחתת ככל שרשתות עצביות תפעוליות גוברות במורכבותן, מה שמעלה ספקות לגבי אימות הציות לחוק ההומניטארי הבינלאומי. ביקורות טכניות של פלטפורמות רחפנים המשלבות אלגוריתמים אדפטיביים – ובמיוחד Bayraktar TB2 של Baykar, שנפרס על ידי מספר מדינות חברות בנאט”ו – מדגימות אוטונומיה הולכת וגוברת בתת-מערכות ניווט ומיקוד (המכון הבינלאומי לחקר השלום בסטוקהולם, 2024). בעוד שיצרנים מתייחסים אלה לשיפורי יעילות, הפוטנציאל לסחיפה אלגוריתמית, זיופים עוינים והרעלת נתונים נותר ברובו בלתי מטופל.

מנגנוני עקיפה אתית – אלגוריתמים שנועדו לעצור פעילות קטלנית כאשר פרמטרים מאותתים על השפעות לא פרופורציונליות או בלתי חוקיות – קיימים בעיקר ברמת אבות טיפוס אקדמיים. חיפושי פטנטים בשנת 2024 מאשרים הגשות הקשורות למודולי “עקיפה הומניטרית” , אך אין הנחיות יישום סטנדרטיות של נאט”ו זמינות לציבור. טענות בנוגע לפטנטים קנייניים של נאט”ו על “אלגוריתמי עקיפה אתית” חסרות מקורות מאומתים. כתוצאה מכך, כל טענה על אימוץ ממוסד חייבת להיחשב כ”אין מקור ציבורי מאומת זמין”.

על רקע נוף עובדתי זה, עולה שאלת הטאבו: כאשר אלגוריתם הורג בטעות, מי אחראי? המשפט ההומניטארי הבינלאומי, כפי שמעוגן באמנות ז’נבה ובפרוטוקולים הנוספים, מניח מעורבות אנושית בקבלת החלטות. עם זאת, הריגה אוטומטית שוחקת הנחה זו, ומעבירה את הסיבתיות לבסיסי קוד אטומים ולשרשראות אספקה מבוזרות הכוללות מדינות, תאגידים וקבלני משנה. חוקרים באקדמיה למשפט הומניטרי בינלאומי וזכויות אדם בז’נבה הזהירו בשנת 2024 כי ללא מסגרות מחייבות של אחריות, האחריות למקרי מוות של אזרחים הנגרמים על ידי מערכות אוטונומיות עלולה להתפזר מעבר לאכיפה ( אקדמיית ז’נבה, דצמבר 2024 ).

---

יסודות מוסדיים – אסטרטגיית נאט”ו בתחום הבינה המלאכותית, מנגנוני מימון והנחיות אתיות

כל היבט של אימוץ הבינה המלאכותית על ידי נאט”ו בשנים 2024–2025 מעוגן בהתחייבויות מוסדיות הדורשות בדיקה. נאט”ו פרסם אסטרטגיית בינה מלאכותית מתוקנת ב -10 ביולי 2024 , המתווה את המטרות להקים בסיס למנהיגות של בעלות הברית בתחום הבינה המלאכותית האחראית, להאיץ את האימוץ כדי לשפר את יכולת הפעולה ההדדית, להגן מפני איומי בינה מלאכותית עוינים ולקדם ראייה אסטרטגית ברחבי הברית ( nato.int ). הסיכום המצורף מפרט כי האסטרטגיה המתוקנת בונה על גרסת 2021 על ידי הדגשה מפורשת של שימוש אחראי, יכולת פעולה הדדית, הגנה על מערכות בינה מלאכותית והפחתת איומים פרואקטיבית ( europarl.europa.eu ). נאט”ו התחייב גם להקים נוף בדיקות, הערכה, אימות ותיקוף (TEV&V) כלל-ברית כדי לתמוך בפריסה אחראית של בינה מלאכותית ( Breaking Defense ). אלמנטים אלה משקפים התפתחות מאישור רטורי לארכיטקטורה פרוצדורלית קונקרטית.

משמעותית לא פחות היא הקמת קרן החדשנות של נאט”ו , שהוקמה בשנת 2022 ומגובה על ידי 24 בעלות ברית של נאט”ו , עם קיבולת פריסה העולה על מיליארד אירו בהשקעות טכנולוגיות עמוקות ( קרן החדשנות של נאט”ו ). ההשקעה הראשונה של הקרן בארבע חברות הוכרזה ב -18 ביוני 2024 , וסימנה את תחילתה המבצעית של מעורבות בקנה מידה גדול של הון סיכון בסטארט-אפים רלוונטיים לתחום הביטחון ( nato.int ). שותפות שנוצרה ב -2 ביולי 2024 , בין קרן ההשקעות האירופית (EIF) לקרן החדשנות של נאט”ו, ייסדה מזכר הבנות להרחבת המימון לסטארט-אפים, קרנות קטנות ובינוניות וחברות בינוניות בתחומי הביטחון, הביטחון והחוסן ( eif.org ). נתונים מ-Dealroom והקרן שפורסמו בפברואר 2025 הדגישו שיא של 5.2 מיליארד דולר בהשקעות הון סיכון אירופיות בטכנולוגיות ביטחון, ביטחון וחוסן במהלך 2024 , עלייה של 24% שעקפה באופן ניכר את הירידה הרחבה יותר בהון סיכון ( קרן החדשנות של נאט”ו ).

אותו דו”ח מפברואר 2025 חשף גם כי טכנולוגיות התומכות ב”מודעות, הבנה וקבלת החלטות” – קטגוריה הכוללת בינה מלאכותית דו-שימושית – הבטיחו מימון של מיליארד דולר בשנת 2024 , עלייה של פי ארבעה מאז 2020 וכמעט כפולה מהשנה הקודמת ( קרן החדשנות של נאט”ו ). גרמניה צצה כמובילה אזורית בתחום הון סיכון, במיוחד במינכן, שעקפה את בריטניה במשיכת מימון; השקעות בולטות כוללות סבב גיוס של 450 מיליון אירו עבור Helsing, לפיתוח בינה מלאכותית בשדה הקרב, וסבב גיוס של 70 מיליון אירו עבור יצרנית הרחפנים Tekever ( פייננשל טיימס ).

בסוף נובמבר 2024 , קרן החדשנות של נאט”ו השתתפה בסבב גיוס של 70 מיליון אירו עבור TEKEVER, שאפשר את הרחבתן של חברות מערכות אוויריות בלתי מאוישות מבוססות בינה מלאכותית ( uasmagazine.com ). אסטרטגיית ההשקעה של הקרן התרחבה גם לביוטכנולוגיה כפי שהוכח ב -30 ביוני 2025 , כאשר הובילה יחד סבב גיוס של 35 מיליון דולר עבור Portal Biotech, חברה בריטית המפתחת חיישנים ניידים בסיוע בינה מלאכותית לגילוי פתוגנים מהונדסים – חלק מההשקעה הרחבה יותר של נאט”ו בחוסן ( רויטרס ).

יתר על כן, מאיץ החדשנות להגנה בצפון האוקיינוס האטלנטי (DIANA) החל לפעול ב -19 ביוני 2023 , ותפקד כרשת אתרי האצה ומרכזי בדיקה של נאט”ו לטכנולוגיות דו-שימושיות מתפתחות ופורצות דרך ( ויקיפדיה ). עד ה-14 במרץ 2024 , DIANA גדלה ל -23 אתרי האצה ו -182 מרכזי בדיקה , במטרה להגיע ליכולת מבצעית מלאה עד 2025 ; מרכז אזורי בטאלין נחנך במאי 2024 ( ויקיפדיה ).

נאט”ו גם הרחיב את יכולותיו האסטרטגיות באמצעות תוכנית המדע למען שלום וביטחון (SPS) , שעברה ארגון מחדש נושאי באפריל 2024 כדי לכלול חדשנות וטכנולוגיות משבשות מתפתחות כתחום מיקוד מרכזי, ובכך לאפשר שיתוף פעולה מדעי וטכנולוגי בין-לאומי ( ויקיפדיה ). ארגון המדע והטכנולוגיה (STO) של הברית נותר עמוד השדרה המוסדי לאסטרטגיית המדע והטכנולוגיה, המורכב מפאנלים כגון פאנל טכנולוגיית מערכות מידע – אשר נותן עדיפות לבינה מלאכותית, אבטחת סייבר ויכולת פעולה הדדית – ופאנל ניתוח ומחקרי מערכות, המציע תמיכה בהחלטות אסטרטגיות ( ויקיפדיה ).

חשובה לא פחות היא אסטרטגיית הנתונים של נאט”ו , שפורסמה ב -30 במאי 2025 (הוסכמה בפברואר 2025 ), אשר מדגישה את התועלת האסטרטגית של ניהול נתונים לתמיכה ביכולות בינה מלאכותית, שיתוף נתונים בין בעלות הברית וצינורות נתונים מאובטחים – תשתית קריטית למערכות מבוססות בינה מלאכותית ( nato.int ).

דיונים ברמת המדיניות שינו גם את המחויבויות הפיסקליות: בפסגת נאט”ו בהאג 2025 שנערכה ב -24-25 ביוני , הסכימו המדינות החברות להעלות את ההוצאות הקשורות להגנה וביטחון ל -5% מהתמ”ג עד 2035 , כאשר 3.5% יוקצו לצרכים צבאיים מרכזיים ו -1.5% לתחומי חוסן וחדשנות. ההתקדמות צפויה להיבחן בשנת 2029 ( ויקיפדיה ). דמויות דיפלומטיות כמו ז’אן-צ’ארלס אלרמן-קינגומב , בראיון דני בשנת 2025 , הזהירו כי נאט”ו מסתכנת בפיגור אחרי סין בטכנולוגיות קריטיות ותמכו בתוקף בתוכנית להאצת טכנולוגיה הנתמכת על ידי קרן החדשנות בסך מיליארד אירו ורשת DIANA ( ויקיפדיה ).

במקביל, נאט”ו הגדילה את יכולות הבינה המלאכותית המבצעיות שלה; בשנת 2025 , רכשה הברית את מערכת Maven Smart System (MSS Nato) מפלנטיר, המשלבת בינה מלאכותית גנרטורה, למידת מכונה ותוכניות לימודים לשיפור ניתוח נתוני שדה הקרב, מיזוג מודיעין, מיקוד ותכנון מבצעי. הרכישה, שבוצעה תוך שישה חודשים, היא בין המהירות ביותר בתולדות הברית ( פייננשל טיימס ).

מחקר אקדמי ומחקר מדיניות תומך בצורך בפיקוח ממוקד אדם. מחקר מדצמבר 2024 שכותרתו ” בדיקה והערכה של בינה מלאכותית צבאית ממוקדת אדם” (REAIM 2024 Blueprint) מדגיש כי בני אדם חייבים להישאר אחראים לאורך כל בדיקות מחזור החיים של בינה מלאכותית, עם מסגרות TEVV חזקות המותאמות ממחקר גורמים אנושיים ( arxiv.org ). מסמך לבן מפברואר 2025 בנושא שיקולים אתיים לשימוש צבאי בבינה מלאכותית בסיור חזותי מדגיש עקרונות כגון הוגנות, אחריות, שקיפות, עקיבות, מידתיות, אחריות ואמינות, המוערכים על פני מקרי שימוש בהקשרים ימיים, אוויריים ויבשתיים ( arxiv.org ).

אף מקור ציבורי מאומת לא מאשר את קיומן של מערכות בשם “מחשבה ערה”, “מגן ברזל 2025”, פטנטים של נאט”ו על “אלגוריתמים של עקיפה אתית” עבור רחפנים אוטונומיים, או כל שינוי קופסה שחורה של רחפני בייראקטאר. טענות אלה נותרו. אין מקור ציבורי מאומת זמין .

ארכיטקטורה מוסדית זו – הכוללת מדיניות אסטרטגית בתחום הבינה המלאכותית, מנגנוני מימון, מאיצי חדשנות, אסטרטגיית נתונים, התחייבויות הוצאות ברמת פסגה, רכישת בינה מלאכותית ומחקר רגולטורי מבוסס ראיות – ממחישה את הגישה הרב-ממדית של נאט”ו לשילוב בינה מלאכותית ביכולות הגנה. עם זאת, היא גם מעלה שאלות מהותיות בנוגע לבהירות האחריותיות, התאמה בין השקעה לפיקוח, והיעילות של מנגנוני ממשל ככל שהברית דוחפת לאוטונומיה גבוהה יותר במערכות קטלניות.

סיכונים טכניים ותפעוליים של מערכות נשק אוטונומיות קטלניות

אופרציונליזציה של בינה מלאכותית במערכות נשק מציגה מטריצת סיכונים הכוללת אמינות טכנית, פגיעות קיברנטית, חוסר יציבות בהסלמה וחוסר יכולת חיזוי מערכתי. הדגש של נאט”ו על חדשנות אחראית אינו מפחית מהמציאות שמערכות נשק אוטונומיות קטלניות ( LAWS ) מסתמכות על תהליכי למידת מכונה שהתנהגותם בסביבות עוינות לעיתים קרובות שונה מתנאי בדיקה מבוקרים. דו”ח מנובמבר 2024 של מצפה הכוכבים למדיניות בינה מלאכותית של ה-OECD תיעד כי רמות הדיוק של מערכות ראייה ממוחשבת מתקדמות ירדו עד 32% כאשר הן נחשפות להפרעות עוינות שהוכנסו במכוון למערכי נתוני תמונות (OECD, נובמבר 2024). בתנאי שדה קרב, הפרעות כאלה יכולות להיווצר באמצעות הסוואה, פיתיונות או אמצעי נגד אלקטרוניים, מה שגורם לזיהוי שגוי של מטרות שעלול להיות בעל השלכות קטסטרופליות כאשר הן קשורות למטענים קטלניים.

הבעיה מחמירה עקב סחיפה אלגוריתמית, שבה פרמטרי המודל משתנים עקב שינויים בקלט הנתונים במהלך פעולות ממושכות. מחקר של המכון הבינלאומי לחקר השלום בסטוקהולם (SIPRI) במרץ 2024 זיהה כי רחפנים אדפטיביים הפרוסים עם מסגרות למידה מקוונות לחיזוק יכלו לכייל מחדש בהדרגה את ספי המטרות ללא מודעות המפעיל, מה שמגביר תוצאות חיוביות שגויות לאורך זמן (SIPRI, מרץ 2024). זה מעלה שאלות חריפות בנוגע לאחריותיות: אם רחפן הפרוס על ידי נאט”ו פוגע במטרות לא מכוונות לאחר שבועות של כיול מחדש ללא פיקוח, ייחוס האחריות מתפזר בין מהנדסים, מפקדים וקובעי מדיניות של הברית.

וקטור סיכון נוסף נובע מחדירה קיברנטית. מערכות אוטונומיות מאובטחות רק כמו שרשראות אספקת התוכנה שלהן. ביוני 2024 , פרסמה סוכנות האיחוד האירופי לאבטחת סייבר (ENISA) את הערכת הפגיעויות הקיברנטיות של בינה מלאכותית בתחום ההגנה, שהסיקה כי 78% מיישומי ההגנה המוערכים מבוססי בינה מלאכותית הציגו תלות תוכנה ניתנות לניצול עקב ספריות קוד פתוח מיושנות (ENISA, יוני 2024). ניצול עלול לאפשר ליריבים לחטוף שליטה, לזייף קלט חיישנים או להזריק קוד זדוני כדי להפעיל התקפות קטלניות לא מכוונות. ממצא זה מהדהד ממצאים קודמים של סוכנות הפרויקטים למחקר מתקדם של ההגנה האמריקאית (DARPA) בשנת 2023 , אשר דימה התקפות של צוות אדום על כלי רכב אוטונומיים והדגימה כי אותות שמע של יריבים עלולים לעקוף פקודות ניווט.

קצב הפעולה של מערכות אוטונומיות יוצר גם סיכונים לחוסר יציבות בהסלמה. מסמך עבודה מדצמבר 2024 של מכון האו”ם לחקר פירוק נשק (UNIDIR) הזהיר כי מחזורי קבלת החלטות מכונות במהירות גבוהה עלולים לעקוף את ערוצי הפירוק הדיפלומטיים האנושיים, ולצמצם את חלונות התגובה למשברים לשניות ולא לשעות (UNIDIR, דצמבר 2024). באזור הבלטי, שם נאט”ו הגביר את פריסותיהם של רחפני מעקב ומערכות ימיות לא מאוישות, האצה כזו מסכנת הסלמה לא מכוונת אם פלטפורמות אוטונומיות מסווגות באופן שגוי כלי שיט אזרחיים כנכסי עוין. דינמיקה זו משקפת את הפרדוקס הרחב יותר של אוטומציה: בעודה מפחיתה טעויות אנוש בהקשרים מסוימים, היא מציגה פגיעויות מערכתיות על ידי אי הכללת שיקול דעת אנושי ברגעי משבר.

הערכת נזק משני נותרה אתגר נוסף שלא נפתר. פרוטוקולי הבדיקה של נאט”ו משלבים מתודולוגיות להערכת נזק משני הנגזרות ממודלים של תוכנה של משרד ההגנה האמריקאי , כגון FAST-CD , המנסים לכמת רדיוסי פיצוץ וקרבה לאזרחים לפני תקיפות. עם זאת, ביקורת משנת 2024 על ידי משרד האחריות הממשלתית (GAO) מצאה שולי שגיאה העולים על 27% בסימולציות צפיפות עירונית ( GAO, אוגוסט 2024 ). תרגום מודלים כאלה לפלטפורמות אוטונומיות מגביר את הסיכון, שכן שגיאות הן אוטומטיות ולא מתווכות על ידי מפעילים אנושיים המסוגלים לעקוף אותן לפי שיקול דעת.

ניסיון בפריסה מבצעית מדגיש את הסיכונים הללו. במהלך תרגילי כוח המשימה X של נאט”ו בפברואר 2025 בים הבלטי, כלי שיט ללא צוות ביצעו ניסויי אש חיה בתנאים מפוקחים למחצה. בעוד שנאט”ו הכריז על הצלחת הניסויים, סקירות פנימיות לאחר הפעולה שצוינו על ידי Business Insider הדגישו רגעים של “אנומליות מיזוג חיישנים” שבהן הזנות מכ”ם וסונאר הפיקו פלטי סיווג סותרים ( Business Insider, פברואר 2025 ). למרות שמפעילים התערבו לפני החלטות הפעלת הכוח, אנומליות אלו מדגימות כיצד רשתות חיישנים משולבות יכולות לערער את יציבות מחזורי ההחלטות האוטונומיים. בהיעדר פיקוח אנושי, סיווגים כוזבים עלולים להסלים לטעויות קטלניות.

ההסתמכות על רכיבי בינה מלאכותית שפותחו מסחרית מציגה סיכונים נוספים של אטימות ותלות. חקירה של המרכז לביטחון וטכנולוגיה מתפתחת (CSET) באוקטובר 2024 חשפה כי 62% ממודולי הבינה המלאכותית ששולבו במערכות האוטונומיות של מדינות החברות בנאט”ו הכילו קוד קנייני שמקורו בחברות טכנולוגיה רב-לאומיות (CSET, אוקטובר 2024). הסתמכות זו מעלה שאלות בנוגע לבקרת יצוא, הגבלות רישוי והחשיפה הגיאופוליטית של אוטונומיה צבאית לשיבושים בשרשרת האספקה. אם ספק משנה את האלגוריתם הקנייני שלו או מפסיק את התמיכה, מערכות שנפרסו עלולות לחוות ביצועים פגומים או התנהגות בלתי צפויה בסביבות לחימה.

סיכון תפעולי נוסף נובע מגירעונות בהסבר. רשתות עצביות עמוקות משיגות לעיתים קרובות ביצועים על ידי ויתור על שקיפות. סקירה משנת 2024 של האקדמיה למשפט הומניטרי בינלאומי וזכויות אדם בז’נבה הדגישה כי הערכת תאימות תחת אמנות ז’נבה דורשת הסברים ניתנים לאימות לכל החלטה על מיקוד ( האקדמיה של ז’נבה, דצמבר 2024 ). עם זאת, טכניקות בינה מלאכותית ניתנות להסבר פועלות בדרך כלל לאחר מעשה ואינן יכולות להבטיח פרשנות בזמן אמת בתרחישי לחימה. אם פלטפורמה אוטונומית מבצעת תקיפה קטלנית, שחזור מסלול ההחלטה הסיבתית הופך כמעט בלתי אפשרי, ובכך פוגע במסגרות האחריותיות.

חוסר יציבות בהסלמה מוגבר על ידי אינטראקציות מרובות סוכנים. סימולציות שבוצעו בשנת 2024 על ידי תאגיד RAND הראו שכאשר נחילי רחפנים אוטונומיים מתמודדים עם נחילים יריבים, התנהגויות מתפתחות לעיתים קרובות סטו מהיעדים המתוכננים, ומייצרות מחזורי התקפה-נסיגה מתנדנדים שאף אחד מהצדדים לא צפה. התנהגות מתפתחת כזו מציגה חוסר ודאות בדינמיקת הסכסוך, שבה אינטראקציות מכונה-מכונה עלולות להסתחרר להסלמה ללא כוונה אנושית מכוונת. כאשר מיושמים על חומת הרחפנים המתוכננת של נאט”ו לאורך הגבול המזרחי, תופעות כאלה מסתכנות בערעור יציבות ההרתעה.

יתר על כן, סיכונים הומניטריים נותרים חריפים בזירות עירוניות. מחקר של הוועד הבינלאומי של הצלב האדום (ICRC) בשנת 2024 הדגיש כי מערכות מיקוד אוטונומיות מתקשות להבחין בין לוחמים לאזרחים בהקשרים של לוחמה אסימטרית, במיוחד כאשר יריבים פועלים ללא מדים או בתוך אוכלוסיות אזרחיות מעורבות (ICRC, 2024). ה-ICRC הגיע למסקנה כי מגבלות טכניות הופכות את הציות לעקרונות ההבחנה והפרופורציונליות לבלתי ניתן להשגה עבור פלטפורמות אוטונומיות נוכחיות. קביעה זו מאתגרת את הבטחות נאט”ו שפרוטוקולי הבדיקה מספיקים כדי להגן מפני תוצאות בלתי חוקיות.

אינטגרציה סייבר-פיזית מכפילה את שטח התקיפה. מחקר משנת 2025 של סוכנות האיחוד האירופי לאבטחת סייבר (ENISA) ציין כי יריבים המנצלים ערוצי תקשורת לוויינית עלולים לגרום ל”מפלי דה-סנכרון” בנחילי רחפנים, מה שמוביל לפיצול מרחבי ולהתנגשויות באוויר (ENISA, ינואר 2025). פגיעויות כאלה מדאיגות במיוחד עבור נאט”ו, שרשתות הפיקוד המבוזרות שלה מסתמכות במידה רבה על ממסרי לוויינים מאובטחים. הקשחה שיטתית נותרה מוגבלת על ידי האופי המסווג והקנייני של שבבים משובצים, דבר המסבך ביקורות של צד שלישי.

אוטונומיה אנרגטית היא גם ממד סיכון. מערכות לא מאוישות בעלות יכולת קטלנית תלויות בעתודות סוללה או דלק, אשר יכולות להגביל את משך המשימה ולאלץ פלטפורמות למחזורי תדלוק או טעינה לא מפוקחים. הסוכנות הבינלאומית לאנרגיה (IEA) ציינה בשנת 2024 כי מגמות חשמול שדה הקרב הצפויות יגדילו את התלות באחסון ליתיום-יון ב -44% עד 2030 , מה שיגביר את הפגיעות הלוגיסטית לצווארי בקבוק וחבלה בשרשרת האספקה ( IEA, 2024 ). תלות כזו קושרת את האפקטיביות ופרופיל הסיכון של פלטפורמות אוטונומיות לגיאופוליטיקה אנרגטית רחבה יותר.

האינטראקציה בין סיכונים אלה מגלה כי הממדים הטכניים והתפעוליים של קטלניות אוטונומית אינם מבודדים ואינם תיאורטיים בלבד. הם מתכנסים בדרכים בלתי צפויות שעלולות לערער את היציבות האסטרטגית של נאט”ו. בעוד שהשקעות ודוקטרינות מדגישות פריסה אחראית, המאפיינים הטבועים באלגוריתמים אדפטיביים, שרשראות אספקה מורכבות ותלות סייבר-פיזית מבטיחים כי לא ניתן למתן לחלוטין את הסיכון.

שליטה אנושית, אחריות ובעיית קבלת ההחלטות בקופסה השחורה

עקרון השליטה האנושית על השימוש בכוח היה מרכזי במשפט ההומניטארי הבינלאומי מאז אימוץ אמנות ז’נבה משנת 1949 , אך התקדמות הבינה המלאכותית במאגר הנשק של נאט”ו מאתגרת את היתכנות שמירה על שליטה כזו בפועל. הנחיות האוטונומיה של נאט”ו לעוסקים , שפורסמו בדצמבר 2023 על ידי מרכז הכשירות האווירית המשותף, מסווגות דרגות של אוטונומיה על רצף, החל מ”אדם בתוך הלולאה”, שבו בני אדם יוזמים כל קרב, דרך “אדם בתוך הלולאה”, שבה הפיקוח נשמר אך הביצוע עשוי להיות אוטומטי, ולבסוף דרך “אדם מחוץ ללולאה”, שבה החלטות קטלניות מועברות במלואן לאלגוריתמים ( JAPCC, 2023 ). למרות שההנחיות מדגישות שבני אדם חייבים להישאר מקבלי החלטות אחראיים, נאט”ו לא קבע ספים מחייבים המחייבים נוכחות של מפעיל אנושי במחזור ההחלטות, ובכך הותיר אזור אפור שבו אוטונומיה עלולה לסטות לכיוון האצלת סמכות קטלנית.

בעיה זו מצטלבת ישירות עם אחריותיות. במערכות הנשלטות על ידי רשתות עצביות אטומות, החלטות אינן מתקבלות דרך מסלולים לוגיים שקופים אלא נובעות מהסתברויות משוקללות המפוזרות על פני מיליוני פרמטרים. דו”ח מדצמבר 2024 של האקדמיה למשפט הומניטרי בינלאומי וזכויות אדם בז’נבה הגיע למסקנה כי אטימות של קופסה שחורה פוגעת בייחוס האחריות מכיוון שאף גורם בשרשרת התכנון, הרכש, הפריסה והתפעול אינו יכול להסביר בוודאות מדוע מערכת הניבה תוצאה קטלנית מסוימת ( האקדמיה בז’נבה, דצמבר 2024 ). האקדמיה הדגישה כי ללא הסבר, עמידה בעקרונות ההבחנה והפרופורציונליות הופכת לבלתי ניתנת לאימות. בתי משפט השופטים הפרות של המשפט ההומניטרי דורשים קשרים סיבתיים ניתנים להוכחה, אך כלי נשק מבוססי בינה מלאכותית מפרקים קשרים אלה בקבלת החלטות הסתברותית.

פער האחריותיות מתרחב כאשר בוחנים צינורות פיתוח מרובי בעלי עניין. נתונים מהמרכז לביטחון וטכנולוגיה מתפתחת (CSET) בשנת 2024 הראו כי 62% ממודולי הבינה המלאכותית המשולבים בפלטפורמות הגנה של נאט”ו מגיעים מספקים מסחריים קנייניים, עם קבלנות משנה נוספת לספקים משניים (CSET, אוקטובר 2024). לפיכך, כאשר שגיאה אלגוריתמית גורמת לאבדות אזרחיות, האחריות מפוזרת באופן פוטנציאלי על פני מבני פיקוד של נאט”ו, קבלני משנה, קבלני משנה וספקי תוכנה במספר תחומי שיפוט. זה מעלה את האפשרות של פיזור אחריות, שבו אף גורם יחיד אינו אחראי מבחינה משפטית.

אמנת האומות המאוחדות בדבר כלי נשק קונבנציונליים מסוימים (CCW) דנה בשאלה זו מאז 2014 , עם קריאות חוזרות ונשנות לעגן “שליטה אנושית משמעותית” כסטנדרט משפטי מחייב. עם זאת, נכון לאוקטובר 2023 , המאמצים לבסס איסור או מורטוריום נכשלו, שכן ארצות הברית , רוסיה וישראל התנגדו לאמצעים מגבילים, בעוד שמדינות כמו אוסטריה ומקסיקו לחצו לאיסור קטגורי ( דו”ח CCW של האו”ם, אוקטובר 2023 ). בעלות ברית של נאט”ו נופלות לאורך ספקטרום זה, כאשר חלקן מדגישות ריסון אתי ואחרות נותנות עדיפות לגמישות אסטרטגית. היעדר קונצנזוס מעצים עמימות בעמדה הקולקטיבית של נאט”ו.

יוזמות ברמה הלאומית חושפות ניסיונות לטפל בפער באחריותיות. בשנת 2022 , פרסם משרד ההגנה האמריקאי את אסטרטגיית ונתיב היישום של בינה מלאכותית אחראית, שעודכנו בשנת 2023 כדי לכלול מנדטים לתהליכי בדיקה והערכה, אימות ותיקוף (TEVV). עם זאת, כפי שמצא משרד האחריותיות הממשלתי של ארה”ב (GAO) בסקירה מאוגוסט 2024 , דיווחי התאימות היו לא עקביים, והתיעוד לאימות החלטות אלגוריתמי לא היה שלם ב -41% מפרויקטי הבינה המלאכותית שנדגמו ( GAO, אוגוסט 2024 ). אם אחת מחברות נאט”ו המתקדמות ביותר מבחינה טכנולוגית מתקשה בתיעוד, הברית ניצבת בפני סיכונים מורכבים כאשר היא מנסה ליצור הרמוניה בין מערכות לאומיות מגוונות.

ליקויים בהסבר מחמירים את בעיית האחריותיות. מחקר שפורסם ב- Nature Machine Intelligence באוקטובר 2024 הגיע למסקנה ששיטות של בינה מלאכותית מוסברת (XAI) יוצרות לעתים קרובות “תחושה כוזבת של שקיפות”, שכן מפות בולטות ופרשנויות שלאחר מעשה אינן מצליחות לשקף את ההיגיון הסיבתי האמיתי של מודלים של למידה עמוקה ( Nature Machine Intelligence, אוקטובר 2024 ). כאשר טכניקות כאלה מיושמות על מערכות בינה מלאכותית בשדה הקרב, מפקדים עשויים להאמין שהפיקוח חזק, כשלמעשה הם נשארים עיוורים למנגנונים האמיתיים של קבלת החלטות. אטימות אפיסטמית זו מעמידה את האחריותיות בסיכון על ידי הסתרת אי ודאות.

האיחוד האירופי ניסה למלא את הפערים הללו באמצעות רגולציה. חוק הבינה המלאכותית של האיחוד האירופי , שאושר בדצמבר 2023 , סיווג במפורש בינה מלאכותית המשמשת בתשתיות קריטיות ובהגנה כיישומים בסיכון גבוה הדורשים פיקוח קפדני (הפרלמנט האירופי, דצמבר 2023). עם זאת, נאט”ו, כברית צבאית, אינה מחויבת לחוק האיחוד האירופי, ופערים במשטרי הרגולציה מאיימים ליצור מסגרות של אחריות לא עקביות. לדוגמה, רחפן אוטונומי מתוצרת צרפת הפועל תחת תקנות הייצוא של האיחוד האירופי עשוי לעמוד בתקנים מחמירים יותר מאשר מערכת מתוצרת ארה”ב הפטורה מכללים כאלה, מה שמוביל למתחים של יכולת פעולה הדדית במשימות נאט”ו משותפות.

תקדימים היסטוריים מדגים כיצד פערים באחריותיות באים לידי ביטוי באופן מבצעי. במהלך 2020–2021 בלוב, דיווחים תיעדו כי רחפנים מדגם Kargu-2 מתוצרת טורקיה פעלו עם יכולות מיקוד אוטונומיות נגד כוחות נסוגים. בעוד שייחוס האירוע נותר שנוי במחלוקת, התקרית הדגישה את היתכנות התוצאות הקטלניות ללא התערבות אנושית. נאט”ו לא אישר שימוש מבצעי במערכות כאלה, אך התקדים ממחיש את הסיכונים של זליגת קבלת החלטות “קופסה שחורה” לזירות בהן מעורבים שותפות לברית. טענות לגבי תקריות דומות של נאט”ו בליטא בשנת 2025 נותרו . אין מקור ציבורי מאומת זמין.

ההשלכות הפילוסופיות חורגות מעבר לייחוס משפטי. העברת הסמכות לקבלת החלטות קטלניות לאלגוריתמים משנה את האונטולוגיה של הלוחמה. פילוסופים של טכנולוגיה כמו פיטר אסארו טוענים כי אחריות היא תנאי מוקדם לאחריות מוסרית, וללא אחריות אנושית, מלחמה הופכת לתחום שבו הריגה היא אוטומטית באופן בירוקרטי ולא נשפטת מוסרית (אסארו, אתיקה של כלי נשק אוטונומיים , 2024 ). המסגרות הנוכחיות של נאט”ו מכירות בסיכון זה באופן עקרוני אך עדיין אינן משלבות ערבויות מחייבות לאחריות אנושית.

אפילו במקרים בהם בני אדם נשארים רשמית מעודכנים, תופעת ההטיה האוטומטית פוגעת בשליטה משמעותית. מחקר של RAND משנת 2024 מצא שב -87% מהמעורבות המדומה, מפעילים אנושיים נתנו את המלצות האלגוריתמיות למיקוד, גם כאשר מודיעין סותר הצביע על זהירות (RAND, 2024). ממצא זה מצביע על כך שדרישה גרידא ממפעיל אנושי לאשר שביתות אינה מבטיחה אחריות אם הטיה קוגניטיבית מובילה לאישור פלטים אלגוריתמיים.

שוקי הביטוח והאחריות מספקים ראיות נוספות לפער באחריותיות. על פי דו”ח של לוידס מלונדון משנת 2024 , לא קיימים כלי ביטוח סטנדרטיים עבור אירועים הקשורים לנשק אוטונומי, משום שייחוס האשמה נותר בלתי מוגדר. היעדר ביטוח זה מאותת שאפילו מנגנוני הערכת סיכונים במגזר הפרטי אינם יכולים ליישב בין אטימות של קופסה שחורה לבין מסגרות אחריותיות. חברות נאט”ו המסתמכות על קבלנים פרטיים להפעלת או תחזוקת מערכות אוטונומיות מסתכנות בכך שחשיפה לחובות לא מבוטחות.

ארגוני חברה אזרחית ממשיכים ללחוץ לפתרון. הקמפיין לעצירת רובוטים קטלניים , בתדרוך המדיניות שלו לשנת 2024 , טען כי האצלת סמכויות החלטות קטלניות לאלגוריתמים מפרה את החוק הבינלאומי כשלעצמו, ללא קשר לרמות ההסבר. נאט”ו לא אימצה עמדה זו, ובמקום זאת חזרה על כך שמערכות אוטונומיות חייבות להישאר כפופות לביקורת משפטית ואתית. עם זאת, נראות הקמפיין מדגימה לחץ נורמטיבי מתמשך שנאט”ו אינו יכול להתעלם ממנו, במיוחד במדינות חברות דמוקרטיות שבהן דעת הקהל מגבילה את מדיניות ההגנה.

בעיית האחריותיות היא אפוא רב-ממדית: מסגרות משפטיות חסרות סטנדרטים ניתנים לאכיפה, אטימות טכנולוגית מונעת ייחוס, הטיה אנושית פוגעת בפיקוח משמעותי, ושווקים פרטיים מסרבים לכיסוי אחריות. ללא רפורמות מוסדיות מחייבות, נאט”ו מסתכן בפריסת מערכות שטעויותיהן יהרגו אזרחים מבלי שאף אחד יוכל – או ירצה – לשאת באחריות. פיזור האחריותיות על פני שרשרת של שחקנים מדלל את האחריות עד כדי היעדרותה, ופוגעת הן בלגיטימציה המוסרית של פעולות נאט”ו והן ביכולת האכיפה של המשפט ההומניטרי.

פריסה תעשייתית – רחפנים אוטונומיים, פלטפורמות ונהלים של מדינות חברות בנאט”ו

ניסויים ימיים אוטונומיים בים הבלטי במהלך יוני 2025 הדגימו כלי שיט ללא צוות משתלבים עם קבוצות משימה של בעלות הברית תחת פיקוח של פיקוד הטרנספורמציה של בעלות הברית ופיקוד הים של בעלות הברית , עם יכולת פעולה הדדית, תמרוני אש חיה ומטרות הגנה על תשתיות קריטיות שתוארו בפומבי על ידי מפקדים וראשי תוכניות במאמר רשמי מ-26 בפברואר 2025 של פיקוד הטרנספורמציה של בעלות הברית ובפתק מבצעים מ-5 ביוני 2025 של פיקוד הים של נאט”ו , המפרט את מטרות הפיקוד והבקרה, מילוי פערים ב-AIS והרחבה מהירה באמצעות הדגמות של כוח המשימה X , המשקפים מעבר מהערכת טייסים לניסויים מבצעיים ברמת הצי ( מאמר על פיקוד הטרנספורמציה של בעלות הברית של נאט”ו , הודעה לפיקוד הים של נאט”ו ).

האצה תעשייתית ברחבי הברית התבססה על רשת בדיקות מורחבת: מאיץ החדשנות הביטחונית של נאט”ו לצפון האוקיינוס האטלנטי ( DIANA ) דיווח על צמיחה ברשת ל -23 אתרי מאיץ ו -182 מרכזי בדיקה ב -28 מדינות בעלות הברית במרץ 2024 , כאשר חומרי התוכנית ודפי הנושא עודכנו עד 25 ביוני 2025, המאשרים יותר מ -200 מתקני מאיצים ובדיקה ובחירה של למעלה מ -70 חברות לקבוצת המאיצים לשנת 2025 שנבחרה מתוך יותר מ -2,600 הגשות, אשר ממסדירה מסלולים מקריאות אתגר לאימוץ ואימות על ידי משתמשי קצה במתקנים מוסמכים ( חדשות נאט”ו , מרץ 2024 , נושא טכנולוגיות מתפתחות ומשבשות של נאט”ו , 25 ביוני 2025 , דף הבית של נאט”ו DIANA , חדשות נאט”ו , דצמבר 2024 על קבוצת 2025 , רשימת קבוצת DIANA , רשת מרכזי בדיקה של DIANA ).

גיוס הון השלים את הגישה למערכות ניסוי: קרן החדשנות של נאט”ו ( NIF ) דיווחה על 5.2 מיליארד דולר במימון הון סיכון אירופאי בתחומי ההגנה, הביטחון והחוסן לשנת 2024 , בדוח משותף מ-12 בפברואר 2025 עם Dealroom , שציין צמיחה של 30% בשנתיים האחרונות לעומת התכווצות רחבה יותר של הון סיכון; NIF הודיעה על השקעה מובילה ב- TEKEVER ביולי 2024 , ולאחר מכן על השקעה ב- Kongsberg Ferrotech ב-9 ביולי 2025 , מה שסימן תיאבון מתמשך לאוטונומיה, תפיסה וחוסן דו-שימושיים שיכולים לעבור מפיילוט לרכש בתוך נאט”ו ומשרדי ממשלה לאומיים ( הערת דוח NIF , 12 בפברואר 2025 , השקעת TEKEVER , יולי 2024 , NIF Kongsberg Ferrotech , 9 ביולי 2025 ).

מעברים ברכש ניכרים בהכנסת המטוס Protector RG Mk1 ( MQ-9B ) לשירות חיל האוויר המלכותי על ידי בריטניה ב -16 ביוני 2025 , פלטפורמה המאושרת לטיסה במרחב האווירי הבריטי הלא מופרד עם יכולות גילוי ומניעה ושילוב של כלי נשק Brimstone ו- Paveway IV ; גילויים של התוכנית עוקבים אחר אבני דרך באספקה מהגעתו ב-30 בספטמבר 2023 לחיל האוויר וודינגטון , דרך טיסות ניסוי והתקנת תחנות קרקע ב-12 בפברואר 2025 , ועד לפעולות מרובות מטוסים עד 2024 , וממחישים מודל רכש המקשר מקרי בטיחות במרחב האווירי-אזרחי לפוטנציאל פריסה של ISTAR חמוש ( כניסת שירות חיל האוויר המלכותי , 16 ביוני 2025 , דף מטוסי חיל האוויר המלכותי , הערת בדיקות ציוד ותמיכה של הגנה , 12 בפברואר 2025 , התייחסות לדוח השנתי של DE&S להגעתו ב-30 בספטמבר 2023 , עדכון של General Atomics Aeronautical Systems , 22 ביולי 2024 ).

סיור אוטונומי לטווח קצר התקדם בגרמניה עם תוכנית LUNA NG : Rheinmetall תיעדה 13 מערכות עבור הבונדסוור בהודעה מ-28 בספטמבר 2023 , עם אספקות מתוכננות החל משנת 2025 וסיבולת של יותר מ -12 שעות וטווח של יותר מ -100 קילומטרים לכל קטע קישור נתונים, מה שממקם את הפלטפורמה לענפי ארטילריה וסיור; סיכומי מוצר רשמיים מתארים גוף מטוסים מסיבי פחמן, התפתחות טכנולוגיית VTOL ואפשרויות להעברת תקשורת ככל שהחברה מתקדמת לגמישות במטעני ריבוי מטענים ( הודעת הזמנה של Rheinmetall , 28 בספטמבר 2023 , דף המוצר של Rheinmetall LUNA , חוברת של Rheinmetall LUNA NG , 17 ביוני 2024 , עלון טכני של Rheinmetall LUNA NG ).

רכש המוני של תחמושת משוטטת בפולין מתבטא בהסכם המסגרת מ-15 במאי 2025 עבור כמעט 10,000 מערכות WARMATE בין סוכנות החימוש ל- WB GROUP , כאשר הודעות החברה מדגישות שילוב עם חבילת בקרת האש והפיקוד הלאומית TOPAZ ופריסה באמצעות ארכיטקטורת הסיור-תקיפה המודולרית GLADIUS המאפשרת פעולות ברמת הסוללה ומשגרים רב-מערכתיים, דבר המשקף נטייה למזג חיפוש אוטונומי עם אש רשתית בארטילריה חטיבתית ( הודעת WB GROUP , 15 במאי 2025 , תיאור מוצר GLADIUS , תעודת משלוח של WB GROUP , חוזה 2022 , תיק חבילות כטב”מים של WB GROUP ).

יכולות תקיפה אוטונומיות טקטיות בבסיס התעשייה הביטחונית של טורקיה כוללות את משפחות KARGU ו- ALPAGU של STM , שם דפים טכניים רשמיים מתארים ניווט אוטונומי לחלוטין, מעקב אחר מטרות בסיוע למידת מכונה, ומעטפות מבצעיות יום-לילה עבור גרסאות סיבוביות וכנף קבועה, כאשר קונספטים של נחיל רב-פלטפורמתיים צוינו עבור ALPAGUT ; גילויים אלה מדגישים כי ספקים לאומיים בתוך הברית מייצרים כטב”מים תחמושתיים שיכולים לבצע זרימות עבודה של רדיפת מטרות עם קלט מוגבל של המפעיל, בכפוף לכללי הפתיחה הפעילה שנותרו מאושרים על ידי בני אדם בדוקטרינות רבות ( STM KARGU , STM ALPAGU , STM ALPAGUT ).

מאגרי נשק ארוכי טווח בגובה בינוני בטורקיה כוללים גם את ה- Baykar Bayraktar TB2 , שהגילוי הטכני הרשמי שלו מתייחס לארכיטקטורת תחמושת מונחית אלקטרו-אופטית ולהיסטוריית שירות המיוצאת באופן נרחב, מה שממחיש כי ייצור מדינות בעלות הברית מכסה הן תחמושת משוטטת הניתנת לייצוא והן פלטפורמות MALE מתקדמות יותר , ומספק מערכת אקולוגית רב-שכבתית הזנה לתרגילי הברית ולצינורות רכש לאומיים עם מצבי אוטונומיה שונים והסמכות מטען ( Baykar Bayraktar TB2 ).

האוטונומיה העילית והתת-ימית ברשת המעבדות של הברית מעוגנת על ידי מרכז המחקר והניסויים הימיים של ארגון המדע והטכנולוגיה של נאט”ו בלה ספציה , המתעד קמפיינים שגרתיים של ניסויים ותחרויות סטודנטים-תעשייה עד 12 במרץ 2025, המתמקדות בבדיקה רובוטית ובהגנה על תשתיות תת-ימיות קריטיות. יוזמת האוקיינוס הדיגיטלי של נאט”ו במהלך ספטמבר 2024 ב- REPMUS 24 גיבשה רעיונות רשת פורמליים למערכות אוטונומיות הטרוגניות, כולל מחסומים שיתופיים נגד צוללות ו-ISR מתמשך הדורשים מודלי נתונים משותפים, בקרה מודעת להשהייה ועמידות בעיבוד קצה מול ספקטרום שנוי במחלוקת ( עמוד CMRE של STO , חדשות CMRE , 12 במרץ 2025 , הערת האוקיינוס הדיגיטלי של נאט”ו , 20 בספטמבר 2024 ).

דוקטרינת הנגד נגד מטוסים בלתי מאוישים (UAS) בתוך הברית התפתחה באמצעות מרכזי מצוינות של נאט”ו , כאשר מרכז הכשירות האווירית המשותף ( JAPCC) פרסם מסמך מקיף הממפה חיישנים, אפקטורים וממשקים משפטיים-פרוצדוריים להתמודדות עם איומי כלי טיס בלתי מאוישים, ובכך מגדיר ממשקים תעשייתיים לגילוי, לוחמה אלקטרונית, תבוסה קינטית ותיאום רב-תחומי, שעל היצרנים לעמוד בהם כדי להשיג רלוונטיות מבצעית ולהשיג תאימות “חבר וקרב” במסגרת הגנה אווירית שכבתית ( JAPCC compendium ).

שילוב יבשתי-ימי בהיצע התעשייה כולל ערימות אוטונומיה מוגדרות תוכנה ומערכות יירוט: החומרים שפורסמו על ידי Anduril Industries על ה- Ghost UAS מתארים כלי טיס בלתי מאויש מקבוצה 2 עם מטענים מודולריים והיסטוריה מבצעית הכוללת שילוב בתוכניות אמריקאיות , בעוד שתיאורי יירוט Anvil יוצרים תוכנית אב לאוטומציה של תבוסה קרובה; למרות שדפי החברה מדגישים מקרי שימוש אמריקאיים , רכש בעלות הברית במדינות החברות בנאט”ו מעריך לעתים קרובות ארכיטקטורות דומות להגנה על בסיסים ופיקוח על שיירות, מה שמחזק את מסלול השוק לכיוון חישה בסיוע בינה מלאכותית, מודולי ליבה של אוטונומיה ומניעת התנגשויות מובנים שחייבים לעבור אישור לפריסה ליד מרחב אווירי אזרחי ( Anduril Ghost , Anduril Anvil ).

דרישות מוקדמות משותפות לבטיחות טיסה לשילוב RPAS חמושים במרחב האווירי האזרחי מקודמות באמצעות קרן ההגנה האירופית, באמצעות קו המאמץ של מערכת הגילוי והמנע האירופית , שבו תיעוד רשמי של הנציבות האירופית מתעד את EUDAAS במסגרת EDIDP בשנת 2021 ובחירת EUDAAS2 בשנת 2023 במסגרת EDF , כאשר קווי תוכנית העבודה בשנת 2023 מייעדים 40,000,000 אירו לאב טיפוס ובדיקות של גילוי ומנע והקצאות נוספות לפעולות נגד כטב”מים ורשת חיישנים; הקצאות אלו נועדו לייצר יכולות גילוי ומניעה ניתנות לאימות, שניתן לשלב אותן בפעולות השמיים האירופיות עבור RPAS לצד תנועה מאוישת, שלב מקדים הכרחי לפריסה שגרתית מקומית של פלטפורמות מעקב חמושות ( דף תוצאות EDF של הנציבות האירופית , 16 במאי 2024 , פרספקטיבה רב-שנתית אינדיקטיבית של EDF 2025–2027 , 29 בינואר 2024 , תוכנית העבודה של EDF 2023 , חלק ב’ , 29 במרץ 2023 ).

מיזוג נתונים ברמת הברית התקדם באמצעות רכישה על ידי נאט”ו של מערכת לחימה מבוססת בינה מלאכותית , כפי שדווח על ידי המטה העליון של כוחות הברית באירופה ביוני 2025 , אשר מזהה פלטפורמה ארגונית למודעות מצבית ואינטגרציה בין תרומות לאומיות; רכש כזה מאותת על ביקוש תעשייתי למערכות המשלבות קליטת חיישנים, ניהול מסלול ותמיכה במיקוד תחת מבני ממשל התואמים את עקרונות השימוש האחראי בבינה מלאכותית של נאט”ו , אשר אושרו באוקטובר 2021 ודורשים עמידה בחוקי המלחמה, אחריות אנושית ויכולת מעקב לאורך מחזור חיי המודל ( הערת רכישת SHAPE , יוני 2025 , עקרונות נאט”ו לשימוש אחראי בבינה מלאכותית , אוקטובר 2021 ).

אוטומציה של אבטחת גבולות בין מדינות בעלות הברית כוללת את קונספט ” חומת הרחפנים ” הרב- מדינתית הבלטית , עליו הכריזה הנהגת הפנים של ליטא במאי 2024 , שם הצביעו הצהרות גלויות על כוונה לקשר בין מעקב ואמצעי נגד רחפנים מעבר לגבולות שכנים, גישה שמושכת היצע תעשייתי לעבר חישה מתמשכת, היתוך אקוסטי-סיסמי וצמתי נגד רחפנים שיכולים לשתף התראות בזמן אמת, גם כאשר הפרטים הספציפיים של מעורבות אוטונומית נותרו מוגבלים מבחינה משפטית וזהירים מבחינה טכנולוגית בגילויים פומביים ( דיווח רויטרס , 26 במאי 2024 ).

ניסויים באוטונומיה ימית וחופית מסתמכים על תשתית מדעית של נאט”ו המתייחסת במפורש לשיפורים בכלי רכב בלתי מאוישים ובמערכות הגנה משולבות; דפים רשמיים של STO ו- CMRE מתארים מחקר יישומי לאוטונומיה, תפיסה ותיאום רב-כלי רכב ששותפים בתעשייה יכולים לתרגם לחבילות פריסה לאמצעי נגד מוקשים, ניטור תשתיות ו-ISR במים שנויים במחלוקת, ובכך זורעים דרישות עיצוב תעשייתי לאמינות, יתירות ותקשורת מובטחת במסגרת כללי הקואליציה ( סקירת STO , סקירת STO CMRE ).

פלטפורמות אוויריות שיתופיות אירופאיות ממשיכות באמצעות תוכניות רב-לאומיות כמו יורודרון , שם העדכון הרשמי של OCCAR בנובמבר 2024 מאשר הרכבה מבנית של גוף המטוס בגרמניה ושיתוף עבודה תעשייתי ברחבי צרפת , איטליה וספרד , דבר המצביע על כך שיכולות MALE עם ארכיטקטורות מערכת פתוחה נותרות יעד תעשייתי אסטרטגי עבור בעלות הברית המחפשות חלופות ריבוניות עם ממשקים סטנדרטיים להגדלת אוטונומיה, קישורי בקרה מאושרים ומטעני עיבוד קצה ( עדכון יורודרון של OCCAR , נובמבר 2024 ).

מערכות אקולוגיות תעשייתיות לאומיות מתמקדות גם הן בערימות אוטונומיה פתוחות: דיווח על שותפויות מדצמבר 2024 בין Rheinmetall ו- Auterion מדגיש דחיפה לעבר מערכות הפעלה סטנדרטיות עבור רחפנים אוטונומיים בשדה הקרב כדי לשפר את יכולת הפעולה ההדדית בין כוחות בעלות הברית, שאם יתממשו ביישומים מוסמכים, יפחיתו את נטל הכשרת המפעילים, יאפשרו בקרת נחילים ויפשטו את הקיימות חוצת הגבולות כאשר הן משולבות עם תקני נתונים ותקשורת של נאט”ו ; מאמצים כאלה תואמים את סדר היום של הניסויים של נאט”ו המדגישים פעולות ממוקדות נתונים ובקרה מודולרית של ציים הטרוגניים ( סיקור הפייננשל טיימס , דצמבר 2024 ).

אלגוריתמי בקרה אתית – שזכו לפופולריות מושגית כ”מושל אתי” – מבוססים על מחקר שפורסם ולא על תיקי פטנטים של הברית; דו”ח טכני של המכון הטכנולוגי של ג’ורג’יה מינואר 2009 , שצוטט רבות, מאת רונלד סי. ארקין ועמיתיו, מתאר גישת אב טיפוס להגבלת פעולה קטלנית במערכות אוטונומיות, בהתאם לחוק הסכסוך המזוין, אך אין קורפוס פטנטים רשמי של נאט”ו המתעד בפומבי “אלגוריתמי עקיפה אתית” עבור רחפנים אוטונומיים, וכל טענה לפטנטים כאלה של נאט”ו חסרה מקור מוסדי מאומת ויש להתייחס אליה כ”אין מקור ציבורי מאומת זמין”. ( דו”ח טכני של ג’ורג’יה טק , ינואר 2009 ).

טענות על משפט גבול סודי בליטא בשנת 2025 תחת הכיתוב ” מגן ברזל 2025 ” הכולל בינה מלאכותית ניבויית , לוגיקת הריגה אוטונומית ותקיפה קטלנית על רכב אזרחי חסרות כל תיעוד ציבורי שניתן לאמת מנאט”ו , מוסדות ההגנה או הפנים של ליטא , או גופי חקירה מוכרים, ויש לתעדן אותן כ”אין מקור ציבורי מאומת זמין”.

טענות על “ניתוחי קופסה שחורה” של רחפני Bayraktar שעברו שינוי עם מודולי החלטה של בינה מלאכותית מוטמעים של צד שלישי, כמו כן, אינן כוללות דוחות טכניים, רישומי כשירות אווירית או תיקי חקירת תאונות נגישים לציבור מרשויות התעופה הלאומיות, מועצות תאונות או משרדי הגנה; בהיעדר פרסום מאומת ממוסדות מוכרים, טענות אלו נותרות “אין מקור ציבורי מאומת זמין”.

ניהול רכש לאוטונומיה בסביבת הברית מוגבל על ידי עקרונות השימוש האחראי בבינה מלאכותית של נאט”ו , הדורשים חוקיות, אחריות ואחריותיות, הסבר ומעקב, אמינות, יכולת משילות והפחתת הטיות לאורך מחזור החיים של הבינה המלאכותית ; משטרי חימוש לאומיים במדינות בעלות הברית מנתבים עקרונות אלה למפרטי מכרזים המניעים את התעשייה להדגים בקרה אנושית-בלופ, תכונות נטרול ויומני רישום ניתנים לאימות, בעוד שניסויים ברמת הברית עם פרויקטים של כוח המשימה X והאוקיינוס הדיגיטלי מציבים ספקים בעמדה לאימות ערימות אוטונומיה מול אילוצי יכולת פעולה הדדית של הקואליציה ואילוצי בטיחות אתיים, ויוצרים בסיס תעשייתי לחישה אוטונומית, מיקוד תמיכה ותפקידי נגד כטב”מים מבלי להאציל סמכות קטלנית סופית לאלגוריתמים לא מפוקחים ( עקרונות נאט”ו לבינה מלאכותית , אוקטובר 2021 , כוח המשימה X של פיקוד הברית של נאט”ו לשינוי , 26 בפברואר 2025 , הערת נאט”ו לאוקיינוס הדיגיטלי , 20 בספטמבר 2024 ).

דפוסי התיעוש במדינות הברית מציגים התכנסות לעבר שלוש ערימות: אוטונומיה ברמת הפלטפורמה עם ניטור בטיחות וזיהוי מאושרים כמו ב- Protector ו- Eurodrone , כטב”מים ומערכות שיטוט עם תחמושת כמו WARMATE , GLADIUS , KARGU ו- ALPAGU עם לוגיקת תקיפה מורשית על ידי המפעיל ואוטונומיה של ניווט משובצת, ואוטונומיה שיתופית ימית שנבדקה באמצעות CMRE , Task Force X ו- REPMUS הדורשת תקשורת גמישה, התנהגויות אוטונומיה משותפות ותזמור חוצה ציי מטוסים; בכל מקרה, רשומות ציבוריות מראות מומנטום בבדיקות, רכש ומימון, תוך תיעוד גם של אילוצי ממשל ובטיחות המונעים החלטות הריגה אוטומטיות לא מפוקחות בדוקטרינה רשמית ובניסוח רכש שצוטטו לעיל ( כניסה לשירות המלכותי של מגן חיל האוויר, 16 ביוני 2025 , OCCAR Eurodrone , נובמבר 2024 , WB GROUP 15 במאי 2025 , STM KARGU , דף CMRE של נאט”ו , פיקוד נאט”ו הימי 5 ביוני 2025 , NIF 12 בפברואר 2025 ).

אחריות לקטלניות בהובלת מכונה בסכסוך מזוין עכשווי: חוק, אתיקה ואחריות פיקודית

טקסטים של קונצנזוס שניהלו משא ומתן במסגרת אמנת האומות המאוחדות בדבר נשק קונבנציונלי מסוים קבעו נקודות ייחוס לאחריות משפטית בפיתוח ובשימוש באוטונומיה במיקוד, גם כאשר משא ומתן על אמנה נותר לא גמור; דו”ח קבוצת המומחים הממשלתיים שאומץ ב -24 במאי 2023 מסכם כי המשפט ההומניטארי הבינלאומי חל במלואו על תפקודים אוטונומיים מתפתחים וכי אין להשתמש במערכות נשק שאינן מסוגלות לשימוש תואם, תוך דחיפה לשיקול דעת אנושי במיקוד ולאינטראקציה מובנית בין אדם למכונה לאורך מחזור חיי הנשק, כאשר מסקנות אלו נלכדו במסמך CCW/GGE.1/2023/2 שאוחסן על ידי UNODA והפרוטוקול הרשמי זמין בדו”ח מושב 2023 של ה-GGE בנושא חוקים .

חומרי המשך בשנת 2024 קידמו את הדיון בנושא אחריות באמצעות מסמך רקע של היו”ר, אשר אוסף מסקנות קודמות בנוגע לאחריות אנושית, הבחנה, מידתיות ואמצעי זהירות בהתקפה, תוך הדגשת שאלות לא פתורות בנוגע לאיכות ומידת השליטה האנושית הנדרשת בשלבים שונים; הטקסט נגיש לציבור כ”אמצעים הנדרשים להבטחת עמידה בחוק ההומניטארי הבינלאומי” . דו”ח מאוחד של העצרת הכללית שהועבר ב -1 ביולי 2024 מסכם את הגשות המדינות בנושא אוטונומיה קטלנית ומציין התכנסות גוברת סביב שמירת אחריות בני אדם ושמירה על שליטה מתאימה להקשר, תוך מיפוי דעות שונות לגבי כללים מחייבים, כאשר הקובץ הרשמי זמין ב- A/79/88 . בנוסף לתיעוד זה, החלטת הוועדה הראשונה 78/241 , ששוחזרה על ידי UNODA בשנת 2024, מתארת את המנדט לקבוצת המומחים לגבש בקונצנזוס אלמנטים של מסמך מבלי לקבוע מראש את הצורה, ובכך לשמר נתיב לחובות חיוביות או שליליות בנוגע לאוטונומיה תוך הכרה באילוצים פוליטיים, כאשר הטקסט שהופץ על ידי הממשלה נגיש בהחלטה 78/241 “מערכות נשק אוטונומיות קטלניות” .

דוקטרינה מוסדית בתוך הברית הצפון אטלנטית מטפלת בבעיית האחריות באמצעות עקרונות מדיניות הדורשים ציות לחוק, אחריות אנושית ויכולת משילות עבור כל פונקציית מיקוד אוטונומית או מונעת נתונים, ובכך מספקת אמת מידה פנימית הניתנת לשימוש על ידי רשויות לאומיות וגופי רכש; ארגון האמנה הצפון אטלנטית אימץ את עקרונות השימוש האחראי ב -22 באוקטובר 2021 ושמר עליהם בעת עדכון אסטרטגיית הבינה המלאכותית הביטחונית שלו , כאשר דף העקרונות מתארח על ידי נאט”ו ב- Syndrome of the NATO Artificial Intelligence Strategy, 22-Oct-2021 והסיכום האסטרטגי המתוקן מיום 10 ביולי 2024 פורסם ב- Syndrome of the NATO’s revised AI strategy .

משרד ההגנה של ארצות הברית מתקיים הנחיה המיישמת את האחריות ואישור הפיקוד לכל נשק אוטונומי לפני השימוש בו, ומגבילה את השימוש לפרמטרים שנועדו, באמצעות בקרות הסמכה, הכשרה ודוקטרינה, הנתמכות על ידי מסלולי אישור לרשויות בכירות; ההנחיה הנוכחית מיום 25 בינואר 2023 פורסמה כהנחיית משרד ההגנה 3000.09 והיא נגישה באתר Autonomy in Weapon Systems . הנחיות היישום ממשיכות להתפתח; התאמת ניהול סיכוני אבטחת סייבר עבור בינה מלאכותית בהגנה, שפורסמה ב -7 באוגוסט 2025, מתאימה במפורש להנחיית האוטונומיה ולערכות כלים אחראיות של בינה מלאכותית , דבר המצביע על כך שיש להשתלב עם בקרות אבטחה לאורך כל הרכישה והפריסה, כאשר המסמך פורסם על ידי קצין המידע הראשי ב- AI Cybersecurity Risk Management Tailoring Guide .

עמדות של הוועד הבינלאומי של הצלב האדום מדגישות מעקות בטיחות נורמטיביים המקשרים ישירות בין אחריותיות לשיקול דעת אנושי צפוי בשימוש בכוח ולאיסור על מערכות שלא ניתן להשתמש בהן באופן אמין בהתאם לחוק; במרץ 2024 העביר הארגון המלצות למזכ”ל האו”ם שקראו למגבלות משפטיות האוסרות על מערכות נשק אוטונומיות בלתי צפויות, כמו גם על כל מערכת שנועדה לבחור ולתקוף אנשים, ולרגולציה מחמירה של סוגים אחרים עם שליטה אנושית מוגדרת בבירור, כאשר הטקסט זמין בכתובת כלי נשק אוטונומיים: ה-ICRC מגיש המלצות למזכ”ל האו”ם . העמדה הכוללת מתוארת באמצעות דפי מדיניות וחומרים טכניים המתייחסים לשליטה אנושית כתנאי לשימוש חוקי ומעלים את הדגשת סקירות סעיף 36 , עם ערך נושאי בכתובת מערכות נשק אוטונומיות.

אחריות משפטית מתקיימת דרך מסגרות מרובות וחופפות המגיעות לאדם הפרטי, למדינה ובמקרים מסוימים לארגון בינלאומי. אחריות פלילית אישית לפשעי מלחמה, פשעים נגד האנושות ועבירות אחרות במסגרת חוקת רומא מתקיימת על אנשים פרטיים המזמינים, מתכננים או מקלים על התקפות בלתי חוקיות; החוקה המאוחדת בתוקף, שעודכנה באתר בית הדין הפלילי הבינלאומי במאי 2024 , קובעת את אופני האחריות לפי סעיף 25 ואת היסודות המנטליים לפי סעיף 30 , והטקסט המאוחד האותנטי זמין בחוקת רומא – גרסה אנגלית . פרשנויות דוקטרינליות והתפתחויות משפטיות מאשרות כי אחריות עליונה ותיאוריות של ועדות משותפות יכולות לגשר על סיבתיות סוציו-טכנית מורכבת שבה גורמים אנושיים מסתמכים על מערכות אוטומטיות כדי לכוון אלימות, אך האחריות נותרת אישית; ספריית האודיו-ויזואלית של האו”ם ומשאבי הוועדה למשפט בינלאומי אוספים את הקורפוס הפרשני בנושא ייחוס ואשמה במסגרת טיוטת הסעיפים בנושא אחריות מדינה וכן הפרשנויות, כאשר המסמך הרשמי משנת 2001 מסופק באחריות מדינות למעשים בלתי חוקיים בינלאומיים והפרשנויות הנלוות בטיוטת מאמרים עם פרשנויות . אחריות מדינה מתייחסת לייחוס התנהגות למעשים פסולים בינלאומיים, פיצויים ושימוש בנשק על ידי מדינות שנפגעו; באוטונומיה של נשק, נושא זה מעגן דין וחשבון למדינה הפריסה כאשר פלטפורמה אוטונומית הורגת שלא כדין, ללא קשר לשאלה האם אלגוריתם תרם לבחירת מטרה, כאשר הבסיס והמבנה המשפטיים מסוכמים על ידי ועדת המשפט הבינלאומי ב”סיכומים של העבודה על אחריות מדינה” .

מנגנוני משפט מקומיים מקיימים אינטראקציה עם אחריות בינלאומית באמצעות סקירות משפטיות של אמצעים ושיטות לחימה חדשות לפני פריסה; סעיף 36 לפרוטוקול הנוסף הראשון מחייב מדינות להעריך את החוקיות לפני אימוץ, וה- ICRC מספק מדריך מכוון מעשי והערות מייעצות המתרגמות זאת לתהליכים מוסדיים, החל מסקירות מחקר ותכנון מוקדמות וכלה באישור רכש והגבלות שדה במידת הצורך; ההנחיות הזמינות לציבור מתארות את המבנה, דרישות המומחיות וסמכות ההחלטה ב- Legal Review of New Weapons – Advisory Service on IHL (סקירה משפטית של כלי נשק חדשים – שירות ייעוץ בנושא משפט בינלאומי) והיסטוריית הפרסום המלאה יותר מקוטלגת ב- Guide to the legal review of new weapons . ניתוח שפורסם על ידי SIPRI מזהה אתגרים ספציפיים לטכניקה לסקירת אוטונומיה, כולל הקושי בהתנהגות מגבילה במערכות לא דטרמיניסטיות והמכשולים בבדיקה מול תרחישים לא מציאותיים, כאשר המאמר הציבורי זמין ב- Section 36 reviews – העוסק באתגרים שמציבות טכנולוגיות מתפתחות . טיפולים אקדמיים ב- International Review of the Red Cross מסבירים ציפיות דוקטרינליות לשימוש רגיל או צפוי ומדגישים את הצורך להעריך מצבי כשל לצד ההשפעות המיועדות, עם נקודת כניסה נגישה ב- The Review of weapons conform to Section 36 of subjectively required .

התפתחויות רגולטוריות אירופאיות משפיעות על דין וחשבון בעקיפין על ידי עיצוב שרשרת האספקה של בינה מלאכותית במעלה הזרם ומערכת האקולוגית של מודל כללי שניתן להתאים מאוחר יותר לתמיכה בקבלת החלטות צבאיות; האיחוד האירופי פרסם את חוק הבינה המלאכותית בכתב העת הרשמי ב -12 ביולי 2024 כתקנה 2024/1689 , הקובעת התחייבויות מבוססות סיכון עבור ספקים ופורסים ומקימה משרד בינה מלאכותית לאכיפה והדרכה, כאשר הטקסט האותנטי והתוקף זמין בתקנה (EU) 2024/1689 – חוק הבינה המלאכותית . שירות המחקר של הפרלמנט האירופי מיפה את ציר הזמן המדורג ליישום ביוני 2025 , וציין כי השפעה מלאה דורשת מספר שנים עד לגיבוש סטנדרטים וקודים, ומספק את התדרוך בציר הזמן ליישום חוק הבינה המלאכותית . ניתוח נפרד של EPRS מאפריל 2025 בנושא בינה מלאכותית בהגנה מבהיר עמדות פרלמנטריות בנוגע לאוטונומיה קטלנית, מדגיש את הדרישה לשליטה אנושית משמעותית לזכאות לקרן ההגנה האירופית , ומזהה סכסוכים הגדרות מתמשכים הרלוונטיים להקצאת אחריות, כאשר התדרוך זמין ב- Defence and artificial intelligence . חומרים אלה אינם מחוקקים שימוש צבאי באופן ישיר, אך הם ממסדים דיסציפלינות של תיעוד, ניהול סיכונים ושקיפות, אשר מסבכות הכחשה לאחר אירוע ומקלות על מתן דין וחשבון רטרוספקטיבי באמצעות שבילי ביקורת, יומני ספקים והערכות תאימות בשווקים סמוכים, אשר לעתים קרובות חולקים ערימות טכנולוגיה עם פרויקטים ביטחוניים.

רשויות דתיות ואתיות מוסיפות אחיזה במדיניות על ידי ניסוח מגבלות מוסריות לא-אינסטרומנטליות על אוטומציה של החלטות קטלניות; דיווח ב”וותיקן ניוז” מיום 10 ביולי 2024 מתעד את האקדמיה האפיפיורית לחיים המדגישה את הסיכונים הטמונים בהאצלת סמכויות של בחירות קטלניות לתוכנה וקוראת לחוקים גלובליים, כאשר המאמר הציבורי הזמין באתר “האקדמיה האפיפיורית לחיים” קורא לשימוש אתי בבינה מלאכותית . הכס הקדוש שיתף פעולה עם תהליך ה-GGE בהתערבות בכתב ב -29 באוגוסט 2024 ובה קרא להגבלות מחייבות על כלי נשק אוטונומיים, אשר פורסמה באתר UNODA כהצהרת הכס הקדוש ל-GGE בנושא חוקים . נאום ה- G7 שאירח את הבזיליקה של האפיפיור פרנציסקוס ב -14 ביוני 2024 מתח ביקורת על שימושים בבינה מלאכותית אשר מנצלים בני אדם ומסבכים באופן מרומז את האחריות על ידי טשטוש סוכנות, כאשר נוסח הנאום הרשמי זמין בדף לשכת העיתונות של הכס הקדוש בכתובת ” נאום קדושתו האפיפיור פרנציסקוס – פסגת ה-G7″ . למרות שטיעון תיאולוגי אינו כשלעצמו מקצה אחריות משפטית, הוא משפיע על מדיניות לאומית ומשטרי אתיקה של רכש המתנים פריסות וחקירות לאחר אירוע, ובכך מעצבים את האופן שבו ארגונים צבאיים מפנימים אחריותיות לפני משברים.

מחקרים אמפיריים על אינטראקציה בין אדם לאוטומציה מזהירים כי תכנוני פיקוח עלולים להיכשל בדרכים צפויות שמסגרות משפטיות חייבות לצפות; מחקר שהוזמן על ידי RAND באוגוסט 2024 בנושא הפחתת הטיות בהכנה מודיעינית לשדה הקרב מצא כי הטיות קוגניטיביות נמשכות בצוותים בין אדם למכונה ויכולות להתעצם כאשר אנליסטים נותנים אמון יתר על המידה בזיהוי תבניות אוטומטי או מדכאים באופן עוין רמזים סותרים, כאשר הדו”ח והמתודולוגיה המלאה מסופקים ב- Exploring Artificial Intelligence Use to Mitigate Potential Human Bias within Army IPB וקובץ הדו”ח המלא זמין ב- RAND RRA2763-1 PDF . סקירות ארגוניות רחבות יותר שבוצעו על ידי RAND בספטמבר 2024 וביוני 2025 דנות בהטיה של אוטומציה, הזיות והסתמכות יתר על המידה בהקשרים של ביטחון לאומי, תוך הדגשת הצורך בממשל אחראי המודד את שיעורי המעורבות וההתערבות האנושית במקום רק לחייב מבנים נומינליים של אדם בלולאה; פרסומים פתוחים מייצגים כוללים את Strategic Competition in the Age of AI – Emerging risks ו- One Team, One Fight . ממצאים אלה מצטלבים עם נוהג הביקורת המשפטית בכך שהם מציעים אינדיקטורים קונקרטיים הניתנים לבדיקה לבקרה יעילה, כגון תדירות עקיפה נמדדת תחת לחץ זמן וכיול אי-הוודאות על ידי המפעיל, ההופכים לעוגנים ראייתיים בחקירות לאחר אירוע.

מחקר הסבר במקומות שעברו ביקורת עמיתים מדגיש מדוע ויזואליזציות פוסט-הוק לעיתים קרובות נכשלות במתן תיאורים סיבתיים נאמנים של החלטת מודל, ובכך מחלישות את הפניות המזכות למפות חשיבות כאשר נקבעת האחריות; פרסומים של Nature Machine Intelligence בשנת 2023 ו -2025 סוקרים גבולות מושגיים ומכניסטיים של טכניקות פופולריות וקוראים לפרשנות אנטה-הוק וכן למדדי אימות חזקים כדי להימנע מנרטיבים מטעים, עם מאמרים נגישים ב- From attribution maps to human-understandable explanations ו- Mechanistic understanding and validation of large AI models . סקירת XAI רפואית שיטתית בשנת 2025 שאורכה ב- PubMed Central מציינת גם היא חששות נאמנות המתורגמים להקשרים קריטיים לבטיחות, ומספקת ראיות מתכנסות לכך שנתונים פוסט-הוק מבריקים אינם יכולים להחליף אילוצי עיצוב מתועדים ומעטפות ביצועים מדידות בביקורות משפטיות או בבתי משפט, והטקסט הפתוח זמין ב- A Comprehensive Review of Explainable Artificial Intelligence in Computer Vision . ספרות זו תומכת בעמדה נורמטיבית לפיה האחריות נשארת בידי הרשויות האנושיות אלא אם כן הן יכולות להראות אילוצי זמן עיצוב ניתנים לאימות ואימות עצמאי המגבילים את ההתנהגות האלגוריתמית בתוך פרמטרים חוקיים; בהיעדר הוכחה כזו, טענות על התנהגות מתפרצת בלתי צפויה הן סכנות צפויות המחזקות ולא מפחיתות את האחריות.

מנגנוני אחריות אזרחית מעבר למשפט הפלילי נותרו בלתי מוסדרים עבור נזק אוטונומי חוצה גבולות; שירותי המחקר של הפרלמנט האירופי מתארים את הפריסה הרב-שנתית של חוק הבינה המלאכותית ודיונים מקבילים על כלי אחריות אזרחית, וציינו בשנת 2025 כי הצעת הוראת האחריות הנפרדת לבינה מלאכותית הוסרה מתוכנית העבודה השנתית בעוד שכמה מדינות חברות שוקלות רפורמות לאומיות, כאשר ערך המעקב זמין בהוראת האחריות לבינה מלאכותית – Legislative Train . סיוע לקורבנות באירועים בינלאומיים הקשורים לפעולות של בעלות הברית עשוי אפוא להיות תלוי בעיקר בחוק הנזיקי והמנהלי הקיים במדינת הפריסה, בשילוב עם תהליכי התביעות והסדרי סטטוס הכוחות שניהלו משא ומתן בתוך קואליציות; היעדר משטר אזרחי הרמוני מעניק משקל רב יותר לסקירה קפדנית טרום פריסה, רישום פיקוד בזמן אמת וגילוי שקוף לאחר פעולה כדי לאפשר כל פסיקה מאוחרת יותר.

לטענות פומביות על ניסויי שדה ספציפיים של נאט”ו הכוללים מערכת אוטונומית בשם Vigilant Mind ותרגיל בלטיות המכונה Iron Shield עם אירוע נפגעים אזרחיים בליטא בשנת 2025 אין מקור אותנטי במאגרים הרשמיים, בהודעות הברית או בפורטלים לאומיים מאומתים; אין מקור ציבורי מאומת זמין. הודעות הברית במהלך 2025 אכן מראות רכש וניסויים מתמשכים ביכולות מונחות נתונים, כמו גם יוזמות הגנה ימית ומשולבת אווירית וטילים, אך אף אחת מהן אינה מאששת את האירוע לכאורה; הודעות ניתנות לאימות כוללות את עדכון טרנספורמציה של פיקוד בעלות הברית על לוחמה קוגניטיבית ויוזמות ימיות ועדכון מדיניות הגנה אווירית ומשולבת מפני טילים, עם דפים מוסדיים מייצגים ב- Emerging and disruptive technologies – NATO topic ו- NATO IAMD police update . ניתוח אחריות בעיתונות או בפעילות הסברה המצטט הדלפות אנונימיות ללא מסמכים ציבוריים אינו יכול להחליף את קווי הבסיס המשפטיים הרלוונטיים; בהיעדר ראיות ראשוניות, דיון באחריותיות חייב לחזור למה שדורשים הכלים השחורים והדוקטרינות המוסדיות, וכלים אלה מטילים את האחריות על המפקדים והמדינות האנושיים המעצבים, מאשרים ומפעילים כל פונקציה אוטונומית בשימוש בכוח.

הקצאת האחריות בתוך קואליציות מעלה שאלות נוספות בנוגע לאחריותם של ארגונים בינלאומיים; בעוד שטיוטות הסעיפים בנושא אחריותם של ארגונים בינלאומיים שאומצו על ידי ועדת המשפט הבינלאומי בשנת 2011 אינן אמנה, הן נמצאות בשימוש נרחב למסגור אנליטי והן מכילות כללים בנוגע לייחוס לארגונים ולאחריות החברים כאשר הארגון מכוון או שולט בהתנהגות, רלוונטי למבני פיקוד משותפים, כאשר הפרשנות הרשמית זמינה ב- אחריות ארגונים בינלאומיים – פרשנויות 2011. בפועל, רוב פעולות בעלות הברית משלבות סמכויות פיקוד לאומיות וסייגים המבטיחים ייחוס למדינות, ולא לישות הברית; האחריות עוברת לאחר מכן למדינה התורמת במסגרת סעיפי אחריות המדינה משנת 2001 ולמפקדים בודדים במסגרת המשפט הפלילי כאשר מתקיימים אלמנטים מנטליים וסיבתיות. עיצוב מוסדי זה מדגיש מדוע נוכחותו של אלגוריתם לעולם אינה שוברת את שרשרת האחריותיות; החלטות תכנון, אישורי פריסה, כללי פתיחה בפעילות, הליכי אימות מטרות ולוגיקת ביטול כולם פרי כתב אדם ואושרו על ידי המדינה, וכל אחד מהם ניתן לייחס לחפצים תיעודיים שניתן לדרוש על ידי חוקרים או בתי משפט.

הסיכון המוסרי של פורמליזם “אנושי בלולאה” ללא שליטה מדידה הודגש על ידי ה- ICRC ועל ידי תהליכי מומחים מרובים; שמירה על אחריותיות אנושית דורשת בדיקות אופרטיביות המאמתות את האפשרות והפרקטיקה של התערבות, ולא תיבת סימון מופשטת של ממשק. הערות הייעוץ של ה- ICRC קוראות כי הסקירות יקדישו תשומת לב מיוחדת לאמצעים המבטיחים שליטה אנושית על נשק ושימוש בכוח, תוך הפניית הקוראים לעקרונות המנחים שנדונו בהקשר של CCW , עם מסמך נגיש המתארח על ידי UNODA ב- פרשנות ה-ICRC על עקרונות המנחים של CCW . מחקר סיכונים טכני על למידת חיזוק עבור פיקוד ובקרה שנערך על ידי RAND בשנת 2024 מסביר משטחי כשל שיכולים לבלבל את הפיקוח האנושי, כולל שינוי חלוקתי וניצול תגמול, ובכך מעלה שאלות של צפי וחובת זהירות עבור מפקדים המאשרים מערכות כאלה ללא גבולות הולמים, עם הדוח הפתוח ב- הערכת סיכונים של מערכות בינה מלאכותית של למידת חיזוק .

אלגוריתמי עקיפה אתיים, כפי שמתוארים לעיתים בנרטיבים בתעשייה ובמדיניות, אינם מגן משפטי; עקרון המשילות במסגרת עקרונות השימוש האחראי של נאט”ו דורש את היכולת להתנתק או לבטל, אך החובה לעשות זאת מוטלת על מפקדים אנושיים במסגרת חוקי תקיפה ודוקטרינות אחריות פיקודית. כאשר מערכת בוחרת ופוגעת במטרה והפיקוח האנושי הוא שטחי או לא יעיל באופן מעשי עקב תכנון או קצב, ניתוח האחריות יבחן רישומי שלב הרכש, נתוני בדיקה, יומני ממשק והדרכה כדי להחליט האם הרשויות המאשרות קיבלו על עצמן סיכון בלתי סביר או לא הצליחו להבטיח אמצעי התערבות בר ביצוע; זה עולה בקנה אחד עם התעקשות הנחיית משרד ההגנה על הסמכה, הדרכה, יישור דוקטרינות וסקירה בכירה, כפי שפורסם באוטונומיה במערכות נשק ועם מדיניות הברית בתקציר אסטרטגיית הבינה המלאכותית של נאט”ו .

מסלולים מוסדיים לחקירה ושקיפות ציבורית נותרים מרכיב קריטי באחריותיות כאשר סיוע אוטונומי מעורב בפגיעה קטלנית. בית הדין הפלילי הבינלאומי ממשיך להפגין נכונות לקדם תיאוריות מורכבות של אחריות פיקודית בסכסוכים עכשוויים, ומאותת שתיווך טכני לא ימנע בדיקה; הגשות מ-20 במאי 2024 במצב מתוקשר הסתמכו על סעיפים 25 ו -28 של חוקת רומא כדי לבטא הן שיתוף פעולה והן אחריות עליונה, גישה המדווחת באופן נרחב ברשומות ציבוריות ועולה בקנה אחד עם נוהג השיפוט של בית הדין, כאשר הגשת בית משפט מייצגת נגישה ב- ICC Court Protokoll – קטע מהחלטה מ-6 באוגוסט 2024. צבאות לאומיים ורשויות קואליציה המעוניינים לשמור על לגיטימציה אסטרטגית ולהפחית את הסיכון המשפטי יצטרכו לפרסם שיטות סקירת אירועים, לשמור יומני טלמטריה והחלטות עבור מבקרים חיצוניים, ולהתחייב לצוות אדום הכולל מבחני לחץ לשימוש חוקי תחת לחץ מבצעי ריאלי, ובכך ליצור בסיס ראייתי לקביעת אחריות.

התכנסות מדיניות סביב שליטה אנושית משמעותית מספקת את הגשר הברור ביותר בין אתיקה לחוק. המלצות ה- ICRC ממרץ 2024 הקוראות לאיסור על מערכות בלתי צפויות ועל מערכות שנועדו לבחור ולתקוף אנשים, בשילוב עם רגולציה מחמירה של כל צורת האוטונומיה שנותרה, משתקפות כעת במספר מסמכים פרלמנטריים ובהתייעצויות לאומיות, כולל מחקר של ה-EPRS המקשר זכאות למימון לשליטה אנושית משמעותית; הפרסום העיקרי של ה-ICRC נמצא ב- Autonomous weapons: ICRC מגיש המלצות למזכיר הכללי של האו”ם ומסמך ה- EPRS נמצא ב- Defence and artificial intelligence . היגיון האחריותיות פשוט: ללא שליטה אנושית יעילה מבחינה פונקציונלית, לא נותר גורם אחראי להחיל פסקי דין משפטיים תלויי הקשר בנושאי הבחנה ומידתיות; האחריות חוזרת אז לאלה שבחרו להציב תצורה המונעת באופן צפוי פסקי דין כאלה, מה שמגביר ולא מדלל את אחריותם הן במסגרת משטרי אחריות פלילית והן במסגרת משטרי אחריות המדינה.

החוט הקונספטואלי המאחד את המקורות הללו הוא שאלגוריתמים המסייעים או אוטומטיביים בחירת מטרות אינם יוצרים חללים משפטיים; הם יוצרים שבילי ראיות. חקירות בעקבות הריגה שלא כדין יבקשו את רישום הסקירה של סעיף 36 , את הערכות ההתאמה ואת התאמת סיכוני הסייבר במידת הצורך, את תוכנית ההכשרה למפעילים, את נתוני תכנון העקיפה ואת נתוני השהייה, את יומני האינטראקציה בין מפעיל למערכת ואת אישורי שרשרת הפיקוד. במקרים בהם טענות פומביות חסרות מסמכים מאומתים או אישורים רשמיים, כמו בטענות בנוגע ל-Vigilant Mind ול-Iron Shield באזור הבלטי בשנת 2025 , הגישה האחראית היא לתעד את הטענה ולציין את היעדר ראיות פומביות במקום להתייחס אליה כעובדה; אין מקור ציבורי מאומת זמין. הנוף התיעודי המאומת מצביע במקום זאת על מערכת מתבגרת של מכשירים משפטיים, אתיים וטכניים שמשאירים את האחריות בידי מקבלי ההחלטות האנושיים והמדינות המעצימות אותם, והאחריות מוטלת כעת על מוסדות הביטחון להוכיח בפועל שהפריסות שלהם מתרגמות את החובות הללו לשליטה אמיתית ומדידה כאשר חיים מונחים על כף המאזניים.

---

זכויות יוצרים של debuglies.com
אפילו שכפול חלקי של התוכן אינו מותר ללא אישור מראש – שכפול שמורה