قتل بالذكاء الاصطناعي.. تحقيق يكشف انخراط عمالقة التكنولوجيا الأميركية في حرب غزة عاجل

مكّنت شركات تكنولوجية أميركية كبرى، إسرائيل، بشكل “غير معلن” من تتبع وقتل المزيد من السكان في قطاع غزة وجنوب لبنان بوتيرة أسرع، بفضل الزيادة الكبيرة في استخدام الذكاء الاصطناعي والخدمات الحاسوبية، فيما رجحت وكالة “أسوشيتد برس” أن هذا الاستخدام أدى إلى ارتفاع أعداد الضحايا بين المدنيين.

ولطالما استعانت الجيوش بشركات خاصة لتطوير أسلحة ذاتية التشغيل، لكن الحرب الإسرائيلية على غزة تمثل واحدة من أبرز الحالات التي يتم فيها استخدام نماذج ذكاء اصطناعي تجارية، تم تطويرها في الولايات المتحدة، داخل عمليات قتالية نشطة، رغم المخاوف من أنها لم تُصمم أساساً لاتخاذ قرارات تمسّ الحياة والموت، وفقاً للوكالة.

ويعتمد الجيش الإسرائيلي على الذكاء الاصطناعي لتحليل كميات هائلة من المعلومات الاستخباراتية والاتصالات المُعترَضة وعمليات المراقبة لتحديد أنماط الكلام أو السلوك، ورصد تحركات أعدائه، وفق المعايير.

وذكرت “أسوشيتد برس” أن بعد الهجوم المفاجئ الذي شنته حركة “حماس” في 7 أكتوبر 2023 على جنوب إسرائيل، تضاعف استخدام التكنولوجيا المتقدمة من شركتي مايكروسوفت وOpenAI، إذ كشفت في تحقيقها عن تفاصيل جديدة بشأن كيفية اختيار الذكاء الاصطناعي للأهداف، والمخاطر المحتملة الناتجة عن البيانات الخاطئة أو الخوارزميات المعيبة، وذلك استناداً إلى وثائق داخلية وبيانات ومقابلات حصرية مع مسؤولين إسرائيليين حاليين وسابقين وموظفين في الشركات المعنية.

هايدي خلاف، كبيرة علماء الذكاء الاصطناعي في معهد AI Now والمهندسة السابقة للسلامة في OpenAI قالت: “هذه أول مرة نحصل فيها على تأكيد بأن نماذج الذكاء الاصطناعي التجارية تُستخدم بشكل مباشر في الحروب”. وأضافت: “للتكنولوجيا دور هائل في تمكين هذا النوع من الحروب غير الأخلاقية وغير القانونية مستقبلاً، وتداعيات ذلك خطيرة للغاية”.

صعود الذكاء الاصطناعي

مع تصاعد نفوذ عمالقة التكنولوجيا في الولايات المتحدة، تثير نتائج تحقيق “أسوشيتد برس” تساؤلات حول دور وادي السيليكون في مستقبل الحروب الآلية، إذ من المتوقع أن تنمو شراكة مايكروسوفت مع الجيش الإسرائيلي، فيما قد يشكل ما يحدث في تل أبيب نموذجاً لكيفية استخدام هذه التقنيات الناشئة في جميع أنحاء العالم.

جندي إسرائيلي يتحكم في مسيرة لمراقبة سكان قطاع غزة. 19 يناير 2025 – Reuters

ووفق الوكالة، ارتفع استخدام الجيش الإسرائيلي للذكاء الاصطناعي من مايكروسوفت وOpenAI بشكل كبير في مارس الماضي، ليصبح أعلى بنحو 200 مرة مقارنة بالفترة التي سبقت أسبوع الهجوم في 7 أكتوبر.

كما تضاعفت كمية البيانات المخزنة على خوادم مايكروسوفت بين ذلك الوقت ويوليو 2024 لتصل إلى 13.6 بيتابايت، وهو ما يعادل تقريباً 350 ضعف السعة الرقمية اللازمة لتخزين جميع كتب مكتبة الكونجرس.

كما زاد استخدام الجيش الإسرائيلي لمراكز البيانات الضخمة التابعة لمايكروسوفت بنسبة تقارب الثلثين خلال أول شهرين من الحرب على غزة.

وبعد الهجوم، وضعت إسرائيل هدفاً يتمثل في القضاء على حركة “حماس”، ووصف جيشها الذكاء الاصطناعي بأنه “مغير لقواعد اللعبة”، إذ سمح بتحديد الأهداف بسرعة أكبر. ومنذ اندلاع الحرب، قتلت تل أبيب أكثر من 50 ألف شخص في غزة ولبنان، فيما تعرض ما يقارب 70% من المباني في غزة للدمار.

واستند تحقيق “أسوشيتد برس” إلى مقابلات مع 6 أعضاء حاليين وسابقين في الجيش الإسرائيلي، بينهم 3 ضباط احتياط في الاستخبارات. وتحدث معظمهم بشرط عدم كشف هوياتهم، نظراً لحساسية المعلومات العسكرية التي ناقشوها.

كما أجرت الوكالة مقابلات مع 14 موظفاً حالياً وسابقاً داخل مايكروسوفت، وOpenAI، وجوجل، وأمازون، حيث فضّل معظمهم عدم الكشف عن أسمائهم. كما راجع صحافيو الوكالة بيانات ووثائق داخلية، من بينها عقد بقيمة 133  مليون دولار بين مايكروسوفت ووزارة الدفاع الإسرائيلية.

وقال مسؤول كبير في الاستخبارات الإسرائيلية، إن الأهداف العسكرية قد تشمل “المقاتلين” الذين يحاربون إسرائيل أينما كانوا، وكذلك المباني التي يستخدمها المسلحون، وفق زعمه. كما يصر المسؤولون على أنه حتى عند استخدام الذكاء الاصطناعي، فإن هناك دائماً عدة مستويات من التدخل البشري في عملية اتخاذ القرار.
من “جوسبل” إلى “لافندر”.. كيف استخدمت إسرائيل سلاح الذكاء الاصطناعي في الحرب على غزة؟

اعتمد الجيش الإسرائيلي على أدوات ذكاء اصطناعي متقدمة بدلاً من قدرات استخباراتية بشرية في الحرب الإسرائيلية على قطاع غزة، ما تسبب في زيادة أعداد الضحايا.

وجاء في بيان صادر عن الجيش الإسرائيلي للوكالة أن “هذه الأدوات الاستخباراتية تجعل العمليات أكثر دقة وفعالية. فهي تتيح تحديد المزيد من الأهداف بشكل أسرع، لكن دون المساس بالدقة، وكثيراً ما ساعدت خلال هذه الحرب في تقليل الخسائر بين المدنيين”. بينما رفض الجيش الإسرائيلي الإجابة عن أسئلة تفصيلية مكتوبة من الوكالة حول استخدامه لمنتجات الذكاء الاصطناعي التجارية التي توفرها شركات التكنولوجيا الأميركية. 

من جهتها، رفضت مايكروسوفت التعليق على الموضوع، لكنها نشرت بياناً على موقعها الإلكتروني أكدت فيه التزامها بـ”تعزيز الدور الإيجابي للتكنولوجيا في جميع أنحاء العالم”.

وفي تقريرها لعام 2024 حول الشفافية والمسؤولية في الذكاء الاصطناعي، والذي يتألف من 40  صفحة، تعهدت مايكروسوفت بإدارة مخاطر الذكاء الاصطناعي خلال مراحل التطوير المختلفة لـ”التقليل من المخاطر المحتملة”، لكنها لم تذكر عقودها العسكرية المربحة.

وتُظهر الوثائق والبيانات أن نماذج الذكاء الاصطناعي المتقدمة يتم توفيرها عبر شركة OpenAI، المطورة لنموذج ChatGPT، من خلال منصة Azure السحابية التابعة لـ”مايكروسوفت”، حيث يشتريها الجيش الإسرائيلي. وتعد مايكروسوفت أكبر مستثمر في OpenAI. 

أما OpenAI، فقد نفت وجود أي شراكة لها مع الجيش الإسرائيلي، مشيرة إلى أن سياسات استخدام منتجاتها تحظر تطوير الأسلحة أو تدمير الممتلكات أو إلحاق الأذى بالأشخاص. لكنها قبل حوالي عام، عدّلت شروط الاستخدام الخاصة بها، حيث انتقلت من حظر الاستخدام العسكري بشكل كامل إلى السماح بحالات “الاستخدام في مجال الأمن القومي” التي تتماشى مع مهمتها.

استهداف إسرائيل للمدنيين

ويصعب للغاية تحديد متى تتسبب أنظمة الذكاء الاصطناعي في ارتكاب أخطاء، نظراً لاستخدامها إلى جانب العديد من أشكال المعلومات الاستخباراتية الأخرى، بما في ذلك الاستخبارات التي يتم جمعها عن طريق العنصر البشري، وفقاً لما نقلته “أسوشيتد برس” عن مصادر مطلعة. لكن هذه العوامل مجتمعة قد تؤدي إلى سقوط ضحايا بشكل غير مبرر.

وفي نوفمبر 2023، كانت هدى حجازي تحاول الفرار مع بناتها الثلاث ووالدتها من الاشتباكات بين إسرائيل وجماعة “حزب الله” اللبنانية، على الحدود اللبنانية، عندما تعرضت سيارتهم للقصف.

وقبل مغادرتها، طلبت العائلة من الفتيات اللعب أمام المنزل، حتى تتمكن الطائرات الإسرائيلية المسيرة من رؤية أن العائلة تسافر مع أطفال. وكانت النساء والفتيات يسافرن برفقة سمير أيوب، عمّ حجازي وصحافي، حيث كان يقود سيارته خلفهم. وفي الطريق، سمعوا مسيرة تحلق على ارتفاع منخفض. 

مسيرة إسرائيلية تلقي قنابل على مناطق في شرق قطاع غزة – Reuters

وبعد وقت قصير، استُهدفت السيارة بغارة جوية، مما أدى إلى انحرافها عن الطريق وسقوطها من منحدر قبل أن تشتعل فيها النيران. ونجح أيوب في انتشال حجازي من السيارة، لكن والدتها، وهي شقيقتها، وبناتها الثلاث (14 و12 و10 أعوام) لقين حتفهن.

وأظهر تسجيل لكاميرا مراقبة في متجر صغير بالقرب من موقع الحادث، قبل لحظات من القصف، أفراد عائلة حجازي في سيارة رياضية، حيث كانت الأم وإحدى بناتها تقومان بتحميل عبوات مياه. وتقول العائلة إن الفيديو يثبت أن المسيرة الإسرائيلية كانت ترى النساء والأطفال.

ونشر الجيش الإسرائيلي حينها مقاطع فيديو على أنها استهداف لمواقع مسلحين، وفق زعمه، ولكن “أسوشيتد برس” حللت المشاهد، حيث تطابقت معالم الطريق والسمات الجغرافية في الفيديو الإسرائيلي مع صور الأقمار الاصطناعية للموقع الذي قُتلت فيه الفتيات الثلاث، على بُعد ميل واحد من المتجر.

وقال ضابط استخبارات إسرائيلي إن الذكاء الاصطناعي استُخدم خلال السنوات الثلاث الماضية للمساعدة في تحديد جميع الأهداف. وفي هذه الحالة، يُرجح أن الذكاء الاصطناعي حدّد موقع المبنى السكني كهدف، بينما أشارت مصادر استخباراتية أخرى إلى احتمال وجود شخص داخله. وبعد فترة، تم رصد سيارة تغادر المبنى.

وأوضح الضابط أن العنصر البشري في غرفة العمليات هو الذي اتخذ قرار تنفيذ الضربة، مشيراً إلى أن الخطأ قد يكون وقع في أي مرحلة، إما بسبب معلومات خاطئة مسبقة أدت إلى تصنيف المنزل المستهدف بشكل خاطئ، أو أن الضربة استهدفت السيارة الخطأ.

كما اطلعت “أسوشيتد برس” على رسالة من مصدر ثان على دراية بالغارة الجوية، أكد فيها أن الضربة كانت خطأ، لكنه لم يذكر تفاصيل إضافية.

من جهته، نفى متحدث باسم الجيش الإسرائيلي، استخدام أنظمة الذكاء الاصطناعي خلال تنفيذ الضربة الجوية، لكنه رفض الإجابة عما إذا كان الذكاء الاصطناعي قد ساعد في اختيار الهدف، أو إذا كان الاختيار خاطئاً. 

وقال الجيش في بيان لـ”أسوشيتد برس”، إن المسؤولين راجعوا الحادث، وأعربوا عن أسفهم للنتائج المترتبة عليه.

كيف يعمل النظام؟

تعد مايكروسوفت وOpenAI، جزءاً من مجموعة من شركات التكنولوجيا الأميركية التي دعمت الحروب الإسرائيلية في السنوات الماضية. كما توفر جوجل وأمازون خدمات الحوسبة السحابية والذكاء الاصطناعي للجيش الإسرائيلي بموجب “مشروع نيمبوس”، وهو عقد بقيمة  1.2 مليار دولار وُقع  في عام 2021، عندما بدأت تل أبيب في اختبار أنظمة الاستهداف المعتمدة على الذكاء الاصطناعي المطورة محلياً.

كما استخدم الجيش الإسرائيلي خوادم أو مراكز بيانات تديرها شركتي “سيسكو” وDELL، بينما قدمت “ريد هات”، وهي شركة تابعة لـIBM، تقنيات الحوسبة السحابية. أما شركة Palantir، الشريك الاستراتيجي لمايكروسوفت في العقود الدفاعية الأميركية، أبرمت “شراكة استراتيجية” لتزويد إسرائيل بأنظمة ذكاء اصطناعي لدعم مجهودها الحربي.

وقالت جوجل إنها ملتزمة بتطوير ونشر الذكاء الاصطناعي بمسؤولية لـ”حماية الناس وتعزيز النمو العالمي ودعم الأمن القومي”.

ويستخدم الجيش الإسرائيلي “مايكروسوفت أزور”، لتحليل البيانات المستمدة من المراقبة الجماعية، حيث يتم تفريغ وترجمة المكالمات الهاتفية والرسائل النصية والصوتية، وفقاً لضابط استخبارات إسرائيلي يعمل مع هذه الأنظمة. ثم يتم مقارنة هذه البيانات مع أنظمة الاستهداف الخاصة بالجيش الإسرائيلي والعكس صحيح.

وأوضح الضابط أنه يعتمد على “أزور” للبحث بسرعة عن مصطلحات وأنماط محددة ضمن كميات ضخمة من النصوص، مثل العثور على محادثات بين شخصين ضمن وثيقة مكونة من 50 صفحة. كما يمكن لـ”أزور” اكتشاف التعليمات الملاحية بين الأشخاص داخل النصوص، ثم مقارنتها مع أنظمة الذكاء الاصطناعي العسكرية لتحديد المواقع المستهدفة. 

وأظهرت بيانات مايكروسوفت التي اطلعت عليها “أسوشيتد برس”، أن الجيش الإسرائيلي زاد من استخدامه لأدوات تفريغ النصوص والترجمة ونماذج الذكاء الاصطناعي من OpenAI، رغم أن البيانات لا تحدد النماذج المستخدمة بالضبط.

وعادة، تحقق نماذج الذكاء الاصطناعي الخاصة بالتفريغ والترجمة أداءً أفضل باللغة الإنجليزية. واعترفت OpenAI أن نموذجها الشهير Whisper، الذي يمكنه تفريغ وترجمة النصوص بعدة لغات، بما في ذلك العربية، قد يضيف نصوصاً غير موجودة أصلاً، مثل تعليقات عنصرية أو خطاب تحريضي عنيف.

وتساءل جوشوا كرول، الأستاذ المساعد في علوم الكمبيوتر في مدرسة الدراسات العليا البحرية في مونتيري، بولاية كاليفورنيا، قائلاً: “هل ينبغي لنا أن نبني هذه القرارات على معلومات قد يكون النموذج قد اختلقها؟”.

وأشار أحد ضباط الاستخبارات، إلى أنه شهد أخطاء في استهداف الأهداف، بسبب ترجمات آلية غير دقيقة من العربية إلى العبرية.

مخاطر البيانات الخاطئة

تعتمد المكالمات الهاتفية التي يتم اعتراضها على بناء ملف شخصي للمستهدفين، يشمل وقت الاتصال وأسماء وأرقام المتصلين. لكن يستلزم الأمر خطوة إضافية للتحقق من الصوت الأصلي أو مراجعة النص المترجم للتأكد من دقته.

وأشار الضابط إلى أن البيانات المرفقة بملفات بعض الأشخاص كانت خاطئة في بعض الأحيان. فقد حدث أن أدرج النظام مجموعة من طلاب المدارس الثانوية ضمن قائمة المشتبه بهم كـ”مسلحين محتملين”.

وأوضح أن السبب كان ملف “إكسل” مرفقاً بملفات بعض الأفراد، يحمل عنوان “الاختبارات النهائية” بالعربية، ويضم قائمة بأسماء ما لا يقل عن ألف طالب في إحدى مناطق غزة. وكانت هذه المعلومة هي الدليل الوحيد الذي تم الاستناد إليه لإدراجهم على القائمة، وقال إنه لولا اكتشافه للخطأ، لكان هؤلاء الفلسطينيون قد تعرضوا لتصنيف خاطئ.

كما أبدى الضابط قلقه من أن الضباط الشباب، بعضهم دون سن العشرين، والذين يعملون تحت ضغط شديد لتحديد الأهداف بسرعة باستخدام الذكاء الاصطناعي، قد يستعجلون في اتخاذ قرارات خاطئة. 

الاعتماد المفرط على الذكاء الاصطناعي

وحذّر جندي إسرائيلي، عمل مع أنظمة الاستهداف، من أن الاعتماد على الذكاء الاصطناعي وحده قد يؤدي إلى استنتاجات خاطئة. وأوضح أن النظام قد يحدد منزلاً مملوكاً لشخص مرتبط بـ”حماس”، لكنه لا يسكن فيه فعلياً. لذلك، قبل تنفيذ الضربة الجوية، يجب على البشر التأكد من هوية الأشخاص المتواجدين في المكان.

من جهته، أوضح تال ممران، الذي خدم 10 سنوات كضابط احتياط في الجيش الإسرائيلي، وشارك في 3 مجموعات عمل تابعة لحلف شمال الأطلسي “الناتو” لدراسة استخدام التقنيات الحديثة في الحروب، أن أنظمة الذكاء الاصطناعي غيّرت بشكل جذري عملية الموافقة على الضربات الجوية.

وأشار إلى أنه في السابق، كان فريق من 20 شخصاً يحتاج إلى يوم كامل أو أكثر للموافقة على غارة واحدة، أما الآن، وبفضل الذكاء الاصطناعي، يتم اعتماد مئات الضربات أسبوعياً.
“لافندر”.. كيف استغلت إسرائيل الذكاء الاصطناعي في قتل الفلسطينيين “دون تمييز”؟

استخدم الجيش الإسرائيلي في حملة القصف الجوي على غزة قاعدة بيانات مدعومة بنظام ذكاء اصطناعي لم يكشف عنها سابقاً، حددت في إحدى المراحل 37 ألف فلسطيني لقتلهم.

وأضاف ممران، أن الاعتماد المفرط على الذكاء الاصطناعي قد يعزز التحيزات الموجودة مسبقاً لدى المحللين العسكريين. وقال: “يمكن للتحيز التأكيدي أن يمنع الناس من التحقق من المعلومات بأنفسهم. بينما قد يتكاسل البعض عن التحقق من صحة المعلومات، قد يخشى آخرون معارضة نتائج الذكاء الاصطناعي خوفاً من ارتكاب خطأ وتحمل المسؤولية”.

معارضة من داخل الشركات 

أثارت العلاقة بين شركات التكنولوجيا الأميركية والجيش الإسرائيلي جدلاً في الولايات المتحدة، حيث أعرب بعض الموظفين عن مخاوف أخلاقية. وفي أكتوبر، فصلت مايكروسوفت موظفين اثنين لمشاركتهما في وقفة احتجاجية لدعم الفلسطينيين بمقرها في واشنطن. وفي أبريل، أقالت جوجل نحو 50 موظفاً، بسبب اعتصام داخل مقرها في كاليفورنيا احتجاجاً على الحرب على غزة.

وقال أحد الموظفين المفصولين من مايكروسوفت، وعضو No Azure for Apartheid، إنهم يسعون لوقف بيع خدمات الحوسبة السحابية والذكاء الاصطناعي للجيش الإسرائيلي، مضيفاً: “الحوسبة السحابية والذكاء الاصطناعي هما القنابل والرصاص في القرن الحادي والعشرين”.

وفي كتاب جديد، يدعو الرئيس التنفيذي لشركة “بالانتير”، ألكسندر كارب، لتعاون وثيق بين وادي السيليكون والجيش الأميركي وحلفائه لتطوير أسلحة الذكاء الاصطناعي، مثل “أسراب الطائرات المسيّرة والروبوتات التي ستسيطر على ساحات المعارك المستقبلية”.

المصدر https://nabdapp.com/t/151049651?fbclid=IwY2xjawIinLdleHRuA2FlbQIxMQABHat2TXFic0xl1WYjn9Mgr2u5nEqSqtrhJuVnLOgKycfVB9tpMuSZZAY-Ug_aem_BN1ouyMyeTbtj3L-3X2fyg