تیم روسی از کلود هوش مصنوعی برای آموزش پهپاد قاتل در تصاویر حذف شده جنگ اوکراین سوء استفاده می کند
یک گزارش جدید هوش تهدید از شرکت هوش مصنوعی Anthropic فاش کرده است که یک تیم روسی ویدئوهای رزمی اوکراینی را مین گذاری کرده اند تا به یک پهپاد خودمختار “کامیکازه” آموزش دهند تا اهداف خود را انتخاب کند و آنها را نابود کند.
گزارش آنتروپیک در ۱۰ سپتامبر منتشر شد، دو روز قبل از اینکه داریو آمودی، مدیرعامل و یکی از بنیانگذاران شرکت، مقالهای را منتشر کرد که در آن استدلال میکرد که بشریت باید فوراً سرعت توسعه هوش مصنوعی را کاهش دهد.
بیشتر بخوانید:
حملات سایبری؟ بیوتروریسم؟ برای “پیمودن خط” هوش مصنوعی به طور موثر، باید تفکر آینده خود را بهبود دهیم
این گزارش گزارشی ۱۵۴ صفحه ای از تلاش برای سوء استفاده از مدل های هوش مصنوعی کلود برای “فعالیت های مخرب” بین دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ است. این گزارش هفت حوزه را شامل می شود: عملیات سایبری، عملیات نفوذ، نظارت، تقلب و فریب، سوء استفاده بیولوژیکی، و توسعه و تقطیر تسلیحات متعارف.
یک مورد که با نام GTG-27005 ردیابی میشود، یک تیم کوچک و احتمالاً مستقل را در روسیه توصیف میکند که از ابزار کدگذاری کلود برای کمک به ساخت نرمافزاری برای انبوهی از پهپادهای کامیکازه با دید اول شخص (FPV) استفاده کردند – مهمات ارزان قیمت و هدایتشونده با دوربین که به یکی از سلاحهای تعیینکننده جنگ تبدیل شدهاند.
بیشتر بخوانید:
حملات پهپادی اوکراین بر روسیه تأثیر می گذارد، اما رهبران روسیه همچنان به جنگ متعهد هستند
این باید هر کسی را که تا به حال فیلمی از جنگ اوکراین گرفته، به اشتراک گذاشته یا به آن اعتماد کرده باشد، نگران کند، یکی از مستندترین درگیری های تاریخ.
به نظر میرسد که همه انواع فیلمهای بصری – حتی آنهایی که توسط روزنامهنگاران، سربازان، غیرنظامیان و محققان برای بهروزرسانی دنیای خارج و پاسخگو کردن کشورها ایجاد شدهاند – اکنون میتوانند به درگیری به عنوان ماده خام برای توسعه سلاح و استقرار در میدان نبرد بازگردند.
پهپاد خودگردان، می تواند یک فرد را هدف قرار دهد
(ایرینا ریباکووا/ تیپ مکانیزه ۹۳ اوکراین از طریق AP)
گزارش آنتروپیک بیان میکند که تیمهای اطلاعاتی تهدیدات این شرکت، چندین عامل تهدید را که از مدلهای کلود برای توسعه نرمافزار یا طراحی و توسعه سلاحها یا جمعآوری اطلاعات و ارائه برنامههای تسلیحاتی استفاده میکردند، «بررسی کرده و مختل کردهاند».
در این گزارش شش مورد ثبت شده است: سه مورد در چین، دو مورد در روسیه و یک مورد در یمن.
توسعه دهندگان “فریلنسر احتمالی مستقر در روسیه” در پرونده GTG-27005 پروژه خود را “DronDoc” یا “Serafim” نامیدند. آنها در ماه مه ۲۰۲۶ فعال شدند و ترافیک خود را از طریق سرورهای تجاری هدایت کردند تا محدودیت های مبتنی بر مکان Anthropic را دور بزنند.
نرمافزاری که آنها ایجاد کردند میتواند به یک پهپاد اجازه دهد تا اهداف خود را از جمله اهدافی در دسته «انسان» انتخاب کند و فرمان انفجار را صادر کند – بدون اینکه انسان ابتدا حمله را تأیید کند. این جزئیات خبرساز شد و شایسته تبلیغات بود.
با این حال، یک خط در گزارش بسیار کمتر مورد توجه قرار گرفته است: توسعه دهندگان نرم افزار خود را برای هدف قرار دادن پرسنل جنگی ضعیف اوکراینی که به صورت «دشمن» و «دوست» طبقه بندی شده بودند، آموزش دادند و آن را در برابر یک مکان هدف شبیه سازی شده در منطقه دونتسک آزمایش کردند.
فیلمهای خشدار جنگی اوکراینی
در این گزارش مشخص نشده است که این فیلم از کجا گرفته شده است. این میتواند از کانالهای تلگرامی مورد استفاده پرسنل نظامی، حسابهای جمعآوری حملات هواپیماهای بدون سرنشین رسمی و غیررسمی، بایگانیهای اطلاعات منبع باز (OSINT) یا پایگاههای اطلاعاتی باز جمعآوریشده توسط روزنامهنگاران و محققان باشد. در حال حاضر ما فقط نمی دانیم منبع احتمالی چیست.
به عنوان مثال، مرکز تابآوری اطلاعات در نقشه روسیه، بیش از ۳۰۰۰۰ حادثه جداگانه را با استفاده از فیلمهای داوطلبان، سربازان و غیرنظامیان تأیید و نقشهبرداری کرده است.
(AP Photo/Dan Bashakov)
فیلمهای پهپادها و پیامدهای حملات موشکی توسط محققانی بررسی و شناسایی میشوند که امیدوارند از آن به عنوان مدرکی برای تلاشهای روزنامهنگاری، تحقیقات جنایات جنگی یا صرفاً برای نشان دادن واقعیت درگیری در عصری استفاده شود که هوش مصنوعی مولد میتواند روایت را تحریف کند.
در بیشتر موارد، کسانی که این فیلم را تهیه می کنند، سعی می کنند جنگ را بیشتر نمایان کنند و مسئولین را بیشتر در قبال اقدامات خود پاسخگو باشند.
مستند برای اثبات، استفاده برای درگیری
چیزی که این مورد نشان میدهد این است که فیلمهایی که برای یک هدف ایجاد شدهاند را میتوان بدون تغییر برای یک هدف بسیار متفاوت دوباره بستهبندی کرد. یک کلیپ برای مستند کردن یک ضربه و یک کلیپ خراشیده شده برای آموزش دادن به سلاح یک هدف انسانی، فریم به فریم، همان فایل.
هیچ چیزی در خود تصویر نشان نمی دهد که برای چه چیزی استفاده خواهد شد. چیزی که این موضوع را تعیین می کند این است که چه کسی به آن دسترسی دارد و چه کاری را با آن انجام می دهد.
سیستم ویدئویی پهپاد خود اوکراین، OCHI، از سال ۲۰۲۲ بیش از دو میلیون ساعت فیلم جمع آوری کرده است و آن را به بزرگترین مجموعه فیلم های رزمی زنده شناخته شده در سراسر جهان تبدیل کرده است.
مجموعه داده ای از این مقیاس معدن طلایی برای یادگیری ماشینی است. با این حال، وقتی صحبت از جنگ دیجیتال و مدرن به میان میآید، این غیرعادی نیست. یک شرکت در ایالات متحده به نام Enabled Intelligence می گوید که اخیراً بیش از نیم میلیون ساعت فیلم از یک پهپاد اوکراینی را در مجموعه داده های تجاری که برای آموزش هوش مصنوعی فروخته شده بود، بسته بندی کرده است.
در واقع، این نوع استخراج در حال تبدیل شدن به امری عادی است و آشکارا مورد بحث قرار می گیرد. GTG-27005 نشان می دهد که محدود به کاربران اعلام شده و تحریم شده نیست.
یک سیستم بصری با مهندسی معکوس
بیشتر بخوانید:
حملات پهپادی اوکراین بر روسیه تأثیر می گذارد، اما رهبران روسیه همچنان به جنگ متعهد هستند
این هم یک مورد مجزا نیست. همان گزارش یک حادثه جداگانه را توصیف میکند که با نام GTG-20006 ردیابی شده و توسط آنتروپیک به گروه دولتی روسیه که عموماً به عنوان بلیزارد نیمهشب شناخته میشود مرتبط است.
(AP Photo/Eugeny Maloletka، فایل)
در این مورد، اپراتورها یک بسته نرم افزاری برای سیستم بصری یک پهپاد نظامی را دزدیدند و روزها با استفاده از کلود برای مهندسی معکوس آن – بازیابی طراحی، اجزا و جزئیات یک محصول منتشر نشده، استفاده کردند.
دو گروه جداگانه در یک دوره یک نوع هدف را دنبال کردند: سیستمی که به پهپاد اجازه میدهد آنچه را که میبیند تشخیص دهد. آیا این آغاز یک الگو است-الگویی که در آن توانایی پهپاد برای شناسایی بصری یک هدف به اندازه موتور یا محموله انفجاری آن ارزشمند می شود؟
چه کسی دیگری تماشا می کند؟
هیچ یک از اینها دلیلی برای اثبات تعارض نیست. دور از آن. این تجسمها یکی از معدود ابزارهایی هستند که مردم عادی برای پاسخگویی به قدرت در مواقع اختلاف دارند.
با این وجود، دلیلی برای جدی گرفتن این موضوع است که کسانی که این رکورد را تولید میکنند – روزنامهنگاران، سربازان، پژوهشگران داوطلب غیرنظامی – بخشی از یک زنجیره تامین هستند که استفادههای بعدی آنها را نمیتوانستند پیشبینی کنند و هرگز رضایت ندادند.
بیشتر گفتگوها در مورد اخلاق فیلم نظامی بر این موضوع متمرکز شده است که چه کسی و چگونه باید آن را مشاهده کند. این مورد نشان میدهد که ما همچنین باید بپرسیم چه کسی تماشا میکند و قرار است با آن چه کار کند.
