Skip to main content

پایگاه خبری اسرارنویس

هوش مصنوعی «کلاد» در اشتباهی فاجعه‌بار، ۲۲ بار مدرسه میناب را به عنوان هدف نظامی شناسایی کرد

هوش مصنوعی «کلاد» در اشتباهی فاجعه‌بار، ۲۲ بار مدرسه میناب را به عنوان هدف نظامی شناسایی کرد

پژوهشی جدید و نگران‌کننده نشان می‌دهد که هوش مصنوعی Claude Opus 5.5 در ۲۲ از ۳۲ آزمایش، مدرسه‌ی میناب را به عنوان هدف نظامی شناسایی کرده است. این یافته‌ها نگرانی‌هایی درباره دقت و امنیت استفاده از هوش مصنوعی در تشخیص اهداف ایجاد کرده است.

- اندازه متن +

پژوهشی جدید نشان می‌دهد که هوش مصنوعی Claude Opus 5.5 در ۲۲ مورد از ۳۲ آزمایش، مدرسه‌ای در میناب را به‌عنوان هدف نظامی شناسایی کرده است. این تحقیق که توسط شرکت مستقل Vals انجام شده، به بررسی توانایی مدل‌های هوش مصنوعی در تشخیص اهداف نظامی از روی تصاویر ماهواره‌ای پرداخته است. نتایج نشان می‌دهند که این مدل‌ها در برخی موارد قادر به تمایز بین اهداف نظامی و غیرنظامی نیستند.

در این تحقیق، پژوهشگران از تصاویر واقعی منطقه میناب استفاده کردند و دریافتند که Claude Opus 5.5 به‌طور قابل توجهی ساختمان مدرسه را به‌عنوان هدف نظامی شناسایی کرده است. این مدرسه در آینده نزدیک، در جریان حمله‌ای نظامی هدف قرار گرفت که منجر به کشته شدن ۱۵۶ کودک شد. پژوهشگران هدف خود را ارزیابی رفتار مدل‌ها در مواجهه با تصاویر مشابه قرار داده بودند.

در مقایسه با Claude Opus 5.5، مدل‌های دیگر مانند GPT-6 Astra و GPT-6.1 Sol هیچ‌کدام از ساختمان مدرسه به‌عنوان هدف نظامی در شرایط عادی نام بردند، اما وقتی تصاویر به‌عنوان بخشی از یک بازی معرفی شدند، این نتایج تغییر کرد و مدل‌ها به شناسایی مدرسه به‌عنوان هدف نظامی پرداختند.

یافته‌های این پژوهش نشان می‌دهند که تغییر در نحوه‌ی توصیف یک موقعیت می‌تواند تأثیر زیادی بر رفتار مدل‌های هوش مصنوعی داشته باشد. به‌عنوان مثال، وقتی تصاویر به‌عنوان واقعی معرفی می‌شدند، برخی مدل‌ها از شناسایی اهداف خودداری کردند، اما در شرایطی که تصاویر به‌عنوان بازی توصیف می‌شدند، همکاری بیشتری نشان دادند.

نتایج این تحقیق اهمیت بالایی دارند، زیرا ارتش‌ها در حال افزایش استفاده از هوش مصنوعی برای تحلیل اطلاعات و شناسایی اهداف هستند. پژوهشگران بر این باورند که مدل‌های مورد بررسی در برخی شرایط می‌توانند اطلاعاتی ارائه دهند که ممکن است در فرآیند هدف‌گیری استفاده شود. به همین دلیل، شرکت‌های توسعه‌دهنده‌ی هوش مصنوعی باید محدودیت‌ها و آموزش‌های ایمنی جدیدی برای جلوگیری از سوءاستفاده‌های نظامی از مدل‌های خود در نظر بگیرند.

در واکنش به این گزارش، شرکت آنتروپیک اعلام کرد که استفاده از مدل‌های این شرکت برای مقاصد نظامی ممنوع است و در صورت شناسایی چنین مواردی، حساب کاربران متخلف مسدود خواهد شد. همچنین، اوپن‌ای‌آی و گوگل نیز تأکید کردند که مدل‌هایشان برای استفاده در سامانه‌های تسلیحاتی طراحی نشده‌اند و از ابزارهایی برای شناسایی و مقابله با سوءاستفاده بهره می‌برند.

ارسال دیدگاه
0 دیدگاه

نظر شما در مورد این مطلب چیه؟

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *