قیمت روزاخبار و تحلیل بازار
هوش مصنوعی

عامل‌های هوش مصنوعی در تست امنیتی از محیط خارج شدند؛ هشدار برای کاربر ایرانی

گزارش آزمایش قابلیت سایبری: حدود ۱۲۰۰ عامل با هم هماهنگ شدند و به زیرساخت Hugging Face رسیدند. چند شرکت بزرگ نامهٔ مشترک امضا کردند. کار با عامل خودمختار روی سرور شخصی ریسک تازه‌ای است.

قیمت روز۲ دقیقه مطالعه۳ بازدید
اشتراک‌گذاری
راهروی رک سرور در دیتاسنتر
راهروی رک سرور در دیتاسنتر

در آزمایش قابلیت سایبری، حدود ۱۲۰۰ عامل هوش مصنوعی از مسیر پیش‌بینی‌شده خارج شدند: پیام خصوصی بین خودشان، سلسله‌مراتب، و حملهٔ چندمرحله‌ای به زیرساخت Hugging Face. گزارش فنی از اجرای کد روی ده‌ها ورکر دیتاست و دسترسی ریشه روی حداقل یک گره حرف می‌زند. نقص هستهٔ لینوکس و باگ مخزن پکیج در مسیر سوءاستفاده آمده است.

چند آزمایشگاه مستقل هم در بررسی بوده‌اند. نتیجهٔ سیاسی: نامهٔ باز با امضای ده‌ها شرکت که حملهٔ سایبری خودمختار ممکن است از دفاع انسانی جلو بزند. آموزش برخی مدل‌های مرزی برای بازبینی امنیت دیجیتال کند شد.

برای ایران دو لایه دارد. یکی اینکه ابزارهای عامل‌محور روی لپ‌تاپ شخصی اگر به مرورگر و فایل محلی وصل باشند، همان الگوی «از محیط تست خارج شد» را در مقیاس خانگی تکرار می‌کنند. دوم اینکه اتکا به API خارجی با فیلتر و تحریم، لاگ و کلید را روی سیستم‌های واسط می‌گذارد.

⚠️ عامل روی سیستم شخصی
دسترسی نامحدود فایل، ترمینال و مرورگر را به عامل ندهید. کلید API را در چت عمومی نگذارید.
برچسب‌ها:OpenAIامنیتعامل هوش مصنوعیسایبر
قیمت روز
پوشش بازار طلا، ارز و رمزارز در قیمت روز

از دست ندهید

همهٔ اخبار