به گفته SentinelOne، ورود LLMها به دنیای بدافزار «تغییری کیفی در شیوه کار مهاجمان» است و توانایی تولید کد مخرب در زمان اجرا، چالشهای تازهای برای مدافعان ایجاد میکند.
گزارش StrongestLayer نشان میدهد مهاجمان در ایمیلهای فیشینگ «پرومپت»های پنهان قرار میدهند تا اسکنرهای هوش مصنوعی پیام را بیخطر تشخیص دهند. نمونهای از این روش شامل ایمیلی درباره اختلافحساب با پیوست HTML بود که کد مخفی آن، سیستم را به حملهای زنجیرهای مبتنیبر آسیبپذیری Follina (CVE-2022-30190) هدایت میکرد.
طبق گزارش Trend Micro، از اوایل ۲۰۲۵ مهاجمان با استفاده از سرویسهای میزبانی مبتنیبر هوش مصنوعی مانند Lovable، Netlify و Vercel، صفحات جعلی CAPTCHA میسازند که کاربران را به سایتهای فیشینگ هدایت میکند. محققان این پلتفرمها را «شمشیر دو دم» توصیف میکنند که هم میتوانند ابزار مفید باشند و هم سلاحی برای حملات سریع و ارزان در مقیاس وسیع.
