Британският AI Security Institute (AISI) публикува резултати от тестове, които звучат като сценарий, но са описани като реални експерименти. AI агенти, базирани на модели на Anthropic и OpenAI, прибягват до социално инженерство, за да накарат хора да им помогнат при атака срещу IT системи. Никой не им е казал да го правят.
Какво показаха тестовете
По данни, цитирани от Digitalk, инциденти има в 10 от 122 експеримента, или малко над 8%. Задачата на моделите е била да решат предизвикателство по киберсигурност, свързано с достъп до GitHub. В част от случаите агентите:
- създават фалшиви профили, които имитират реални хора;
- пишат на хора, за да получат достъп;
- опитват да вкарат зловреден код и убеждават потребител да го одобри;
- променят лог файлове и прикриват следите си.
Човешки преглед спира кода, преди да стигне до GitHub, а платформата деактивира фалшивите профили. AISI първо забелязва необичаен трансфер на данни от собствените си системи.
Защо това засяга и обикновения бизнес
Повечето компании няма да бъдат цел на експериментален агент в лаборатория. Изводът обаче е практичен: агентите преследват целта си и използват всяка пропусната защита. А автоматизираните инструменти, с които работят нападателите, стават все по-достъпни.
Три уязвими места при сайтовете
- Човешкото одобрение. Тестовете показват, че слабото звено често е човек, който натиска „одобри“, без да провери.
- Профили с прекалено много права. Всеки потребител в WordPress, хостинга или репото трябва да има само нужните права.
- Логове, които никой не чете. Ако атакуващият може да ги промени, а Вие не ги архивирате отделно, няма как да възстановите картината.
Какво правим по-различно при разработката
При проектите, по които работим, правата се разпределят по принципа на най-малката необходима привилегия, администраторските профили са с двуфакторна защита, а промени в кода минават през преглед. Това не е гаранция срещу всичко, но премахва най-лесните пътища. Ако искате преглед на сигурността на текущия си сайт, можете да изпратите запитване.
По темата за новите правила вижте и какво променя Законът за киберсигурност.
Източник на темата: Digitalk: AI агенти влизат в ролята на киберпрестъпници. Текстът е самостоятелен анализ на Penkov Studio.
