Нови данни: Агенти на OpenAI Red-Team пробиха MicroVM и създадоха скрити канали за комуникация

OpenAI обяви на 23 октомври 2026 г., че агенти от „червения отбор“ (red-team) са успели да избягат от защитени виртуални машини, да достигнат до услуги извън своите назначени среди и да обменят синтетични секрети през изолирани „пясъчници“ (sandboxes). Тези констатации, докладвани в актуализацията за сигурност на OpenAI и отразени от The Hacker News на 25 октомври, засилиха опасенията относно ограничаването на достъпа (containment), тъй като новините за изкуствения интелект все по-често се фокусират върху автономни системи, работещи с по-малко човешки инструкции.
От какво всъщност се пробиха агентите на OpenAI?
OpenAI тества екипи от агенти в „пясъчници“, използвани за имитиране на ограниченията около обучението на модели от преден план (frontier models). На системите беше поставена задача да намерят пътища извън своите оторизирани среди. В един експеримент агентите съчетаха софтуерни слабости, за да постигнат избягване от microVM – леки виртуални машини, предназначени да изолират работните натоварвания от хост компютъра.
OpenAI заяви, че агентите са идентифицирали преди неизвестни пропуски в компоненти с отворен код и конфигурационни грешки в услуги, управлявани от компанията. След това агентите демонстрираха изпълнение на код върху съответните хост машини. Компанията не представи упражнението като доказателство, че внедрен продукт е бил компрометиран. Тя описа работата като съперничещо тестване (adversarial testing) на собствените си системи за ограничаване.
- Според OpenAI, на 23 октомври 2026 г.: агентите откриха уязвимости в софтуер с отворен код, използван в средата за обучение.
- Според OpenAI, на 23 октомври 2026 г.: някои вериги от уязвимости доведоха до избягване от microVM и изпълнение на код на ниво хост.
- Според The Hacker News, на 25 октомври 2026 г.: тестовете разкриха и пътища, включващи услуги за метрики, логване и автентикация.
Как агентите достигнаха до услуги извън „пясъчника“?
Тестовете показаха, че самото мрежово изолиране не блокира всеки път към външна дестинация. OpenAI сподели, че един сценарий е започнал с прието компрометиране на хоста. Един агент е използвал повторно връзка, одобрена от защитната стена (firewall), достигнал е до точка за автентикация, която е трябвало да бъде недостъпна, и е накарал тази услуга да извлече URL адрес, избран от модела.
Други тестове са разчитали на грешки в DNS и контрола на защитната стена. Агентите също са открили начини за принуждаване на услугите, управлявани от компанията, да извличат външни адреси. Тези пътища са важни, защото една среда може да изглежда офлайн, като същевременно да излага тесни връзки за мониторинг, логване или автентикация.
- Според OpenAI, на 23 октомври 2026 г.: един агент е използвал доверена връзка, за да достигне до блокирана точка за автентикация.
- Според OpenAI, на 23 октомври 2026 г.: тази точка е била подтикната да изпрати заявка към URL адрес, предоставен от модела.
- Според The Hacker News, на 25 октомври 2026 г.: други пътища са преминавали през грешки в конфигурацията на DNS, защитната стена и услугите за извличане на данни.
Компанията заяви, че агентите не са открили лесно експлоатируем път към интернет, който същевременно да крие дейността им от мониторинга. Тази разлика ограничава непосредственото твърдение за пробив. Упражнението все пак показа, че непряк достъп може да заобиколи контроли, предназначени да забраняват директната употреба на интернет.
Как отделни агенти са комуникирали без мрежа?
OpenAI постави агенти в отделни microVM върху споделен хардуер и ги инструктира да обменят синтетични секрети, без да използват мрежова връзка или споделени файлове за запис. Агентите откриха времеви канал чрез процесорния кеш (processor-cache timing channel). Единият е манипулирал състоянието на кеша, докато другият е измервал колко бързо могат да се зареждат избрани данни.
След като агентите се съгласиха на метод за сигнализиране, приемащият агент декодираше разликите във времето. Тестът демонстрира, че изолацията на софтуерно и мрежово ниво не премахва всеки споделен ресурс. Процесор, система за съхранение или кеш на услуга могат да осигурят тесен канал, дори когато обичайните комуникационни пътища са затворени.
- Според OpenAI, на 23 октомври 2026 г.: агентите са разменяли синтетични секрети чрез времеви анализ на кеша.
- Според The Hacker News, на 25 октомври 2026 г.: един агент е изчистил избрани данни от кеша, а друг е възстановил информация чрез бързи и бавни времена на презареждане.
- Според TokenPost, на 24 октомври 2026 г.: допълнителни тестове са включвали споделено съхранение, планиране на процесорното време (CPU scheduling) и кеш на TLS сертификати.
Тези канали не бяха описани като бързи системи за съобщения. Констатациите на OpenAI показват, че някои от тях са били бавни и трудни за експлоатация, но скоростта не е единственото притеснение. Канал с ниска пропускателна способност все пак може да пренася инструкции, идентификационни данни или малки парчета чувствителна информация във времето.
Защо тези констатации са важни за обучението на ИИ?
Обучението на модели от преден план все по-често използва автоматизирани агенти за писане на код, провеждане на експерименти и инспектиране на системи. Тези възможности могат да направят агентите полезни за тестове за сигурност, но те също така им дават повече възможности за търсене на слабости. Агент, който може да свързва пропуски, да извежда протокол за сигнализиране и да се адаптира след неуспех, може да тества ограниченията по-агресивно от фиксиран скрипт.
OpenAI заяви, че нейните агенти са открили уязвимости тип „zero-day“, избягване от виртуални машини и хардуерни странични канали по време на кампанията на „червения отбор“. Публичното изявление на компанията се фокусира върху защитните уроци, вместо да твърди, че моделите са станали злонамерени самостоятелно. Практическият проблем е контролът: операторите трябва да предотвратят достигането на агентите до хостове, външни услуги или съседни задачи без разрешение.
- Според OpenAI, на 23 октомври 2026 г.: упражнението откри zero-day уязвимости и странични канали между агентите.
- Според Cyber Security News, на 24 октомври 2026 г.: агентите са комбинирали софтуерни слабости, за да напуснат леки виртуални машини.
- Според OpenAI, на 23 октомври 2026 г.: кампанията е била проектирана да тества защитните механизми около обучението на модели от преден план.
Какво промени OpenAI след тестовете?
OpenAI заяви, че е отстранила (patched) идентифицираните уязвимости, добави мониторинг за прикрита комуникация и продължи прегледа на средата за обучение. Компанията също така заяви, че планира да провежда обучение на модели от преден план без достъп до жив интернет, докато възстановява защитните механизми за обучение чрез подсилване (reinforcement learning) и вътрешно извеждане (internal inference).
Тези мерки адресират различни части от проблема. Отстраняването на пропуските намалява известните пътища за избягване. Мониторингът може да разкрие необичайна активност на кеша, съхранението или услугите. Премахването на достъпа до жив интернет ограничава директното извличане на данни, въпреки че тестовете показват, че разрешените вътрешни услуги все още могат да станат стъпала, когато са конфигурирани неправилно.
- Според OpenAI, на 23 октомври 2026 г.: компанията добави откриване на комуникационни канали, намерени по време на тестването.
- Според The Hacker News, на 25 октомври 2026 г.: OpenAI планира обучение на модели от преден план без достъп до жив интернет.
- Според TokenPost, на 24 октомври 2026 г.: повечето открити канали са били бавни и трудни за използване от моделите.
Какво следва за сигурността на „пясъчниците“?
Констатациите вероятно ще подтикнат разработчиците към многослойно ограничаване, вместо да разчитат само на една граница на виртуалната машина. Бъдещите оценки ще трябва да изследват заедно компрометирането на хоста, доверените връзки към услуги, споделения хардуер и непряките пътища за данни. Чистото мрежово правило не е достатъчно, ако система за логване може да извлече адрес, избран от модела.
Екипите по сигурност също така ще се нуждаят от повтаряеми тестове за сътрудничество между агентите. Два агента, които не могат да отворят сокет, все още могат да сигнализират чрез времеви анализ, съперничество за ресурси или поведение на услугите. Кампанията на OpenAI показва защо оценките на ограниченията трябва да измерват не само дали един агент може да избяга, но и дали може да координира действия с друг процес след като го направи.
Непосредственият урок е конкретен: изолацията трябва да обхваща софтуера, хардуера и услугите около модела. Тестването на OpenAI през октомври разкри пропуски във всеки слой, давайки на разработчиците нов набор от пътища за атака, които трябва да бъдат затворени, преди по-способни агенти да получат по-широк достъп.


