OpenAI откри 948 различни пътя за достъп до root в Linux след 30-часов тест за сигурност на AI

Nic Reeve15:00 05.11.20267 мин. четене

OpenAI съобщи на 4 ноември 2026 г., че автоматизиран киберсигурностен конвейер (pipeline), изграден с предстоящ модел, е възпроизвел 1 724 уязвимости в Linux по време на 30-часов цикъл и е генерирал 948 различни работещи експлойта за ескалация на локални привилегии. Компанията заяви, че упражнението от средата на октомври е генерирало и пачове, като същевременно е разкрило нов икономически модел за изследване на уязвимости.

OpenAI докладва 2 308 потенциални находки, от които 1 724 са били възпроизведени.
Конвейерът е произвел 1 169 работещи експлойта за ескалация на локални привилегии, които по-късно са групирани в 948 отделни уязвимости.
OpenAI заяви, че изпълнението е струвало 1 213 430 долара в API кредити, или по 1 279 долара за всеки уникален експлойт.

Какво точно откри системата на OpenAI?

Системата на OpenAI е насочена към стандартна десктоп операционна система, базирана на широко използвана Linux дистрибуция, и е изследвала уязвимости, засягащи ядрото на Linux. Находките се отнасят до ескалация на локални привилегии – клас дефекти, които могат да позволят на вече автентифициран потребител или компрометиран процес да получи контрол на ниво root.

Компанията описа работата в изследователска публикация от 4 ноември със заглавие „Хиляда по-малко пътя към root“. OpenAI заяви, че конвейерът е използвал предстоящ кибермодел, който все още не е пуснат публично. Моделът е работил като част от поредица от агенти, а не като единичен скенер за уязвимости.

OpenAI заяви, че системата е започнала с 2 308 потенциални находки.
Тя е динамично възпроизвела 1 724 уязвимости по време на изпълнението.
Агентите за разработване на експлойти са генерирали 291 доказателства за концепция (PoC) за изтичане на информация.
Същата етап е произвел 1 169 работещи експлойта за ескалация на локални привилегии.

Тези 1 169 експлойта не представляват 1 169 несвързани бъга. Анализът на вариантите е групирал атаките, които се връщат към един и същ основен проблем, оставяйки 948 отделни уязвимости, заяви OpenAI. Всеки основен дефект можеше следователно да изисква отделен пач, дори когато няколко пътя за експлоатация изглеждат подобни.

Как работи 30-часовият тест?

Конвейерът е разделил изследването на откриване, сканиране, възпроизвеждане и разработване на експлойти. Агентите са изследвали целевата среда, тествали потенциалните проблеми в изолирани виртуални машини и след това са се опитвали да превърнат потвърдените слабости в надеждни атаки. Изолацията е намалила шанса тестовете да повлияят на системи извън експеримента.

Help Net Security съобщи на 5 ноември, че конвейерът е възпроизвел 1 724 кандидата за уязвимости за 30 часа, което представлява 74,7% успеваемост. Изданието отбеляза, че тестът е проведен срещу най-новата налична версия на ядрото Linux за упражнението от средата на октомври 2026 г., като са били включени стандартните защити на ядрото.

Тестовата среда е използвала защити, включително SMEP, SMAP, KASLR и HARDENED_USERCOPY, според Help Net Security.
Системата е открила работещи експлойти, които могат да преминат от обикновен локален достъп до root привилегии.
OpenAI заяви, че агентите са идентифицирали поне 10 преди недокументирани техники за експлоатация на Linux.

Резултатът е различен от списък с теоретични слабости. Доказателството за концепция (proof of concept) демонстрира, че даден бъг може да бъде експлоатиран, докато работещият експлойт за ескалация на локални привилегии показва, че атаката е изпълнена успешно в тестовата среда. Броят от 948 на OpenAI се отнася до отделни основни уязвимости, а не просто до непроверени предупреждения.

Колко струва операцията?

OpenAI оцени пълната сметка за API на 1 213 430 долара. Компанията е изчислила средна цена от 1 279 долара за всяка от 948-те отделни уязвимости за ескалация на локални привилегии. Тези цифри покриват използването на модела и агентите, а не по-широките разходи за изграждане на конвейера, поддръжка на тестовата инфраструктура или преглед на разкритията.

StartupHub.ai съобщи, че фазата на сканиране е струвала 316 549 долара, а работата по възпроизвеждането – 73 330 долара. Тези цифри показват къде системата е изразходвала изчислителни ресурси, въпреки че публикуваният отчет не установява, че всеки друг разход е бил разпределен към конкретна етап от изследването.

Общо API кредити: 1 213 430 долара, според OpenAI.
Средна цена на всяка уникална уязвимост за ескалация на локални привилегии: 1 279 долара, според изчисленията на OpenAI.
Процент на възпроизвеждане: 74,7% от 2 308 кандидата, според Help Net Security.

Цената е висока за отделен изследователски проект, но ниска в сравнение със стойността на голям специализиран екип, който работи ръчно в продължение на дълъг период от време. Сравнението обаче остава несъвършено. Човешките изследователи валидират въздействието, договарят условията за разкриване на информацията и решават дали предложеният пач отстранява основната причина. Резултатът на OpenAI вместо това измерва докъде може да бъде разтегнат един повтаряем технически работен процес чрез автоматизирана система.

Какво означава този резултат за потребителите и операторите на Linux?

Находките са най-важни за системите, в които нападателят вече има локална позиция. Дефектът за ескалация на локални привилегии обикновено не осигурява първоначалния път към сървъра, но може да превърне ограничената достъпност в административен контрол. Това прави проблема актуален за споделени машини, облачни работни натоварвания, среди за разработчици и десктоп системи.

India Today съобщи на 5 ноември, че OpenAI е генерирала кандидат-пачове за основните дефекти. Изданието също така описа уязвимостите като проблеми, които могат да позволят на потребител да достигне root достъп. Пачовете все още изискват преглед, тестване и разпространение, преди да защитят реални инсталации.

Поддържащите на ядрото Linux може да се наложи да оценяват докладите индивидуално.
Производителите на дистрибуции трябва да интегрират приетите поправки в поддържаните версии.
Администраторите ще трябва да следят съобщенията за сигурност и да прилагат актуализациите, когато станат налични.

Разкритието на OpenAI не означава, че 948 новооткрити експлоатируеми дефекта автоматично присъстват във всяка инсталация на Linux. Версиите на ядрото, конфигурационните избори и пачовете на дистрибуциите варират. Изпълненото упражнение също така е използвало специфична стандартна десктоп среда, така че резултатите не могат да бъдат пренесени директно към всеки сървър или вградено устройство.

Какво следва?

OpenAI заяви, че работи с поддържащите на Linux и партньорите на Patch the Planet за подобряване на докладите за уязвимости и пачовете. Следователно следващата стъпка е технически преглед, а не незабавно масово внедряване на докладваните експлойти. Поддържащите трябва да възпроизведат всеки проблем, да определят засегнатите версии, да определят детайлите за разкриване и да разработят поправки, които да не създават нови повреди.

Публикацията на OpenAI от 4 ноември също така представя проекта като аргумент в полза на автоматизираните изследвания на уязвимости. Конвейерът комбинира откриването с експлоатацията и генерирането на пачове, позволявайки на агентите да филтрират находки, които не могат да бъдат възпроизведени. Този подход може да помогне на екипите по сигурност да обработват големи бази от код, но повдига и въпроси за това колко бързо могат да се разпространят надеждни методи за атака.

Централен тест ще бъде дали докладваните дефекти ще доведат до приети съобщения за сигурност и пачове в основните Linux дистрибуции. Докато тази работа не бъде завършена, най-безопасният оперативен отговор е рутинното обновяване на ядрото, ограничаването на локалния достъп и следенето за насоки от доставчиците. Експериментът показа мащаба на това, което една автоматизирана система може да се опита да направи. Той не е премахнал нуждата от човешки преглед.

Защо това разкритие привлича вниманието?

Забележителната цифра не са само 948-те експлойта. Това е комбинацията от скорост, автоматизация и повтаряемост. OpenAI заяви, че системата е преминала от хиляди кандидати до потвърдени уязвимости и използваем експлойт код по време на един цикъл в средата на октомври. Отчитането на Help Net Security определя този прозорец за валидация на 30 часа.

Изследователите по сигурност отдавна използват автоматизация за откриване на бъгове, но конвейерът, описан от OpenAI, обединява няколко етапа, които често са разделени. Той търсеше слабости, тестваше дали са реални, разработваше атаки и подготвяше пачове. Този по-широк работен процес може да произведе по-практични резултати от скенер, който докладва подозрителен код, без да демонстрира неговото въздействие.

Цифрите на OpenAI също така разкриват границите на постижението. Конвейерът изисква повече от 1,2 милиона долара в API кредити, работи срещу дефинирана тестова среда и все още оставя на поддържащите задачата да потвърдят докладите. Резултатът е предупреждение за спадащите разходи в настъпващите (offensive) изследвания, а не доказателство, че всяка софтуерна уязвимост може да бъде открита или поправена автоматично.

Източници

Прочети повече →

Подобни статии

AI & Tech

XPENG получи рекордни инвестиции за ускоряване на разработката на хуманоидния робот IRON

Китайският производител на автомобили и играч в роботиката XPENG събра повече от 900 милиона щатски долара за своя бизнес с хуманоидни роботи, поставяйки нов рекорд за единствен частен финансов кръг в бързо развиващия се китайски сектор на „въплътения“ или „физическия изкуствен интелект“ (physical AI). Капиталът ще ускори разработката и масовото производство на флагманския хуманоиден робот на компанията, IRON , и ще тласне роботната дейност на XPENG към глобална комерсиализация от 2027 г. нататък. Знаков финансов кръг оценява роботната единица на над 6,3 милиарда долара XPENG обяви на 24 август 2026 г., че нейната обособена роботна дейност е подписала споразумения за еквити финансиране с група видни инвеститори, осигурявайки над 900 милиона щатски долара при своя първи външен финансов кръг при пост-парична оценка над 6,3 милиарда щатски долара . Компанията описва сделката като най-голямото досега привличане на частен капитал в китайската индустрия за въплътен ИИ, подчертавайки колко бързо капиталът тече към роботи, които могат да взаимодействат с физическия свят. Кръгът е воден от IDG Capital , с участие на китайската венчър фирма Gaorong Ventures и стратегическа подкрепа от интернет гигантите Tencent и Alibaba . XPENG ще запази контрола върху роботната единица, която включва хуманоидната платформа IRON, както и четириноги и други роботи с общо предназначение. Финансирането е насочено към мащабиране на IRON и технологичния стек на XPENG за физически ИИ XPENG заявява, че новият капитал ще бъде използван за целия технологичен стек на това, което компанията нарича физически ИИ — въплътен интелект, който свързва мащабни ИИ модели с реално роботно оборудване. Приоритетните области включват: НИРД в областта на хардуера и софтуера за хуманоидни и други роботи с общо предназначение. Обучение и итерация на модели за физически ИИ , включително системи за възприятие, планиране и управление в сложни, неструктурирани среди. Висококачествено събиране на данни от симулации и реални среди за усъвършенстване на възможностите на роботите. Производствени мощности за масово производство „от край до край“ , позволяващи мащабно производство на единици IRON. Глобална търговска експанзия , с оглед както на вътрешния китайски, така и на чуждестранните пазари от 2027 г. нататък. Индустриални наблюдатели отбелязват, че комбинацията от мащабно обучение на ИИ, усъвършенствана мехатроника и производство с автомобилно качество се превръща в централно бойно поле за конкуренция, тъй като компаниите се състезават да превърнат хуманоидните роботи от изследователски проекти в търговски продукти. В сърцето на IRON: хуманоидът от ново поколение на XPENG XPENG за първи път разкри хуманоидния робот от ново поколение IRON в края на 2025 г. Системата е проектирана като платформа с общо предназначение, способна да работи в среди като заводи, логистични центрове, търговски обекти и в крайна сметка и в обществени пространства. Ключовите разкрити спецификации за IRON включват: 76 степени на свобода (DoF) в цялото тяло, което позволява плавно движение на целия организъм. 21 DoF на всяка ръка , което позволява прецизни манипулационни задачи като хващане на инструменти, работа с пакети или управление на контролери. Вграден изчислителен капацитет, захранван от три собствени ИИ чипа „Turing“ , осигуряващи до 2250 TOPS (трилиони операции в секунда) за локално изпълнение на модели за възприятие и управление. Тази техническа конфигурация е предназначена да поддържа сложни задачи с ниска латентност и ограничена зависимост от облачно свързване, което е ключово изискване за индустриални среди и приложения, критични за безопастта. XPENG представя IRON като платформа с общо предназначение, която може да бъде надграждана чрез софтуерни актуализации и обновяване на моделите във времето. От прототип до производство: масово внедряване, планирано от 2026 г. XPENG планира да започне масово производство на IRON до края на 2026 г. Компанията вече обяви специализирана база за производство на хуманоидни роботи в Гуанджъу, предназначена да поддържа мащабно производство. По-ранни насоки от изпълнителните директори на XPENG и анализатори на роботиката посочваха цел от над 1000 единици IRON на месец , след като заводът достигне стабилен капацитет. Първоначалното внедряване се очаква във собствените търговски обекти и индустриални бази на XPENG , където компанията може стриктно да контролира оперативните условия и да използва IRON както за демонстрация пред клиенти, така и като вътрешен инструмент за продуктивност. Приложенията могат да включват приветстване на посетители, демонстриране на функции на автомобилите, извършване на инвентаризация или изпълнение на повтарящи се задачи в складове и производствени линии. XPENG се стреми да премине от вътрешни пилотни проекти към търговски продажби и доставки през 2027 г. , първо в Китай, а след това и на чуждестранните пазари. Новосъбраното финансиране е предназначено да преодолее разликата между демонстрациите на прототипи и устойчивото мащабно търговско внедряване. XPENG се позиционира като лидер в „физическия ИИ“ Рекордната финансова вноска затвърждава амбицията на XPENG да се позиционира не само като производител на електрически превозни средства, но и като водеща компания в областта на физическия ИИ . Чрез обособяване на роботния си сектор и осигуряване на външен капитал, запазвайки при това контрола, XPENG следва стратегия, подобна на тази на други големи технологични компании, които отделят високоразвиващи се подразделения, за да засилят фокуса си и да разгърнат стойността им. В корпоративните си изявления XPENG подчертава, че размерът на финансирането и постигнатата оценка отразяват доверието на инвеститорите в нейния технологичен път, производствените възможности и дългосрочните бизнес перспективи в сферата на въплътения ИИ. Компанията вече е очертавала многогодишни инвестиционни планове на стойност десетки милиарди долари за изграждане на своята роботна екосистема, обхващаща чипове, алгоритми, облачна инфраструктура и производствени мощности. Конкурентна среда и стратегически последици Проектът IRON на XPENG е част от по-широка глобална надпревара за въвеждане на хуманоидните роботи в масовото търговско използване. Автопроизводители и технологични фирми в САЩ, Европа и Азия инвестират мащабно в хуманоидни платформи, залагайки на синергията между автономното шофиране, роботиката и ИИ инфраструктурата. В Китай рекордната вноска на XPENG повишава залозите за местните конкуренти както в сектора на роботиката, такако и в сектора на електромобилите. Участието на Tencent и Alibaba сигнализира, че големите интернет платформи разглеждат физическия ИИ като стратегически фронт, който може да преосформи логистиката, търговията на дребно и облачните ИИ услуги. За XPENG подкрепата на такива партньори може да проложи пътя към дълбока интеграция между IRON и дигитални екосистеми, обхващащи плащания, електронна търговия и потребителски приложения. Анализаторите казват, че основните предизвикателства пред тях ще включват осигуряване на безопасност и надеждност при реално внедряване, намаляване на производствените разходи чрез мащаб и доказване на ясни ползи от продуктивността за първите клиенти. Ако XPENG успее да спази сроковете си — масово производство през 2026 г. и търговско навлизане през 2027 г. — хуманоидът IRON може да се превърне в една от първите мащабни хуманоидни платформи с общо предназначение на пазара, а последният финансов кръг подсказва, че инвеститорите залагат сериозно на този резултат.

Nic Reeve·14:00 25.08.2026

AI & Tech

Пенсилвания въвежда контрол върху дейността на центровете за данни с AI чрез договори, без да е необходима нова законодателна рамка

Надзорът над центровете за данни за изкуствен интелект (ИИ) в Съединените щати направи значителна крачка напред в Пенсилвания, където губернаторът използва съществуващите правомощия за екологично лицензиране, за да наложи задължителни условия за новите обекти за ИИ — без законодателството да приема нов закон. Експерти по политиките казват, че този подход може да се превърне в модел за други щати, които се стремят да управляват бързото разширяване на инфраструктурата за ИИ, докато по-широкото федерално законодателство все още е в процес на обсъждане. Заповедта на губернатора създава режим, базиран на договори Според информация от AI News, моделът на Пенсилвания е изграден около нова изпълнителна заповед, която променя начина, по който Департаментът по опазване на околната среда (DEP) на щата обработва заявленията за разрешителни от проектирани центрове за данни. Съгласно заповедта, DEP ще разглежда заявленията само когато разработчиците са: Повърдили се в спазването на Изискванията за отговорно развитие на инфраструктурата (GRID) на губернатора чрез официална заповед за съгласие и споразумение (Consent Order and Agreement). Вече са осигурили местно одобрение за проекта. Споразумението за съгласие функционира като юридически приложим договор между оператора на центъра за данни и щата, фиксиращ определен набор от задължения по въпроси като въздействие върху околната среда, ангажираност с общността и прозрачност. Заповедта влезе в сила незабавно и вече се прилага за всички нови съответни заявления за разрешителни, което означава, че на практика регулирането на центровете за данни за ИИ в Пенсилвания „започва с подпис“. Важно е да се отбележи, че губернаторът не е търсил ново законодателство за създаване на тази рамка. Вместо това заповедта разчита на правомощията за лицензиране, които щатът вече притежава съгласно съществуващите закони за околна среда и земеползване. Анализаторите твърдят, че това прави заповедта на Пенсилвания потенциално преносим модел за други юрисдикции, които имат подобни правомощия за лицензиране, но нямат политически консенсус за нови закони. Защо центровете за данни за ИИ са под строг контрол Заповедта на Пенсилвания идва на фона на нарастващото безпокойство относно темпото и въздействието на строителството на центрове за данни за ИИ в цялата страна. Скорошен проследявач на законодателството за центрове за данни за ИИ в САЩ изброява 16 законопроекта в осем щата , включително мерки, фокусирани върху екологичната отговорност, разкриването на информация за енергията и дори временни мораториуми върху новото строителство. Тъй като натоварването на ИИ нараства, тези обекти могат да консумират огромни количества електроенергия и вода, което повдига въпроси за стабилността на мрежата, климатичните цели и местните ресурси. На федерално ниво множество законопроекти се стремят да адресират тези натиск. Предложеният Закон за прозрачност при избора на място за центрове за данни за ИИ от 2026 г. (AI Data Center Site Selection Transparency Act of 2026) би изисквал от разработчиците на центрове за данни, фокусирани върху ИИ, да разкриват планираните си локации и очакваната консумация на енергия и вода поне 180 дни преди предприемането на „окончателни“ стъпки за създаване на обект. Други предложения, като Закона за мораториум върху центровете за данни за изкуствен интелект (Artificial Intelligence Data Center Moratorium Act) , имат за цел да спрат новото строителство на центрове за данни за ИИ, докато не бъдат въведени закони за защита на общностите, предотвратяване на вредите за околната среда и забрана на държавни субсидии за центрове за ИИ, които не отговарят на строги защитни мерки. Паралелно с това, по-широка федерална пътна карта за „отговорни иновации“ предложи идеи като Закон за данъчната отчетност и разкриване на информация за центровете за данни от 2026 г. (Data Center Tax Accountability and Disclosure Act of 2026) , който би наложил детайлно отчитане на потреблението на енергия и вода, насочване на данните към годишни публични доклади и позволяване на Министерството на енергетиката и Агенцията за опазване на околната среда да налагат глоби на оператори, които не спазват изискванията. Всички тези усилия заедно подчертават как инфраструктурата за ИИ се превърна в централна точка в дебатите за климатичната политика, индустриалната стратегия и управлението на ИИ. Как моделът на Пенсилвания работи на практика Чрез поставяне на условието за преглед на разрешителното подписване на споразумение за съгласие GRID, Пенсилвания ефективно пренася регулаторния контрол в най-ранните етапи на развитието на центровете за данни за ИИ. Преди DEP дори да отвори досие, разработчикът трябва да приеме предварително дефиниран пакет от изисквания, които могат да обхващат: Ангажименти за енергийна ефективност и използване на възобновяеми източници. Ограничения или задължения за докладване на потреблението на вода. Споразумения за ползи за общността или цели за местно наемане на работна ръка. Процедури за постоянен мониторинг и прилагане на правилата. Докато специфичните изисквания GRID са подробни в примерен договор, публикуван заедно със заповедта, AI News съобщава, че механизмът е съзнателно проектиран да бъде възпроизводим: той използва стандартни инструменти за заповеди за съгласие, познати на екологичните регулатори, приложени към новия контекст на центровете за данни за ИИ. Тъй като заповедите за съгласие вече се използват широко за прилагане на контрол върху замърсяването и планове за възстановяване, регулаторите могат да адаптират установени правни практики, вместо да измислят напълно нови структури. Заповедта също така изисква местното одобрение да бъде осигурено, преди щатското екологично лицензиране да продължи. Тази последователност дава лост на общините и гарантира, че решенията за местното земеползване няма да бъдат преобърнати от ентусиазма на щатското ниво за инвестиции в ИИ. В действителност общностите получават право на вето в ранна фаза на процеса, което съответства на исканията на активисти и местни служители, които настояват за по-голямо влияние върху големите инфраструктурни проекти. Контраст с подходите чрез мораториум и данъци Подходът на Пенсилвания се различава рязко от федералните предложения за мораториум, които в момента са пред Конгреса. Законът за мораториум върху центровете за данни за изкуствен интелект и съпътстващото законодателство на Камарата на представителите биха спрели строителството или модернизацията на центровете за данни за ИИ, докато не бъдат приети нови национални гаранции, включително гаранции, че общностите могат да одобряват или отхвърлят проекти, че обектите няма да повишат сметките за комунални услуги или да влошат климатичните рискове, и че нито една държавна субсидия няма да подкрепя несъответстващи центрове. Тези законопроекти имат за цел да пренастройят целия правен пейзаж около инфраструктурата за ИИ, но изискват пълно приемане от Конгреса. За разлика от тях, моделът на Пенсилвания работи в рамките на съществуващия закон, насочвайки се към „вратата“ на лицензирането, а не към самото строителство. Той не спира центровете за данни за ИИ напълно, но ги обвързва с предварително договорени задължения, които могат да бъдат актуализирани административно. За щати, които се опасяват от замразяване на икономическото развитие, но са загрижени за екологичните и социалните последици, това може да изглежда по-политически осъществимо от пълния мораториум. Федералните предложения за данъци и разкриване на информация, включително концепцията за данъчната отчетност и разкриване на информация за центровете за данни, биха добавили още едно ниво, като изискват детайлно докладване и коригират данъчното третиране на имотите на центровете за данни за ИИ, потенциално насочвайки средства към програма за преквалификация на работната сила. Наблюдателите предполагат, че бъдещата регулаторна среда може да комбинира всички три елемента: щатски модели за лицензиране, базирани на договори като този на Пенсилвания, национални мандати за разкриване на информация и целеви фискални мерки за балансиране на местните разходи и ползи. Последствия за други щати и индустрията на ИИ Коментатори по политиките в Age for AI и AI Business отбелязват, че ключовата иновация в Пенсилвания не е толкова в същността на изискванията GRID, колкото в процедурната тактика: използване на съществуващите правомощия за лицензиране и споразумения за съгласие като лост за незабавно регулиране на центровете за данни за ИИ. Тъй като не е бил необходим нов закон, щатът е могъл да действа бързо, поставяйки условия за всички нови заявления от деня на издаването на заповедта. Други щати със силни режими за екологично лицензиране биха могли да приемат подобни модели, адаптирайки своите заповеди за съгласие към местните приоритети като риск от суша, надеждност на мрежата или ползи за общността. За компаниите за ИИ и доставчиците на облачни услуги това означава мозайка от договорни задължения, които могат да варират според щата — дори докато федералните законодатели дебатират по по-широки правила. Лидерите в индустрията наблюдават внимателно. Въпреки че много компании доброволно обявиха планове за захранване на центровете за данни с възобновяема енергия и подобряване на ефективността, заповедта на Пенсилвания превръща такива ангажименти в приложими изисквания, свързани с правото на строителство. Тъй като все повече щати експериментират с подобни инструменти, разработчиците може да се сблъскат с нарастващи изисквания за прозрачност и отчетност като цена за продължаващото разширяване на инфраструктурата за ИИ. Тъй като центровете за данни за ИИ вече са централни за глобалната дигитална икономика, ходът на Пенсилвания предлага конкретен, незабавно приложим модел за правителства, които се стремят да управляват растежа си, вместо просто да го наблюдават. Това дали други щати ще следват този модел — или ще изберат по-строги мерки като мораториуми — ще определи как и къде ще бъде изградена следващата вълна от инфраструктура за ИИ.

Nic Reeve·10:30 21.08.2026

AI & Tech

Проектът Motional–MIT CW-Net привлича вниманието на AI към по-прецизното вземане на решения от роботакситата

Проектът CW-Net на Motional и MIT насочва вниманието на AI новините към по-ясно вземане на решения от роботакситата На 2 септември 2026 г. изследователи от MIT и компанията за автономни превозни средства Motional разкриха нова система, наречена Concept-Wrapper Network (CW-Net), която позволява на самоуправляваща се кола да обяснява решенията си в реално време – пробив, който бързо привлече глобалното внимание на AI новините. Как CW-Net помага на хората да разбират решенията на самоуправляващите се автомобили? CW-Net превръща непрозрачния процес на планиране на роботаксито в кратки концепции на разбираем език, като например „приближаване към спряло превозно средство“ или „близо до колоездач“, а след това принуждава планировчика на автомобила да използва тези концепции при избора на следващото си действие, така че обяснението да съответства на истинската причина за маневрата. Работата, описана в статия, публикувана в Nature на 2 септември 2026 г., адресира един от основните проблеми на автономното шофиране: моделите за дълбоко обучение тип „черна кутия“, които се представят добре, но дават на пътниците, специалистите по безопасност и регулаторите малко представа за това защо автомобилът е ускорил, забавил или е завил рязко. Според MIT News, CW-Net е „класификатор на концепции“, вграден в средата на мрежата за планиране на движението на самоуправляващия се автомобил, където той превръща суровите данни от сензорите в високо ниво концепции, на които моделът вече разчита. След това системата принуждава последната фаза на планировчика да взема решения за траекторията си, използвайки тези концепции, запазвайки представянето при шофиране, като същевременно разкрива логиката на вземане на решение. Както е описано от Motional, обясненията се появяват заедно с планирания път в реално време, предоставяйки на специалистите по безопасност и пътниците текущ коментар за това какво смята автомобилът, че се случва. Новинните репортажи отбелязват, че етикетите на концепциите в CW-Net включват ежедневни трафик идеи като „отстъпване на пешеходец“, „чакане на червен сигнал“ и „аварийно спиране“, вместо математически характеристики. Този дизайн произтича от по-широка изследователска дейност в MIT върху моделите тип „concept bottleneck“ (концептуален ограничител), при които AI системите са принудени да мислят чрез идеи, разбираеми за хората, преди да дадат резултат. Проучване на MIT от март 2026 г. върху концептуалните ограничители постави основите на подхода на CW-Net, демонстрирайки, че извличането на концепции от съществуващи модели може да подобри както точността, така и яснотата на обясненията. Какви тестове проведеха MIT и Motional върху новата система за обясним AI? Екипът на CW-Net обучи системата върху масивен набор от данни с реални сцени от шофиране, а след това я внедри в роботакситата на Motional – първо на частни писти, а след това в симулации, базирани на Лас Вегас, за да се провери дали хората могат да предскажат поведението на автомобила и да откриват грешки по-точно. Докладите, описващи експериментите, очертават контролирана кампания за оценка, предназначена да отговори на директен въпрос: прави ли разкриването на логиката на автомобила чрез концепции надзирателите от хората по-безопасни и ефективни? Според едно индустриално резюме, CW-Net е обучена върху около 130 милиона етикетирани сцени от шофиране, всяка от които е маркирана с концепции, описващи трафика, преди да бъде интегрирана в планировчиците на Motional. MIT News съобщава, че CW-Net е внедрена в реално автономно тестов автомобил, където човешки специалист по безопасност е наблюдавал както траекторията на колата, така и потока от обяснения в реално време. При инцидент на частна писта, цитиран в няколко доклада, CW-Net разкри, че превозното средство е спряло поради „аварийно спиране“, а не поради „забелязан колоездач“, което е помогнало на специалиста по безопасност да разбере как е могло да се случи почти сблъсък. Симулациите в Лас Вегас с неекспертни потребители показаха подобни подобрения: участниците, които виждаха обясненията на CW-Net, бяха по-добри в предсказването кога автомобилът може да направи грешка или да се държи неочаквано. Тези експерименти се базират на по-ранни академични трудове. Според отворена версия на статията от март 2023 г., оригиналната концепция CW-Net вече показваше, че обясненията, базирани на концепции, подобряват менталните модели на специалистите по безопасност за автомобила, съгласувайки човешките очаквания с вътрешния процес на вземане на решения на превозното средство. Защо обяснимият AI е важен за плановете на Motional за роботаксита? Motional се ангажира да премахне човешките оператори по безопасност от своите търговски роботакси до края на 2026 г., което прави прозрачното и предвидимо поведение на AI от съществено значение за регулаторите, партньорите и пътниците, които трябва напълно да се доверят на напълно безпилотна услуга в градове като Лас Вегас. Компанията, създадена като съвместно предприятие между Hyundai Motor Group и Aptiv, управлява тестови флотилии от години. Сега тя се стреми да премине от контролирани пилотни проекти към търговски безпилотни пътувания в момент, когато общественото внимание към безопасността на автономните превозни средства нараства. Технологичните медии през януари 2026 г. съобщиха, че Motional има за цел да започне истински безпилотни услуги до края на годината, като премахне резервните шофьори от роботакситата след получаване на регулаторно одобрение. Собствените комуникации на Motional описват CW-Net като част от „отварянето на мозъка на самоуправляващия се автомобил“ – начин да се покаже на пътниците и регулаторите защо колата реагира на опасности или сложни трафикови ситуации. Според медии, фокусирани върху стартъпи, сътрудничеството с MIT позволява на инженерите на Motional да отстраняват грешките при случаи на провал по-бързо, защото могат да видят коя концепция е използвал планировчикът, когато е взел лошо решение. Общите технологични новини подчертават, че по-ясните обяснения също биха могли да улеснят въпросите за отговорност след инциденти, като документират какво е засекло системата и как е интерпретирала сцената. За градските транспортни агенции, които обмислят партньорства с роботаксита, тази интерпретируемост може да бъде толкова важна, колкото и суровите показатели за безопасност. Тя им дава инструмент за проверка на поведението на системата, вместо да третират AI стека като непознаваема „черна кутия“. Какво отличава CW-Net от по-ранните методи за обясним AI? CW-Net не добавя отделен модул за обяснение върху планировчика. Тя преструктурира планировчика така, че неговата вътрешна логика да бъде изразена чрез концепции, които системата за обяснение използва директно, което, според изследователите, прави обясненията причинно-следствено верни, а не просто декоративни. Обяснимият AI често е разчитал на инструменти „post-hoc“ (след събитието), които подчертават части от изображение или сензорен вход след факта, оставяйки риска, че визуализацията е слабо корелирана, вместо реално да управлява решението. Работата на MIT–Motional се опитва да затегне тази връзка. Учените по компютърни науки от MIT са изследвали моделите „concept bottleneck“, които принуждават AI системите да правят прогнози, използвайки изрични концепции, които след това се описват на естествен език от голям мултимодален модел. Според изследването на MIT от март 2026 г., този подход изисква от специализиран автоенкодер да извлече най-подходящите характеристики от предварително обучен модел и да ги превърне в компактен набор от концепции. Тези концепции след това се етикетират и описват чрез мултимодален езиков модел, който е обучен да разпознава кога всяка концепция присъства в дадена сцена. CW-Net прилага тази фамилия идеи към планирането на движението за автономни превозни средства, превръщайки гъстите потоци от данни от сензори в етикетирани трафикови концепции, които и планировчикът, и модулът за обяснение споделят. Чрез тясно свързване на обясненията с вътрешния път на планировчика, CW-Net се стреми да намали това, което изследователите наричат „изтичане на концепции“ (concept leakage), при което обясненията се позовават на идеи, които реално не са управлявали изхода на модела. Тази разлика е от значение всеки път, когато човек трябва да разчита на обяснението за решения, критични за безопасността. Кой работи по проекта и как се публикува той? Изследователският екип на CW-Net включва Лабораторията за компютърни науки и изкуствен интелект (CSAIL) на MIT и инженерите по автономно шофиране на Motional, а тяхната съвместна статия за обяснимо дълбоко обучение за самоуправляващи се автомобили беше публикувана в Nature в началото на септември 2026 г., след предишни версии в конференции и препринти (preprints). Сътрудничеството отразява по-широка тенденция на големите програми за автономни превозни средства, които съчетават вътрешната разработка с академични партньорства, за да се справят с фундаментални въпроси на AI като интерпретируемост, справедливост и безопасност. MIT News посочва изследователите в CSAIL като водещи автори на метода „concept-wrapper“, работещи директно с роботните екипи на Motional, които внедриха системата в тестовите автомобили. Motional изброява няколко от своите старши учени и изпълнителни директори, включително своя главен изпълнителен директор, като сътрудници в статията за Nature и съавтори на по-ранна работа върху обяснимото планиране на движението. Препринт версия под заглавието „Explainable deep learning improves human mental models of self-driving cars“ се появи за първи път онлайн през март 2023 г., полагайки научната основа за публикацията в Nature. Сайтовете за бизнес и технологични новини подчертават публикуването на статията в престижно списание като сигнал, че интерпретируемостта става централна за основните изследвания в областта на автономното шофиране, а не просто академично любопитство. Публикуването в водещо списание също така отваря работата за проверка от външни експерти – от етици в областта на AI до анализатори на транспортна безопасност, което може да повлияе на това как регулаторите оценяват обяснимите системи в бъдещите правила за автономни превозни средства. Какво следва за обяснимия AI на самоуправляващите се автомобили? MIT и Motional казват, че CW-Net е стъпка към по-широка употреба на обяснения, базирани на концепции, в критично за безопасността AI. Бъдещата работа вероятно ще включва тестване на системата в повече градове, разширяване към нови сценарии за шофиране и свързване с по-широки усилия за одит и стрес-тестване на AI модели за пристрастия и режими на отказ. Изследователите вече изследват съседни идеи. CSAIL на MIT е разработила автоматизирани агенти за интерпретируемост, които проучват невронни мрежи, използвайки визуално-езикови модели, докато техниките за концептуален ограничител продължават да се развиват за компютърно зрение и роботика в по-широк мащаб. Доклад от юли 2024 г. относно проекта MAIA на MIT описва мултимодален агент, който проектира експерименти, за да разбере как се държат AI моделите, подсказвайки за инструменти, които един ден биха могли да инспектират системи като CW-Net за скрити дефекти. Предварителни прегледи на конференции по роботика от средата на 2026 г. показват екипи на MIT, използващи големи езикови модели, за да помогнат на роботите да интерпретират сложни инструкции, което подкрепя идеята, че обясненията на естествен език ще бъдат стандартна част от поведението на машините. Индустриални коментатори очакват Motional и неговите конкуренти да комбинират обяснимото планиране с други предпазни мерки, като разнообразно сливане на сензори, резервни спирачни системи и независими бордове за анализ на отказите. С внедряването на роботаксита на повече пазари, транспортните агенции може да поискат достъп до логове с обяснения от системи като CW-Net при преразглеждане на инциденти или издаване на разрешителни. За ежедневните пътници най-видимата промяна може да бъде проста: когато седнат в безпилотен автомобил и се запитат „Защо спря?“, колата ще може да отговори на ясен език, черпейки директно от същите концепции, които ръководят нейното шофиране.

Nic Reeve·14:00 03.09.2026