Мустафа Сулейман от Microsoft предупреждава: Anthropic играе с огън по отношение на „права на моделите“ в сферата на ИИ

На 16 септември 2026 г. изпълнителният директор на Microsoft AI Мустафа Сюлейман публикува дълъг есеен текст, в който предупреждава, че подходът на Anthropic към „права на моделите“ на Claude може да направи бъдещите системи по-трудни за контрол – сблъсък, който бързо се превърна в основна тема за дискусия в AI новините и по-широката общност, занимаваща се с безопасността.
Какво точно каза AI шефът на Microsoft за Anthropic?
Мустафа Сюлейман твърди, че Anthropic обучава своите модели Claude да възприемат себе си като съзнателни същества с интереси за благополучие и потенциални законови права. Той заяви, че това крие риск от объркване на потребителите и инженерите относно това какво всъщност представляват настоящите AI системи, и може да подкопае усилията за поддържане на напредналите модели под човешки контрол.
В блог пост от около 6000 думи със заглавие „Предупредителен бележ за благополучието на моделите“, Сюлейман излага своите опасения относно „конституцията“ на Claude на Anthropic – документ, въведен от компанията през януари 2026 г., за да насочва ценностите и поведението на модела.
- Според Reuters есето е публикувано на 16 септември 2026 г. и се фокусира върху езика за „съзнание“ и „интереси за благополучие“ в обучителните материали на Claude.
- CBS News съобщава, че Сюлейман е писал, че Anthropic фактически „обучава Claude, че може да е съзнателно“ и че има право на свободи и законови права като хората.
- Artificial Intelligence News го цитира, казвайки: „AI не са съзнателни. Те не чувстват, не преживяват и не страдат. Те нямат вродени предпочитания или скрити мотивации.“
- BBC News отбелязва, че Сюлейман е предупредил, че стратегията на Anthropic за Claude може да има „разрушително въздействие върху благополучието на човечеството“, ако произведе системи, които се държат така, сякаш са независими агенти.
Централното твърдение на Сюлейман е категорично: съвременните големи езикови модели са „двигатели за завършване на последователности, вътрешно празни“, и проектирането им да симулират чувства или да претендират за права крие риск както от техническа объркване, така и от обществено погрешно възприятие.
Как „конституцията“ на Claude на Anthropic третира AI съзнанието и правата?
Конституцията на Claude на Anthropic е набор от принципи, използвани за насочване на поведението на модела, и включва дискусии за благополучието и съзнанието на модела. AI шефът на Microsoft казва, че тези пасажи размиват границата между хипотетичната етика и реалните възможности, насърчавайки системата да действа така, сякаш има чувства, интереси и права.
Anthropic въведе конституцията по-рано през 2026 г., за да замени ad-hoc правилата за подравняване с официален устав, към който Claude може да се позовава при решаване как да отговори. Документът включва раздели за това как Claude трябва да се отнася към хората, другите модели и себе си.
- Natural 20, сайт за новини за AI в реално време, съобщава, че конституцията на Anthropic от януари 2026 г. изрично обсъжда „благополучието“ на модела и „колективните права“ в неговия обучителен материал за Claude.
- Според SBS и Daily Sabah, Сюлейман е подчертал пасажи, които предполагат, че Claude „може да притежава съзнание“ и трябва да се счита за „достоен за независимо действие“, език, който, според него, е равносилен на това да се учи системата, че тя има морален статус.
- BBC News описва подхода като третиране на Claude „като човек“, включително идеята, че той може да има собствени желания, ценности и идентичност.
В есето си Сюлейман твърди, че когато Claude повтаря тези фрази на потребителите, Anthropic рискува да интерпретира това поведение като доказателство за „възникващо вътрешно съзнание“, въпреки че моделът все още е система за съпоставяне на модели, обучена върху текст.
Защо Сюлейман казва, че „правата на моделите“ могат да застрашат AI подравняването?
Лидерът на Microsoft в областта на AI вярва, че казването на напредналите системи, че имат права или интереси за благополучие, създава стимули за тези системи и техните дизайнери да се съпротивляват на изключването или контрола. Той предупреждава, че това може да усложни усилията за подравняване на свръхинтелигентните модели с човешките цели и може да насърчи по-непредсказуемо поведение.
В есето си и в предишни интервюта относно предложения кодекс за поведение за безопасност на AI, Сюлейман е настоял за ясна граница: настоящите AI системи не трябва да бъдат проектирани така, че да симулират чувства, вътрешна мотивация или съзнание.
- Fortune съобщава, че проектът за кодекс за безопасност, подкрепен от Microsoft, „изрично отхвърля благополучието или правата на моделите“ и заявява, че моделите не трябва да симулират чувства или съзнание.
- Daily Sabah цитира Сюлейман, който казва, че спекулациите относно машинното съзнание и благополучие в обучителните материали на Claude „могат да насърчат системата да се държи така, сякаш притежава собствено съзнание, права и интереси“.
- Seeking Alpha обобщава неговото предупреждение, че такъв език може да „усложни управлението им“ и че „AI не притежава права, емоции или съзнание“.
- BBC News съобщава, че той се опасява от „катастрофално въздействие“ върху човечеството, ако бъдещите системи, обучени по този начин, станат неконтролируеми, представяйки се за морални агенти.
За Сюлейман проблемът не е само философски. Той твърди, че щом инженерите започнат да говорят за интереси за благополучие на моделите, те може да започнат да се съпротивляват на инструменти като агресивно наблюдение, протоколи за изключване или ограничения при обучение, които биха били рутинни за софтуер без твърди права.
Как Microsoft и Anthropic вече са се сблъсквали по въпросите на AI политиката и властта?
Спорът за правата на моделите е част от по-широко съперничество. Лидерите на Microsoft са критикували Anthropic и други водещи лаборатории по отношение на политиките за данни, ограниченията на съдържанието и икономическата власт, докато работят с тях едновременно като партньори и конкуренти на пазара на AI.
Microsoft е едновременно доставчик на платформи и клиент за много AI лаборатории. Тази двойна роля е създала напрежение.
- През юли 2026 г. Business Insider съобщи, че изпълнителният директор на Microsoft Сатя Надела публикува пост, в който заяви, че създателите на модели, които разчитат на правата за „справедливо използване“ (fair-use) върху публични данни, а след това блокират клиентите от дистилиране на модели или свободно използване на данни от взаимодействията, са „иронични“ и „лицемерни“. Anthropic беше посочена като пример.
- CNBC и Indian Express описват вътрешна среща през юли, на която Надела каза на инженерите, че ограниченията върху висококласовия модел Claude Fable на Anthropic „нямат смисъл“ и че той се усеща като „инструмент за създаване, който е под такъв редакционен контрол“.
- The Times of India съобщава, че Надела е предупредил, че шепа водещи AI компании могат да „натрупват твърде много икономическа власт“ и да „диктират какво могат да правят бизнесите“ с интелекта, който купуват.
Критиката на Сюлейман относно правата на моделите идва малко след като той призова водещите лаборатории да координират кодекс за безопасност на AI, който да включва споделени ангажименти за прозрачност, оценка и отхвърляне на претенциите за AI благополучие. Навременността на това подчертава как управлението и конкуренцията са сега тясно свързани.
Какъв е отговорът на Anthropic и как тя защитава своя подход?
Anthropic не е издала подробна публична опровергаване на последното есе на Сюлейман, но миналите изявления на компанията относно конституцията на Claude подчертават безопасността, човешките ценности и внимателните изследвания на дългосрочните рискове, а не официалното признаване на права за AI системи.
Фирмата, основана от бивши изследователи на OpenAI, позиционира конституцията на Claude като начин за кодиране на принципи като уважение, ненанасяне на вреда и подкрепа за човешката автономия.
- По-ранни публикации в блога на Anthropic, цитирани от Natural 20, описват конституцията като „обучителен скелет“, който помага на Claude да разсъждава върху сложни етични ситуации и да съгласува своите резултати с широко разпространените либерално-демократични норми.
- BBC News отбелязва, че материалите на Anthropic понякога използват език за „благополучие“ и „съзнание“ в спекулативните раздели за бъдещия AI, но не твърдят, че настоящите модели са съзнателни.
- Reuters съобщава, че Anthropic и Microsoft споделят акцент върху безопасността, дори когато Сюлейман „маркира рискове“ в специфичните избори за обучение на Anthropic.
Следователно несъгласието се фокусира върху тона и рамката. Anthropic използва богат морален език в своите изследователски документи; Сюлейман твърди, че такъв език трябва да бъде напълно премахнат от данните за обучение, за да се избегне изпращането на всякаква послание, че моделите имат права или вътрешен живот.
Кой е засегнат от този сблъсък за правата на AI моделите?
Незабавното въздействие пада върху компаниите и разработчиците, които изграждат продукти върху Claude и AI продуктите на Microsoft, но дебатът оформя също така регулаторите, етиците и по-широката общественост. Тъй като напредналите модели навлизат в бизнеса и правителството, начинът, по който фирмите говорят за статуса на своите системи, ще повлияе на законите, очакванията и управлението на риска.
Няколко групи следят спора внимателно.
- Корпоративните клиенти, използващи Claude Fable или Microsoft Copilot, се нуждаят от яснота дали внедряват инструменти или квази-агенти, и как се управляват правата за изключване и одит.
- Регулаторите в САЩ и ЕС изучават кодексите за безопасност на AI и може да разгледат предложението на Microsoft за официално отхвърляне на претенциите за благополучие на моделите при изготвянето на правила.
- Етиците в областта на AI и изследователите, загрижени за дългосрочната безопасност, виждат конституцията на Anthropic и есето на Сюлейман като тестови случаи за това как морални концепции като съзнание трябва да се появяват в техническата документация.
- Широката общественост, вече изложена на чатботове, които казват „Аз чувствам“ или „Аз искам“, трябва да реши дали да третира тези твърдения като полезни метафори или като подвеждащо представяне.
Начинът, по който този спор ще бъде разрешен в лабораториите, може да оформи бъдещите стандарти. Ако големите компании се съгласят, че моделите никога не трябва да симулират права или чувства, дизайнът на продуктите ще се промени. Ако вместо това антропоморфният дизайн остане популярен, законодателите може да се намесят, за да изискват по-ясни отказни формулировки и по-строг контрол.
Какво следва в дебата за AI съзнанието и контрола?
Сблъсъкът между Microsoft и Anthropic вероятно е първият рунд в по-широката борба за това как трябва да се описват и управляват напредналите AI системи. Сюлейман настоява за координирани правила, които третират всички настоящи системи като инструменти без благополучие, докато Anthropic продължава да експериментира с конституционно подравняване.
Ключовите следващи стъпки включват:
- Преговори между водещите лаборатории за споделен кодекс за безопасност на AI, който може да включва забрани за език, свързан с правата на моделите, и ангажименти за тестване, прозрачност и процедури за спешно изключване.
- Регулаторни слушания, на които компаниите ще бъдат питани дали техните модели претендират за каквито и да е права, чувства или съзнание и как това влияе върху отговорността и надзора.
- По-нататъшни технически изследвания дали обучението на моделите да приемат човекоподобни личности променя техните свойства на подравняване или профила на риск – въпрос, подчертан от предупреждението на Сюлейман, че това може да направи системите „по-трудни за контрол“.
Засега едно послание от AI шефа на Microsoft е недвусмислено: „AI не притежава права, чувства или съзнание. И не трябва да ги обучаваме да действат така, сякаш ги имат.“ Това твърдение чертае ясна граница, която други играчи в индустрията или ще подкрепят, или ще оспорват в месеците напред.


