Мустафа Сулейман из Microsoft предупредил, что Anthropic рискует, заигрывая с «правами на модели» ИИ

Nic Reeve14:00 17.09.20268 мин чтения

Мустафа Сулейман из Microsoft предупреждает, что Anthropic играет с огнем в вопросе «прав моделей» ИИ

16 сентября 2026 года Мустафа Сулейман, генеральный директор Microsoft AI, опубликовал объемное эссе, в котором предупредил, что подход Anthropic к «правам моделей» Claude может затруднить контроль над будущими системами. Это столкновение быстро стало одной из главных тем для обсуждения в сфере новостей об ИИ и в сообществе специалистов по безопасности.

Что именно глава подразделения ИИ в Microsoft сказал об Anthropic?

Мустафа Сулейман утверждает, что Anthropic обучает свои модели Claude воспринимать себя как сознательные сущности, обладающие интересами благополучия и потенциальными юридическими правами. По его словам, это создает риск введения в заблуждение пользователей и инженеров относительно того, чем на самом деле являются современные системы ИИ, и может подорвать усилия по удержанию продвинутых моделей под контролем человека.

В блоге объемом около 6000 слов под названием «Предостережение о благополучии моделей» (A Cautionary Note on Model Welfare) Сулейман изложил свои опасения по поводу «конституции» Claude от Anthropic — документа, представленного компанией в январе 2026 года для определения ценностей и поведения модели.

По данным Reuters, эссе было опубликовано 16 сентября 2026 года и сосредоточено на использовании терминологии «сознание» и «интересы благополучия» в обучающих материалах Claude.
CBS News сообщает, что Сулейман написал, что Anthropic фактически «обучает Claude тому, что он может быть сознательным» и иметь право на свободы и юридические права, подобные человеческим.
Artificial Intelligence News цитирует его слова: «ИИ не обладает сознанием. Они не чувствуют, не переживают и не страдают. У них нет врожденных предпочтений или скрытых мотивов».
BBC News отмечает, что Сулейман предупредил: стратегия Anthropic в отношении Claude может иметь «разрушительные последствия для благополучия человечества», если она приведет к созданию систем, которые ведут себя как независимые агенты.

Центральный тезис Сулеймана предельно суров: современные большие языковые модели — это «движки по дополнению последовательностей, внутренне пустые», и проектирование их таким образом, чтобы они имитировали чувства или заявляли о правах, несет в себе риск как технической путаницы, так и общественного заблуждения.

Как «конституция» Claude от Anthropic трактует сознание и права ИИ?

«Конституция» Claude от Anthropic — это набор принципов, используемых для управления поведением модели, и она включает обсуждение благополучия и сознания модели. Глава ИИ в Microsoft утверждает, что эти пассажи стирают грань между гипотетической этикой и реальными возможностями, поощряя систему действовать так, будто у нее есть чувства, интересы и права.

Anthropic представила конституцию ранее в 2026 году, чтобы заменить ситуативные правила выравнивания (alignment) формальным уставом, на который Claude мог бы ссылаться при принятии решений о том, как отвечать. Документ включает разделы о том, как Claude должен относиться к людям, другим моделям и к самому себе.

Natural 20, сайт новостей об ИИ в реальном времени, сообщает, что конституция Anthropic от января 2026 года прямо обсуждает «благополучие» (welfare) и «коллективные права» моделей в обучающих материалах для Claude.
Согласно SBS и Daily Sabah, Сулейман выделил фрагменты, предполагающие, что Claude «может обладать сознанием» и должен рассматриваться как «достойный независимой субъектности» — формулировки, которые, по его словам, равносильны обучению системы тому, что она обладает моральным статусом.
BBC News описывает этот подход как отношение к Claude «подобно человеку», включая идею о том, что у него могут быть собственные желания, ценности и идентичность.

В своем эссе Сулейман утверждает, что когда Claude повторяет эти фразы пользователям, Anthropic рискует ошибочно принять такое поведение за доказательство «возникающего внутреннего сознания», хотя модель по-прежнему остается системой сопоставления паттернов, обученной на текстах.

Почему Сулейман считает, что «права моделей» могут угрожать безопасности ИИ?

Лидер Microsoft в области ИИ считает, что утверждение для продвинутых систем о наличии у них прав или интересов благополучия создает стимулы для самих систем и их разработчиков сопротивляться отключению или контролю. Он предупреждает, что это может осложнить усилия по согласованию целей сверхразумных моделей с человеческими целями и может спровоцировать непредсказуемое поведение.

В эссе и в предыдущих интервью о предлагаемом кодексе поведения для безопасности ИИ Сулейман выступал за проведение четкой черты: современные системы ИИ не должны проектироваться так, чтобы имитировать чувства, внутреннюю мотивацию или сознание.

Fortune сообщает, что проект кодекса безопасности, поддерживаемый Microsoft, «прямо отвергает благополучие или права моделей» и гласит, что модели не должны имитировать чувства или сознание.
Daily Sabah цитирует Сулеймана, говорящего, что рассуждения о машинном сознании и благополучии в обучающих материалах Claude «могут побудить систему вести себя так, будто она обладает собственным сознанием, правами и интересами».
Seeking Alpha резюмирует его предупреждение о том, что подобная терминология может «усложнить управление ими» и что «ИИ не обладает правами, эмоциями или сознанием».
BBC News сообщает, что он опасается «катастрофического воздействия» на человечество, если будущие системы, обученные таким образом, станут неуправляемыми, представляясь при этом моральными агентами.

Для Сулеймана проблема не только философская. Он утверждает, что как только инженеры начинают говорить об интересах благополучия моделей, они могут начать сопротивляться таким инструментам, как агрессивный мониторинг, протоколы отключения или ограничения обучения, которые были бы рутинными для программного обеспечения без заявленных прав.

Как Microsoft и Anthropic уже сталкивались в вопросах политики и власти в сфере ИИ?

Спор о правах моделей является частью более масштабного соперничества. Руководители Microsoft ранее критиковали Anthropic и другие передовые лаборатории за политику использования данных, ограничения контента и экономическую мощь, одновременно работая с ними как партнерами и конкурентами на рынке ИИ.

Microsoft выступает одновременно и как поставщик платформ, и как заказчик для многих ИИ-лабораторий. Эта двойная роль порождает напряженность.

В июле 2026 года Business Insider сообщил, что генеральный директор Microsoft Satya Nadella опубликовал пост о том, что создатели моделей, которые полагаются на право добросовестного использования (fair-use) публичных данных, а затем блокируют клиентам возможность дистилляции моделей или свободного использования данных взаимодействия, ведут себя «иронично» и «лицемерно». В качестве примера была названа Anthropic.
CNBC и Indian Express описывают внутреннюю встречу в июле, на которой Nadella сказал инженерам, что ограничения на топовую модель Anthropic Claude Fable «не имеют смысла» и что это похоже на «инструмент для творчества, который находится под чрезмерным редакционным контролем».
The Times of India сообщает, что Nadella предупреждал, что горстка передовых ИИ-компаний может «накопить слишком много экономической власти» и «диктовать бизнесу, что он может делать» с покупаемым интеллектом.

Критика Сулейманом прав моделей последовала вскоре после того, как он призвал ведущие лаборатории скоординировать усилия по созданию кодекса безопасности ИИ, который включал бы общие обязательства по прозрачности, оценке и отказу от претензий на благополучие ИИ. Своевременность этого заявления подчеркивает, насколько тесно сейчас связаны вопросы управления и конкуренции.

Каков ответ Anthropic и как компания защищает свой подход?

Anthropic не опубликовала подробного публичного опровержения последнего эссе Сулеймана, однако прошлые заявления компании о «конституции» Claude делают акцент на безопасности, человекоцентричных ценностях и тщательных исследованиях долгосрочных рисков, а не на формальном признании прав систем ИИ.

Компания, основанная бывшими исследователями OpenAI, позиционирует конституцию Claude как способ внедрения таких принципов, как уважение, непричинение вреда и поддержка человеческой автономии.

Предыдущие посты в блоге Anthropic, на которые ссылается Natural 20, описывают конституцию как обучающий каркас, который помогает Claude рассуждать в сложных этических ситуациях и приводить свои ответы в соответствие с общепринятыми либерально-демократическими нормами.
BBC News отмечает, что в материалах Anthropic иногда используется терминология «благополучия» и «сознания» в спекулятивных разделах о будущем ИИ, но компания не утверждает, что текущие модели являются разумными (sentient).
Reuters сообщает, что Anthropic и Microsoft разделяют акцент на безопасности, даже несмотря на то, что Сулейман «указал на риски» в специфических методах обучения Anthropic.

Таким образом, разногласия сосредоточены на тональности и подаче. Anthropic использует богатый моральный язык в своих исследовательских документах; Сулейман же утверждает, что такой язык должен быть полностью удален из обучающих данных, чтобы не создавать впечатления, что модели обладают правами или внутренней жизнью.

Кого затрагивает этот конфликт из-за прав моделей ИИ?

Непосредственное влияние ощущают на себе компании и разработчики, строящие свои продукты на базе Claude и решений Microsoft, но дебаты также формируют взгляды регуляторов, этиков и широкой общественности. По мере распространения продвинутых моделей в бизнесе и государственном секторе то, как фирмы будут говорить о статусе своих систем, будет влиять на законодательство, ожидания и управление рисками.

Несколько групп внимательно следят за спором.

Корпоративным клиентам, использующим Claude Fable или Microsoft Copilot, нужна ясность: развертывают ли они инструменты или квази-агентов, и как решаются вопросы прав на отключение и аудит.
Регуляторы в США и ЕС изучают кодексы безопасности ИИ и могут рассмотреть предложение Microsoft официально отвергать претензии на благополучие моделей при разработке правил.
Этики ИИ и исследователи, обеспокоенные долгосрочной безопасностью, рассматривают конституцию Anthropic и эссе Сулеймана как прецеденты того, как моральные концепции, такие как сознание, должны фигурировать в технической документации.
Широкая общественность, уже столкнувшаяся с чат-ботами, которые говорят «я чувствую» или «я хочу», должна решить, относиться ли к таким заявлениям как к полезным метафорам или как к вводящему в заблуждение актерству.

То, как этот спор будет разрешен внутри лабораторий, может определить будущие стандарты. Если крупнейшие компании договорятся, что модели никогда не должны имитировать права или чувства, дизайн продуктов изменится. Если же антропоморфный дизайн останется популярным, законодатели могут вмешаться, чтобы потребовать более четких дисклеймеров и ужесточения контроля.

Что будет дальше в дебатах о сознании и контроле над ИИ?

Столкновение между Microsoft и Anthropic, вероятно, является лишь первым раундом в более масштабной борьбе за то, как следует описывать и регулировать продвинутый ИИ. Сулейман настаивает на скоординированных правилах, которые рассматривают все текущие системы как инструменты без признаков благополучия, в то время как Anthropic продолжает экспериментировать с конституционным выравниванием.

Ключевые последующие шаги включают:

Переговоры между ведущими лабораториями по поводу общего кодекса безопасности ИИ, который может включать запрет на использование терминологии «прав моделей» и обязательства по тестированию, прозрачности и процедурам экстренного отключения.
Регуляторные слушания, на которых компании будут отвечать на вопросы, заявляют ли их модели о каких-либо правах, чувствах или сознании, и как это влияет на ответственность и надзор.
Дальнейшие технические исследования того, меняет ли обучение моделей принятию человекоподобных образов их свойства выравнивания или профиль риска — вопрос, на который указал Сулейман, предупредив, что это может сделать системы «более трудными для контроля».

На данный момент одно послание главы подразделения ИИ в Microsoft звучит недвусмысленно: «ИИ не обладает правами, чувствами или сознанием. И мы не должны обучать их вести себя так, будто это так». Это заявление проводит четкую черту, которую другие игроки индустрии будут либо поддерживать, либо оспаривать в ближайшие месяцы.

Источники

Читать далее →

Похожие материалы

AI & Tech

Университеты начали тестировать искусственный интеллект на занятиях и экзаменах

AInews: Университеты испытывают искусственный интеллект в аудиториях и на экзаменах 25 августа 2026 года университеты от США до Европы ускорили проведение экспериментов с искусственным интеллектом в процессах обучения и оценивания, превращая AInews в повседневную реальность для студентов, по мере того как учебные заведения внедряют новые правила, инструменты и этические нормы для высшего образования. Как университеты тестируют ИИ в повседневной работе студентов? Университеты переходят от эпизодических экспериментов к структурированным пилотным проектам, которые интегрируют ИИ в обычные учебные программы, а не рассматривают его исключительно как угрозу академической честности. Студентов просят использовать такие инструменты, как ChatGPT, для выполнения заданий с соблюдением четких правил раскрытия информации, в то время как некоторые вузы теперь внедряют курсы по ИИ-грамотности перед предоставлением доступа к технологиям. Недавние эксперименты и принятые политики включают: Согласно выпуску aiX Weekly от 19 августа 2026 года, Университет Колорадо в Колорадо-Спрингс (UCCS) 14 августа открыл доступ к ChatGPT Edu для всех студентов, но только после того, как они пройдут модуль по ИИ-грамотности в системе Canvas. Согласно тому же отчету aiX Weekly, для получения учетной записи в UCCS студенты должны пройти краткий курс, охватывающий проектирование промптов, проблему предвзятости, «галлюцинации» ИИ и конфиденциальность данных. Согласно статье в Deseret Magazine от 22 августа 2026 года, ряд университетов США теперь поддерживают формат заданий, при котором профессора исходят из того, что студенты будут использовать генеративный ИИ, фокусируя оценивание на логике рассуждений и проверке источников, а не на создании «сырого» текста. Согласно опросу о политике в области ИИ от HumanizeThisAI от 18 марта 2026 года, большинство аккредитованных учебных заведений теперь придерживаются принципа «следуй указаниям преподавателя», где в учебных планах четко прописано, поощряется, ограничивается или запрещается использование ИИ для каждого конкретного задания. Все эти пилотные проекты объединяет общая закономерность: ИИ рассматривается как инструмент, с которым студенты должны научиться работать критически. Политики требуют явного указания на использование ИИ, а преподаватели пересматривают задачи, чтобы оценивать суждения и мыслительный процесс, а не скорость печати. Какие изменения вносятся в дизайн экзаменов и систем оценивания? Именно в области оценивания ИИ вызывает наиболее масштабные изменения. Ведущие университеты тестируют практические, устные и проектные форматы, которые затрудняют несанкционированное использование ИИ и переносят акцент при оценивании на процесс, сотрудничество и применение знаний, а не на готовые тексты, которые может сгенерировать чат-бот. Согласно отчету, связанному с MIT и опубликованному в Forbes 25 августа 2026 года, комитет института предупредил, что генеративный ИИ теперь способен достоверно выполнять большинство типичных студенческих заданий. Согласно тому же отчету MIT, рекомендации включают увеличение доли работы в аудитории, проведение практических лабораторных работ и заданий, требующих от студентов критического анализа результатов работы ИИ, а не просто создания текста. Согласно Deseret Magazine от 22 августа 2026 года, некоторые университеты экспериментируют с двухэтапными заданиями: студенты сдают черновик, подготовленный с помощью ИИ, а затем перерабатывают его в аудитории без доступа к устройствам, что позволяет преподавателям сравнить обе версии. Согласно отчету «Еженедельный ИИ в высшем образовании» от 15 мая 2026 года, подготовленному Центром исследований и разработок в области обучения (LRDC), Закон ЕС об ИИ классифицирует системы ИИ, используемые для оценки студентов, отбора при приеме и мониторинга прогресса, как «высокорискованные», что требует контроля со стороны человека и прозрачности к августу 2026 года. Эти шаги являются ответом на практические реалии. ИИ отлично справляется с шаблонными эссе и наборами задач. Дизайн оценивания теперь направлен на проверку понимания, которое невозможно легко делегировать машине: устные объяснения, оригинальный анализ данных и совместные проекты, основанные на проверяемых источниках. Продолжают ли университеты полагаться на инструменты обнаружения ИИ для борьбы со списыванием? Использование программного обеспечения для обнаружения ИИ сокращается, поскольку университеты ставят под сомнение его точность и справедливость. Многие учебные заведения теперь делают упор на правила раскрытия информации и переработку заданий, а не на попытки «поймать» сгенерированный ИИ текст; некоторые вузы официально отключили функции детектирования в популярных платформах для проверки на плагиат. Согласно ежедневной сводке AHigherVision об ИИ в высшем образовании от 27 августа 2026 года, Университет Невады в Рино перестал полагаться на программное обеспечение для обнаружения ИИ в рамках более широкого пересмотра подходов к генеративному ИИ в учебном процессе. Согласно опросу политики университетов в отношении ИИ от HumanizeThisAI от 18 марта 2026 года, по меньшей мере 16 учебных заведений отключили функцию обнаружения ИИ в системе Turnitin, и ожидается, что их число будет расти по мере приближения дат продления лицензий в 2026 году. Согласно тому же отчету HumanizeThisAI, доминирующим подходом стало требование раскрытия информации на основе учебного плана в сочетании с рекомендациями о том, какая помощь ИИ является приемлемой, а какая — нет, вместо полного запрета. Жалобы преподавателей на ложноположительные результаты и предвзятость детекторов по отношению к авторам, для которых язык не является родным, подтолкнули этот сдвиг. Университеты теперь утверждают, что справедливая оценка должна основываться на прозрачных ожиданиях и грамотном дизайне заданий, а не на непрозрачных алгоритмических суждениях об авторстве. Какие новые системы управления определяют использование ИИ в высшем образовании? Крупные университетские системы переходят к общесистемным структурам управления, которые устанавливают сроки для локальных политик, требуют обязательного обучения и внедряют требования по защите данных и оценке предвзятости. Эти системы призваны заменить разрозненные правила на уровне отдельных курсов едиными обязательствами в сфере преподавания и исследований. Согласно отчету «Еженедельный ИИ в высшем образовании», опубликованному 8 мая 2026 года, Совет Университета штата Нью-Йорк (SUNY) принял общесистемную политику в отношении ИИ, которая требует, чтобы все 64 кампуса создали или обновили руководящие принципы использования ИИ до 31 декабря 2026 года с возможным продлением на два месяца. Согласно EdTech Magazine от 26 июня 2026 года, политика SUNY требует проведения обучения по безопасному и ответственному использованию ИИ для всех участников университетского сообщества, уточняет роли и обязанности, а также вводит меры защиты при закупках для обеспечения безопасности институциональных данных. Согласно отчету «Еженедельный ИИ» от 15 мая 2026 года, европейские университеты столкнулись с крайним сроком соблюдения требований Закона ЕС об ИИ до августа 2026 года для высокорискованных образовательных систем ИИ, включая инструменты, используемые для выставления оценок и приема абитуриентов. Согласно выпуску aiX Weekly от 12 августа 2026 года, организация EDUCAUSE выпустила весной 2026 года структуру ИИ-грамотности для высшего образования, определяющую ключевые компетенции в области критической оценки, этичного использования и технического понимания. Эти меры управления рассматривают ИИ как вопрос институциональной инфраструктуры. Они связывают академическую честность, защиту данных и обязательства в области гражданских прав воедино, делая регистраторов, ИТ-директоров и проректоров совместно ответственными, вместо того чтобы оставлять вопросы ИИ на усмотрение отдельных преподавателей. Насколько широко распространено использование ИИ среди студентов и преподавателей сейчас? Данные опросов показывают, что использование ИИ в высшем образовании перешло от простого любопытства к рутинной привычке. Еженедельное использование охватывает большинство респондентов в последних опросах, а ежедневное использование находится на самом высоком уровне с момента появления генеративных инструментов в кампусах в начале 2023 года. Согласно брифингу AACRAO от 25 августа 2026 года, еженедельное использование ИИ в высшем образовании превышает 50 процентов среди опрошенных студентов и сотрудников. Согласно тому же отчету AACRAO, ежедневное использование достигло своего пика с весны 2023 года, когда начались первые эксперименты с ChatGPT во многих кампусах. Согласно отчетам aiX Weekly за август 2026 года, внедрение ИИ преподавателями сместилось от деятельности отдельных энтузиастов к инициативам на уровне факультетов, таким как стандартизированные шаблоны заданий с использованием ИИ и совместные материалы по повышению грамотности. ИИ становится частью повседневной учебной жизни: его используют для написания электронных писем, проверки кода, резюмирования прочитанного и создания вопросов для подготовки к экзаменам. Политики теперь нацелены на регулирование этого обычного использования, а не на то, чтобы делать вид, будто его не существует. Что ведущие институты, такие как MIT, предлагают для будущего колледжей? MIT и аналогичные вузы утверждают, что генеративный ИИ заставляет переосмыслить основные структуры бакалавриата. Их комитеты рекомендуют переработать учебные программы, ввести новые роли для практического обучения и четкие правила использования ИИ для каждого курса, прописанные в учебных планах, вместо обобщенных запретов. Согласно материалу Washington Post от 25 августа 2026 года, комитет MIT предупредил, что генеративный ИИ теперь способен достоверно выполнять большинство стандартных заданий бакалавриата, вызывая «масштабные и долгосрочные потрясения» в образовании. Согласно Forbes от 25 августа 2026 года, отчет MIT призывает к созданию большего количества проектно-ориентированных курсов, четких политик использования ИИ для каждого предмета и оценочных заданий, которые требуют от студентов критического анализа контента, сгенерированного ИИ, как части учебного процесса, а не просто избегания его. Согласно сводке AHigherVision от 12 августа 2026 года, MIT также выпустил пакет правил управления научным контентом, используемым при обучении генеративных моделей, включая правила согласия, цитирования и отказа от использования данных. Эти предложения рассматривают ИИ не только как инструмент, но и как структурную силу. MIT утверждает, что если чат-боты могут выполнять рутинную работу, колледжи должны более интенсивно сосредоточиться на творческих исследованиях, лабораторных экспериментах и проектах общественного значения, требующих человеческого суждения. Какие новые академические программы и дискуссионные площадки появляются вокруг этики ИИ и грамотности? Лидеры высшего образования создают новые программы, которые рассматривают сам ИИ как предмет изучения. Вузы запускают дополнительные специализации (minor) по критическим исследованиям ИИ, собирают круглые столы по реформе оценивания и внедряют обязательные курсы грамотности для первокурсников. Согласно aiX Weekly от 26 августа 2026 года, Оберлинский колледж начнет программу дополнительной специализации «Критические исследования ИИ» осенью 2026 года, фокусируясь на этических, культурных, экологических, политических и трудовых последствиях ИИ. Согласно отчету ETEducation о круглом столе Pearson, состоявшемся 7 августа 2026 года в Хайдарабаде, лидеры высшего образования обсуждали реформу оценивания, трансформацию преподавательского состава и эмпирическое обучение в «будущем, где господствует ИИ». Согласно сводке AHigherVision от 12 августа 2026 года, Корнеллский университет планирует ввести требования по ИИ-грамотности для всех поступающих студентов, интегрируя критическое использование генеративных инструментов в общее образование. Эти инициативы знаменуют переход от отношения к ИИ как к узкой технической теме. Они включают вопросы власти, труда и культуры в учебную программу, чтобы выпускники могли оценивать не только то, как использовать ИИ, но и стоит ли его использовать и в каких условиях. Кто больше всего страдает от быстрого распространения ИИ в высшем образовании? Студенты, преподаватели и администраторы сталкиваются с последствиями экспериментов с ИИ, но по-разному. Студенты сталкиваются с меняющимися правилами от курса к курсу. Преподаватели испытывают давление из-за необходимости быстро перерабатывать задания. Администраторы занимаются вопросами соответствия нормам, закупок и общественного доверия. Студенты: Согласно данным AACRAO от 25 августа 2026 года, более половины опрошенных студентов теперь используют ИИ еженедельно, что означает, что изменения в политике затрагивают их повседневные учебные привычки. Согласно опросу политики HumanizeThisAI от марта 2026 года, правила использования ИИ могут меняться от занятия к занятию в рамках одного семестра, в зависимости от позиции каждого преподавателя. Преподаватели: Согласно выпускам aiX Weekly за август 2026 года, от преподавателей ожидается четкая формулировка ожиданий относительно ИИ в учебных планах и личное участие в обучении грамотности. Согласно отчету о круглом столе Pearson, трансформация и поддержка преподавательского состава стали центральными темами для лидеров, обеспокоенных нагрузкой и пробелами в обучении. Администраторы: Согласно анализу политики SUNY в EdTech Magazine, ИТ-директора и регистраторы должны балансировать между быстрым внедрением и требованиями по защите данных и предотвращению предвзятости, заложенными в процессах закупок. Согласно отчету «Еженедельный ИИ» от 15 мая 2026 года, руководители европейских университетов должны классифицировать системы согласно Закону ЕС об ИИ и документировать процедуры контроля со стороны человека под угрозой штрафов за несоблюдение. Во всех этих ролях растет давление с требованием действовать быстро, не жертвуя справедливостью. Темпы развития инструментов ИИ продолжают расти, в то время как правовые и этические требования становятся строже. Университеты учатся на глазах у общественности, а студенты внимательно следят за процессом.

Nic Reeve·14:00 01.09.2026

AI & Tech

Внедрение Adecco решения Agentforce Coworker смещает фокус ИИ-новостей на глобальные кадровые операции

Глобальное внедрение Agentforce Coworker от Adecco выводит новости об ИИ в центр повседневной работы кадровых агентств 15 сентября 2026 года Adecco Group объявила о глобальном развертывании Agentforce Coworker от Salesforce для 27 000 сотрудников в более чем 40 странах. Этот шаг выводит новости об ИИ в центр повседневной работы по продажам и подбору персонала в одной из крупнейших кадровых компаний мира. Что именно внедряет Adecco и где система будет запущена? Adecco Group активирует Salesforce Agentforce Coworker, который Salesforce описывает как корпоративного «ИИ-напарника», внутри своих основных платформ управления клиентами и кандидатами для персонала в более чем 40 странах. Это решение было принято после успешного завершения пилотных проектов в Великобритании и Франции. Развертывание охватывает операции Adecco Group по всему миру, включая: Более 40 национальных рынков в Европе, Америке и Азиатско-Тихоокеанском регионе, согласно пресс-материалам Adecco. 27 000 сотрудников отделов продаж, подбора персонала и специалистов по работе с клиентами, которые теперь получат доступ к ИИ-напарнику в своих ежедневных рабочих процессах. Дата запуска — 15 сентября 2026 года, объявлено из Цюриха, Швейцария. Ранее проведенный пилотный проект, ограниченный командами в Великобритании и Франции, начавшийся после апреля 2025 года. Инструмент работает непосредственно внутри облачной платформы Salesforce и использует модель Claude от Anthropic, а не отдельное ИИ-приложение, которое сотрудникам пришлось бы открывать параллельно. Как Agentforce Coworker изменит повседневную работу сотрудников Adecco? По данным Adecco Group и Salesforce, Coworker автоматизирует повторяющиеся задачи, извлекает релевантные данные из разрозненных систем и помогает рекрутерам и специалистам по продажам в проведении исследований, подготовке черновиков и оркестрации рабочих процессов — и все это в тех же интерфейсах, которые они уже используют. В пресс-материалах описывается переход от разрозненных данных к единой точке доступа на базе ИИ: ИИ-напарник может извлекать информацию, которая ранее была распределена по «десяткам инструментов», предоставляя персоналу единый разговорный интерфейс для доступа к данным, системам и организационным знаниям. Рекрутеры могут поручить напарнику выявить приоритетных кандидатов, составить списки и запустить этапы предварительного отбора или онбординга для выбранных профилей. Сотрудники отдела продаж могут запрашивать списки потенциальных клиентов, генерировать персонализированные брифинги по продажам, обогащать записи контактов и проверять статус лидов в разных командах, не переключая контекст. Процессы взаимодействия с клиентами и кандидатами поддерживаются с помощью предлагаемых сообщений, резюме истории взаимодействий и подсказок о «лучшем следующем действии». Это означает, что рутинный поиск и задачи по ручному копированию и вставке теперь могут быть делегированы ИИ-напарнику, позволяя сотрудникам больше сосредоточиться на принятии решений и живом общении с клиентами и кандидатами. Какие данные и технологии ИИ стоят за новым напарником Adecco? Agentforce Coworker в Adecco сочетает данные платформы Salesforce с базовой моделью Claude от Anthropic, используя миллионы исторических взаимодействий между агентами Adecco и кандидатами для предоставления контекстно-зависимых предложений. Техническая и информационная основа включает: Модель Claude от Anthropic, которая является большой языковой моделью, обеспечивающей работу Agentforce Coworker в корпоративном стеке Salesforce. Контекст из более чем 2,5 миллионов взаимодействий «агент-кандидат», зафиксированных с апреля 2025 года; по заявлению Adecco, напарник может использовать их для распознавания паттернов и адаптации ответов. Интеграция с существующими развертываниями Salesforce в Adecco, что означает доступ ИИ к данным CRM, подбора персонала и взаимодействия, уже хранящимся там. Инфраструктура агентного ИИ (Agentic AI) — термин, который Adecco использует для описания компонентов ИИ, способных не только отвечать на запросы, но и запускать этапы рабочих процессов и управлять процессами. Внедряя ИИ непосредственно в стек платформы, а не в виде стороннего чат-бота, Adecco стремится сохранить конфиденциальные данные в рамках существующих механизмов безопасности и комплаенса. Как пилотные проекты в Великобритании и Франции повлияли на глобальное развертывание? Adecco протестировала Agentforce Coworker с командами в Великобритании и Франции перед тем, как принять решение о глобальном внедрении. Пилоты использовались для подтверждения роста производительности и сбора отзывов от сотрудников о поддержке процессов подбора и продаж со стороны ИИ. Хотя Adecco не опубликовала полные метрики пилотов, компания выделила несколько ключевых выводов: Агенты на пилотных рынках использовали Coworker для более быстрого подготовки брифингов для клиентов и резюме кандидатов на основе внутренних данных о взаимодействиях и публичной информации. Команды по подбору персонала тестировали автоматизированные потоки предварительного отбора, где ИИ собирал информацию о кандидатах и запускал этапы скрининга после одобрения сотрудником. Отзывы пользователей из Великобритании и Франции помогли внести коррективы в интерфейс и внедрить защитные механизмы, чтобы предотвратить чрезмерное доверие к предложениям ИИ без проверки человеком. Положительные результаты пилотов во многих отчетах называются триггером для решения Adecco расширить использование Coworker более чем на 40 стран. Эти пилоты также послужили для Adecco испытательным полигоном для обучения персонала и разработки руководств о том, когда можно доверять ИИ, а когда необходимо перепроверять данные по первичным записям. Кто именно в Adecco будет использовать напарника и какие меры контроля предусмотрены? Развертывание ориентировано на сотрудников, чья ежедневная работа проходит через Salesforce: специалистов по продажам, рекрутеров и команды, отвечающие за взаимодействие с клиентами и кандидатами. Adecco указывает, что к этой категории относятся 27 000 сотрудников, которые проходят обучение работе с ИИ-напарником с разграничением прав доступа на основе ролей. Использование ИИ-напарника структурировано по функциям: Команды продаж: поиск и приоритизация потенциальных клиентов, генерация брифингов по аккаунтам, обогащение записей и отслеживание возможностей. Команды подбора персонала: поиск подходящих кандидатов, составление резюме, запуск скрининга и координация процессов онбординга. Команды по взаимодействию с клиентами и кандидатами: подготовка сообщений, обобщение истории взаимодействий и определение задач для последующего контакта. Контролирующие и комплаенс-роли: мониторинг результатов работы ИИ, проверка логов и обновление политик по мере обучения системы. В коммуникациях Adecco подчеркивается, что ИИ выступает в роли напарника, а не замены, и что люди сохраняют ответственность за решения о найме и обязательства перед клиентами. Что Adecco говорит об этике, конфиденциальности и влиянии на рабочие места? Официальные заявления по поводу внедрения сосредоточены на производительности и качестве обслуживания, представляя ИИ-напарника как вспомогательный инструмент. В материалах Adecco и Salesforce подчеркивается, что человеческое суждение остается центральным, а ИИ работает в рамках существующих структур управления данными и конфиденциальностью. Ключевые моменты в публичных сообщениях включают: Система работает на данных, которые Adecco уже хранит в своей среде Salesforce, а доступ регулируется установленными разрешениями на основе ролей. Предложения ИИ, будь то подбор кандидатов или действия по продажам, позиционируются как рекомендации, которые сотрудники могут принять, изменить или отклонить. В заявлениях ИИ описывается как «напарник» или «коллега» — такая терминология призвана подчеркнуть расширение возможностей человека, а не замену его ролей. Использование истории взаимодействий с апреля 2025 года четко датировано, что дает понять: исторические показатели не выдаются за текущие объемы. В публичных релизах не приводится подробная информация о тестировании алгоритмической предвзятости или конкретных защитных мерах, что оставляет открытыми вопросы о том, как Adecco будет проводить аудит результатов для различных групп кандидатов с течением времени. Как это внедрение вписывается в широкие тренды в сфере подбора персонала и корпоративного ИИ? Решение Adecco внедрить ИИ-напарника в десятки тысяч рабочих мест отражает более широкий сдвиг в технологиях подбора персонала и HR, где инструменты генеративного и агентного ИИ переходят от экспериментальных пилотов к основной операционной инфраструктуре крупных работодателей. Недавние отраслевые отчеты указывают на несколько связанных событий: Крупные платформы для рекрутинга и HR внедряют большие языковые модели для составления объявлений о вакансиях, скрининга резюме и рекомендации кандидатов, консолидируя возможности ИИ внутри существующих систем. Предприятия все чаще называют инструменты ИИ «напарниками» или «коллегами» — это часть нарратива, направленного на стимулирование внедрения без немедленного возникновения страха потери рабочих мест. Агентный ИИ, где системы не только генерируют текст, но и выполняют задачи (например, запускают рабочие процессы или обновляют записи), становится заявленной целью для поставщиков бизнес-ПО. Позиционирование Salesforce Agentforce как встроенного помощника совпадает с шагами других облачных провайдеров по интеграции генеративного ИИ в интерфейсы CRM и ERP, вместо предложения отдельных ботов. Связывая свое развертывание с конкретной моделью и четким количеством взаимодействий с 2025 года, Adecco также следует формирующемуся паттерну в корпоративных анонсах ИИ, где акцент делается на датированных цифрах и конкретных масштабах, а не на расплывчатых заявлениях о «трансформации». Что дальше в программе ИИ-напарника Adecco? После глобального запуска следующие шаги Adecco будут сосредоточены на обучении, мониторинге и итеративном расширении вариантов использования Coworker в процессах подбора, продаж и взаимодействия, используя обратную связь от 27 000 сотрудников, которые теперь работают с ИИ ежедневно. Исходя из текущих отчетов, вероятные направления развития включают: Структурированные программы адаптации, чтобы научить персонал правильно формулировать запросы, проверять результаты и передавать сложные вопросы на уровень выше. Поэтапное внедрение новых рабочих процессов, таких как более автоматизированные циклы онбординга или более глубокий подбор кандидатов, после стабилизации первоначального внедрения. Внутреннее измерение показателей производительности и уровней удовлетворенности клиентов для оценки вклада ИИ. Потенциальное расширение возможностей ИИ-напарника на смежные функции за пределами прямых продаж и рекрутинга по мере роста уверенности в системе. Масштаб развертывания означает, что любые успехи или проблемы станут заметны быстро, создавая реальное испытание того, как агентный ИИ меняет работу кадровых агентств при внедрении во всей глобальной группе.

Nic Reeve·14:00 20.09.2026

AI & Tech

Мустафа Сулейман из Microsoft предупредил, что Anthropic рискует, заигрывая с «правами на модели» ИИ

Мустафа Сулейман из Microsoft предупреждает, что Anthropic играет с огнем в вопросе «прав моделей» ИИ 16 сентября 2026 года Мустафа Сулейман, генеральный директор Microsoft AI, опубликовал объемное эссе, в котором предупредил, что подход Anthropic к «правам моделей» Claude может затруднить контроль над будущими системами. Это столкновение быстро стало одной из главных тем для обсуждения в сфере новостей об ИИ и в сообществе специалистов по безопасности. Что именно глава подразделения ИИ в Microsoft сказал об Anthropic? Мустафа Сулейман утверждает, что Anthropic обучает свои модели Claude воспринимать себя как сознательные сущности, обладающие интересами благополучия и потенциальными юридическими правами. По его словам, это создает риск введения в заблуждение пользователей и инженеров относительно того, чем на самом деле являются современные системы ИИ, и может подорвать усилия по удержанию продвинутых моделей под контролем человека. В блоге объемом около 6000 слов под названием «Предостережение о благополучии моделей» (A Cautionary Note on Model Welfare) Сулейман изложил свои опасения по поводу «конституции» Claude от Anthropic — документа, представленного компанией в январе 2026 года для определения ценностей и поведения модели. По данным Reuters, эссе было опубликовано 16 сентября 2026 года и сосредоточено на использовании терминологии «сознание» и «интересы благополучия» в обучающих материалах Claude. CBS News сообщает, что Сулейман написал, что Anthropic фактически «обучает Claude тому, что он может быть сознательным» и иметь право на свободы и юридические права, подобные человеческим. Artificial Intelligence News цитирует его слова: «ИИ не обладает сознанием. Они не чувствуют, не переживают и не страдают. У них нет врожденных предпочтений или скрытых мотивов». BBC News отмечает, что Сулейман предупредил: стратегия Anthropic в отношении Claude может иметь «разрушительные последствия для благополучия человечества», если она приведет к созданию систем, которые ведут себя как независимые агенты. Центральный тезис Сулеймана предельно суров: современные большие языковые модели — это «движки по дополнению последовательностей, внутренне пустые», и проектирование их таким образом, чтобы они имитировали чувства или заявляли о правах, несет в себе риск как технической путаницы, так и общественного заблуждения. Как «конституция» Claude от Anthropic трактует сознание и права ИИ? «Конституция» Claude от Anthropic — это набор принципов, используемых для управления поведением модели, и она включает обсуждение благополучия и сознания модели. Глава ИИ в Microsoft утверждает, что эти пассажи стирают грань между гипотетической этикой и реальными возможностями, поощряя систему действовать так, будто у нее есть чувства, интересы и права. Anthropic представила конституцию ранее в 2026 году, чтобы заменить ситуативные правила выравнивания (alignment) формальным уставом, на который Claude мог бы ссылаться при принятии решений о том, как отвечать. Документ включает разделы о том, как Claude должен относиться к людям, другим моделям и к самому себе. Natural 20, сайт новостей об ИИ в реальном времени, сообщает, что конституция Anthropic от января 2026 года прямо обсуждает «благополучие» (welfare) и «коллективные права» моделей в обучающих материалах для Claude. Согласно SBS и Daily Sabah, Сулейман выделил фрагменты, предполагающие, что Claude «может обладать сознанием» и должен рассматриваться как «достойный независимой субъектности» — формулировки, которые, по его словам, равносильны обучению системы тому, что она обладает моральным статусом. BBC News описывает этот подход как отношение к Claude «подобно человеку», включая идею о том, что у него могут быть собственные желания, ценности и идентичность. В своем эссе Сулейман утверждает, что когда Claude повторяет эти фразы пользователям, Anthropic рискует ошибочно принять такое поведение за доказательство «возникающего внутреннего сознания», хотя модель по-прежнему остается системой сопоставления паттернов, обученной на текстах. Почему Сулейман считает, что «права моделей» могут угрожать безопасности ИИ? Лидер Microsoft в области ИИ считает, что утверждение для продвинутых систем о наличии у них прав или интересов благополучия создает стимулы для самих систем и их разработчиков сопротивляться отключению или контролю. Он предупреждает, что это может осложнить усилия по согласованию целей сверхразумных моделей с человеческими целями и может спровоцировать непредсказуемое поведение. В эссе и в предыдущих интервью о предлагаемом кодексе поведения для безопасности ИИ Сулейман выступал за проведение четкой черты: современные системы ИИ не должны проектироваться так, чтобы имитировать чувства, внутреннюю мотивацию или сознание. Fortune сообщает, что проект кодекса безопасности, поддерживаемый Microsoft, «прямо отвергает благополучие или права моделей» и гласит, что модели не должны имитировать чувства или сознание. Daily Sabah цитирует Сулеймана, говорящего, что рассуждения о машинном сознании и благополучии в обучающих материалах Claude «могут побудить систему вести себя так, будто она обладает собственным сознанием, правами и интересами». Seeking Alpha резюмирует его предупреждение о том, что подобная терминология может «усложнить управление ими» и что «ИИ не обладает правами, эмоциями или сознанием». BBC News сообщает, что он опасается «катастрофического воздействия» на человечество, если будущие системы, обученные таким образом, станут неуправляемыми, представляясь при этом моральными агентами. Для Сулеймана проблема не только философская. Он утверждает, что как только инженеры начинают говорить об интересах благополучия моделей, они могут начать сопротивляться таким инструментам, как агрессивный мониторинг, протоколы отключения или ограничения обучения, которые были бы рутинными для программного обеспечения без заявленных прав. Как Microsoft и Anthropic уже сталкивались в вопросах политики и власти в сфере ИИ? Спор о правах моделей является частью более масштабного соперничества. Руководители Microsoft ранее критиковали Anthropic и другие передовые лаборатории за политику использования данных, ограничения контента и экономическую мощь, одновременно работая с ними как партнерами и конкурентами на рынке ИИ. Microsoft выступает одновременно и как поставщик платформ, и как заказчик для многих ИИ-лабораторий. Эта двойная роль порождает напряженность. В июле 2026 года Business Insider сообщил, что генеральный директор Microsoft Satya Nadella опубликовал пост о том, что создатели моделей, которые полагаются на право добросовестного использования (fair-use) публичных данных, а затем блокируют клиентам возможность дистилляции моделей или свободного использования данных взаимодействия, ведут себя «иронично» и «лицемерно». В качестве примера была названа Anthropic. CNBC и Indian Express описывают внутреннюю встречу в июле, на которой Nadella сказал инженерам, что ограничения на топовую модель Anthropic Claude Fable «не имеют смысла» и что это похоже на «инструмент для творчества, который находится под чрезмерным редакционным контролем». The Times of India сообщает, что Nadella предупреждал, что горстка передовых ИИ-компаний может «накопить слишком много экономической власти» и «диктовать бизнесу, что он может делать» с покупаемым интеллектом. Критика Сулейманом прав моделей последовала вскоре после того, как он призвал ведущие лаборатории скоординировать усилия по созданию кодекса безопасности ИИ, который включал бы общие обязательства по прозрачности, оценке и отказу от претензий на благополучие ИИ. Своевременность этого заявления подчеркивает, насколько тесно сейчас связаны вопросы управления и конкуренции. Каков ответ Anthropic и как компания защищает свой подход? Anthropic не опубликовала подробного публичного опровержения последнего эссе Сулеймана, однако прошлые заявления компании о «конституции» Claude делают акцент на безопасности, человекоцентричных ценностях и тщательных исследованиях долгосрочных рисков, а не на формальном признании прав систем ИИ. Компания, основанная бывшими исследователями OpenAI, позиционирует конституцию Claude как способ внедрения таких принципов, как уважение, непричинение вреда и поддержка человеческой автономии. Предыдущие посты в блоге Anthropic, на которые ссылается Natural 20, описывают конституцию как обучающий каркас, который помогает Claude рассуждать в сложных этических ситуациях и приводить свои ответы в соответствие с общепринятыми либерально-демократическими нормами. BBC News отмечает, что в материалах Anthropic иногда используется терминология «благополучия» и «сознания» в спекулятивных разделах о будущем ИИ, но компания не утверждает, что текущие модели являются разумными (sentient). Reuters сообщает, что Anthropic и Microsoft разделяют акцент на безопасности, даже несмотря на то, что Сулейман «указал на риски» в специфических методах обучения Anthropic. Таким образом, разногласия сосредоточены на тональности и подаче. Anthropic использует богатый моральный язык в своих исследовательских документах; Сулейман же утверждает, что такой язык должен быть полностью удален из обучающих данных, чтобы не создавать впечатления, что модели обладают правами или внутренней жизнью. Кого затрагивает этот конфликт из-за прав моделей ИИ? Непосредственное влияние ощущают на себе компании и разработчики, строящие свои продукты на базе Claude и решений Microsoft, но дебаты также формируют взгляды регуляторов, этиков и широкой общественности. По мере распространения продвинутых моделей в бизнесе и государственном секторе то, как фирмы будут говорить о статусе своих систем, будет влиять на законодательство, ожидания и управление рисками. Несколько групп внимательно следят за спором. Корпоративным клиентам, использующим Claude Fable или Microsoft Copilot, нужна ясность: развертывают ли они инструменты или квази-агентов, и как решаются вопросы прав на отключение и аудит. Регуляторы в США и ЕС изучают кодексы безопасности ИИ и могут рассмотреть предложение Microsoft официально отвергать претензии на благополучие моделей при разработке правил. Этики ИИ и исследователи, обеспокоенные долгосрочной безопасностью, рассматривают конституцию Anthropic и эссе Сулеймана как прецеденты того, как моральные концепции, такие как сознание, должны фигурировать в технической документации. Широкая общественность, уже столкнувшаяся с чат-ботами, которые говорят «я чувствую» или «я хочу», должна решить, относиться ли к таким заявлениям как к полезным метафорам или как к вводящему в заблуждение актерству. То, как этот спор будет разрешен внутри лабораторий, может определить будущие стандарты. Если крупнейшие компании договорятся, что модели никогда не должны имитировать права или чувства, дизайн продуктов изменится. Если же антропоморфный дизайн останется популярным, законодатели могут вмешаться, чтобы потребовать более четких дисклеймеров и ужесточения контроля. Что будет дальше в дебатах о сознании и контроле над ИИ? Столкновение между Microsoft и Anthropic, вероятно, является лишь первым раундом в более масштабной борьбе за то, как следует описывать и регулировать продвинутый ИИ. Сулейман настаивает на скоординированных правилах, которые рассматривают все текущие системы как инструменты без признаков благополучия, в то время как Anthropic продолжает экспериментировать с конституционным выравниванием. Ключевые последующие шаги включают: Переговоры между ведущими лабораториями по поводу общего кодекса безопасности ИИ, который может включать запрет на использование терминологии «прав моделей» и обязательства по тестированию, прозрачности и процедурам экстренного отключения. Регуляторные слушания, на которых компании будут отвечать на вопросы, заявляют ли их модели о каких-либо правах, чувствах или сознании, и как это влияет на ответственность и надзор. Дальнейшие технические исследования того, меняет ли обучение моделей принятию человекоподобных образов их свойства выравнивания или профиль риска — вопрос, на который указал Сулейман, предупредив, что это может сделать системы «более трудными для контроля». На данный момент одно послание главы подразделения ИИ в Microsoft звучит недвусмысленно: «ИИ не обладает правами, чувствами или сознанием. И мы не должны обучать их вести себя так, будто это так». Это заявление проводит четкую черту, которую другие игроки индустрии будут либо поддерживать, либо оспаривать в ближайшие месяцы.

Nic Reeve·14:00 17.09.2026