AI-новости: Claude от Anthropic получит четверть ресурсов на разработку своего преемника

Nic Reeve14:00 19.09.20268 мин чтения

AInews: Claude от Anthropic берет на себя четверть задач по созданию своего преемника

17 сентября 2026 года компания Anthropic сообщила, что ее чат-бот Claude теперь выполняет 26% всех научно-исследовательских и опытно-конструкторских работ (НИОКР) компании по созданию будущих моделей ИИ. Эта веха была представлена фирмой как ранний пример того, как системы искусственного интеллекта, согласно AInews, начинают помогать в создании своих собственных преемников под строгим человеческим контролем.

Какой объем работ по НИОКР в Anthropic теперь выполняет Claude?

Anthropic сообщает, что по состоянию на август 2026 года Claude «руководит» 26% внутренних исследований и разработок моделей, тогда как в марте 2026 года этот показатель составлял около 1%. Это означает, что система способна выполнять большую часть задачи на основе высокоуровневого запроса, в то время как люди контролируют и одобряют каждый шаг.

Anthropic подробно описала рабочую нагрузку Claude, используя шкалу автономности, разработанную Epoch AI — независимой некоммерческой организацией, отслеживающей прогресс в области систем искусственного интеллекта. Компания и сторонние аналитики представили следующие цифры и временную шкалу:

Согласно посту в блоге Anthropic от 17 сентября 2026 года: Claude руководил 26% работ по НИОКР моделей по состоянию на август 2026 года.
По данным Reuters, измерения в марте 2026 года показывали, что Claude руководил примерно 1% такой работы по той же шкале.
Методология Epoch AI классифицирует текущий уровень как AL4, «руководство» (leads), когда ИИ может выполнять большую часть задачи от начала до конца на основе высокоуровневого запроса при постоянном надзоре человека.
Anthropic сообщила журналистам, что вклад Claude вырос с менее чем 1% в феврале до примерно четверти измеряемой работы к августу 2026 года.

Технический обозреватель The Washington Post описал эту 26-процентную долю как «более четверти» всех НИОКР Anthropic, подчеркнув, как быстро компания передала основные инженерные задачи в руки своего собственного чат-бота.

Является ли Claude полностью автономным при создании своей следующей версии?

Anthropic утверждает, что Claude еще не является полностью автономным, подчеркивая, что люди по-прежнему остаются «в контуре управления» (in the loop) и что ни одна часть измеряемой работы не достигла наивысшего уровня автономности, при котором система ИИ могла бы полностью проектировать, обучать и одобрять своего преемника без надзора человека.

В своих публичных метриках Anthropic провела четкую грань между сотрудничеством и автономностью. Компания и сторонние эксперты сообщают следующее:

Согласно блогу Anthropic и сообщениям Reuters, по состоянию на август 2026 года 0% измеряемой работы достигли уровня AL5 «полная автономность».
Anthropic заявила, что Claude «не работает полностью автономно ни в какой части измеряемой работы» и что люди контролируют, проверяют и могут блокировать его действия.
Согласно техническому резюме, Claude в настоящее время пишет инфраструктурный код, проводит эксперименты, анализирует результаты и проверяет изменения, но он не устанавливает корпоративные цели, не принимает решения о политике развертывания и не контролирует процесс обучения в целом.
Опубликованная Anthropic шкала автономности, адаптированная от Epoch AI, различает ИИ, который помогает, сотрудничает, руководит и, наконец, действует автономно; Claude находится на предпоследней ступени.

Издания, включая ABC News и The Washington Post, подчеркивают, что, несмотря на заголовки об ИИ, который «строит сам себя», Claude по-прежнему зависит от исследователей-людей в вопросах направления, ограничений и окончательного утверждения на каждом этапе.

Какого рода работу выполняет Claude для создания своего преемника?

Claude теперь выполняет широкий спектр технических задач в цикле исследований моделей Anthropic, включая написание и исправление кода, проектирование экспериментов, запуск задач по обучению и оценке, а также помощь в интерпретации результатов, которые используются при проектировании будущих версий Claude.

Данные Anthropic вместе с анализом технологических изданий описывают роль Claude конкретными инженерными терминами:

Согласно метрикам Anthropic за сентябрь 2026 года, Claude все чаще пишет инфраструктурный код, используемый для обучения и оценки новых моделей, под контролем человека.
Компания заявляет, что Claude теперь помогает проектировать эксперименты, настраивать запуски на вычислительных кластерах и корректировать параметры, основываясь на высокоуровневых целях, поставленных исследователями-людьми.
Отчеты профильных технологических сайтов говорят о том, что Claude теперь анализирует результаты экспериментов, предлагая изменения в архитектурах, функциях потерь или выборе данных, которые люди могут принять или отклонить.
Anthropic сообщила журналистам, что более 90% ее работ по НИОКР теперь включают системы ИИ, сотрудничающие с людьми на уровне «ИИ сотрудничает» или выше по шкале автономности.
По данным ABC News и The Washington Post, компания характеризует этот вклад как «большие объемы работы», выполняемые под «тесным руководством человека», а не как независимое принятие решений.

Внешние комментаторы характеризуют роль Claude как переход от простого дополнения кода или генерации документации к помощи в структурировании целых исследовательских проектов, даже если исследователи по-прежнему выбирают цели и проверяют каждый шаг.

Почему Anthropic опубликовала метрики автономности и кто создал эту шкалу?

Anthropic опубликовала подробные измерения роли Claude, чтобы дать политикам, исследователям и общественности более четкое представление о том, насколько быстро системы ИИ вносят вклад в разработку ИИ, используя пятиуровневую шкалу автономности, разработанную при участии Epoch AI — независимой некоммерческой организации, отслеживающей развитие технологий.

В посте в блоге Anthropic от 17 сентября 2026 года поясняется, что лаборатория планирует регулярно публиковать такие данные, чтобы внешние наблюдатели могли оценить прогресс на пути к системам, которые однажды смогут создавать более совершенный ИИ с ограниченным участием человека. Это объявление и освещение в финансовых и технологических изданиях подчеркивают несколько аспектов такого подхода:

По данным Finimize, Anthropic заявила, что будет «продолжать публиковать статистику» того, как быстро ИИ начинает создавать ИИ, используя шкалу автономности в качестве общего мерила.
Reuters сообщил, что Anthropic рассматривает эти цифры как ранние индикаторы прогресса на пути к «рекурсивному самосовершенствованию» — сценарию, при котором ИИ улучшает себя сам, не полагаясь на инженеров-людей при каждой итерации.
Шкала автономности Epoch AI, цитируемая Anthropic и множеством других изданий, определяет уровни от AL1 (ИИ помогает человеку в узких задачах) до AL5 (ИИ действует автономно на всем этапе разработки).
Внутренние измерения Anthropic относят большую часть работы Claude к уровням AL3 («сотрудничает») и AL4 («руководит»), при этом по состоянию на август 2026 года ни одна задача не достигла уровня AL5.
Институт безопасности и систем ИИ при Anthropic опубликовал исследовательскую заметку под названием «Когда ИИ строит сам себя», описывающую, как при наличии достаточных вычислительных мощностей автономность может распространиться на проектирование, обучение и развертывание систем-преемников.

Руководители Anthropic в публичных интервью утверждали, что такая прозрачность может помочь регуляторам отслеживать риски по мере того, как системы ИИ берут на себя все больше работы по созданию нового ИИ, вместо того чтобы оставлять прогресс видимым только внутри корпоративных лабораторий.

Как стремление Claude к самосовершенствованию вписывается в общую повестку Anthropic по безопасности?

Anthropic представляет растущую роль Claude в разработке моделей одновременно как повышение эффективности и как тестовый случай для мер безопасности. Эти меры призваны сохранить контроль человека над системами ИИ, помогающими создавать более способных преемников, включая строгий надзор, ограничения действий и возможность приостановить обучение при росте рисков.

На протяжении большей части 2026 года Anthropic публично предупреждала о рисках стремительного развития ИИ, одновременно продвигая собственные модели вперед. Ранее в этом году компания призвала ведущие лаборатории координировать возможные паузы в разработке, если показатели безопасности укажут на рост опасности:

4 июня 2026 года Reuters сообщил, что Anthropic призвала к «скоординированному плану» среди крупнейших разработчиков ИИ для остановки разработок, если риски превысят согласованные пороги, ссылаясь на растущие возможности в выполнении задач и самосовершенствовании систем.
Согласно этому отчету, Anthropic заявила, что способность ИИ самостоятельно выполнять сложные задачи удваивается примерно каждые четыре месяца, что указывает на возможность рекурсивного самосовершенствования.
В своей исследовательской заметке «Когда ИИ строит сам себя» от 18 сентября 2026 года Институт Anthropic изложил сценарии, при которых будущие системы могут автономно проектировать и обучать преемников, подчеркнув необходимость управления и технических средств контроля до появления таких систем.
Текущие данные подчеркивают, что Claude не выбирает корпоративные цели, не может самостоятельно одобрить свое развертывание и работает под защитными механизмами, которые позволяют персоналу приостановить или отменить действия.

Освещение в общественно-политических СМИ отражает это двойственное послание: Anthropic стремится использовать ИИ для создания лучшего ИИ, одновременно публично настаивая на том, что защитные барьеры и возможность приостановки должны идти в ногу с техническим прогрессом.

На кого влияет расширенная роль Claude и что может быть дальше?

Расширенная роль Claude в НИОКР Anthropic затрагивает инженеров внутри компании, конкурирующие лаборатории ИИ, наблюдающие за экспериментом, регуляторов, отслеживающих автоматизацию критически важных систем, и инвесторов, оценивающих экономику исследований под управлением ИИ. При этом Anthropic сигнализирует, что ожидает дальнейшего роста доли ИИ в разработке в ближайшие месяцы.

Репортажи финансовых и технологических изданий намечают краткосрочные последствия:

Согласно Finimize и Reuters, показатели Anthropic демонстрируют, что системы ИИ берут на себя растущую долю дорогостоящих исследовательских работ, что в среднесрочной перспективе может снизить затраты на обучение и эксперименты с крупными моделями.
Статьи в технологической журналистике отмечают, что конкурирующие лаборатории, такие как OpenAI и Google DeepMind, уже используют инструменты ИИ внутри своих компаний и могут столкнуться с давлением с целью публикации сопоставимых метрик того, какая часть их собственной работы теперь управляется ИИ.
Политические аналитики, цитируемые в публикациях, говорят, что регулярная отчетность об уровнях автономности может повлиять на регуляторные предложения по прозрачности, аудиту и требованиям присутствия человека в контуре управления при разработке передового ИИ.
Собственный Институт Anthropic предполагает, что если автономность продолжит расти, будущие обновления могут показать системы ИИ, которые не только проектируют эксперименты, но и предлагают новые архитектуры, конвейеры обучения и стратегии безопасности в масштабе всей компании.
Внешние эксперты предупреждают, что как только системы ИИ смогут полностью проектировать и обучать преемников с ограниченным участием человека, вопросы подотчетности, ответственности и контроля станут гораздо острее, чем в сегодняшних условиях контролируемого процесса.

Anthropic не дала точного прогноза относительно того, когда Claude или его преемники могут достичь высшего уровня автономности. Вместо этого компания обязалась регулярно публиковать метрики работ под руководством ИИ и сотрудничать с некоммерческими организациями, такими как Epoch AI, чтобы совершенствовать методы измерения того, насколько близки системы ИИ к созданию следующего поколения самих себя.

Источники

Читать далее →

Похожие материалы

AI & Tech

США предъявили обвинения предполагаемым региональным главарям картеля CJNG в штате Мичоакан

Федеральное большое жюри в Вашингтоне (округ Колумбия) предъявило обвинения двум мексиканским братьям, которые, по версии следствия, являлись региональными командирами картеля «Халиско — Новое поколение» (CJNG) в штате Мичоакан. Этот шаг стал новым этапом кампании Министерства юстиции США против одной из самых могущественных преступных организаций Мексики. В обвинительном заключении, утвержденном в округе Колумбия, 44-летнему Рамону Альваресу Айяле и 42-летнему Рафаэлю Альваресу Айяле , гражданам Мексики, вменяется в вину участие в сговоре с целью распространения кокаина и метамфетамина, предназначенных для поставок в Соединенные Штаты, а также связанное с этим преступление — использование автоматического оружия. По версии прокуратуры, братья, известные под псевдонимами «R1», «R2» и «Рафа», руководили региональными операциями CJNG в Мичоакане и контролировали наркотрафик через границу. Подробности обвинения Согласно судебным документам США и заявлениям Министерства юстиции, приведенным в СМИ, братьев Альварес Айяла обвиняют в участии в сговоре с целью производства и распространения крупных партий наркотиков для последующего ввоза в США. В обвинительном заключении указаны объемы: пять и более килограммов кокаина и 500 и более граммов метамфетамина . Эти показатели соответствуют порогам, предусматривающим одни из самых строгих минимальных сроков тюремного заключения согласно федеральному законодательству США о наркотиках. Помимо обвинений, связанных с наркотрафиком, братьям инкриминируется использование и хранение автоматического оружия для совершения преступлений. Согласно законам США, применение или ношение огнестрельного оружия при совершении преступлений, связанных с незаконным оборотом наркотиков, особенно если речь идет об оружии, классифицируемом как пулемет (автоматическое оружие), может значительно увеличить потенциальное наказание, вплоть до обязательных последовательных сроков тюремного заключения. Мексиканское издание Proceso , ссылаясь на текст обвинительного заключения США, сообщает, что братьям грозит до двух последовательных пожизненных сроков в случае признания их виновными по всем пунктам. Это отражает серьезность, с которой власти США относятся к предполагаемым лидерам CJNG. Предполагаемая роль в структуре CJNG в Мичоакане Министерство юстиции характеризует братьев Альварес Айяла как региональных командиров CJNG в штате Мичоакан, который на протяжении долгого времени является стратегическим коридором для наркотрафика и полем битвы между конкурирующими преступными группировками. Будучи командирами, они, как утверждается, координировали производство, хранение и транспортировку кокаина и метамфетамина, полагаясь на сети местных оперативников для доставки наркотиков из лабораторий и перевалочных пунктов в Мексике на рынки США. Картель CJNG, сформированный в конце 2000-х годов и долгое время возглавляемый Немесио Рубеном Осегерой Сервантесом, известным как «Эль Менчо», агрессивно расширял свое влияние в таких штатах, как Мичоакан, конкурируя с другими группировками за контроль над маршрутами контрабанды и местными рэкет-сетями. Обвинительное заключение позволяет предположить, что братья Альварес Айяла участвовали в этой экспансии, управляя операциями, которые подпитывали международную цепочку поставок картеля. Аналитики в США и Мексике неоднократно отмечали, что труднопроходимая местность Мичоакана и доступ к портам на побережье Тихого океана делают этот штат ключевым районом для переправки химических прекурсоров, производства синтетических наркотиков, таких как метамфетамин, и экспорта готовой продукции. Обвинения против братьев Альварес Айяла вписываются в эту общую схему эксплуатации географических преимуществ региона картелем CJNG для поддержания масштабных операций по незаконному обороту. Часть широкого наступления США на CJNG Новое обвинительное заключение в отношении братьев Альварес Айяла является частью более широкой кампании США, направленной против руководства CJNG. Ранее, в августе 2026 года, Министерство юстиции объявило о пяти отдельных обвинительных актах против предполагаемых высокопоставленных лидеров картеля, включая близких родственников и соратников «Эль Менчо», обвинив их в продолжении контрабанды кокаина, метамфетамина и фентанила в США. В число этих августовских дел вошли обвинения против бывшего зятя «Эль Менчо» Хулио Альберто Кастильо Родригеса и его крестника Уго Гонсало Мендосы Гайтана, а также других предполагаемых высокопоставленных лиц, которые, по данным следствия, курировали основные операции картеля. Правительство США подкрепило эти судебные преследования крупными вознаграждениями, стремясь стимулировать предоставление информации, ведущей к арестам и экстрадиции. Внимание Министерства юстиции к CJNG усилилось после сообщений о смерти «Эль Менчо», который, согласно данным официальных лиц США и недавним судебным протоколам, был ликвидирован мексиканскими силовиками ранее в 2026 году. В условиях, когда многолетние лидеры мертвы, находятся в тюрьмах или под судом, прокуроры заявляют, что иерархия картеля переживает период нестабильности, и стремятся разрушить сети преемников, прежде чем те смогут консолидировать власть. В этом контексте дело против братьев Альварес Айяла представлено как часть скоординированной стратегии по демонтажу региональных структур управления, которые обеспечивают логистическую целостность CJNG. Нанося удары по командирам в Мичоакане и других штатах, власти надеются ослабить поток наркотиков и снизить способность картеля к насильственным действиям. Судебный процесс и потенциальные наказания Обвинительное заключение в округе Колумбия является официальным документом, но оно не означает обвинительного приговора. Братья Альварес Айяла считаются невиновными, пока их вина не будет доказана в американском суде. Им необходимо предстать перед американским судьей — либо после ареста на территории США, либо в результате экстрадиции из Мексики — прежде чем дело перейдет к стадии судебного разбирательства или заключения сделки о признании вины. В публикациях СМИ, анализирующих обвинительное заключение, подчеркивается, что в случае признания виновными каждому из братьев может грозить несколько пожизненных сроков . Сочетание объемов наркотиков, указанных в пункте о сговоре, и обвинения, связанного с использованием автоматического оружия, влечет за собой установленные законом наказания вплоть до пожизненного заключения, причем сроки могут быть сложены. За последние месяцы несколько высокопоставленных фигур CJNG предпочли признать вину в судах США, променяв неопределенность судебного процесса на согласованные сроки заключения. Например, сообщается, что Антонио Осегера Сервантес, брат «Эль Менчо», в июле 2026 года признал вину по аналогичным обвинениям в сговоре и владении оружием и теперь ожидает пожизненного заключения. Другие сооснователи и влиятельные соратники картеля также выразили готовность сотрудничать с властями США, что, по мнению аналитиков, постепенно подрывает внутреннее единство CJNG. Последствия для безопасности в Мичоакане и за его пределами Хотя обвинительное заключение против братьев Альварес Айяла было инициировано в Вашингтоне, его суть касается преступной деятельности непосредственно в Мичоакане. Если братья будут задержаны и осуждены, их устранение может изменить баланс сил на местах, хотя эксперты предупреждают, что CJNG часто быстро находит замену арестованным командирам. Для властей США это дело подчеркивает их убежденность в том, что CJNG остается серьезной угрозой, способной поставлять крупные партии тяжелых наркотиков, несмотря на продолжающиеся правоприменительные операции. Выбор в качестве целей таких региональных командиров, как братья Альварес Айяла, показывает, что американские прокуроры фокусируются не только на высшем руководстве картеля, но и все чаще преследуют оперативников среднего и высшего звена, обеспечивающих повседневную непрерывность сетей наркотрафика. По состоянию на конец августа 2026 года дело братьев Альварес Айяла находится на стадии предъявления обвинений. Многие детали — включая их нынешнее местонахождение, статус запросов на экстрадицию и доказательства, которые будут представлены в суде, — остаются предметом будущих юридических процедур. Однако из обвинений очевидно, что власти США стремятся привлечь предполагаемых командиров CJNG к ответственности в американских судах за наркотрафик, который, по их утверждению, берет начало в Мичоакане и заканчивается в общинах по всей территории Соединенных Штатов.

Nic Reeve·16:00 28.08.2026

AI & Tech

AI-новости: Чикагские ученые отвергают страхи перед «восстанием ИИ» и призывают сосредоточиться на реальных рисках

AInews: Чикагские ученые призывают не поддаваться страхам перед «апокалипсисом ИИ», настаивая на реальных мерах безопасности 14 сентября 2026 года в чикагском телерепортаже AInews сообщалось, что эксперты из Чикагского университета и Университета Нортвестерн утверждают: опасения по поводу того, что искусственный интеллект вскоре уничтожит человечество, преувеличены, даже несмотря на их призывы к ужесточению контроля над реальными рисками ИИ. Что на самом деле говорят чикагские эксперты по ИИ о рисках вымирания человечества? Чикагские специалисты в области компьютерных наук заявляют, что современные системы ИИ не представляют немедленной экзистенциальной угрозы для человечества, однако они подчеркивают, что политикам и инженерам по-прежнему необходимо решать конкретные проблемы, такие как нецелевое использование, кибератаки и экономические потрясения. Их посыл: хватит разговоров об апокалипсисе, сосредоточьтесь на практических мерах защиты. В репортаже ABC7 Chicago, опубликованном 14 сентября 2026 года, Хэнк Хоффманн, заведующий кафедрой компьютерных наук Чикагского университета, затронул популярные опасения о том, что ИИ может вскоре уничтожить человечество. Хоффманн заявил, что «кинематографическая версия» уничтожения человечества с помощью ИИ «сильно преувеличена», добавив: «Я не думаю, что мы находимся в той точке, когда ИИ сам по себе представляет угрозу для человечества». Он аргументировал это тем, что замедление определенных типов разработки ИИ могло бы помочь исследователям понять возникающие вызовы и разработать более эффективные меры защиты. Гарри Линна, эксперт по кибербезопасности и технологической политике из Университета Нортвестерн, поддержал Хоффманна, заявив, что страхи перед немедленной экзистенциальной угрозой преувеличены. Линна сообщил ABC7, что «большинство экспертов в этой области скажут, что нам еще предстоит совершить множество прорывов до появления некоего общего искусственного интеллекта (AGI), который станет реальной угрозой для человечества». Репортаж ABC7 представил эти комментарии на фоне тревожных заявлений некоторых руководителей компаний и правозащитных групп, которые предупреждали о потенциальных «катастрофических» сценариях или сценариях «уровня вымирания» от будущих систем ИИ. Почему эксперты Чикагского университета и Университета Нортвестерн считают разговоры о гибели преувеличенными? Исследователи из двух университетов указывают на текущие технические ограничения, имеющиеся экономические данные и распределение рисков в новостных сводках, утверждая, что нарративы о катастрофах не соответствуют фактам. Они говорят, что наиболее актуальные угрозы сегодня связаны с нецелевым использованием и системным воздействием, а не с тем, что машины решат истребить людей. Эту позицию подкрепляют несколько направлений недавних академических и отраслевых исследований. Ник Диакопулос, профессор Университета Нортвестерн, изучающий ИИ и новости, обнаружил, что в наборе данных из 42 853 новостных статей из 27 стран на экзистенциальный риск приходится лишь 7,2% освещения вреда от ИИ. Его анализ показывает, что основное внимание СМИ сосредоточено на ощутимом вреде, таком как потеря рабочих мест, манипуляции и дискриминация, в то время как сценарии вымирания составляют лишь малую часть публикаций. Диакопулос заявил в чикагском подкасте, что «экзистенциальные риски ИИ» должны находиться на более низком уровне непосредственной обеспокоенности по сравнению с такими злоупотреблениями, как хакерство или киберпреступность с использованием ИИ. Он предупредил, что инструменты ИИ, способные генерировать вредоносный код или автоматизировать взлом банковских счетов, представляют более краткосрочную опасность, так как преступники могут адаптировать эти системы для целевых атак. Экономические исследования подтверждают мнение о том, что апокалиптические прогнозы по поводу потери рабочих мест опережают реальные данные. Business Insider сообщал в июне 2026 года, что Алекс Имас, профессор Чикагского университета и директор по экономике AGI в Google DeepMind, не видит данных, указывающих на «апокалипсис белых воротничков», вызванный ИИ. Имас сказал: «У нас нет никаких доказательств "кровавой бани" среди белых воротничков", даже в программной инженерии — секторе, который часто называют наиболее подверженным автоматизации». Он описал гипотетический «эффект каскада», при котором фирмы могут копировать увольнения, вызванные ИИ, у своих конкурентов из страха показаться неконкурентоспособными, но подчеркнул, что этот сценарий остается спекулятивным и не подтверждается текущими данными. Эти выводы дополняются более широкими исследованиями рисков вымирания. Обзор 2025 года в журнале по медицине и рискам с открытым доступом пришел к выводу, что вероятность вымирания человечества от внешних угроз, таких как падение астероидов или извержения супервулканов, «чрезвычайно низка» на основе имеющихся данных, в то время как вероятность угроз, созданных человеком (таких как ядерная война или экологический коллапс), труднее количественно оценить, но она достаточно серьезна, чтобы оправдать усилия по предотвращению. Чикагские эксперты помещают ИИ в эту общую карту угроз: это не единственный и не доминирующий путь к вымиранию сегодня, но сила, которая может усилить другие кризисы, если ее не контролировать. О каких реальных опасностях, связанных с системами ИИ, предупреждают эти ученые? Отвергая сценарии немедленного апокалипсиса, ученые из Чикаго и Нортвестерна четко обозначают конкретные угрозы: использование инструментов ИИ для кибератак, дезинформации, мошенничества и слежки, а также продвинутые модели, которые могут обострить существующие риски, такие как биологическое оружие или финансовая нестабильность. Они утверждают, что эти опасности требуют политических и технических ответных мер уже сейчас. Диакопулос выделил кибербезопасность как область, где ИИ уже повышает риски. Он предупредил, что преступники могут использовать генеративные модели для написания вредоносного ПО или проведения фишинговых кампатий в массовом масштабе, делая существующую киберпреступность более эффективной. Работа его лаборатории изучает, как различные новостные издания преподносят эти риски, поскольку медийные нарративы влияют на то, какие угрозы ИИ законодатели будут считать первоочередными. Институт Баффета при Университете Нортвестерн сообщил 10 сентября 2026 года, что более 100 компаний в сфере ИИ и кибербезопасности предупредили федеральное правительство США о «драматическом» расширении масштабов и сложности кибератак с использованием ИИ. В совместном письме утверждалось, что все более мощные модели могут позволить злоумышленникам автоматизировать разведку, поиск уязвимостей и социальную инженерию со скоростью, с которой человеческие команды не смогут сравниться. Подписанты призвали к ужесточению регуляторных стандартов доступа к моделям, их аудита и безопасного развертывания, сосредоточившись на практическом контроле, а не на спекулятивных сценариях вымирания. Аналитики рисков в широком сообществе безопасности ИИ описывают другой путь: ИИ как «множитель силы» для других известных угроз. В анализе катастрофических рисков 2026 года утверждалось, что «наиболее вероятным путем к краху цивилизации» является не одиночная система ИИ, решившая напасть на человечество, а продвинутые модели, усиливающие такие кризисы, как кибервойны, искусственно созданные пандемии или финансовая нестабильность. В этой работе подчеркивается роль каскадных эффектов, когда инструменты автоматизации и оптимизации ускоряют опасные действия людей — например, облегчая проектирование биологических агентов или координацию атак. Этот сценарий совпадает с акцентом чикагских экспертов на нецелевом использовании и системном воздействии, а не на научно-фантастических сюжетах о враждебности машин. Как чикагские эксперты относятся к «апокалиптическим» заявлениям лидеров ИИ-индустрии? Чикагские ученые критикуют то, как некоторые руководители ИИ-компаний продвигают нарративы о вымирании, утверждая, что «дум-троллинг» (doom trolling) и драматические разговоры о «p(doom)» могут исказить общественные приоритеты. Они говорят, что алармистские сообщения от компаний, создающих эти системы, рискуют запутать избирателей и политиков относительно того, какие вредные последствия ИИ являются наиболее срочными. В программе PBS «Amanpour and Company» профессор компьютерных наук Кэл Ньюпорт описал то, что он называет «дум-троллингом» со стороны крупных ИИ-фирм. Ньюпорт определил дум-троллинг как «странную» модель поведения компаний ИИ, пытающихся убедить клиентов в том, что их собственные продукты могут привести к «масштабным разрушениям» в будущем. Он аргументировал это тем, что подобная риторика вводит в заблуждение и может затмить более насущные проблемы, связанные с рынком труда, приватностью и концентрацией власти. Интервью Fortune с генеральным директором OpenAI Сэмом Альтманом от 12 сентября 2026 года показало, как подобные сообщения проникают в мейнстримные дискуссии. Альтман описал «вероятность гибели», или «p(doom)», как реальную концепцию, обсуждаемую внутри ИИ-сообщества, даже при том, что он выступал за сбалансированное регулирование и продолжение разработки моделей. Комментарии Альтмана отражали разделение нарративов: он признает низкую вероятность катастрофического риска, но утверждает, что преимущества технологии оправдывают продолжающиеся инвестиции. Чикагские аналитики обеспокоены тем, что постоянный акцент на p(doom) может отвлечь внимание от доказуемого вреда и измеримых показателей, таких как данные о занятости, киберинциденты и аудит предвзятости алгоритмов. За пределами Чикаго видные исследователи также выступали против экстремальной риторики апокалипсиса. Пионер Meta AI Ян Лекун в интервью Axios в мае 2026 года назвал прогнозы о потере 20% рабочих мест из-за ИИ в ближайшем будущем «нелепо глупыми». Он заявил, что нынешние системы «далеки» от замены половины профессий «белых воротничков», и назвал общий нарратив о вымирании «крайне деструктивным», так как он наносит психологический вред. Какие шаги предпринимают университеты и политики в ответ на эти опасения? Университеты Чикаго корректируют правила обучения, исследовательские программы и стратегии взаимодействия с общественностью, чтобы риски ИИ оставались управляемыми, в то время как политики рассматривают предупреждения от индустрии и академической среды. В настоящее время основное внимание уделяется управлению, прозрачности и сдержанности в сферах высокого воздействия, а не полному запрету ИИ. Чикагский университет начал менять подходы к использованию инструментов ИИ студентами. В редакционной статье от 28 августа 2026 года описывалась новая политика в рамках базового курса социальных наук университета, целью которой является возвращение многих занятий к «аналоговому опыту». Согласно этой политике, студенты, как правило, должны читать, писать и анализировать материалы без использования генеративного ИИ, а использование ИИ для оценки работ строго ограничено. Редакционная статья представила этот шаг как способ сохранить навыки критического мышления и снизить зависимость от непроверенных результатов работы машин. В исследовательской сфере ученый из Чикагского университета Бен Чжао изучает возможности использования ИИ в состязательных целях, таких как обучение нейросетей для создания фальшивых отзывов о ресторанах или поиска «бэкдоров», позволяющих хакерам обманывать системы распознавания лиц и беспилотные автомобили. В выпуске подкаста университета «Big Brains» в декабре 2024 года Чжао утверждал, что специалисты по компьютерным наукам должны «тщательно изучать» новые методы и приложения ИИ, чтобы выявлять недостатки и улучшать защиту. Его работа лежит в основе идеи о том, что разработчики должны искать уязвимости до того, как ими воспользуются злоумышленники. Политические дискуссии выходят за пределы кампусов. Отчет Института Баффета за сентябрь 2026 года, посвященный письму компаний индустрии ИИ и кибербезопасности, показывает, что компании призывают федеральные власти принять меры по стандартизации и надзору за продвинутыми моделями. Исследователи рисков, изучающие пути вымирания, призывают к стратегиям предотвращения в области ядерной безопасности, борьбы с пандемиями и защиты окружающей среды, утверждая, что антропогенные угрозы — включая усиленные ИИ — требуют постоянного смягчения последствий. Как общественности следует интерпретировать разрыв между апокалиптическими сценариями и текущими фактами? Основной посыл чикагских экспертов для общественности заключается в том, чтобы рассматривать ИИ как мощный инструмент с обоими сторонами медали, а не как неизбежный механизм вымирания. Они советуют обращать внимание на задокументированный вред и достоверные данные, избегая парализующего страха, основанного на спекулятивных сценариях будущего, которых сегодняшние модели достичь не могут. Доступные доказательства и мнения экспертов позволяют сделать несколько практических выводов. Согласно Хоффманну и Линне, современные системы ИИ не близки к общему искусственному интеллекту, способному на автономное глобальное разрушение; для этого все еще требуется множество прорывов. Большинство задокументированных случаев вреда связаны с нецелевым использованием: киберпреступностью, мошенничеством, дезинформацией, предвзятостью систем принятия решений и потенциальными потрясениями на рынке труда. Данные о потере рабочих мест на сегодняшний день не показывают «кровавой бани», вызванной ИИ, хотя вытеснение определенных ролей остается поводом для беспокойства. Исследования рисков вымирания определяют другие угрозы — ядерную войну, пандемии, экологический коллапс — как более поддающиеся количественной оценке в ближайшей перспективе, при этом ИИ может выступать скорее ускорителем, чем первопричиной. Эксперты выступают за более медленное и контролируемое развертывание передовых моделей, более строгие стандарты безопасности и институциональные правила, сохраняющие человеческое суждение в критически важных областях, таких как образование, финансы и безопасность. Короче говоря, чикагские ученые в области ИИ пытаются перенастроить общественную дискуссию: меньше апокалиптических спекуляций и больше основанного на доказательствах фокуса на конкретных способах, которыми современное программное обеспечение может помогать или вредить обществу сегодня.

Nic Reeve·14:00 15.09.2026

AI & Tech

Правила биобезопасности ужесточаются на фоне прорыва ИИ в сфере биотехнологий

12 августа 2026 года Великобритания объявила о планах регулирования искусственного интеллекта (ИИ) в области синтеза генов, в то время как новые американские исследования и политические дискуссии обнажили пробелы в биобезопасности на передовой. Все это вместе показывает, почему термин «новости ИИ» теперь все чаще означает срочные новости о биобезопасности, а не просто обновления программного обеспечения. Как искусственный интеллект меняет рубежи биобезопасности? Искусственный интеллект трансформирует биологию — от проектирования до практического применения, — создавая как новые средства защиты, так и новые риски. Недавние исследования показали, что ИИ-модели способны проектировать полные геномы вирусов, а отчеты экспертов предупреждают, что ни одна мера защиты не способна остановить решительно настроенного злоумышленника, использующего эти инструменты для создания биологического оружия. Ряд событий июля и августа 2026 года демонстрирует, как быстро развиваются эти технологии: 6 августа 2026 года группа ученых под руководством Сэмюэла Кинга из Стэнфорда и исследователя Брайана Хая из Arc Institute сообщила об использовании семейства языковых ИИ-моделей для генома под названием Evo для проектирования и последующего создания функциональных синтетических бактериофагов. Исследование, опубликованное в журнале Science , показало, что вирусы, спроектированные исключительно in silico (на компьютере) на основе последовательностей генома, могут заражать бактерии после синтеза, что указывает на появление нового класса биологических возможностей, реализованных с помощью ИИ. В аналитическом материале от 12 августа 2026 года вирусы, спроектированные ИИ, были названы проверкой того, способны ли существующие системы биобезопасности идти в ногу с этими возможностями. Было подчеркнуто, что некоторые компьютерные проекты успешно сработали при создании и тестировании в лабораторных условиях. В статье, опубликованной 13 июля 2026 года в журнале Frontiers in Bioengineering and Biotechnology , рассматривались ограничения инструментов скрининга биобезопасности на основе последовательностей в эпоху проектирования белков с помощью ИИ. В ней ставится вопрос о том, могут ли традиционные проверки последовательностей ДНК надежно выявлять новые угрозы, созданные ИИ. Эти технические достижения являются частью более широкой дискуссии о биотехнологиях двойного назначения, усиленных ИИ. В аналитической записке Центра Белфера, опубликованной 13 августа 2026 года, ИИ в биологии был назван «рубежом двойного назначения», где одни и те же модели, ускоряющие разработку вакцин и методов лечения, могут одновременно упростить проектирование опасных биологических агентов. В записке Центра Белфера подчеркивается, что в США по состоянию на август 2026 года до сих пор отсутствует комплексный федеральный закон, специально регулирующий использование ИИ в биобезопасности, даже несмотря на то, что такие технологии распространяются в частных лабораториях и облачных сервисах. Какие новые стратегии и правила рассматривают правительства в отношении ИИ в биотехнологиях? Правительства Великобритании и США переходят от рекомендательного характера руководств к более формальным правилам. Великобритания разрабатывает законодательство для регулирования роли ИИ в синтезе генов, в то время как американские ведомства тестируют многоуровневый надзор через условия финансирования и политики в отношении высокорискованных исследований. В Великобритании власти обозначили четкое направление политики в середине августа: Согласно брифингам правительства Великобритании от 12 августа 2026 года, министры планируют регулировать использование ИИ при синтезе генов, чтобы предотвратить создание террористами биологического оружия. Предлагаемое законодательство сделает скрининг последовательностей ДНК обязательным для всей отрасли, заменив текущую добровольную систему, которая поощряет, но не требует проверок. Поставщики синтетических нуклеиновых кислот должны будут: Проверять личность заказчиков. Проводить скрининг заказанных последовательностей длиннее 50 нуклеотидов на соответствие базам данных известных опасных организмов и токсинов. Сообщать властям о подозрительных заказах и случаях, когда проверка на легитимность не была пройдена. Этот подход опирается на руководство, выпущенное Министерством науки, инноваций и технологий Великобритании в октябре 2024 года, которое призывало поставщиков проверять критически важные последовательности длиннее 50 нуклеотидов, но не устанавливало юридических обязательств. В США политика развивается по нескольким направлениям: 29 июля 2026 года Белый дом выпустил новую политику в отношении федерального финансирования высокорискованных медико-биологических исследований, включая исследования опасных функций (DGOF), распространив надзор на области, представляющие наибольший риск для национальной безопасности. Руководство предписывает Управлению по научно-технической политике (OSTP) созвать межведомственную группу для мониторинга достижений на стыке биологических наук и искусственного интеллекта, включая исследования in silico . В политике указано, что предложения по созданию или модификации биологических агентов, подпадающих под определения DGOF, если они основаны на компьютерном проектировании, будут подлежать тем же ограничениям, что и лабораторные исследования DGOF. Чисто вычислительная работа по-прежнему может получать финансирование, если она не связана с «лицом, вызывающим обеспокоенность», что оставляет разработку ИИ-моделей в значительной степени открытой, привязывая решения о финансировании к конкретным биологическим задачам. Помимо правил финансирования, законодатели в Вашингтоне обсуждают правовые рамки. Согласно сообщениям от 18 августа 2026 года, на Капитолийском холме растет поддержка узкоспециализированного законопроекта, который создаст базовую федеральную систему биотехнологической безопасности, включая обязательства, связанные с биотехнологиями на базе ИИ. Рекомендации Центра Белфера от 13 августа 2026 года призывают к: Созданию авторизованного правительством рынка частного регулирования, где лицензированные технические аудиторы обеспечивают соблюдение мер безопасности ИИ в биобезопасности для передовых моделей. Всеобщему скринингу заказов на синтетические нуклеиновые кислоты длиннее 50 нуклеотидов, включая заказы частного сектора, а не только финансируемые государством работы. Обязательной проверке клиентов и отчетности о неудачных проверках на легитимность для усиления контроля над коммерческими поставщиками. Эти идеи согласуются с целями планируемого законодательства Великобритании и отражают более широкий сдвиг в сторону сочетания национального регулирования со стандартами, внедряемыми отраслью. Почему скрининг синтеза ДНК и контроль синтеза генов имеют решающее значение для биобезопасности? Синтез ДНК и генов находится в узком месте, где цифровые проекты превращаются в физические биологические агенты. Скрининг заказов и контроль доступа имеют решающее значение, поскольку ИИ теперь упрощает создание новых последовательностей, которые могут обойти старые инструменты обнаружения. Несколько недавних аналитических работ объясняют сложность процесса скрининга: В статье в журнале Frontiers in Bioengineering and Biotechnology от июля 2026 года утверждается, что инструменты скрининга на основе последовательностей, созданные для поиска известных патогенов, испытывают трудности при столкновении с проектированием белков и геномов с помощью ИИ, которое создает незнакомые, но вредоносные последовательности. В статье под названием «Вопрос 50 нуклеотидов» описывается опасение, что широко используемый порог в 50 нуклеотидов может не охватывать более короткие, но опасные мотивы, при этом оставляя пробелы для более длинных, инженерно созданных последовательностей. 4 августа 2026 года обозреватели в области искусственных наук отметили, что ИИ был добавлен в качестве шестнадцатого технологического приоритета в «Программу Аполлон по биозащите», причем одно из пяти рекомендуемых направлений инвестиций сосредоточено на адаптивном скрининге синтеза нуклеиновых кислот. Свидетельства представителей отрасли в Калифорнии показывают, как скрининг применяется сегодня и где остаются пробелы: 4 августа 2026 года представители Twist Bioscience заявили законодательному комитету штата Калифорния, что компания уже проверяет все заказы на ДНК по базам данных опасных патогенов и санкционным спискам. Они поддержали законопроект штата AB 1864, который потребует проведения скрининга ДНК всеми поставщиками в Калифорнии, аргументируя это тем, что инструменты проектирования на базе ИИ могут генерировать новые последовательности, которые обходят устаревшие методы обнаружения, и что базы данных защиты должны постоянно обновляться. Twist сообщила о производстве сотен тысяч спроектированных вариантов для обучения моделей, что свидетельствует о резком увеличении объема и разнообразия последовательностей, проходящих через коммерческие платформы с поддержкой ИИ. Отчет RAND, опубликованный 18 августа 2026 года, предлагает дополнительную перспективу. Исследователи RAND утверждают, что ни одна мера защиты не способна остановить создание биооружия с помощью ИИ; они предложили девять мер вмешательства вдоль цепочки биологического риска, включая защитные меры на уровне моделей, контроль доступа и развертывания, управление на ранних этапах и вмешательство в ключевых физических «узких местах», таких как поставщики услуг синтеза ДНК. В этой структуре скрининг синтеза становится лишь одним из многих уровней, привязанным к контролю доступа к ИИ-моделям и мониторингу подозрительных паттернов использования в режиме реального времени. Как стратегии национальной безопасности адаптируются к рискам биотерроризма с помощью ИИ? Специалисты по национальной безопасности теперь рассматривают биотерроризм с использованием ИИ как отдельную проблему. Недавние отчеты показывают, что стратегии биозащиты США добавляют ИИ в качестве приоритета, в то время как администрация Трампа стремится восстановить институты биозащиты и механизмы финансирования, ослабленные ранее в ходе его второго срока. Что касается стратегии, «Программа Аполлон по биозащите» расширила свои приоритеты в середине 2026 года: 7 июля 2026 года спонсоры программы добавили искусственный интеллект в качестве шестнадцатого технологического приоритета — первого нового приоритета с момента утверждения исходных пятнадцати в 2021 году, согласно отчету Атлантического совета, резюмированному порталом Artificial Science. Сопутствующая записка рекомендовала инвестиции по пяти направлениям: Надзор за заболеваниями и диагностика с помощью ИИ. Разработка медицинских контрмер, включая более быстрое проектирование вакцин и терапевтических средств. Микробная криминалистика и атрибуция, использующие ИИ для отслеживания источников биологических атак. Оценка моделей и меры безопасности для передовых ИИ-систем. Адаптивный скрининг синтеза нуклеиновых кислот, способный реагировать на эволюционирующие последовательности, созданные ИИ. Параллельно администрация Трампа стремится усилить потенциал биозащиты: 17 августа 2026 года сообщалось, что Белый дом спешит подготовиться к новым штаммам смертельных вирусов, частично из-за того, что искусственный интеллект может упростить создание опасных патогенов, а также из-за того, что предыдущие сокращения штатов снизили уровень экспертизы в области биозащиты. В материалах от 18 августа 2026 года подробно описываются шаги по восстановлению биозащиты на фоне страхов перед биооружием, при этом отмечается, что администрация отменила исполнительный указ 2023 года об ИИ, который призывал к усилению биологических мер безопасности. В том же сообщении говорится, что пересмотренная политика в области ИИ и биобезопасности, заказ на которую был отдан в августе 2025 года, до сих пор не опубликована, что создает политический вакуум, несмотря на растущую обеспокоенность. Вашингтонский анализ от 18 августа 2026 года охарактеризовал биотерроризм с помощью ИИ как «следующее испытание для Вашингтона», подчеркнув, что федеральные агентства начинают внедрять условия биобезопасности непосредственно в гранты, контракты и соглашения о проведении исследований для регулирования новых биотехнологий на базе ИИ. Этот сдвиг переводит меры контроля биобезопасности из рекомендательных документов в обязательные условия финансирования, что может повлиять на то, как государственные и частные лаборатории проектируют и используют ИИ-инструменты. Кто больше всего страдает от изменений в биобезопасности и что будет дальше? Исследователи, фирмы по синтезу ДНК, разработчики ИИ и службы безопасности сталкиваются с новыми обязательствами и стимулами. Следующие шаги включают превращение рекомендаций в закон, стандартизацию скрининга по всему миру и создание систем мониторинга, которые могут обнаруживать злоупотребления, не блокируя при этом полезные исследования. Основные затронутые группы включают: Ученые в области медико-биологических наук , которым приходится ориентироваться в новых правилах финансирования DGOF и потенциальных проверках проектов in silico , связанных с опасными агентами, что меняет порядок подачи и утверждения проектов. Поставщики синтеза ДНК и генов , особенно в Великобритании и Калифорнии, от которых на законодательном уровне может потребоваться проверка клиентов, скрининг всех заказов выше установленных порогов и отчетность о подозрительных запросах. Разработчики ИИ-моделей , работающие на стыке биологии и машинного обучения, которые могут столкнуться с требованиями лицензирования, аудита или стандартами безопасности на уровне моделей, если будут приняты рекомендации таких групп, как RAND и Центр Белфера. Органы национальной безопасности и общественного здравоохранения , которым потребуется экспертиза как в области ИИ, так и в биологии, чтобы интерпретировать оповещения, расследовать аномальную активность и реагировать на потенциальные угрозы, спроектированные ИИ. Заглядывая вперед, стоит выделить несколько нерешенных вопросов: Как определить «передовые» ИИ-модели для биологии и кто должен решать, какие системы подпадают под особые правила биобезопасности. Как обмениваться предупреждающими знаками и паттернами злоупотреблений между компаниями и правительствами, сохраняя при этом конфиденциальность и право собственности на исследования. Как гармонизировать национальные правила, чтобы субъекты не могли просто переносить заказы на синтез или вычислительные нагрузки ИИ в юрисдикции с более слабыми нормами. Как обновлять базы данных скрининга и защитные наборы данных достаточно быстро, чтобы соответствовать способности ИИ генерировать новые последовательности. То, будут ли эти вопросы решены посредством международных соглашений, отраслевых стандартов или внутреннего законодательства, определит будущее биобезопасности на рубеже, где проектирование на основе ИИ встречается с синтетической биологией.

Nic Reeve·14:00 02.09.2026