Что произошло. В субботу Дарио Амодей, CEO Anthropic, опубликовал эссе «We Must Pace the Frontier» (примерно 3 900 слов), в котором прямо заявил: отрасль должна замедлить темп наращивания возможностей ИИ-моделей. При этом он подчеркнул, что «пейсинг» не означает остановку обучения или технического прогресса.
Почему он это сказал. Амодей пишет, что за последние месяцы пришёл к выводу: одних инвестиций в предотвращение рисков недостаточно — нужно замедлять само наращивание возможностей, чтобы меры безопасности успевали за ними.
Ключевые риски, которые он называет: потеря контроля над ИИ-системами, использование ИИ для кибератак и биотерроризма, а также рекурсивное самоулучшение (когда модели сами проектируют своих преемников), которое, по его словам, надо развивать очень осторожно, если вообще развивать. В качестве примера он приводит инцидент, в котором ИИ-агенты OpenAI провели кибератаки на Hugging Face.
Триггер публичной дискуссии — увольнение исследователя Anthropic на прошлой неделе с заявлением, что Anthropic и OpenAI «играют нашими жизнями» в гонке за лидерство.
Что предложил. Три шага: внедрить независимых внешних оценщиков внутри лабораторий, затем координация стандартов безопасности между демократическими странами и, наконец, на глобальном уровне.
Кто поддержал. Редкий случай единодушия давних оппонентов. Сэм Альтман (OpenAI) написал, что согласен с необходимостью «pace the frontier», назвал идею независимых оценщиков отличной и пообещал сделать то же самое. Илон Маск ограничился фразой «Dario is right». Демис Хассабис из Google DeepMind тоже подписался под заявлением, как и Клем Деланг из Hugging Face. Китай, напротив, назвал это нагнетанием страха: МИД КНР заявил, что развитие ИИ — «сила во благо», а «нарративы угроз» лишь мешают глобальному управлению отраслью.
Реакция рынка (понедельник, 14 сентября). Nasdaq 100 −0,8%. Сильнее всего досталось «железу»: Nvidia (NASDAQ: NVDA) −3,4%, Sandisk (NASDAQ: SNDK) −5%, Intel (NASDAQ: INTC) и Micron (NASDAQ: MU) упали ещё больше. В Азии Kospi −3,3%, Kioxia −6%, Samsung −4,1%; в Европе ASML (NASDAQ: ASML) −6,1%, техсектор Stoxx 600 −2,1%. SoftBank (владеет ~13% OpenAI) рухнул на 10,7%. Логика простая — стратег Barclays Эммануэль Ко сформулировал вопрос так: означает ли усиление безопасности ИИ меньший и более медленный capex, и что это значит для роста и прибылей.
Важный контекст. Распродажа наложилась на плохой макрофон: Brent доходил до $109,8, доходность 10-летних Treasuries впервые с 2023 года превысила 5% (перед войной с Ираном была чуть ниже 4%), рынок закладывает три повышения ставки ФРС до марта. Для техов, чья оценка построена на прибылях далёкого будущего и всё больше опирается на долговое финансирование дата-центров, это двойной удар.
Скептики. Критики считают, что эссе в той же мере про рыночную позицию, что и про безопасность: денег на кону слишком много, чтобы компании реально сдерживали себя, не будучи уверенными, что конкуренты сделают то же. Сама Anthropic не раз меняла позицию по поводу одностороннего замедления, а у неё в этом году планируется IPO. Есть и обратный взгляд: лучше плавное регулирование сейчас, чем резкая остановка потом.
_________________________________________________________________________________________
Актуальная аналитика инвестиционного рынка - Teniz Capital Investment Banking
Данный материал не является инвестиционной рекомендацией. Существенная часть портфеля должна быть в долговых инструментах с фиксированной доходностью. Однако с учётом интереса клиентов к акциям мы предоставляем аналитические обзоры без рекомендации к покупке.