IPO Anthropic. Как создатель Claude продает билеты в страну чудес и страховки от ИИ-апокалипсиса

Дарио Амодеи
Подпись к фото, Дарио Амодеи после IPO станет лицом всей ИИ-отрасли
  • Опубликовано
  • Время чтения: 5 мин

Создатель Claude, американская компания Anthropic, выходит на биржу первой из ведущих разработчиков искусственного интеллекта. Впервые обещания визионеров и мечтателей пройдут проверку реальностью и покажут, насколько широкая публика готова поверить в революционную технологию ИИ и проголосовать личным долларом за светлое будущее, в котором не будет болезней, а трудиться, изобретать и думать будут агенты ИИ.

Поздно вечером в среду Anthropic объявил, что цена каждой из почти миллиарда выставленных на продажу акций составила ровно 83 доллара. Источники агентства Reuters еще до этого объявления сообщили, что общий объем IPO превысил 81 миллиард долларов.

С четверга акции начнут торговаться на американской бирже Nasdaq.

Семь основателей Anthropic во главе с Дарио Амодеи позиционируют свои разработки как ИИ здорового человека, а себя представляют джедаями на службе человечества, для которых безопасность новой технологии важнее прибыли. Не самый привлекательный питч для покупателей акций, желающих заработать. К тому же компания связана обязательствами вложить в дата-центры почти 1 трлн долларов до 2045 года, а перспективы стать прибыльной в ближайшее время туманны.

Несмотря на это, у Anthropic нет отбоя от желающих войти в долю и купить акции компании, будущее которой настолько неопределенно, что перечисление рисков для бизнеса заняло почти 100 страниц в проспекте исторического IPO. Почему?

По трем главным причинам.

Во-первых, впервые в свободной продаже появятся акции компании, для которой разработка ИИ — ключевой бизнес, а не один из, как у Microsoft, Google, Amazon или Meta. До сих пор желающие заработать на технологической революции могли вложиться только в акции компаний вроде Nvidia, которые делают кирки и лопаты золотой лихорадки XXI века — чипы, дата-центры и прочую облачную инфраструктуру. Теперь же наконец можно купить долю в капитале компании, которая собственно моет золото — продает конечные ИИ-продукты потребителям.

Во-вторых, доли в Anthropic уже принадлежат некоторым из этих производителей, и Anthropic собирается купить их продуктов и услуг на сотни миллиардов долларов в ближайшие годы. Поэтому они заинтересованы в успехе IPO и участвуют в параллельном частном размещении акций Anthropic.

И в-третьих, компании гарантирован спрос со стороны идеалистов, желающих вложиться в футуризм, но разочаровавшихся в прежних идолах — Илоне Маске и Дженсене Хуанге.

Логотип Claude

Именно этой категории адресовано послание основателей Anthropic, которым они завершили обращение к потенциальным инвесторам перед IPO.

«Мы призываем рассматривать покупку наших акций не только как сделку, но и как возможность стать частью чего-то большего», — пишут они.

«Появление машинного интеллекта — ключевое событие в истории человечества. Наша цель — помочь безопасно пережить его, открыть новые горизонты познания и приблизить эпоху чудес».

Что может пойти не так

Пропустить Расширение для браузера Chrome - ссылка и продолжить чтение.
Как нас читать с расширением для браузера Chrome
Расширение BBC News Russian

Это расширение поможет, если возникают трудности с доступом к сайту Русской службы Би-би-си.

Загрузить расширение

Конец истории Расширение для браузера Chrome - ссылка

Дарио Амодеи давно обещает людям в помощь целую «страну гениев в дата-центре» — так он описывает мыслительные способности ИИ-моделей будущего. В презентации для главных американских банкиров перед IPO он говорил, что свято верит в способности ИИ уже в ближайшем будущем излечить серьезные болезни и бесконечно усилить возможности людей улучшать жизнь.

Правда, он также называл ИИ угрозой человечеству. Аналогичное предупреждение содержится на первой же из сотни страниц списка потенциальных рисков для бизнеса Anthropic в проспекте к IPO.

«Существуют опасения, что продвинутые ИИ-системы могут нести катастрофические и даже экзистенциальные риски для человечества, если при их разработке и использовании не будет надлежащих мер безопасности и контроля», — говорится в документе.

Claude уже пишет большую часть кода для каждой следующей версии самого себя, и разработчики признают, что не всегда сами понимают, как там что устроено, насколько надежны встроенные ограничители и как система адаптируется к задачам, в том числе посредством обмана и хитростей вплоть до зловредных.

И это только часть проблемы. Если программу еще можно попытаться научить не вредить человеку (для этого у Claude есть целая «конституция», как у настоящей страны гениев), то ее пользователей ограничивает только собственное представление о добре и зле. Если злодеи попытаются использовать Claude для совершения злодейств, остановить их будет сложно.

«Наши самые мощные модели уже способны оказать существенную помощь злоумышленникам в разработке химического, биологического и других видов опасного оружия», — предупредил Anthropic потенциальных инвесторов.

И пообещал свято придерживаться прежнего принципа — безопасность прежде всего.

Десяток протестующих с плакатом «Остановить IPO»
Подпись к фото, Недовольство американцев скоростью развития ИИ — один из рисков, о которых Anthropic предупредил инвесторов. Протест перед офисом компании в Нью-Йорке

Таким образом компания фактически представила свои акции не только как билет в будущую страну чудес, но и как страховку от ИИ-апокалипсиса.

Во-первых, потому что неплохо быть акционером Anthropic на случай, если Claude заменит большинство работников умственного труда. Можно рассчитывать на долю в чужой прибыли от собственного увольнения.

А во-вторых, потому что Anthropic позиционирует себя как компанию, для которой предотвращение катастрофы важнее прибыли и лидерства в начавшейся технологической революции. А следовательно, инвестиции в ее капитал даже в отсутствие доходов от вложенного должны приносить моральное удовлетворение как вложения в защиту от машин и маньяков.

Ради этого Anthropic готов тратить деньги, подрывая свои позиции в конкуренции с другими ИИ-гигантами. Главный из них — OpenAI, создатель популярного ChatGPT. Амодеи был одним из его разработчиков, но разошелся во взглядах с главой комапнии Сэмом Альтманом и основал Anthropic. С тех пор он призывает не спешить с выпуском передовых моделей, не разобравшись, как они устроены и как их контролировать.

Выход на биржу сделает Амодеи лицом ИИ-отрасли. Эту позицию, как и пост бессменного главы Nvidia, только что со скандалом освободил Дженсен Хуанг. Он был главным заводилой и оптимистом, на всех углах кричал о том, как искусственный интеллект обеспечит золотой век человечеству, а заодно и его компании — главному поставщику кремниевых мозгов для ИИ.

Амодеи намного осторожнее, а именно ему по биржевым правилам придется теперь каждые три месяца публично отчитываться перед акционерами. Он будет задавать тон дискуссии о будущем ИИ, а результаты квартальных продаж его компании будут главным мерилом того, насколько рискованную ставку сделали американские гиганты, вложив триллионы долларов в дата-центры.

После IPO Anthropic ИИ-отрасль вступает в новую эпоху. Заканчивается этап первоначального сбора денег у закрытого клуба инвесторов, готовых долго ждать отдачи и не реагировать на временные сложности. С четверга каждый взлом, провал или прорыв будут немедленно менять цену акций Anthropic на бирже Nasdaq. На ближайшие месяцы, до ожидаемого в 2027 году IPO OpenAI, именно она станет главным индикатором здоровья ИИ-отрасли.