Очередные заметки об AI и IT

КДПВ: Алхимичка не смотрит на разрушающуюся Вавилонскую башню в хрустальном шаре

В отличие от прошлогоднего поста на ту же тему, я не буду особо останавливаться на практике использования, поскольку она с того времени практически не поменялась. Контекст стал побольше, инструменты стали удобнее, но принципиально не поменялось ничего, и все тогдашние тезисы остаются в силе.

Вообще, если вам рассказывают о технологической революции каждые две недели — это верный признак, что нет не то что революции, но и сколь-нибудь значимой эволюции. А настоящие революции случаются редко и осознаются с запозданием.

Нет, безусловно, модели за год подросли и стали «умнее»… Вот только на практике это может означать, что вы будете замечать проблему позже и тратить больше времени на выяснение, что и когда пошло не туда. Поэтому только контроль на каждом этапе и разбиение на этапы такое, чтобы вы реально могли их проконтролировать.

Тезис о том, что AI не заменит и не отменит человека в большинстве случаев, тоже остается в силе. Тем не менее невооруженным глазом виден кризис найма в IT (и не только). Как так получилось? С этого и начнем…

Кризис, который есть

Как это почти всегда и бывает, причин у текущего кризиса несколько, и лежат они несколько глубже во времени.

Это был пузырь

Еще в допандемийные годы капитализация IT-компаний росла намного быстрее, чем выручка. Это нормально, когда мы говорим о какой-то отдельной компании, но не тогда, когда вся отрасль растет быстрее своего сегмента рынка. И вместе с капитализацией росло количество сотрудников. А в пандемийные 2020–2021 годы найм, особенно дистанционный, вообще взлетел свечой.

Вообще, надо понимать, что еще к пандемии сфера IT подошла с крайне странной, если не сказать — уродливой, экономической моделью, когда огромные инвестиции получали проекты, не просто убыточные, а вообще не имевшие внятных перспектив монетизации в обозримой перспективе. Ковид же привлек деньги в средства для дистанционной работы, дистанционной торговли и прочего такого — это всё вполне полезные и монетизируемые вещи, но и тут рынок оказался перегрет.

Может быть, кто-то забыл, но еще недавно плюнуть было некуда от курсов «вайти-в-айти», и они были вполне себе успешны. А с другой стороны именно тогда сложились тёмные культы и практики эйчаров — если пофиг, кого нанимать, и платят за количество, то почему бы и не повахтерствовать.

В итоге получилось что: рынок труда перенасыщен, причем перенасыщен средними легкозаменимыми юнитами, легкая заменямость которых и была их конкурентным преимуществом. И все процессы более менее под них и выстроены, но уже начинают буксовать, поскольку когда у вас один человек из десяти понимает, как работает разрабатываемая система — это одно, а когда один из ста — это уже качественно другое.

Откуда же взялась эта странная экономическая модель. Тут два основных момента:

Мода на стартапы и венчур

Венчурная модель предполагает инвестиции во множество проектов, где хорошо если парочка из ста взлетит, но эта парочка должна окупить затраты на все остальные. При этом на начальном этапе важна не реалистичность планов, а их размах… Вкупе с плановым «невзлетанием» большинства это приводит к минимальному контролю на входе.

И когда в эту модель приходят большие деньги, мы получаем огромное количество стартапов, которые разоряются, но тут же замещаются новыми, и даже не пытаются «жить на свои»: рост на инвестициях без прибыли — для них единственная возможность расти настолько быстро, чтобы «захватить мир» и выиграть гонку.

С одной стороны, такая модель инвестиций — вполне рабочий способ быстро вырастить что-то по настоящему новое, что, в лучшем случае, застряло бы в ловушках локальных оптимумов, а в худшем — просто не выжило бы, не дойдя до коммерческого успеха… Но с другой стороны — в реальности есть пределы масштабирования — с какого-то объема новые инвестиции больше не дают новых единорогов, а лишь увеличивают отваливающийся хвост.

Капитализация как самоцель

Именно на капитализацию, а не на прибыль, нацелено современное корпоративное управление. И в предыдущем пункте «окупить» так же означает именно капитализацию, а не окупаемость с прибылей.

С одной стороны, такой подход стимулирует более долгосрочное планирование в случае обычных условно-стабильных компаний, развитие, реинвестирование, вот это всё… Но в случае такой эфемерной штуки, как «информационные технологии», в условиях, когда доступ к фондовому рынку имеет масса неквалифицированных мелких инвесторов, не разбирающихся в теме, в условиях, когда соцсети по всякому удобному и неудобному случаю порождают эффект толпы… В общем, зачастую месяц хайпа с лихвой перекрывает долгие годы развития, и это накладывает отпечаток на управление.

Возвращаясь к теме рынка труда. Излишний найм увеличивает капитализацию сам по себе как внешний признак успеха. То, что он при этом раздувает затраты и уменьшает прибыль, никого не волнует.

Короче, сдувание IT-пузыря на рынке труда было неизбежно, вопрос только в сроках и формах.

Конец глобализации

Как тут не вспомнить: «Это было навсегда, пока не кончилось»¹… Долгое время границы были практически прозрачны для денег, товаров и интеллектуальных ресурсов. И еще в 2019 году такое положение дел виделось стабильным, хотя нельзя сказать, что противоречий не было, или их никто не замечал. Более того, например, авторы термина «Chimerica» объявили об ее конце еще в 2009 году², впрочем, несколько поспешно, но так или иначе, неестественность такой экономической конструкции им была ясна сразу, что и отразилось в термине.

Ковид резко нарушил физические связи, перемещение людей и товаров. Затем, в 2022 году, Россия вычеркнула себя из мировой финансовой системы. Причем, если бы каким-то волшебным образом РФ просто была бы изолирована, это краткосрочно встряхнуло б мировую экономику, но существенного ущерба бы не нанесло. Однако, из-за разных позиций и интересов разных стран, а также из-за постепенности и непоследовательности санкций, получилась не глухая стена, а хитрая система из полупрозрачных перегородок. Наконец, в 2025 году Трамп начал торговые войны, выстроив препятствия уже внутри условного Запада.

Глобальная экономика, какой мы ее знали, закончила свое существование, а какой-то новой системы со стабильными и понятными правилами игры ей на смену пока не пришло.

Что всё это значит в нашем контексте?

Общий экономический спад, который сейчас наблюдается везде (в США он замаскирован AI-бумом, но по всем остальным отраслям в наличии).
Фрагментация рынков, и особенно — рынка труда. Возврат к локальности. Причем, это не сводится к возврату в офисы с удаленки, это еще и сокращение оффшорной разработки, когда офис есть, но от далеко от заказчика. Тут и проблемы трансграничных платежей, и вопросы безопасности, и риски того, что эти проблемы усугубятся…
Общая нестабильность, как следствие — уменьшение количества долгосрочных проектов «на перспективу». Для IT это особенно болезненно.

В общем, нам опять повезло, и мы можем наблюдать крах экономического миропорядка в развитии. Вероятно, на это и намекал Нолан, заставив своих героев анахронично рассуждать о Коллапсе Бронзового века…

А потом историки будущего станут объяснять все наши пертурбации климатическими изменениями, благо есть чем… Впрочем, если уральские погоды этого лета случатся в нескольких важных сельскохозяйственных регионах, мало нам не покажется.

ИИдеальный шторм

Первая публичная LLM — ChatGPT — «выстрелила» в 2022 году. В том самом году, когда развал глобализации перешел в горячую фазу. В том году, когда перегрев IT и, особенно, «вайти-в-айти» был уже заметен, и пузырю пора было начать сдуваться. Идеальный момент.

Ну а дальше всё просто:

Вы объясняете сокращения тем, что сами не знаете, нахрена столько наняли — ваши акции падают.
Вы объясняете сокращения тем, что рынки сдулись и у вас нет денег — ваши акции падают.
Вы объясняете сокращения внедрением ИИ — ваши акции растут.

Капитализация, бессердечная ты сука…

Кроме того, предыдущий бурный рост подготовил почву: поскольку набирали абы кого, то с одной стороны, большинство не готово переключиться с кодинга на проектирование, соответственно не готово полноценно использовать LLM как инструменты; а с другой стороны, процессы уже выстроены, исходя из нижней планки способностей разработчика, и, как я уже сказал выше, легкозаменимость была конкурентным преимуществом, а не наоборот. Так что полностью отрицать фактор замены на ИИ в сокращениях было бы нечестно, но на мой взгляд, экономический спад и предыдущее раздувание вносят куда больший вклад.

Ну, и всяческий хайп, моду и движуху полностью со счетов сбрасывать нельзя. Бизнесами управляют люди со своими человеческими заморочками. Просто без участия объективных экономических причин, это осталось бы мелкой пеной, с которой невидимая рука легко бы разобралась.

Что в моменте?

Прежде, чем от катастрофических констатаций перейти к апокалиптическим прогнозам, пробегусь по нескольким новостям этого года, привлекшим мое внимание. Не в порядке важности, не в хронологическом, а как получится.

Если год назад можно было вопрошать, где же та масса нового и прекрасного софта, написанная ИИ, и вообще, где конкретные результаты, то сейчас некоторые вещи стали появляться. Не то, чтобы прям масса, не то, чтобы прям прекрасного… Но есть, о чем говорить.

«Навайбкоженные» аналоги платных программ

Довольно шумно был представлен в новостях проект ArtCraft. Главным образом он подавался как полные копии и полноценная замена продуктов от Adobe… Если же не ограничиваться восторженными новостями, а посмотреть хотя бы пару обзоров и/или потыкать эти программы самостоятельно, то выясняется:

«Трюк выполнен профессионалом, не повторяйте это дома». Ну, то есть, можете, конечно, повторять, но а данном случае у автора большой опыт как в разработке, так и в ее организации. Если копнуть чуть глубже, то и вовсе выясняется, что не «профессионалом», а «профессионалами». Плюс сообщество, поскольку проекты открытые.

Да, объем работы гигантский и без LLM неподсильный маленькой команде. Я тут про то, что утверждения, что сейчас любой человек с улицы может сам себе запилить фотошоп, несколько преждевременны. Не любой. И не совсем фотошоп, но об этом далее.
Это не полные копии. Не весь функционал реализован, что вполне нормально для альфа-версии, но несколько расходится с тем, как это подается в новостях.
Это не точные копии. Уже реализованные функции зачастую работают не совсем так, как в «оригиналах». С одной стороны, и это нормально — авторы и не заявляли о точном копировании, с другой — мешает, например, переносить какие-нибудь пресеты без корректировки.

И вот по поводу последних двух пунктов добавлю: эти программы никогда не будут полными и точными копиями адобовских. А если будут, то Adobe засудить авторов на огромные деньги — никакая «чистая комната» не работает в случае патентов, коими обложены все алгоритмы, применяемые в продуктах Adobe.

В сухом остатке:

Как эксперимент — великолепно: возможность создавать крупные проекты малыми силами (и, судя по всему — точных данных нет, есть экспертные оценки — за разумные деньги) доказана.
Как точная копия коммерческих продуктов — нет, и не будет.
Как альтернатива… Отчасти да, но вообще-то открытые и свободные альтернативы есть, причем более зрелые, полнофункциональные и отлаженные. Да, они другие и требуют перестройки навыков, но и тут без этого не обойтись.
Как самостоятельный проект, безотносительно «оригиналов»… А вот это вопрос интересный. С одной стороны, некая новизна тут есть, в виде встроенного by design MCP-протокола; с другой — а хватит ли сил на долгосрочное развитие? При том, что потребность сообщества в именно таком пакете из ежа и ужа несколько сомнительна.

Будем посмотреть. Эксперимент действительно интересный, и, вероятно, он еще повлияет как на коммерческий рынок, так и на сообщество.

Ограничения на ИИ-реквесты в свободных проектах

Раз уж пошла речь про сообщество. Некоторые проекты полностью запретили сгенерированные пулл-реквесты, некоторые обложились дополнительными правилами… И это не потому, что они луддиты и мракобесы, а потому что:

Хлынул вал откровенного шлака, который генерируется быстрее, чем мейнтейнеры успевают его хоть как-то осознать и осмысленно отклонить.

Виноват тут, конечно, не ИИ, а мясные прокси, которые решили «внести свой вклад», не включая голову.
Плохое качество кода, сгенерированного ИИ, вообще. Даже, когда задачу ему ставит человек, понимающий, что к чему, прописывает все необходимые рекомендации и ограничения и т.д. В этом случае получается работающий код, но работающий != хороший.

Качественный код писать с помощью LLM тоже можно, но требует квалификации и усилий.

Вообще, за последний год выкристаллизовалось два момента, которые в близких формах я видел у людей совсем разных профессий:

Когда делаешь посредством LLM что-то, в чем не особо разбираешься — всё прекрасно, быстро, ясно и работает. Когда делаешь что-то, в чем разбираешься — видишь кучу косяков, проблем, которые всплывут в дальнейшем, бессмысленных телодвижений и т.д.
Когда делаешь что-то рутинное, что повторяется из раза в раз, машина справляется, мелкие шероховатости можно устранить уточнением инструкций. Когда же делаешь то, что до тебя никто не делал — туши свет. Пытаться вывести на решение инструкциями можно, но проще и быстрее сделать самому.

В целом, процессы разработки с применением нейросетей пока не выработаны. Не сомневаюсь, что они со временем устаканятся, но тогда и хайп схлынет.

Уязвимости и взломы

А вот этот момент я, следует признать, сильно недооценивал. Недооценивал по той причине, что на первый взгляд, ничего принципиально не меняется: так же кто-то находит уязвимости, кто-то чинит. Да, находятся они быстрее, так и затыкаются быстрее…

Но в действительности количественное упрощение поиска уязвимостей перешло в качество:

Стали находить способы эксплуатации, которые ранее считались слишком сложными. Насколько я понимаю, знаменитая уязвимость в PHP, из-за которой были временно остановлены две трети интернета, известна была давно, не было реалистичных сценариев ее использования.
Поиск и эксплуатация уязвимостей стали доступны большему количеству людей (поскольку тут нет потребности в долгосрочном сопровождении — практически любому желающему). В том числе тем, кто в силу отсутствия квалификации не осознает последствия.
Само по себе ускорение процессов приводит к авралам.

Думаю, впрочем, ситуация со временем нормализуется. Все-таки контроль качества кода и превентивный поиск проблем стали куда более доступны и дешевы. Главное, не пытаться полностью замкнуть петлю и заставить ИИ исправлять всё найденное — поскольку почти все «найденные» проблемы — ложные, а исправления без человеческого контроля превращают код в кашу (см. предыдущий подраздел).

Неинтересное

Как обычно, было много обсуждений такого, что обсуждать не имеет смысла. Чисто маркетинговые новости, что-то среднее между нейрослопом и нейроскамом. Сюда я отношу все эти «побеги» «агентов», их конференцию на забытом немецком форуме, «религию» и модную Omarchy до кучи. Ну ладно, Omarchy — это нейроскам с нескучными обоями.

Сюда же все обещания AGI. Ну нету никакого шевеления в этом направлении, как и не было. А с другой стороны, любой из ведущих вендоров может объявить очередную свою топ-модель AGI, и кто же ему запретит?

Упоминаю, только чтоб не было вопросов, почему не упомянул.

Кризис, который будет

Дальше, в основном, беспочвенные рассуждения, необоснованные обобщения и далеко идущие выводы.

Всё нижеследующее не является инвестиционной рекомендацией!

Пузырь?

Тут вот какая штука… Как я уже говорил, сейчас всё ориентировано не на прибыль, а на капитализацию. При этом торговля на фондовой бирже стала легкой, широко доступной и быстрой. Акции компаний ликвидны и покупаются не в расчете на дивиденды, а в расчете на рост цены… И получается что: цена акций определяется ожиданиями роста цены этих акций. Порочный круг, он же петля положительной обратной связи.

Короче, если есть хайп, то пузырь обязательно будет.

И да, он уже есть. Нынешние вложения в ИИ-сферу — это пузырь.

Повторюсь, это не значит, что LLM не работают. Это не значит, что все они будут коммерчески неуспешны. Это значит, что текущая их оценка завышена, а подавляющая часть «ИИ-стартапов» вокруг темы — самый натуральный скам и выброшенные деньги.

Когда пузырь лопнет? Поначалу я думал, что Трамп тефлоновый, и это произойдет сразу после его ухода, сейчас уже не столь уверен. Тем не менее, в совсем ближайшие дни я этого не ожидаю.

IPO Anthropic

Во-первых, благодаря предстоящему IPO мы получили публичную отчетность, которая не то, чтобы соответствовала маркетинговым заявлениям.

Даже если убрать «чисто бухгалтерские» убытки, номинированные в акциях, компания убыточна.
Единственный путь выйти на самоокупаемость — существенное увеличение выручки. Возможности «срезать косты» нет, как по юридическим, так и по «производственным» причинам.
Такое увеличение выручки вполне реалистично — последнее время шел активный рост, но не гарантировано — хрен его знает, где там потолок.
Прочие риски. Тут они, на мой взгляд, смещают акценты, чтоб покрасивше, но в целом не врут — риски есть. Просто я бы больше боялся не ужасных инцидентов от взбесившегося ИИ, а таких госрегуляций, из-за которых китайские модели оставят американские далеко позади.

Отдельно интересна структура управления, именно в плане акций… Понятно, что о дивидендах речь если и зайдет, то не скоро, да и вообще, в теории, акция — это доля в собственности. Здесь же на берегу сказано, что практически ни при каких условиях свободно торгуемые акции не дадут какого-либо (коллективного, миноритарного и т.д.) участия в управлении. Единственный шанс — что управляющая компашка разосрется полностью и вдрызг. Что, правда, тогда останется от компании Anthropic?..

В общем, будущие акции Антропика более всего похожи на какие-нибудь мемкоины — их стоимость полностью обеспечивается желанием других людей их покупать. Впрочем, в обозримой перспективе, полагаю, желающие найдутся.

Рискну дать прогноз, что сразу после IPO акции подрастут, затем упадут, затем выровняются куда-то близко к цене начального размещения. А вот сверху или снизу от этой цены — вопрос открытый, равно как и более долгосрочные тренды.

Экономика

В общем и целом, будет хуже. Вопрос только в том, насколько быстро и насколько тотально.

Мы не очень понимаем, что происходит в Китае. И в какую сторону будет двигаться. Кажется, кризис, связанный со строительной отраслью, им удалось, если не победить, то загнать под ковер, но полной уверенности нет.

США, надо полагать, в ближайшие два года будет штормить. И хорошо, если только ближайшие два года. Отдельный вопрос: сдвиг влево на прошедших промежуточных выборах — это возвращение к нормальности, или самое начало обратного хода маятника, на полном отклонении которого никому мало не покажется?..

Евросоюз тоже штормит. Впрочем, скорее всего они продолжат гасить проблемы из-за излишней регуляции новыми регуляциями, в этом смысле я за них спокоен. Во всех остальных — нет. Отдельный момент — Великобритания, которая не входит в ЕС, регулируется по другому, и, вообще-то, третья страна в мире, где ведется активная разработка больших нейросетей, правда, американской компанией…

Что касается России, то, видимо, властям надоело медленное сваливание экономики в штопор, и решили в следующем году добить. Абсолютно никаких надежд на улучшение. Правда, скорее всего добить не удастся, поскольку экономика продолжит уходить в серую зону… Но как раз для IT серая зона очень неудобна, а нарастающие ограничения интернета очень болезненны.

В целом, по всем направлениям видится экономический спад на обозримую перспективу. И вовсе не потому, что роботы заменят людей.

Минутка технооптимизма

Отдельный аспект истории с нейросетями — то, что фактически уже сейчас вычислительные мощности начали упираться в потолок. Потребление энергии, охлаждение, коммуникации — все это не расширяется бесконечно по щелчку пальцев. Но, как и всякая техническая проблема, она хотя бы решаема в принципе, причем несколькими путями.

Экономический: После лопания пузыря может статься, что столь гигантской потребности перекладывать всё на LLM и нет вовсе. Огромное количество задач вполне решаются алгоритмическими методами, а многие — и вовсе решать не нужно, нет у человечества имманентной потребности в нейрослопе.
Технический: Программная и аппаратная оптимизация — специализированные процессоры для специализированных нейросетей вместо гигантских LLM на универсальных по своей архитектуре видеокартах. В этом направлении движение вполне заметно, а после сдувания пузыря будет еще заметней, поскольку оно тупо дешевле. Непонятны пока пределы такой оптимизации.
«Физический»: Тут я имею в виду не некие «новые принципы», а в общем-то рабочие, но пока не развитые, вещи типа фотоники. Результат не очевиден — при масштабировании лабораторных устройств могут вылезти разнообразные неприятные нюансы, но потенциально может улучшить энергоэффективность на порядки.

Так или иначе, если кто думал, что вот сейчас бум закончится, и заживем по старому — «нет, сынок, это ты будешь меньше есть», а нейросети уже с нами и никуда не денутся.

Что дальше?

Я по прежнему считаю, что локальные «малые» нейросети — очень перспективное направление.
Вероятно, в ближайшие год-два нужно обратить внимание на перестройку процессов разработки. Не в смысле оркестрации агентов, как полагают апологеты ИИ, а в смысле процессов от даже не постановки задачи, а от взятия задачи в разработку, до выходного контроля. Какие-то задачи с внедрением нейросетей становятся тривиальными, а какие-то даже несколько усложняются.

Определение, что можно поручать LLM, а где должны быть люди, а также определение требований к этим людям — наиболее очевидный слой вопросов, но не единственный.
Главный вопрос, пожалуй: на решение каких задач будет платежеспособный спрос в условиях экономических пертурбаций…

Из заглавия книги А. Юрчака «Это было навсегда, пока не кончилось. Последнее советское поколение», посвященной периоду позднего СССР. ↩
См. Niall Ferguson & Moritz Schularick: «’Chimerica’ and the Global Asset Market Boom», 2007 и «The End of Chimerica», 2009. ↩