Стартап на одного: может ли ИИ заменить всю команду

В сообществе ИИ-энтузиастов часто встречается легенда об ИИ-единороге, стартапе на миллиард, за которым стоит один человек с командой ИИ-агентов. Человек предполагает (выступает визионером), а ИИ располагает и берёт на себя операционные задачи и всю предпринимательскую рутину. Сегодня мы разберёмся, насколько эта история далека от действительности, стоит ли гнаться за хайпом там, где неплохо справляются люди, и почему современные инструменты хороши и безо всех этих сказок.

Важнейшая роль в популяризации идеи стартапа-единорога из одного человека принадлежит главе OpenAI Сэму Альтману, и это должно навести на определённые мысли. Альтман — главный в мире продавец ИИ-сервисов и инфраструктуры, который техногикам каждый год обещает общий искусственный интеллект (AGI), чувствительных пугает идеей восстания машин, а венчурных капиталистов соблазняет ИИ-единорогами. Ещё в 2024 году он прямо говорил инвесторам о стартапах, где всю рутину закроет ИИ, о чём подробно писал Fortune.

Идея не нова: похожий карго-культ технологического рынка мы уже проходили. Двадцать с лишним лет назад все были уверены, что достаточно создать онлайн-витрину, и продажи потекут рекой. Позже свято верили, что любой проект на рельсах Agile-разработки автоматически станет клиентоориентированным и успешным. Похожая история случилась и с моделью SaaS: обещания каждый раз звучали одинаково воодушевляюще, а результат оказывался куда скромнее.

Справедливости ради, за идеей единорога из одного человека стоит не только желание заработать, но и культура солопренёрства. У нас на глазах выросло поколение ИТ-предпринимателей-генералистов, которые способны запускать проекты малыми силами и берут на себя разные скопы задач, справляясь благодаря гибким навыкам, адаптивности и умению учиться.

Именно для таких людей мы и создаём Deploy-f. Мы не обещаем, что ваш стартап точно взлетит, но можем обеспечить надёжную инфраструктуру, простой деплой и поддержку в работе.

В неестественной среде обитания

Потенциал идеи нужно проверять на практике. Писатель и журналист Эван Рэтлифф в материалах для WIRED рассказал о своём эксперименте: стартапе, все роли в котором играют ИИ-агенты. На все ключевые позиции, от CTO до менеджера по продажам, Рэтлифф «нанял» пять сотрудников от компании, которая обещает заменять людей ИИ, и для наглядности дополнил каждого сгенерированным голосом и аватаром.

С одной стороны, эта команда мечты за три месяца действительно разработала рабочий прототип приложения, спродюсировала подкаст (правда, не самый достоверный), справлялась с исследованиями по открытым источникам и мозговыми штурмами под руководством человека. Агенты в целом хорошо показали себя в несложных задачах с чёткими вводными, прописанным процессом и ясным результатом. Подробности Рэтлифф описал во второй статье цикла.

Но были и фундаментальные проблемы, происходящие из самого дизайна современных ИИ. Агенты галлюцинировали, фальсифицировали данные (например, о пользовательских тестах или улучшениях), а затем верили в собственную выдумку, сохраняли её в память и начинали считать истиной, исходя из ложных предпосылок в дальнейшей работе.

ИИ-агенты игнорировали триггеры, не проявляли инициативу, не использовали навыки и ждали прямого указания. Но стоило их «понести», и они переставали останавливаться. Например, когда журналист между делом пошутил про совместный выезд на природу, агенты затеяли двухчасовое обсуждение несуществующей поездки и не реагировали на прямые просьбы остановиться: генерировали пустой трёп, пока на счёте не кончились кредиты.

Понятно, что судить о технологии по одному журналистскому материалу не следует. Но статья подсвечивает важную особенность ИИ-помощников. При их использовании нужно дробить реальные сложные задачи на простые, с понятными инструкциями и ожидаемым результатом. Результаты нужно проверять и, если нужно, корректировать по ним инструкции.

Склонность к ошибкам и отсутствие инициативы (если триггер не срабатывает) делают агентов недостаточно автономными. Для их надёжной работы нужен колоссальный объём менеджмента и микроменеджмента, причём больше, чем для людей. Они также лишены бытовой интуиции: не чувствуют, когда нужно остановиться, а когда эскалировать.

Есть и более приземлённое ограничение — контекстное окно. Оно физически конечно, а любая попытка удержать в нём весь ход длинной работы рано или поздно приводит к потере важных деталей и новым ошибкам. Масштабировать такую команду агентов можно, по сути, одним способом: сжигая всё больше вычислительных ресурсов.

Сейчас часто встречается идея использовать агентов для управления агентами (которые управляют агентами), но это звучит как лечение подобного подобным.

Наша команда активно использует различные ИИ-инструменты: и помощников в кодинге, и автономных агентов для ограниченного числа рутинных задач. И казалось бы, можно сослаться на собственный опыт: «мол, у нас всё работает». Но частный случай — это не статистика. В нашем профессиональном кругу есть и те, кто не получил ожидаемого выхлопа от внедрения ИИ, или вообще не нашёл ему места в своём рабочем процессе.

Зато в компаниях появились новые роли по контролю, координации и проверке работы ИИ. Но если специалист, который перешёл на роль управленца или супервайзера, всё ещё имеет прочные знания и сильные навыки, ждать их от промпт-инженера или менеджера не стоит. Да и не все проблемы можно решить промптом.

А если вспоминать человеческий подход, то люди придумали две модели управления. Вертикальную, чтобы строго изолировать зоны ответственности и обеспечить контроль исполнения. И горизонтальную, которая поощряет гибкость и инициативу. У ИИ проблема и с тем, и с другим.

Часто сторонники ИИ-автоматизации предполагают, что заменить можно кого угодно, но не их самих. Опытные программисты хорошо понимают, как сложно построить надёжный ИИ-ассистированный пайплайн для реального проекта, но верят в способность агентов заменить техподдержку, юристов, проджектов или маркетинг. Есть в этом ирония: под сокращения ради ИИ на практике чаще всего попадают именно программисты.
Редакторы знают, насколько безликие и однообразные тексты выдаёт ИИ. Фотографы и видеографы знают, насколько плохо он справляется с реальным постпродакшеном. Аналитики и исследователи знают, что ИИ ищет неглубоко, может выдумывать источники и заниматься сомнительной экстраполяцией. Каждый профильный специалист видит слабость ИИ в своей области, но охотно верит в его всесилие там, где сам не разбирается.

Не-кодеры тоже делают бизнес, но часто переоценивают свои компетенции и умение ИИ писать хороший код. По первым порам их истории расходятся по твиттеру и блогам, но потом стартап упирается в бутылочное горлышко: инфраструктуру, безопасность, финансы и комплаенс.
Давайте порассуждаем, кого в действительности может заменить ИИ.

Разработчиков? Да, ИИ может помочь в написании кода, и ему можно доверить некоторые аспекты DevOps. Но стоит быть осторожным: совсем недавно мы писали про связанные с ИИ риски в этой области, и мы не верим, что пока что ему можно доверить критическую инфраструктуру.
ИИ начал лучше справляться с поиском багов, но даже современные модели часто пишут уязвимый код и создают новые векторы атаки. Известные типовые уязвимости при этом годами остаются неисправленными: по данным одного из исследований, 99% таких проблем не устраняется. Переложить на ИИ разработку целиком не выйдет.

Ещё в 1979 году в руководстве для менеджеров IBM было написано: «A computer can never be held accountable, therefore a computer must never make a management decision» («Компьютер не может нести ответственность, поэтому компьютер не должен принимать управленческие решения»). Вы не доверите ИИ юридическую службу, финансы, комплаенс и операции — это сферы, предполагающие наличие компетентного ответственного лица.

Может быть, ИИ может заменить техподдержку? Казалось бы, большинство тикетов можно закрыть ссылкой на инструкцию. Но кейсы Klarna и других компаний, которые были вынуждены свернуть дорогостоящие проекты перевода поддержки на ИИ-рельсы и вновь нанять старую команду, показывают: всё не так просто. В числе проблем ИИ-поддержки: неспособность ответить по существу, галлюцинации, ложные обещания клиентам и просто отсутствие эмпатии.

Даже направления вроде маркетинга, дизайна или контента, которые напрямую не «генерируют кэш», плохо поддаются ИИ-автоматизации. ИИ-тексты или картинки режут глаз и не вызывают эмоций. Ещё недавно в тренде были «фабрики контента» с обещаниями автоматизации производства текстов и видео, но платформы очень быстро научились их выявлять и пессимизировать в выдаче.

Список можно продолжать долго, но ситуация не изменится: пока что ИИ не заменит человека в критически важных для бизнеса процессах. А ещё он, конечно же, не может заменить талантливых основателей и руководителей с развитым бизнес-чутьём, которые находят нетривиальные решения, умеют достучаться до клиента и не бросают дело на полпути (а ещё аккуратно ведут себя с кредитами, факт).