Ну что, господа, всем привет! Рад вас всех видеть, слышать на нашем спецвыпуске на канале Two's Moon. Давайте мы с вами сегодня попробуем обсудить тему: а можно ли вообще использовать чат-боты и агентов на вашей конкретной работе? Очевидно, что каждому конкретному ответить я не смогу, но я попробую показать вам шкалу компаний, которые я видел на примере IT-компаний, как это все происходит. А вы попробуете найти на этой шкале свою компанию, в которой вы работаете, и заодно, во-первых, увидите, где и как вы работаете. Во-вторых, соответственно, вы можете посмотреть, а к чему, скорее всего, придет работа с ИИ в ваших компаниях. Рассказываю на примере big tech IT-компаний с двух причин. Первая причина просто потому, что я знаком со многими людьми, которые работают в этих компаниях, и изнутри видел все эти процессы. А второе — IT-компании все-таки на вершине находятся этого ИИ-хайпа. Все перепробовали, пытаются все это у себя внедрить. Поэтому, соответственно, на примере этого, я думаю, можно будет хорошо увидеть, куда все остальные компании также движутся и куда они, скорее всего, придут.
Соответственно, давайте начнем с самого такого нулевого уровня внедрения ИИ, когда в компании либо официально запрещено использование, либо, соответственно, умалчивается этот процесс. И вот вы как бы либо пользуетесь, либо не пользуетесь. Компания никак не освещает эту сторону. Это те компании, которые либо инертные, либо, соответственно, стараются игнорировать эту волну хайпа, связанную с агентами, с LLM и вот все, что этого касается. К чему это приводит? Это приводит к тому, что все равно внутри компаний агентами или чат-ботами хотя бы пользуются, но пользуются в таком в shadow режиме, в режиме, когда исподтишка, тихонечко, аккуратненько многие сотрудники пытаются что-то делать. При этом сама компания никак это не регламентирует. Поэтому, соответственно, вот кто как смог, тот так и пользуется. Доходит вплоть до того, что, я не знаю, на камеру фотографируют экран ноутбука или монитора, скидывают в условный там ChatGPT или в Claude и говорят: "Вот помоги мне решить эту проблему". Да, и дисклеймер я буду больше про IT-компании говорить и все, что будет связано, все примеры будут связаны плюс-минус с IT, с разработкой, с data science и вот все, что с этим связано. Соответственно, такое теневое использование в рамках компаний часто приводит к утечкам данных, часто приводит к нежелательным эффектам, которые компания могла бы избежать, если бы не игнорировала этот процесс. Потому что в любом случае практически все, кого я знаю из IT-среды, так или иначе чат-ботами пользуются. Хотя бы в формате чат-бота, условно, зайти в ChatGPT, скинуть туда код ошибки или ошибку, которая случилась, и, соответственно, узнать, а что с этим сделать, как ее исправить. Если просто спрашивать по коду ошибки или перепечатывать лень, то, вот как уже сказал, могут просто сфотографировать экран, попробовать закинуть. Если есть возможность какой-то кусок кода вытащить и закинуть его в контекстное окно модели, тоже это делают, но делают, так скажем, втихаря, разными способами, которые могут быть. Поэтому, с одной стороны, вроде как компания, если запрещает пользоваться всем этим, то она может думать, да, что защищает себя от негативных эффектов. На самом деле, наоборот, негативные эффекты только более сильно проявляются, потому что внутри компании у сотрудников тоже нет понимания, что можно, что нельзя. Все пытаются найти границы этого дозволенного.
Кибербезопасность внутри, информационная безопасность, она, соответственно, не за всем этим может уследить, и могут проходить разные неприятные ситуации происходить.
Вот эта история, она на самом деле реально фундаментальная. То есть ты очень крутую тему поднял. Ты же тему поднял не просто там применение где-то, а ты тему поднял того, как вообще важность человеку осознания, что происходит, если он использует искусственный интеллект. Я тут выпустил выпуск неделю назад, и в этом, и в этом выпуске неделю назад я рассказывал про то, как создал систему там для CRM, как использование искусственного интеллекта в настройках продаж и маркетинга. И там было очень много комментариев: а как это вы искусственному интеллекту отдали, значит, персональные данные клиентов? На что я людям написал комментарии внутри. А когда вы в Google Drive выгружаете или в почте что-то отправляете, или в обычную облачную CRM-систему, в любую, там и SalesForce, не знаю, в русскоязычном рынке amoCRM или в систему управления задачами что-то загружаете, вы что думаете, это чем-то отличается? То есть есть некоторое ощущение, с одной стороны, у людей, что искусственный интеллект — это какая-то особенная система, в которую нельзя ничего почему-то отправлять, которая что-то как-то перерабатывает и имеет какую-то уникальную особенность, да? И нету понимания того, что это просто отдельная такая же система, у которой есть, для которой вы должны создавать определенные правила в компании, их прописывать. Вы можете добавлять, что ваши данные обрабатываются с помощью искусственного интеллекта с точки зрения закона. Но я хочу сказать, что с точки зрения закона это просто некоторое как бы дополнение, которое относительно имеет значение, да? Потому что на сегодняшний день то, что называется искусственным интеллектом, оно используется, ну, я уже не знаю, какие системы не добавляют какие-то модули там или какие-то микродетали. И я думаю, что вот, ну, для меня вот это, ну, вот это небольшое добавление, которое есть в части интересной дискуссии, которую ты, Ильнар, сегодня там даешь и даешь. И обратить внимание еще, ну, всем вот на эту сторону.
А параллельно, конечно, послушать вот эту часть, которая касается очень важная того, а что вы вообще можете сделать и что не можете сделать, насколько вы это осознаете.
Второй уровень, который после этого возникает уже более цивилизованный, когда в рамках компании возникают регламенты и есть четкое понимание, а что можно делать с помощью чат-ботов, LLM. Как внутренних, так и внешних. А что нельзя? Часто есть четкое разделение, что, например, там, персональные данные ни в коей мере не могут утекать из компании в открытые LLMки и должны обрабатываться только внутри, либо проходить аноним-- анонимизацию, прежде чем эти данные будут, э, выгружены дальше. Иногда бывает, что появляются инструменты, которые помогают из документов вычистить персональные данные. Помимо этого, бывает четкое разграничение, что, например, там, условно, для генерации идей, э, чат-ботами можно пользоваться, для, там, я не знаю, корректирования текстов можно пользоваться. Опять же, есть разграничение, какие можно, какие нельзя. То есть здесь у нас возникает такая юридическая чистота, и вот, условно, э, использование ИИ переходит в правовую форму, в-внутри компании, да, когда есть четкие регламенты, и сотрудники так или иначе начинают понимать: ага, вот для этого мы можем использовать, для этого нельзя. Возможно, это было включено в должностную инструкцию, и сотрудник знает, что ее нарушение, там, приводит к каким-то последствиям и так далее. Да, здесь уже возникает абсолютно понятная среда, в которой можно работать. Э, все равно это еще, э, очень слабое проникновение ИИ, но это огромный шаг по сравнению с предыдущим уровнем. Да, на предыдущем у нас все происходило исподтишка, э, тихонечко, чтоб никто не видел и при этом никак не регламентированный. Абсолютно разные непонятные вещи могут происходить. Здесь уже возникает регламентирование. Сотрудники понимают, что можно, что нельзя. И для компании это гораздо более прозрачная, понятная, управляемая схема. Но о проникновении ИИ пока мы здесь вообще не говорим.
Это как вот вам разрешили пользоваться Гуглом и сказали, что можно гуглить, что нельзя гуглить. Следующий уровень возникает, когда внутри компании возникает некоторая инфраструктура, когда появляются MCP сервера, то есть такие коннекторы для внутренних ресурсов компании. Тогда ваши чат-боты из такого справочника, из интернета вопрос-ответной системы превращаются уже в вопрос-ответную систему в рамках вашей компании. Пример приведем давайте из, айтишки, опять же, потому что мне это ближе. Если у вас есть к Confluence, э, к внутренним документам, э, так скажем, коннектор, то, э, чат-бот при ответе на ваш вопрос может посмотреть внутренние документы, регламенты, которые есть там для решения каких-то проблем, описание внутренних процессов, описание внутренних библиотек, которые написаны были для вашей компании, и на основе этого уже дать вам ответ. То есть вам не нужно будет-- вот в предыдущих этапах вам необходимо было бы весь контекст собрать, отправить его в условный, там, ChatGPT или в Claude и после этого, соответственно, получить ответ, который ближе к вам. Ну, например, у вас есть, ну, давайте возьмем пример из аналитики тогда. У вас есть внутри какие-то, э, метрики, которые считаются специфично для вашей компании. Возможно, есть какие-то аббревиатуры, связанные с этими метриками, которые введены внутри вашей компании, но не используются снаружи. Если это так, тогда условный ChatGPT про эти метрики ничего, скорее всего, не знает, потому что он обучался, там, на открытом интернете. А вот ваши внутренние доки, они снаружи закрыты, и доступа к ним получить невозможно. Тогда попытки уточнить что-то про эти метрики в рамках вашей компании с какими-то данными приведет к тому, что система начнет либо галлюцинировать, то есть выдумывать, как это можно было бы сделать, ну, в лучшем случае она не ответит на этот вопрос. Если же у вас есть внутренние коннекторы, да, то есть если есть возможность у ChatGPT через, сейчас немножко техники, MCP сервера обратиться к вашему Confluence, к вашему Jira, к трекингу задач, к вашей кодовой базе, например, к каким-то частям получить доступ, к документации, к, я не знаю, к базам данных, к инструкциям, к библиотекам, которые у вас внутри есть. Ваша система гораздо глубже интегрируется с, чат-ботами. Пока говорим вот в формате чат-бота.
И, э, эффективность работы сотрудников в этом смысле начинает драматически расти.
Тически расти., сотруднику не нужно отдельно самому собирать весь контекст и загружать его. А здесь у нас уже как бы в рамках компании все эти коннекторы существуют. Опять же, мы говорим, что на этом этапе у нас предыдущий этап тоже работает. То есть есть внутреннее регламентирование, что можно, что нельзя. Соответственно, в рамках этих коннекторов эта система тоже настроена. Это значит, что в документы, в которые нельзя получить, ну, которые не должны быть доступны, и, скорее всего, они разграничены, и через этот MCP сервер, чат-бот никуда информацию не вытащит. Поэтому здесь получается, по сравнению с предыдущим, еще следующий шаг, когда у нас все это уже интегрировано внутрь. Бывает очень удобно. Ну, давайте какой-нибудь простой пример, да? , во многих big tech необходимо бывает провести performance review. Это значит, что раз, там, в полгода, раз в квартал вам необходимо описать, что вы сделали, со всеми примерами и так далее. И вот для таких ситуаций в компаниях, в которой уровень проникновения на эт-на этот, на третий уровень уже перешел, вы можете дать запрос в чат-бот, чтобы он собрал всю информацию по задачам, которые у вас есть в определенном периоде, да? А если у вас есть коннектор с Jira, он может посмотреть все ваши задачи. Если эти задачи были хорошо описаны, были описаны результаты, что вы сделали, он может суммаризовать всю эту инф-информацию в структурные понятные блоки. Что вот в этом квартале вы работали над этим проектом, работали над этим проектом, над этим проектом, были сделаны такие-то задачи. Проект от такой ст-ст-стадии дошел до такой стадии. И дальше на основе этого вам гораздо проще уже написать этот самый performance review., задачка может выглядеть немножко искусственно, но на самом деле, кто работал в big tech, знает, что достаточно много времени занимает вот это вот, кажется бюрократической, но все-таки очень важной составляю-- потому что от этого зависит, насколько вы, получите, там, я не знаю, премию, промоушен на следующий грейд, рост внутри компании и так далее.
Соответственно, вот мы взяли пока три уровня, да, когда у нас все находится в неправовом поле, когда у нас появляются регламенты — это следующий уровень. И следующий уровень, когда появляются интеграции. Дальше следующий уровень, который я видел, когда внутри компаний у нас уже начинают возникать такие комьюнити, когда у нас не только сверху идет это движение, но идет оно еще и снизу, и сотрудники начинают активно, помогать компании внедрять ИИ. Что это значит? Помимо как бы, промпт-инжиниринга в явном виде, да, то есть когда вы пишете свой запрос в чат-бот, можно добавить еще скиллы. Я уверен, что многие, уже знают, что это такое и слышали об этом, возможно, даже пользовались или создавали свои собственные. Но для тех, кто не знает, это инструкция по решению какой-то проблемы. Например, у вас есть какая-то задача, которую вы часто решаете. Ну, вот, допустим, посчитать метрики за какой-то период с учетом каких-то дополнительных вводных. Иии если вы просто, там, в условный ChatGPT закинете такой промпт, и он не будет знать, в какой базе данных лежат, те или иные данные, которые вам нужны, как считаются те или иные метрики, и у него будет просто свободное поле с доступом вот ко всей этой информации. А если компания крупная, то информации, скорее всего, очень много, то никакого контекстного окна не хватит для того, чтобы эту задачу с первого раза решить хорошо. Но если вы напишете инструкцию понятную, подробную для, там, условного ChatGPT, что данные-- е-- что если тебе дали такую-то задачу, то для этой задачи данные необходимо взять здесь. Подключение к этим базам данных происходит следующим образом. Соответственно, метрики, которые необходимо посчитать, они берутся вот здесь. А у человека, который дал вам задание, необходимо уточнить, там, такие-то такие вопросы. Это параметры, которые дальше используются в следующих шагах. И вот эта понятная инструкция с шагами для, для чат-бота, ну, или для агента, она называется скилл, ну, или навык. И вот, соответственно, в компаниях на этом уровне сотрудники активно начинают эти навыки создавать. Обычно каждый это делает по какой-то своей части. Дата-сайентисты делают свое, продакты делают свое, тестировщики пишут свое. И вот огромное количество сотрудников активно вовлекается в этот процесс., сначала он весьма и весьма хаотичен, потому что сотрудников много, каждый начинает писать свой собственный скилл, думает, что он полезен и уникален, но на самом деле огромное количество пересечений. Какие-то скиллы написаны хорошо и оптимально, какие-то скиллы дублируют предыдущие, какие-то написаны не очень хорошо. Но самое главное — процесс начинается. По моим наблюдениям, через месяц, полтора-два такой немножко хаотичной деятельности, возникают уже группы сотрудников, которые начинают это все систематизировать. И возникает такой внутренний, open source компании, да, когда у нас там много сотрудников начинают работать над одним репозиторием со скиллами компании, следить, чтобы у нас не было внутри каких-то пересечений, чтобы скиллы были написаны правильно и понятно, чтобы они работали условно и с Codex, и с Claude, и с другими системами, которые нужны. Соответственно, вот через несколько месяцев это приводит к тому, что внутри компаний многие типовые задачи начинают решаться с помощью, агентов. Когда условный продакт, который, возможно, не очень хорошо разбирается в технической составляющей, может без аналитика решить какие-то задачи, когда дата-сайентисту необходимо собрать какие-то данные, но есть подготовленный скилл, и он гораздо быстрее может решить эту задачу. То есть в данном случае у вас уже от того, чтобы, как у экспертной системы спросить какой-то вопрос и получить ответ, вы переходите к тому, что у вас конкретные задачи, специфичные для вашей компании, начинаются решаться быстро и тем способом, который заложили какие-то сотрудники.
Чаще всего сотрудники, часто решающие эту задачу, да, то есть они знают, как ее решать и что с ней делать дальше. Вот. И после этого уже возникает следующий этап., этап, когда у нас, а-агенты и чат-боты перестают использоваться как, инструменты для сотрудников, да? То есть вот на предыдущем этапе, который сейчас мы вот довольно долго описывали, это до сих пор еще инструменты. То есть условный продукт нужен, чтобы дать запрос этой системе, она найдет нужный скилл и на основе этого вернет ответ этому продукту или, там, следующему человеку. А вот на следующем уже этапе, то есть у нас получается уже пятый этап, да, если я правильно посчитал, у нас уже возникает, ситуация, когда агенты являются практически полноценными сотрудниками, когда большой проект, ведется с помощью агентных систем, когда создаются большие пайплайны, в рамках которых, соответственно, агенты сами ставят задачи, агенты сами пишут тесты, агенты, соответственно, пишут код, который, там, проходит эти тесты, потом они все это ревьюят и так далее. Вот эту систему я видел только в, стартапах, активно развивающихся стартапах. Но тут можно понять: они могут себе это позволить, у них не такая большая ответственность за ошибки, и они могут экспериментировать. Это первая составляющая. Вторая составляющая — , часто бывает, что у них еще приток денег не такой большой, чтобы содержать большой штат сотрудников, и гораздо выгоднее бывает попробовать это все реализовать быстро и отчасти дешевле с помощью чат-ботов. Вот если коротко, такая градация от, систем, где-- от компаний, где чат-боты запрещены, до, компаний, в которых, соответственно, чат-боты являются практически полноценными сотрудниками, исполнителями. Очень интересно, работали ли вы в таких компаниях? Видели ли вы такие примеры? Возможно, вы еще видите какие-то ответвления, которые можно было бы сюда добавить. Вот. Можете привести какие-то примеры компаний, в которых либо вы работали, либо еще что-то. Интересно послушать, что вы об этом думаете.