К содержанию
Транскрипт

Транскрипт · extra06 · AI-агент без кода: за 5 минут файлы по папкам и готовые слайды презентации — ToTheMoon

Полная расшифровка. Таймкоды открывают соответствующий момент видео.

К странице выпуска
00:00:00–00:00:45Зачем нужны AI-агенты
Ильнар Шафигуллин00:00:00

Всем привет! А, у нас сегодня небольшой выпуск, посвященный агентам и текущей стадии развития этой технологии. Выыы, учитывая, что вы зрители нашего канала To The Moon, очевидно, уже все знаете по поводу чат-ботов. Практически все вы ими пользовались, но многие из вас слышали, что сейчас модно, популярно это AI агенты. А, наверняка слышали, что есть какой-то протокол MCP, который создала компания Anthropic. Но, соответственно, а, не все, я думаю, пробовали запускать эти агенты. Не все знаете, как они выглядят. Я, собственно, хочу сегодня вам об этом немножко рассказать. Однако, чтобы вы сразу могли ответить на вопрос: а насколько вам вообще это могло бы быть интересно? Давайте начнем с демонстрации. М, я подготовил такой небольшой, а, пример.

00:00:45–00:01:50Демонстрация задания
Ильнар Шафигуллин00:00:45

Есть у меня папка на моем компьютере. Папка называется "Images", и в ней, собственно, находится шесть каких-то картинок. На трех из них есть кошки, на других какие-то другие объекты. Соответственно, что я хочу? Ну, вот, э, самые внимательные уже увидели, что есть, э, некоторое окно, куда вводится промпт. Но давайте я расскажу, что я хочу, чтобы программа сделала. Я хочу, чтобы система, а, поняла, что находится на каждой фотографии. А, если на фотографии находится кошка, я хочу, чтобы она перенесла эти фотографии в специальную папочку "Cats". Если, соответственно, на фотографии кошки нет, хочу, чтобы она перенесла эти фотографии в папку "Other". Ну и при этом, чтобы нам было чуть лучше понятно, а, почему она так сделала, давайте попросим ее сделать презентацию и в рамках этой презентации, соответственно, рассказать, ну, вот как бы, почему тот или иной, та или иная фотография оказалась в своей папочке. Собственно, что это за, а, система, куда я ввожу промпт? Это обычный Claude. Claude от Anthropic.

00:01:50–00:02:35Запускаем агента: первое сообщение
Ильнар Шафигуллин00:01:50

Единственное, если вы, например, пользовались Claude, то, скорее всего, пользовались браузерной версией, так же, как чатом GPT. Но, соответственно, есть десктопная версия, то есть программа, которую можно скачать, установить на свой компьютер и, соответственно, пользоваться им точно так же, как и обычным браузерным Claude. Единственное, в рамках десктопного Claude гораздо проще подключать различные инструменты. Соответственно, давайте я запущу. Пока процесс будет идти, мы немножко с вами, а, поговорим. Да, здесь какая-то небольшая ошибка, но я думаю, что у нас, соответственно, все пройдет. Да, все, собственно, запустилось. А, чем это отличается от обычного чата? У обычного чата, которым мы пользуемся уже несколько лет, есть, соответственно, возможность только отвечать на ваши сообщения.

00:02:35–00:03:45Чем ИИ-агент отличается от обычного чата?
Ильнар Шафигуллин00:02:35

Сейчас появилась возможность поиска в интернете, сейчас появилась возможность запускать код у того же чата GPT внутри своей какой-то экосистемы, но с вашим компьютером, с файлами на вашем компьютере системы эти работать еще пока не умеют. И вот когда мы говорим, что мы хотим, чтобы у нашего, а, помощника, у нашего AI агента была возможность взаимодействовать с какими-то другими системами, мы, соответственно, должны дать ему в руки эти инструменты. Так вот, если мы говорим про AI агента, а, у нас происходит следующее: мы берем обычную LLM и говорим ему, что если тебе нужно будет, например, перенести какой-то файл из папки в папку, то воспользуйся вот этим инструментом. Если тебе нужно будет узнать, а что находится на этой картинке, тебе нужен вот этот инструмент и так далее. И, соответственно, вот сколько мы ему инструментов дадим, он, а, настолько расширит свои возможности. Здесь, а, надо немножко поговорить про протокол MCP. Это и раньше можно было сделать, но доступно это было только, ну, прям отъявленным программистам, которые любят во всем этом разбираться.

00:03:45–00:05:01Протокол MCP
Ильнар Шафигуллин00:03:45

И они бы сделали какую-то систему, которая может работать с конкретной LLM, например, только с Anthropic или только с OpenAI по API, или там еще с какой-то другой системой. Так вот, Anthropic, а, которые создали компанию-- создали чат-бот Claude, в котором сейчас я все это и делаю. Они в ноябре двадцать четвертого года выпустили протокол MCP. Протокол MCP стандартизировал, а, общение между LLM, между чат-ботом, с которым мы общаемся, и инструментами, которые вы можете ей предоставить. Таким образом, соответственно, сообщество получило в руки протокол, по которому можно придумать свои какие-то инструменты. И со всеми LLM, которые этот протокол поддерживают, они будут одинаково хорошо работать. А, многие компании сейчас поддерживают этот протокол. Соответственно, появилось большое сообщество энтузиастов, которое эти инструменты, так называемые MCP сервера, создает. Но, собственно, а, у нас на канале прям такие глубоко технические вещи не очень хорошо набирают просмотры, поэтому эту тему я пока опущу. Давайте мы с вами, собственно, посмотрим, что происходит. Вот вы видите, что здесь какие-то движения, да, там картиночки исчезают, появляются, папочки появляются, здесь какие-то файлики. Давайте вкратце пробежимся по тому, что же у нас на самом деле происходит.

00:05:01–00:08:12Как работает AI-Агент
Ильнар Шафигуллин00:05:01

Пока я вам все это рассказывал. Так вот, промпт вы уже видели на экране. Дальше происходит, соответственно, сам процесс, а, генерации текста Claude. И когда в моменте он осознает, что ему необходимо воспользоваться каким-то инструментом и этот инструмент у него есть, он передает, собственно, мячик этому инструменту. В начале, давайте прямо по шагам посмотрим. В начале он придумывает план, а как он это будет делать. Собственно, вот пользователь просит. Он, собственно, расписал все по шагам, что я от него прошу, как он это видит, и придумал себе план действий, по которому он будет делать. Ну вот, собственно: сначала посмотрю, какие папки доступны, найду папку "Images" и так далее. И, собственно, по этому плану он начинает действовать. Да, он, собственно, а, начинает смотреть, какие директории есть. Дальше, соответственно, смотрит, что же находится внутри директории. Есть некоторый список, да? Вот есть директория Images, которая находится внутри. Дальше он смотрит, что внутри этой директории есть какое-то количество файлов. Вот они назывались один, два, три, четыре, пять, шесть и так далее. Дальше он анализирует. Дальше он, соответственно, м, ну, вот по списку начинается какое-то движение. Как видите, довольно большое количество действий он совершил. Но самое главное, даже здесь текстом указал, а что на какой, соответственно, фотографии находится. Самое главное, посмотрим на результат. Пункт первый. Наши кошки. Наша, а, Тефтелька ее зовут эту кошку. Наша кошка, соответственно, оказалась в одной папочке. Видите, вот все три фотографии с кошкой, которые были, оказались в папочке Cats. Ну и, соответственно, есть некоторая папка Other. Все остальные фотографии, соответственно, уехали в нее. Поэтому пункт первый сделан верно. Система смогла изучить файлы, которые находятся в доступной ей директории, понять, что находится внутри них и, соответственно, сделать какие-то действия. Посмотрим на презентацию, получилось ли ее сделать. Но, собственно, как видите, с некоторыми огрехами, потому что он создал лист содержания, но содержание не наполнил. Но это, собственно, просто редактированием промта можно все поправить. И дальше вот он говорит, что здесь, соответственно, есть мотоцикл и есть человек. А, да, действительно, вот здесь есть человек, которого я не видел, но система, соответственно, обнаружила. Здесь на второй фотографии, соответственно, есть кошка, дальше есть кошка, есть стул, но это не стул, это на самом деле гладильная доска. Но огрехи очень легкой системы распознавания. Я пользовался здесь YOLO, они, собственно, допустимы. Ну и это тапочки, а не мишка Тедди. Но самое главное кошечку, Тефтелька наша была найдена. Ну и дальше здесь тоже было достаточно просто: кошка обнаружена. Здесь чашка, обеденный стол, как видите, вот это тоже как кошка не было воспринято. И здесь есть какое-то горшочное растение. Как видите, мы взяли обычную LLM, ну, не самую обычную, Claude Sonnet четыре все-таки достаточно большая, но мы, предоставив ей некоторое количество инструментов, смогли добиться того, чтобы она действовала как агент.

00:08:12–00:10:37Инструменты, который можно подключить к AI-агенту
Ильнар Шафигуллин00:08:12

Пока я вам тут что-то рассказывал, у меня в системе что-то происходило. Есть на самом деле большое количество инструментов, которые вы можете добавить. М, есть инструменты вот буквально третьего июня, да, вот позавчера относительно сегодняшнего дня появилась возможность добавить коннекшены без навыков программирования вообще. То есть, например, Drive Search, Gmail Search, Calendar Search. Есть еще другие сервисы, которые можно подключать, для которых вообще не нужно, э, никак разбираться в программировании. И есть, соответственно, самописные инструменты, которые мною были добавлены именно для этой демонстрации. Вот есть File System. Это, соответственно, MCP-сервер, то есть инструмент, который можно подключить по MCP, который создала компания Anthropic. Именно благодаря ему, э, система может знать, м, какие файлы есть внутри, да? Вот list directory там или directory tree может вызвать, может перемещать файлы, может читать содержимое файла, может записывать файлы, редактировать и так далее. А, соответственно, набор инструментов, да, это вот программа от компании Anthropic. И есть, соответственно, два MCP-сервера, которые я сам создал, сам написал. LaTeX Beamer - это как раз, м, система, которая генерит презентации вот такого, а, может быть, не самого современного вида, но те, кто учился на вот мехмате, физфаке или подобных факультетах, наверняка, а, ну, не то что удивились, с умилением вспомнили эти презентации, потому что все-таки многие такие технические презентации пишутся в Tex-е, статьи пишутся в Tex-е. Я, собственно, будучи математиком, решил просто: а получится ли это сделать? Оказалось, получится и совсем несложно. И есть, соответственно, Object Detector. Это, а, сервис, который под капотом держит у себя такой распознаватель картинок.

Ильнар Шафигуллин00:10:00

Такой распознаватель картинок, YOLO, который может система вызвать и получить, что же находится внутри, да? Вот там кошка, кошка, стул, мишка Тедди, мотоцикл, человек — это все результат работы этого распознавателя. То есть это не Claude делает самостоятельно, а Claude говорит: "У меня есть объект, я хочу, чтобы ты с ним совершил вот такое действие". Это действие есть в инструменте. Инструмент возвращает результат. Claude дальше это обрабатывает.

00:10:37–00:14:23Как работает AI-Агент, с учетом инструментов
Ильнар Шафигуллин00:10:37

Выглядит, возможно, достаточно интересно и многообещающе., немножко добавим л-ложку дегтя в эту историю., это очень сильно увеличивает количество токенов, которые вы используете., как можно себе представить работу, MCP, сервера и, соответственно-- не MCP сервера, давайте так: работу вашей LLM с набором инструментов, которые есть. Если мы говорим про взаимоотношения, вот человека и чат-бота, то это диалог, где, соответственно, человек пишет, чат-бот как ассистент ему помогает отвечать на вопросы и дальше ждет, пока напишет что-то человек. И вот у вас, соответственно, идет какой-то диалог. При этом он контролируемый. Вы написали одно сообщение, вам ответили одним сообщением, потом вы ответили дальше. И вот в таком режиме идет перекидывание мячика. Если мы говорим, что у нас появляются какие-то инструменты, то у нас, такой, диалог превращается в групповой чат, в котором у нас помимо меня как пользователя и LLM-ки есть еще некоторое количество участников. И это приводит к следующему: что у нас система говорит: "Я хочу узнать, какие директории у нас доступны". И вот она передает это сообщение в инструмент, который говорит, какие директории доступны. По сути, это так, как будто бы вот здесь ответ на мой вопрос закончился. Дальше, соответственно, вопрос ушел к инструменту. Инструмент ответил. То есть он физически вот написал, какие директории, какие объекты есть внутри, искомой папочки. И дальше Claude заново следующим сообщением начинает все это генерить. Все, что было выше, передается как контекст этого сообщения, а дальше идет сообщение. И вот представьте, что, я написал не одно сообщение, а на самом деле здесь: раз, два, три, четыре, пять, шесть, семь, восемь, девять, десять, одиннадцать, двенадцать, тринадцать, четырнадцать, пятнадцать, шестнадцать, семнадцать, восемнадцать, девятнадцать, двадцать, двадцать один, двадцать два, двадцать три, двадцать четыре, двадцать пять, двадцать шесть, двадцать семь, двадцать восемь. Двадцать восемь, сообщений в чате прошло для того, чтобы это все выполнилось. Это приводит к очень большому, прям взрывному увеличению количества токенов, которые тратятся на выполнение тех или иных задач. Поэтому, сама концепция очень многообещающая, но, с другой стороны, она будет жизнеспособна и будет очень активно развиваться, только если будет дешеветь, стоимость обращения к LLM-системам. Просто потому, что существенно больше тратится токенов на то, чтобы все это происходило. Если у вас, собственно, есть Claude Desktop или любые другие, подписочные LLM-системы, которые вы можете обращаться, не по количеству токенов, а хотя бы даже по количеству сообщений, вы можете настроить эти системы. Если вы работаете по API, имейте в виду, что, возможно, стоимость выполнения этих операций будет очень и очень высокой. Поэтому делайте, пожалуйста, это все аккуратно. Ну что, я думаю, что в качестве такой первой демонстрации этого будет достаточно., если вдруг вы захотите, чтобы, соответственно, я раскрыл эту историю с технической точки зрения, подробно рассказал, а как я это сделал, а как можно сделать свои MCP сервера, как их можно разместить так, чтобы с ними система работала — ставьте лайки, пишите комментарии., именно об этом, да. Лайки ставьте в любом случае, подписывайтесь на канал. Вот. Я, соответственно, сниму, если будет достаточный интерес к этой теме. А так до встречи в следующих выпусках. Каждое воскресенье, как Саша любит говорить, четыре человека с новостями из Силиконовой долины и по всему миру. Пока-пока.