Всем привет! Мы на канале ToTheMoon. Искусственный интеллект получил доступ к вашей работе. Кто ответит за его решения? Всем привет! Канал ToTheMoon. У нас, появился новый автор на канале. Все, что касается технологических новостей искусственного интеллекта. И у нас будет новая рубрика. Дополнительно. Сейчас, скорее всего, раз в две недели. Так что смотрите сегодняшний выпуск. Обязательно, делитесь своими комментариями, в том числе с точки зрения автора, но на самом деле с точки зрения тематики. Делаем еще больше полезного контента для тех, кто хочет углубляться в применение искусственного интеллекта в рамках своей жизни.
И быть не просто в тренде, а в настоящем понимании того, что происходит. Каждый день, каждую неделю, каждый месяц появляется все больше новостей про AI. И на самом деле это уже давно перестало быть новостями про технологии. Я понимаю, и чем больше думаю об этом, что все эти новости — это новости прежде всего про человека и новости про человека совершенно в разных сферах его жизни. О чем хочется сегодня поговорить, это про AI и про человека внутри компании. Про то, как сегодня оценивают его работу, как измеряют его эффективность, как принимают решения про его роли и развивать его, сокращать.
И в целом, может ли сам человек понять, почему те либо иные решения приняты, почему те либо иные выводы сделаны, как с этими выводами работать и вообще возможно ли их оспорить. Меня несколько новостей зацепило за последние пару недель. И, в частности, это новости в компании Meta и Google. Не потому, что это какие-то особенные компании, и все происходящее вокруг на сегодняшний день очень часто словно касается только глобальных каких-то корпораций. Как раз таки напротив, именно новости очень часто в глобальных корпорациях, они делают видимой проблему, с которой может столкнуться или с которой сталкивается на сегодняшний день совершенно любой бизнес.
То есть в случае Meta, например, сотрудники утверждают, что цифровые показатели и AI инструменты, они влияют на решения о сокращениях. И для меня это вопрос, он намного шире даже того, как на сегодняшний день он поднимается во всех новостях, в такой именно новостной повестке. Это больше вопрос про то, что происходит, когда человек думает, что он принимает решения сам, но вместе с тем, скажем, набор каких-то вариантов, какой-то рейтинг и какой-то список составила уже определенная система до него. Четырнадцатого июля стало известно об иске двадцати шести сотрудников Meta.
Иск подан в федеральный суд в Калифорнии. Сотрудники утверждают, что при подготовке массовых увольнений Meta использовала внутренние системы и цифровые показатели, которые могли поставить в невыгодное положение людей с медицинскими ограничениями а также сотрудников, находившихся в медицинском, семейном или родительском отпуске. В иске упоминаются показатели продуктивности, использование AI инструментов, данные о цифровой активности и различные алгоритмически поддерживаемые рейтинги. Логика претензий, она очень понятная. И с одной стороны, мы понимаем, что если система, она измеряет количество действий, которые совершает сотрудник в течение своего рабочего времени, то совершенно закономерно, если он некоторое время даже по законным причинам на работе отсутствовал, то в списке перформанса или в списке какой-то его, скажем, наиболее высокой продуктивности он окажется, по всей видимости, внизу, с какими-то менее такими интересными, возможно, для него значениями.
И формально это может выглядеть нейтральным, но, по сути, система считает исключительно активность, и она может не учитывать какие-то законные причины, по которым те либо иные люди могли отсутствовать на работе. Здесь мы точно не делаем никакого вывода, потому что на сегодняшний день Meta, она полностью отрицает и отвергает, утверждения истцов о том, что решения о сокращении принимались, по сути, искусственным интеллектом. Компания заявляет, что все финальные решения принимали люди, а не искусственный интеллект.
И вот тут очень прикольная штука, на мой взгляд. И где вот находится именно этот баланс.
Потому что ни в одной реальной компании фактически мы не придем к ситуации, когда прямо AI нажимает кнопку "уволить", там, или AI нажимает кнопку "нанять человека". Но к самому этому решению, которое, безусловно, всегда выполняет человек, уволить или нанять, могут приводить уже определенные действия, определенные алгоритмы какие-то аналитические записки, управленческие решения, которые созданы на основе цепочки и анализа, построенные различными AI инструментами. И где найти вот эту точку баланса AI влияет или не влияет на решение человека, крайне сложно.
То есть, по сути, если последнее решение подписывает человек, означает ли это автоматически, что все предыдущие этапы, они были корректны и все предыдущие этапы проверены или нет? Еще раз, тут, скорее вопрос не в том, кто прав в данном примере с Meta и с данным иском. как-то юридически мы через какое-то время узнаем, какое, решение принял суд. И вопрос не в том, чтобы запретить AI приниматься решения в каких-то кадровых решениях. Тут скорее вопрос про то, что ответственность очень часто начинается намного раньше этого решения.
И как сложно это не заметить. И как любое, любая вот эта алгоритмическая оценка, она требует, прямо супер высокой управленческой дисциплины, она требует очень большого внимания сильно заранее. Что именно должно измеряться, что именно является качеством работы. Количество или качество. Кто проверяет, не создает ли система какое-то преимущество или какой-то систематический, не знаю, ущерб для человека? Кстати, читая вот эту новость про Meta, я вспомнила фильм Тимура Бекмамбетова "Казнить нельзя помиловать".
По крайней мере, в русском переводе, в русской версии этот фильм назывался так. Он начинается с тем, как детектив, которого играет Крис Пратт, он предстает перед судьей обвиняется в убийстве своей жены. У него есть девяносто минут или девяносто часов, я, признаться, уже не помню, на то, чтобы доказать свою невиновность. Интерес в этом в том, что судья представляет собой, на самом деле это не человек, ее зовут Мэдисон, но она олицетворяет собой искусственный интеллект и, по сути, некая идеальная машина судит и должна вынести приговор человеку. Я делюсь. Вот мне пришел на память этот фильм не из-за того, что как-то он у меня очень оставил много каких-то впечатлений, или я рекомендую его к просмотру. Больше я очень хорошо помню свой такой определенный холод, который я почувствовала прямо на физическом уровне при первых кадрах этого фильма, когда я подумала, что как такое важное решение в жизни человека будет принимать некая идеальная машина. И я прямо ощутила, несмотря на то, что фильм достаточно массовый, вот ощутила физически определенное сопротивление, что в этом есть какая-то ошибка заложена. Это неправильно. И точно не потому, что человек добрее и справедливее.
Я думаю, что люди в десятки раз могут быть более предвзяты, чем искусственный интеллект, и точно могут принимать более жестокие решения. А как будто про то, что человек может усомниться в собственном выводе. Человек может увидеть исключение. Он, берет на себя моральную ответственность за решения, которые он принимает. Может проанализировать, возможно, сильно меньшее количество сигналов, чем искусственный интеллект. Но все-таки, если мы говорим про машину, то она видит то, что удается перевести в данные, в какие-то правила, в допустимые варианты. И в этом месте как будто не дать вот этого повода и основания для исключения.
Очень такая тонкая граница, и в этом ключе, и в этом месте она и проходит вот эта граница, где AI, он видит все-таки факты, закономерности, но решение о судьбе человека, оно не должно просто превращаться в какое-то автоматическое, не знаю, продолжение его цифрового профиля. Продолжая новости вообще вот последней недели, я вообще не связывала, кстати, новость, с новость Meta и иск, который подали двадцать шесть
сотрудников Meta с новостью про Google Android. Но потом просто как-то начала думать, что, по сути, в основе, наверное, лежит один и тот же вопрос. Потому что когда мы говорим про то, что в компании доступ к информации может влиять на принятие решения по тому либо иному человеку, то точно так же в целом доступ к данным, доступ к определенной информации, он влияет на то, насколько та либо иная модель, насколько тот либо иной AI-ассистент становится актуальным и действительно жизнеспособным для взаимодействия с человеком. И по сути, это такие разные риски, разные ситуации.
Но принцип один, что вместе с определенным доступом AI так или иначе получает такое влияние на нашу жизнь. Как раз таки повод, который у меня вызвал все эти рассуждения. Шестнадцатого июля Еврокомиссия приняла два набора обязательных мер для Google в рамках Европейского закона о цифровых рынках. Первая часть касается Android. Google должна предоставить конкурирующим AI-сервисам более глубокий доступ к одиннадцати функциям операционной системы. По сути, речь идет о том, что сторонний ассистент должен получить возможность активироваться голосом, работать с контекстом, взаимодействовать с приложениями, выполнять при согласии пользователя какие-то действия. Например, там, не знаю, за book встречу в календаре или заказать еду, или подготовить, отправить, возможно, письмо.
Вторая часть решения, она касается поиска и отвечающей установленным требованиям конкурентов, включая AI-чат-боты с поисковыми функциями, должны получить доступ к определенным поисковым данным Google после обезличивания. То есть в данном случае речь идет о том, что определенные запросы, клики и просмотры, они будут доступны другим системам и дадут им возможность развивать собственный поиск. По сути, Google считает, что данное решение, оно очень сильно связано и нарушает риски приватности и безопасности пользователей.
В то время что Еврокомиссия утверждает, что наоборот, эти меры, они содержат все необходимые ограничения, что касается безопасности, наоборот, дают пользователю больше выбора. По сути, это такое открытое, антимонопольное решение и действие. Эти изменения, они вводятся поэтапно с двадцать седьмого года, с января двадцать седьмого и с июля двадцать седьмого. Но! Для меня в этой новости снова важно следующее, что она показывает вот эту борьбу за несколько мы тут не говорим там про умнее, не умнее модель, по сути, насколько важно иметь именно доступ к операционной системе, доступ к приложению, доступ к контексту пользователя для того, чтобы взаимодействовать с ним. Доступ вот к этой самой информации. То есть, по сути, можно иметь очень такого крутого сильного ассистента, но если у тебя нету доступа к контексту, то для тебя этот ассистент как, дверь без ключа. ChatGPT Work. 9 июля OpenAI представила ChatGPT Work.
Я являюсь таким поклонником и, во-первых, OpenAI, с другой стороны, я очень много, правда, работаю в Codex. Мне было крайне интересно познакомиться ближе и посмотреть на эту задачу с другой стороной, с другой стороны. Я решила о ней поделиться именно в этом выпуске, потому что мне кажется, что оно очень коррелирует с теми вещами, о которых мы говорили раньше. Вот об этом моменте, когда с разных сторон И так встраивается естественным образом в нашу жизнь, начинает естественным образом на нее влиять просто везде, с разных сторон.
Вы тут в принятии решения или, точнее, подводит человека к принятию решения. Вот здесь про вот это его место. Как стать посредником между человеком и его таким цифровым профилем. И вот в этом контексте мне кажется, очень неплохой интересный пример с моим наблюдением и с моим экспериментом касательно ChatGPT Work. Я решила вообще не проверять его какой-то искусственной задачей, поскольку сама достаточно много работаю и использую для разных задач и ChatGPT, и Codex. Я выбрала реальный кейс, который хорошо знаю, где могу оценить его результат. Что я сделала?
Я собрала отдельную папку со всеми своими профессиональными материалами за несколько лет. Признаться, выбрала их достаточно рандомно, поэтому, может быть, даже и качество результата немножко было сложновато оценить без там каких-то безусловно, конфиденциальной информации и персональных данных. Я попросила Work не изучить эти документы, не показать мне какие-то тренды, по сути, я попросила его сделать такой анализ восстановить динамику, вот посмотреть за несколько лет, как менялись мои приоритеты, какие темы постепенно становились центральными, к каким вопросам, может быть, я возвращалась, какие у меня есть паттерны, которые повторяющиеся в рамках моей работы, в рамках моей именно профессиональной линии профессиональной деятельности. Какое вообще направление складывается из этих материалов за несколько лет?
Я задала этот же, сделала эту же задачу и в ChatGPT Work, и в Codex. У меня в этой среде уже все было настроено. И моя первая реакция она была точно, вот не было никакого вау-эффекта и даже такое небольшое разочарование. Я не поняла разницы, по сути, вот этого новой среды, новой бизнес-среды, как ее позиционирует OpenAI. И у меня просто как будто ничего, по сути, не произошло. То есть тот результат, который мне отдал ChatGPT Work, он был ровно такой же, как мне отдавал при такой же задаче и при таком же окружении, например, Codex. Но потом я поняла причину, просто как-то пытаясь в этом разобраться, что я Codex в целом использовала намного шире, наверное, чем какой-то типичный сценарий там проверить ошибку, либо структурировать какую-то папку.
Для нетехнических именно задач я уже раньше подключала к нему большие папки. Он работал у меня с десятками документов. Я формировала, делала там, строила вместе с ним какие-то гипотезы, тренды, презентации. И поэтому вот на такой задаче изучи, проанализируй папку и что-то из нее сделай, я получила такой же выход, как я раньше получала на Codex, которого я, по сути, уже использовала как такого исследовательского агента. И я усложнила этот эксперимент. Я сказала, попросила в задаче в ChatGPT Work не ограничиваться только этой папкой, а как бы выйти за эту папку и сверить еще, насколько мои выводы подтверждаются внешними источниками, насколько та стратегия, тот путь, тот вектор, который я, например, выбираю для, в рамках своих профессиональных задач он соотносится с тем вектором, который в целом на сегодняшний день, в котором двигается рынок.
Насколько за этот период изменения моей роли как руководителя talent функции и моей, насколько это соответствует управленческой повестке вообще в таком международном технологическом бизнесе. И вот тут разница реально была заметной, потому что Codex, он не работал с внешними документами. И, но ключевая разница даже не в этом. То, что Codex не работал именно с внешними источниками, точнее. Это было бы таким даже, наверное, упрощенным объяснением. Раньше я сама соединяла несколько сред.
То есть я подключала Codex, например, к папке, я отдельно проводила исследование в ChatGPT, я затем переносила эти выводы, я отдельно собирала презентацию. То есть я выступала таким, что ли, ассистентом между И инструментами, переносила контекст. Это не то что было сложно, но, тем не менее, в этом месте точно какие-то ручной такой мануальный труд, он, необходимость что-то постоянно запоминать присутствовала. А Work, он удерживает все-таки весь этот цикл внутри одной задачи. Получается, он использует и локальный контекст, дополняет его внешней информацией, проводит сравнительный анализ, делает, безусловно, все необходимые дашборды, презентации и, по сути, если даже следующая твоя задача настроена, поддерживает в актуальном состоянии.
И это, наверное, стало таким, что ли, главным результатом теста, по сути, понимания, как соединены вот эти контуры, как, в чем отличие и общее вот этих двух бизнес-сред, которые на сегодняшний день продвигает OpenAI. Первый, что ли, результат. И точно я не могу еще оценить, насколько я эффективно смогу пользоваться, насколько он мне будет дальше помогать в моей деятельности. Но вот я, откровенно говоря, с одной стороны, как будто сначала пыталась найти новую функцию, а в итоге получилось, что это как будто упаковка такого нового способа работы с AI.
И возможно, это будет интересно, но хочется попробовать на какой-то более долгой дистанции. И в этом контексте, понимая и каждый раз, когда я нахожу новую обертку, новую упаковку какого-то рабочего процесса, бесконечно снова вот
эта открывается новая зона AI в нашей каждодневной жизни, в нашей и прежде всего, безусловно, профессиональной каждодневной жизни. И насколько текущие инструменты кардинальным образом меняют то, как мы мыслили, как мы работали, как мы ставили задачи, как мы их оформляли. И это уже вопрос получается не OpenAI и ChatGPT, Work или Codex. Это вопрос не Kodak, Claude Codex, а Work. Это уже вопрос, конечно, рынков труда. И в этом месте очень интересное такое было. 13 июля было опубликовано короткое заявление We must act now.
Мы должны действовать сейчас. Это заявление, которое подписали более двухсот экономистов среди исследователей AI, среди которых там порядка шестнадцати, по-моему, было, шестнадцать нобелевских лауреатов. Сам текст этого заявления, он состоял из нескольких тезисов. И прежде всего, говорилось про то, что AI может радикально мощнее в течение ближайших, там, десяти лет развиваться, хотя в моей, в моем представлении, в течение ближайшего года даже. И это приводит к такой поразительной, такой глубокой экономической трансформации, к такому глобальному изменению рынков труда, что мы уже сегодня должны предпринимать определенные действия, чтобы к этому быть готовым.
В этом заявлении нет драмы о безработице, в этом заявлении нет драмы касательно того, там, о сокращении рабочих мест. Фокус немного в другом или, как я его поняла, в другом. Именно о влиянии происходящих изменений на непосредственно на жизнь человека, в частности, на его профессиональную жизнь. И для того, чтобы эти изменения проживались безопасно, эффективно, мы должны готовиться уже сегодня к этому. И, очевидно, на сегодняшний день повестка разных, с одной стороны, законов, где-то ограничивает какое-то движение развития, но с другой стороны, очевидно, что касательно вот как раз таки этого союза AI и человека, AI намного сильнее опережает все регулятивные такие институты на сегодняшний день, все правила и все потенциальные законы.
Наверное, еще одна интересный, действительно, такой повод, который подчеркивает вот это влияние и изменение, и вот этот фокус на митигацию каких-то рисков, с которыми мы можем столкнуться позже. Это про заявление, про петицию, которую подписало более четырех с половиной тысяч сотрудников Google и которое было передано руководству шестнадцатого июля. По крайней мере, на момент записи этого подкаста официального ответа от компании не было. Что тут интересно? Интересно, кстати, это по словам президента профсоюза Google, это крупнейший объем обратной связи, которую Google получала по сотрудникам именно по теме безопасности рабочих мест. И люди просят гарантировать им минимальное выходное пособие, предлагают добровольный уход с компенсацией до принудительных сокращений в разных продуктовых направлениях, разрешить получать компенсацию там как продолжение оплачиваемого отпуска и прочее. То есть, по сути, они хотят заранее иметь какие-то гарантии, понимая, что потенциально вот этот дизайн и оргструктура компании, она будет меняться. То есть петиция вообще появляется в момент, когда Google наращивает инвестиции в AI, когда Google очень активно продолжает перестраивать команды. И тут люди задают очень простой вопрос: а какие правила будут защищать людей внутри этой трансформации?
И мы, знаете, с вами заканчиваем, наверное, чем начали. Потому что в этих требованиях не сопротивление технологиям. И в этих требованиях люди не говорят: остановите AI и верните, ло. И мне это очень важно. Вот и близко очень как человеку, который много лет работает с талантами и много лет работает с people процессами. По сути, люди говорят о том, что если работа меняется, давайте заранее договоримся. Вот если мы понимаем, какие изменения у нас будут и ждут нас через год, через полтора года, через пять лет, а давайте сегодня об этом подумаем.
Давайте сегодня подготовимся, потому что когда они наступят, для человека может быть поздно и достаточно небезопасно в разных каких-то его сторонах. Наверное, одна история о последствиях, другая история о попытке не допустить их без понятных гарантий. И, по сути, это еще одно напоминание тому, что мы немного заранее должны подключаться к тем процессам, которые мы видим, очень активно уже проникли в разные сферы нашей жизни.