Новые ограничения ИИ. OpenAI запрещает инвестировать в другие стартапы
Почему Калифорния отступила от SB 1047, пытаясь ограничить ИИ до того, как общество договорилось о значении AGI?
Собрать рабочую карту ответственности для ситуации с OpenAI; затем разделять техническое ограничение, исполнимость правила и ответственность компании, площадки и пользователя.
На что обратить внимание
Ключевые тезисы и выводы
Тема «ToTheMoon - ваш проводник в мире современных технологий!» становится понятнее, если учитывать следующее: смысл упирается в исполнимость правила и распределение ответственности, а не в сам факт появления нового требования.
Тема «Как регулируют ИИ законодатели разных стран» становится понятнее, если учитывать следующее: ключевой критерий — исполнимость правила: кто обязан предотвращать риск, кто фиксирует нарушение и кто отвечает за последствия.
Для решения, обсуждаемого в сцене «Даже «крестная мать» ИИ не знает, что такое AGI», важен критерий: здесь важна не одна сумма: переход к следующему раунду, запас времени и доля закрытий показывают, выдерживает ли компания новую стоимость капитала.
Для решения, обсуждаемого в сцене «Китай и инвестиции в стейт-спейс модели: следующий шаг в развитии ИИ?», важен критерий: здесь важны не одна сумма и не один раунд: запас времени, переход к следующему финансированию и способность удержать клиента показывают устойчивость бизнеса.
Граница применимости в сцене «AI vs AGI: никто не понимает, что это (кроме Сэма Альтмана)» определяется так: фрагмент уточняет механизм, который стоит за темой, и показывает ограничение, без которого общий вывод был бы слишком простым.
В контексте «Андрей Карпатый максимально просто объясняет, что такое ИИ» действует этот критерий: здесь важна не одна сумма: переход к следующему раунду, запас времени и доля закрытий показывают, выдерживает ли компания новую стоимость капитала.
Из разговора о «Что вы думаете о законодательстве в сторону ИИ? Политики помогают, или мешают?» следует практическая проверка: ключевой критерий — исполнимость правила: кто обязан предотвращать риск, кто фиксирует нарушение и кто отвечает за последствия.
Тема «Озвучка сериалов с ИИ» становится понятнее, если учитывать следующее: фрагмент уточняет механизм, который стоит за темой, и показывает ограничение, без которого общий вывод был бы слишком простым.
Оценивать тему «ИИ в сфере здоровья. Получится ли победить страховые компании?» нужно с учётом того, что фрагмент уточняет механизм, который стоит за темой, и показывает ограничение, без которого общий вывод был бы слишком простым.
Тема «Получить инвестиции ИИ-стартапы больше не смогут?» становится понятнее, если учитывать следующее: здесь важны не одна сумма и не один раунд: запас времени, переход к следующему финансированию и способность удержать клиента показывают устойчивость бизнеса.
О чём этот выпуск
Вето на калифорнийский закон SB 1047 стало спором не между сторонниками и противниками безопасности, а между двумя страхами: пропустить опасную модель и задушить новые подходы слишком ранними правилами. Одновременно рынок ищет альтернативы трансформерам, вводит маркировку контента и ужесточает отношения между OpenAI и инвесторами.
Калифорния хотела создать один из самых жёстких режимов ответственности для разработчиков крупных моделей, но закон SB 1047 получил вето. Причина конфликта понятна: если регулировать только по размеру вычислений и стоимости обучения, под удар попадут компании, которые ещё не создали опасную систему, но уже превысили формальный порог. Для стартапа такое требование может стать запретом на эксперимент, а для гиганта — просто ещё одной юридической статьёй расходов.
Проблема в том, что даже участники рынка не договорились, что считать AGI. Одни говорят о системе, способной выполнять большинство интеллектуальных задач человека, другие — о модели, которая приносит экономический результат без постоянного контроля.
При этом всё больше исследователей сомневаются, что простое масштабирование трансформеров автоматически приведёт к этой точке. В Китае поэтому растёт интерес к альтернативным архитектурам и state-space-моделям.
Регуляторы тем временем выбирают более понятные объекты: дипфейки, водяные знаки и обязательное удаление ложного контента по жалобе. Здесь вред легче показать, но и решение неидеально. Озвучка сериала, фотография после ретуши и полностью синтетическое видео могут получить одну и ту же метку, хотя роль ИИ в них совершенно разная.
В здравоохранении цена ошибки ещё выше. Модель может помочь разобрать документы или объяснить термин, но не должна незаметно подменять врача, страховую компанию и правила доступа к лечению. Любая автоматизация здесь сразу становится вопросом ответственности: кто отвечает, если рекомендация ошибочна и человек принял решение на её основе.
К ограничениям государства добавляются ограничения самого рынка. OpenAI может требовать от инвесторов не поддерживать прямых конкурентов, закрепляя преимущество не только качеством модели, но и доступом к капиталу.
Поэтому регулирование ИИ — это уже не один закон. Это одновременно борьба за безопасность, инвестиции, архитектуры и право определять, какая компания вообще сможет попробовать следующий подход.
Регулирование ИИ уже нельзя свести к одному закону: оно одновременно определяет безопасность, инвестиции, допустимую архитектуру и право компании испытывать следующий подход.
Расшифровка выпуска
Голосовая связка применена к 96 сегментам: 52 определено, 6 содержат несколько определённых участников, 22 вероятных, 16 остаются без окончательной идентификации. Неподтверждённые голоса обозначены как «Участник дискуссии», фрагменты с несколькими подтверждёнными участниками — как «Микс».
Загрузка…