Anthropic предложила новый подход к контролю самых сильных AI-моделей. Самые мощные AI-модели уже нельзя просто выпускать в мир как новую функцию в приложении. Anthropic предлагает обязательные правила для крупных разработчиков: отчёты по рискам, карты систем, независимые внешние проверки и юридическое право государства остановить запуск, если модель несет катастрофический риск.
Разбираем, почему эта тема стала особенно важной на фоне истории с Fable и Mythos, почему самооценки AI-компаний уже недостаточно, что такое катастрофические риски, как сильные модели могут повлиять на кибербезопасность, биологию, рынок труда, безработицу, власть частных компаний и государственное регулирование
00:00 Anthropic против выпуска самой сильной модели в мир 01:41 Новый документ Anthropic: политика экспоненциального ИИ 07:34 Как Anthropic предлагает контролировать AI 10:16 Государство не успевает за развитием ИИ
15:13 Что предлагает Anthropic: 2 критерия контроля AI 22:18 Что Anthropic называет катастрофическим риском ИИ 22:55 Биологические риск, киберриски, потеря контроля AI 28:16 У ИИ должна быть независимая оценка 39:19 Почему самооценки ИИ недостаточно 42:50 Безопасность AI 50:57 Как сильный AI может изменить рынок труда и вход в профессии
57:20 3 уровня безработицы будущего 1:00:00 Дарио Амодеи о сильном AI 1:04:27 Управление сверхинтеллектом 1:07:00 Отличие политики OpenAI и Anthropic
📹 Смотрите также: — Должен ли ИИ иметь права? Конституция Anthropic открыл ящик Пандоры – https://youtu.be/MY7y7KNKvCg — AI начал создавать сам себя. Что это меняет для каждого из нас уже сейчас – https://youtu.be/3Jlh7HAF5Tc — ChatGPT теперь помнит вас. И это меняет все — разбор главного обновления OpenAI – https://youtu.be/Dm7_cYSD2CM — Главный сдвиг рынка труда 2026: будущее профессий в эпоху AI – https://youtu.be/3g12dTb8Q0I — Поиска больше не будет: как ИИ меняет интернет и решения людей – https://youtu.be/v9WeWQw-PRA
👨Ведущий: – Александр Волчек - Entrepreneur & builder. Стратегический советник 200+ стартапов и scale-up компаний
⚡️Александр Волчек в Инстаграм: https://www.instagram.com/volcheka