Контроль поведения ИИ

Направление исследований безопасности ИИ, которое не согласует цели модели, а проверяет её поведение: решила ли она ровно поставленную задачу и ничего больше; к нему относят модели-смотрители, которые следят за другими моделями, и изоляцию моделей в контейнерах.