Glass-box AI: показываю уверенность модели чтобы люди доверяли

Проблема не в модели

Люди не доверяют AI когда не могут проверить. Я сделал glass-box где каждый ответ показывает работу. Это же правило показывать работу я держу на всех экранах, где агент действует сам, и разбираю их в посте Проектирую интерфейсы, которые действуют: гид по агентному UI.

Три примитива

Confidence Rails, Undo Trails, Intent Forks. Rails кодируют уверенность градиентом рамки: высокая даёт сплошную линию, низкая пунктир. Undo Trails хранят тень каждого генеративного действия и откатывают её в один клик. Intent Forks показывают 2–3 правдоподобных шага карточками, когда модель сомневается. Три примитива я ставлю в работающего агента по этапам, и порядок этих этапов беру из поста Разработка ИИ-агентов: от прототипа до продакшена.

Как я это собрал

Я стримлю токены через SSE из Neon edge worker, считаю галлюцинации критик-моделью и пишу правки в журнал для ночной настройки. Доверие выросло, потому что контроль остался у человека. Журнал правок хранит текст переписки, и правила очистки, одобрения и удаления вокруг такого хранилища я описал в посте Почему вашему ИИ-агенту нужен комплаенс-слой.