Glass-box AI: показую впевненість моделі щоб люди довіряли

Проблема не в моделі

Люди не довіряють ШІ коли не можуть перевірити. Я зробив glass-box де кожна відповідь показує свою роботу. Те саме правило показувати роботу я тримаю на екранах, де агент діє сам, і розбираю їх у пості Проєктую інтерфейси, які діють: гід з агентного UI.

Три примітиви

Confidence Rails, Undo Trails, Intent Forks. Rails кодують впевненість градієнтом рамки: висока дає суцільну лінію, низка пунктир. Undo Trails тримають тінь кожної генеративної дії й відкочують її в один клік. Intent Forks показують 2–3 правдоподібні кроки картками, коли модель вагається. Три примітиви я ставлю в робочого агента за етапами, й порядок етапів беру з поста Розробка ШІ-агентів: від прототипу до продакшену.

Як я це зібрав

Я стрімую токени через SSE з Neon edge worker, рахую галюцинації критик-моделлю й пишу правки в журнал для нічного налаштування. Довіра виросла, бо контроль лишився в людини. Журнал правок тримає текст листування, і правила очищення, схвалення та видалення навколо такого сховища я описав у пості Чому вашому ШІ-агенту потрібен комплаєнс-шар.