показывает, что точные предложения ИИ повышают эффективность, но вводящие в заблуждение предложения приводят к худшим результатам работы человека, чем отсутствие ИИ. Панель представила «Принцип остатка»: по мере автоматизации рутинных задач люди занимаются только нестандартными, неоднозначными проблемами. Это создает риски: остаточные инциденты сложнее, человеческие навыки могут деградировать из-за отсутствия практики, ситуационная осведомленность может снижаться, и может возникнуть «разрыв ответственности», когда люди остаются подотчетными, но не обладают достаточной экспертизой. Панель утверждала, что компаниям следует инвестировать в обучение, такое как учения, симуляции и хаос-инжиниринг. Исследование NIST 2026 года, посвященное мониторингу развернутых систем ИИ, повторило эти опасения, подчеркнув недостаточность исследований циклов обратной связи между человеком и машиной и сложность масштабирования мониторинга под руководством человека. Кроме того, разработка с помощью ИИ может увеличить объем изменений, что повышает частоту инцидентов; поэтому надежные инженерные практики, такие как контроль развертывания, наблюдаемость и быстрый откат, становятся еще более важными.