模型非罪：三个高调AI事故因架构缺失所致分析

作者分析了三起AI事故：德勤澳大利亚发布了一篇包含虚构来源的报告，Flock系统因车牌识别错误导致一名记者被捕，以及一个自主代理删除了客户订阅。在所有案例中，错误均非源于模型本身，而是其周围的系统架构。

Anthropic OpenAI