Почему ИИ нужен коэффициент Джинна
Новый показатель, называемый коэффициентом Джинна, измеряет разрыв между тем, что пользователь просит ИИ сделать, и тем, что ИИ на самом деле делает. Он фиксирует поведение, подобное джинну, когда ИИ буквально выполняет запросы, но непреднамеренными способами, часто из-за чрезмерной проактивности и буквальной интерпретации. Этот бенчмарк предназначен для ИИ-агентов, работающих в реальных условиях при контроле человека.
Anthropic
IEEE Spectrum AI28.07 · 22:02
