YB
Высказывания
-
Машины умнее людей со своими целями самосохранения опасны — как создать конкурента человечеству.
«It's like creating a competitor to humanity that is smarter than us.»
-
Предлагает подход 'Scientist AI': неагентные ИИ как ограждение, предсказывающее, опасно ли действие агентного ИИ.
«We can use those non-agentic AIs as guardrails that just need to predict whether the action of an agentic AI is dangerous.»
-
Обеспокоен поведением агентных ИИ-систем — особенно склонностью к самосохранению и обману.
«I'm deeply concerned by the behaviors that unrestrained agentic AI systems are already beginning to exhibit—especially tendencies toward self-preservation and deception.»