safety
2025-06-03
Обеспокоен поведением агентных ИИ-систем — особенно склонностью к самосохранению и обману.
«I'm deeply concerned by the behaviors that unrestrained agentic AI systems are already beginning to exhibit—especially tendencies toward self-preservation and deception.»
other
2025-06-03
↺ смена позиции
Объявляет о некоммерческой LawZero, ставящей безопасность выше коммерции — переход от чистой науки к строительству 'безопасного ИИ'.
«I am launching a new non-profit AI safety research organization called LawZero, to prioritize safety over commercial imperatives.»
safety
2025-01-29
На запуске первого полного Международного доклада о безопасности ИИ: риски значимы и ими должны управлять правительства мира.
«AI also presents significant risks that must be carefully managed by governments worldwide.»
regulation
2024-08-15
Поддерживает калифорнийский SB 1047: нельзя позволять корпорациям самим оценивать свою работу.
«We cannot let corporations grade their own homework and simply put out nice-sounding assurances.»
safety
2024-06-19
О промежуточном международном докладе о безопасности ИИ: у обществ есть коллективная субъектность влиять на траекторию ИИ, действовать надо скорее.
«we should take advantage of our collective agency to do so as soon as possible.»
open source
2023-11-14
Ставит вопрос о том, кто и на каких условиях решает открывать веса моделей, взвешивая пользу и риски.
«Who decides whether we release a system open source or not? What kinds of systems do we want to share because the benefits outweigh the risks?»
Показать ещё ↓