Позиция: Предупреждает об экзистенциальной угрозе, ушёл из Google чтобы говорить о рисках.
-
Метафора риска: ИИ как милый тигрёнок, который может убить хозяина, когда вырастет; призвал тратить треть вычислений на безопасность.
«Unless you can be very sure that it's not gonna want to kill you when it's grown up, you should worry.»
Позиция: Считает страхи об угрозе ИИ преувеличенными; регулировать надо применение, не исследования.
-
Тревога о контроле над сверхразумом преждевременна: нет даже проекта системы умнее кошки.
«we need to have the beginning of a hint of a design for a system smarter than a house cat»