bookmate game
Элиезер Юдковски

Искусственный интеллект как позитивный и негативный фактор глобального риска

  • unutranyholashar citeretfor 8 år siden
    каждые 18 месяцев минимальный IQ, необходимый, чтобы уничтожить мир, падает на один пункт
  • Ольгаhar citeretfor 2 år siden
    с замечания, что немногие люди предпочли бы нарочно уничтожить мир; сценарий же уничтожения Земли по ошибке кажется мне очень беспокоящим. Немногие люди нажмут кнопку, которая, как они точно знают, вызовет глобальную катастрофу. Но если люди склонны быть абсолютно уверены, что кнопка делает нечто, совершенно отличное от её реального действия, это действительно причина для тревоги.
  • agushar citeretfor 3 år siden
    Критическим выводом является не то, что ИИ труден, а то, что, по неким причинам, людям очень легко думать, что они знают об искусственном интеллекте гораздо больше, чем на самом деле.
  • Yaroslav Skripkahar citeretfor 4 år siden
    наша альтернатива состоит в том, что или стать умнее, или вымереть
  • b0496674788har citeretfor 4 år siden
    ку. Поэтому я усиленно рекомендую прочесть статью «Систематические ошибки мышления, потенциально влияющие на оценку глобальных рисков» (http://www.proza.ru/texts/2007/03/08-62.html)
  • Anastasiiahar citeretfor 5 år siden
    Если вы вбросите слишком много денег в проблему, область которой ещё не готова к решению, излишние деньги создадут скорее анти-науку, чем науку – беспорядочную кучу фальшивых решений.
  • Anastasiiahar citeretfor 5 år siden
    Весь спектр от деревенского идиота до Эйнштейна, или от деревенского идиота до Бисмарка, уменьшается в маленькую точку на отрезке между амёбой и человеком.
  • Anastasiiahar citeretfor 5 år siden
    Но слово «интеллектуальность» обычно вызывает образы голодающего профессора с IQ в 160 единиц и миллиардера-главу компании с IQ едва ли в 120. В действительности, существуют различия в индивидуальных способностях помимо качеств из «книжек про карьеру», которые влияют на относительный успех в человеческом мире: энтузиазм, социальные навыки, музыкальные таланты, рациональность.
  • Anastasiiahar citeretfor 5 år siden
    Опрашивание своего собственного ума работает хорошо, в качестве инстинкта адаптации, когда вам нужно предсказывать других людей.

    Но если вы исследуете некий другой процесс оптимизации, - если вы, например, теолог 18 века William Paley – то тогда антропоморфизм – это липучка для мух для неосторожных учёных, столь липкая западня, что нужен Дарвин, чтобы из неё выбраться.
  • Anastasiiahar citeretfor 5 år siden
    Антрополог не будет восторженно писать о новооткрытом племени: «Они едят еду! Они дышат воздухом! Они используют инструменты! Они рассказывают друг другу истории!» Мы, люди, забываем, как мы подобны друг другу, живя в мире, который напоминает нам только о наших различиях.
fb2epub
Træk og slip dine filer (ikke mere end 5 ad gangen)