Обоснование морали в современной философской когнитивистике



Pdf просмотр
страница170/205
Дата26.04.2018
Размер5.01 Kb.
ТипДиссертация
1   ...   166   167   168   169   170   171   172   173   ...   205

174 прошлого, благодаря которому мы обрели определенную чувствительность.
Эту чувствительность ИИ «может просто не понимать, если мы ему этого не объясним. Чем хуже ИИ понимает людей, тем проще ему будет их просто убить»
1
Юдковски утверждает бесполезность внедрения таких общих законов, как законы робототехники Азимова, поскольку сильный ИИ больше не будет программой, следующей алгоритмам, а будет обладать автономией и творчеством, способной обходить и изменять собственные алгоритмы.
Поэтому вместо того, чтобы внедрять подобные принципы, нам нужно применить более опосредованный подход и выбрать изначальные условия
ИИ, так чтобы он использовал свои супер интеллектуальные силы, чтобы извлечь особые цели и экстраполировать наши решения как будто мы лучше настроены, лучше информированы и можем лучше рефлексировать над силами, влияющими на наши решения
2
. Искусственный интеллект, спроектированный на основании принципа дружественности, сделает все, чтобы не причинить людям вреда и чтобы они не причинили себе вреда также. Как следствие, такой ИИ захочет, чтобы и никакой другой интеллект не смог навредить человеку, поэтому он поможет создать остальные ИИ таким образом, чтобы они также следовали этому принципу.
«Одной из наиболее содержательных недавних гипотез в
области

Дружественности
ИИ
является модель
Когерентного
Экстраполированного
Волеизъявления,
также разработанная
Юдковски.
Идея
КЭВ
состоит в том,
что первый
ИИ
составит модель человечества и
на основании неё
выяснит,
какой именно
ИИ
с какой системой целей будет наиболее благоприятен с
его
1
Там же.
2
Yudkowsky E. Coherent Extrapolated Volition [Электронный ресурс] // Machine Intelligence Research
Institute. 2004. 37 p. . – Режим доступа: https://intelligence.org/files/CEV.pdf. (дата обращения: 06.01.2017)




Поделитесь с Вашими друзьями:
1   ...   166   167   168   169   170   171   172   173   ...   205


База данных защищена авторским правом ©znate.ru 2019
обратиться к администрации

    Главная страница