Обоснование морали в современной философской когнитивистике



Pdf просмотр
страница164/205
Дата26.04.2018
Размер5.01 Kb.
ТипДиссертация
1   ...   160   161   162   163   164   165   166   167   ...   205

168
Страх перед неизвестным будущим, которое нам несет ИИ, заставляет людей думать, что оно может стать концом человечества. Норвиг и Рассел на это отвечают, что многое из того, что так пугает в ИИ, может сделать и человек. Это ставит перед программистами задачу создания такого ИИ, в котором была бы применена система сдержек и противовесов, в которой
«единственная ошибка в оценке состояния не проходит через систему беспрепятственно»
1
Способность к обучению может привести к тому, что изначальный дизайн превратится в нежелательное поведение. Но машины не будут заведомо агрессивными, если только мы сами не решим их такими сделать.
«К счастью, существуют техники, такие как практическое обучение, которое позволяет нам установить сервисную функцию по примеру. Можно надеяться, что робот, который достаточно умен, чтобы понять, как уничтожить человеческую расу, также достаточно умен, чтобы понять, что это не было сервисной функцией»
2
Гипотетически, когда ИИ станет гораздо более развитым, он станет не только сравним по уровню с человеческим интеллектом, но еще и станет сверхчеловеческим.
Также авторы книги рассматривают теорию трансгуманизма.
Трансгуманизм – это социальное движение (в частности, в России
3
), а также философская концепция, которая поддерживает идею использования научных достижений и новейших технологий для улучшения человека, для увеличения его умственных способностей и преодоления хрупкости его тела, а в потенциале и преодоление смертности в принципе. Трансгуманизм является спорной и широко обсуждаемой концепцией.
1
Там же. С. 1037 2
Там же.
3
Юдин Б. Г. Сотворение человека // Вестник Российской академии наук. Т. 77. N6, 2007. - С. 520-527




Поделитесь с Вашими друзьями:
1   ...   160   161   162   163   164   165   166   167   ...   205


База данных защищена авторским правом ©znate.ru 2019
обратиться к администрации

    Главная страница