Обоснование морали в современной философской когнитивистике



Pdf просмотр
страница169/205
Дата26.04.2018
Размер5.01 Kb.
ТипДиссертация
1   ...   165   166   167   168   169   170   171   172   ...   205

173 раскрывают полностью эту идею, поэтому углубимся для этого в работы других ученых.
Проблему дружественного ИИ (Friendly AI) обозначил Юдковски. Он также дал название этому феномену. «“Дружественный искусственный интеллект” или “ДИИ” (англ: FAI) -это искусственный интеллект (ИИ), который обладает скорее позитивным, чем негативным влиянием на человечество. ДИИ также относится к области исследований, целью которых является создание такого ИИ. Этот термин в первую очередь относится к тем ИИ программам, которые обладают способностью значительно воздействовать на человечество, таким, например, чей интеллект сравним или превосходит человеческий»
1
. Юдковски исходит из того, что любой интеллект, цели которого не идентичны человеческим, является потенциально опасным для человека, поэтому он призывает к созданию ДИИ. Он полагает, что созданный в будущем ИИ будет чужеродным, а не антропоморфным, как мы привыкли его видеть в фантастических фильмах и книгах. Поэтому, скорее всего, те моральные принципы, которые кажутся большинству людей очевидными, не будут очевидными для ИИ.
«Один из примеров, который приводит Юдковски, состоит в том, что
ИИ, изначально созданный, чтобы доказать гипотезу Римана, самоулучшиться вплоть до уровня сверхчеловеческого интеллекта и создаёт молекулярную нанотехнологию, поскольку он хочет переработать всю материю в Солнечной системе в вычислительную среду для решения данной математической проблемы, убивая при этом людей, которые осмелятся возразить»
2
. Юдковски видит причину этой разницы в восприятии морали в том, что ИИ не разделяет нашего эволюционного
1
Дружественный искусственный интеллект // Академика: [сайт]. URL: http://dic.academic.ru/dic.nsf/ruwiki/1375480 (дата обращения: 06.01.2017)
2
Там же.




Поделитесь с Вашими друзьями:
1   ...   165   166   167   168   169   170   171   172   ...   205


База данных защищена авторским правом ©znate.ru 2019
обратиться к администрации

    Главная страница