Обоснование морали в современной философской когнитивистике



Pdf просмотр
страница177/205
Дата26.04.2018
Размер5.01 Kb.
ТипДиссертация
1   ...   173   174   175   176   177   178   179   180   ...   205

181 удовлетворяет определенным желаемым формальным параметрам.
(Построил ли я систему правильно?)»
1
и «Как гарантировать, что у системы, которая отвечает этим формальным требованиям, нет нежелательного поведения и последствий. (Построил ли я правильную систему?)»
2
соответственно. Также встают вопросы безопасности («Как предотвратить намеренные манипуляции посторонними сторонами?»
3
) и контроля («Как дать возможность целенаправленного контроля людям над системой ИИ после того, как она начинает оперировать»
4
).
В этой статье ставится вопрос определений. Мы хотим, чтобы ИИ был надежным и приносил пользу, вел себя хорошо, говорят авторы. Но что означают эти слова в данном контексте? Каких общих правил должен придерживаться ИИ? Должны ли они вести себя «хорошо» в этическом смысле или же понятия хороший и полезный в данном случае полностью эквивалентны? Авторы предлагают создать компьютерные модели этической аргументации для решения этой задачи.
После этого они переходят к приоритетам в долгосрочной перспективе. «Часто обсуждаемая долгосрочная цель некоторых исследователей ИИ — разработать системы, которые могут учиться на опыте с человекоподобной степенью и превзойти человеческое поведение в большинстве когнитивных задач, тем самым имея важное влияние на общество»
5
. Если мы достигнем этой цели, все вышеперечисленные приоритеты перейдут на новый уровень, на котором нужно будет сделать все возможное для обеспечения надежного и полезного ИИ.
Возьмем вопрос верификации. В долгосрочной перспективе мы рассматриваем не простые программы, но сильные и важные для
1
Там же. C.107 2
Там же.
3
Там же. C.108 4
Там же.
5
Там же. C.109




Поделитесь с Вашими друзьями:
1   ...   173   174   175   176   177   178   179   180   ...   205


База данных защищена авторским правом ©znate.ru 2019
обратиться к администрации

    Главная страница