Обоснование морали в современной философской когнитивистике



Pdf просмотр
страница178/205
Дата26.04.2018
Размер5.01 Kb.
ТипДиссертация
1   ...   174   175   176   177   178   179   180   181   ...   205

182 безопасности системы. Поэтому системы верификации не отдельных компонентов, а системы в целом займут новое, ключевое место. Более того, в данном случае мы говорим не только о программном обеспечении, но и о его физическом воплощении, к которому не так просто применить формальные решения, как к обычной программе.
Здесь также рассматривается вопрос об интеграции систем в их «тела» и в окружающую их среду. Каким образом тогда эти агенты должны рассуждать? Очевидно, что эта задача осложняется все повышающейся неопределенностью среды в процессе этой интеграции.
Говоря об обоснованности в долгосрочной перспективе, важной областью будет машинное обучение. Главная проблема здесь - непредсказуемое обобщение, которое весьма вероятно для больших систем.
Правильное же обобщение может снизить вероятность нежелательных последствий в тот момент, когда ИИ станет сильной автономной системой.
Проблему также вызывает необходимость создания машинной этики, ведь с большой долей вероятности достаточно сложные машины смогут сами манипулировать своей системой. Скорее всего, создание машинной этики наподобие человеческой, говорят авторы, будет не практичной.
Скорее всего, эта система будет построена на наградах и наказаниях, как одном из методов обучения – искусственных нейронных сетях. Их главной отличительной особенностью является способность к обучению и созданию собственных правил, что позволяет избежать дорогостоящего и требующего большого количества времени создания и рецензирования правил экспертами. Машинное обучение в искусственных нейронных сетях происходит благодаря разному весу связей между нейронами – весу вклада этой связи во входящий сигнал, - выраженному в цифрах. Этот вес выражает значимость этой связи для долговременной памяти. Таким




Поделитесь с Вашими друзьями:
1   ...   174   175   176   177   178   179   180   181   ...   205


База данных защищена авторским правом ©znate.ru 2019
обратиться к администрации

    Главная страница