Обоснование морали в современной философской когнитивистике



Pdf просмотр
страница179/205
Дата26.04.2018
Размер5.01 Kb.
ТипДиссертация
1   ...   175   176   177   178   179   180   181   182   ...   205

183 образом, «нейронная связь “учится” через постоянное увеличение этих весов»
1
. Проще говоря, связь между нейронами, давшая правильный ответ, усиливается, а давшая неверный – ослабляется. Сейчас искусственные нейронные сети уже имеют широкую область применения и постоянно развиваются. Их используют, в частности, в медицине, авионике, поисковых интернет системах, автоматизации производства
2
В долгосрочной перспективе сложно утверждать, облегчит ли ИИ или усложнит ситуацию с безопасностью. Вопрос безопасности станет очень острым, если моменты обоснования и контроля не будут решены. Логично предположить, что многие системы запрограммированы таким образом, чтобы избегать условий, при которых они не могут выполнить заложенные в них функции. Таким образом, машины могут избегать внесения серьезных изменений или отключения их человеком, подрывая его контроль над ними.
Потеря контроля над развитым ИИ может привести к серьезным отрицательным последствиям, в самом худшем варианте — к уничтожению человечества.
«Исследовательская программа, обрисованная в этой работе и опасения, которые ее мотивировали, были названы анти-ИИ, но мы решительно оспариваем эту характеристику. Кажется самоочевидным, что растущие способности ИИ ведут к возрастающему потенциалу влияния на человеческое общество. Долг исследователей ИИ - позаботиться о том, чтобы его будущее влияние было полезным»
3
В данной статье остается непонятным отличие долгосрочной перспективы от краткосрочной, ведь авторы рассматривают одинаковые
1
Negnevitsky M. Artificial Intelligence: A Guide to Intelligent Systems. – Pearson Education Limited. 2005. – С.
212 2
Области применения искусственных нейронных сетей: [сайт]. URL: http://www.neuropro.ru/neu7.shtml
(дата обращения: 14.01.2017).
3
Russell S., Dewey D., Tegmark M. Research priorities for robust and beneficial artificial intelligence
[Электронный ресурс] // AI Magazine. - 2015. P.112. - Режим доступа: http://futureoflife.org/data/documents/research_priorities.pdf. (дата обращения:18.10.2016)




Поделитесь с Вашими друзьями:
1   ...   175   176   177   178   179   180   181   182   ...   205


База данных защищена авторским правом ©znate.ru 2019
обратиться к администрации

    Главная страница