Этический кодекс нейросетевой эпохи
Аннотация. Нейросети предоставляют пользователям широкие возможности, но при этом возникает множество спорных вопросов о принципах их использования, следовательно, важно определить единый подход к функционированию нейросетей. Таким образом, Кодекс призван отразить следующие аспекты: общие этические принципы использования нейросетей; этические стандарты разработки нейросетей; этические требования к использованию нейросетей; применение нейросетей в различных сферах и влияние нейросетей на общество.
Ключевые слова: нейросеть, этика, кодекс, риски, угрозы, ценности
Бредихин С.С., Морозова А.А. Этический кодекс нейросетевой эпохи / С.С. Бредихин, А.А. Морозова // Электронный научно-публицистический журнал «Homo Cyberus». 2023. № 2 (15). [Электронный ресурс]. URL: http://journal.homocyberus.ru/Bredikhin_SS_Morozova_AA_2_2023
Научная статья
УДК 17
Физико-математические науки
1.2.1. Искусственный интеллект и машинное обучение
Философские науки
5.7.1. Онтология и теория познания
5.7.6. Философия науки и техники
Психологические науки
5.3.5. Социальная психология, политическая и экономическая психология
Original article
THE CODE OF ETHICS OF THE NEURAL NETWORK ERA*
Abstract. Neural networks provide users with extensive opportunities, but at the same time there are many controversial questions about the principles of their use, therefore, it is important to define a unified approach to the functioning of neural networks. Thus, the Code is intended to reflect the following aspects: general ethical principles of the use of neural networks; ethical standards for the development of neural networks; ethical requirements for the use of neural networks; the use of neural networks in various fields and the impact of neural networks on society.
Key words: neural network, ethics, code, risks, threats, values
Bredikhin S.S., Morozova A.A. The code of ethics of the neural network era / S.S. Bredikhin, A.A. Morozova // Electronic scientific journal «Homo Cyberus». 2023. № 2 (15). URL: http://journal.homocyberus.ru/Bredikhin_SS_Morozova_AA_2_2023
Об этическом кодексе нейросетевой эпохи [1; 2]
Мы, представители научного сообщества, разработчики и пользователи технологий искусственного интеллекта, осознавая историческую ответственность перед человечеством, принимаем настоящий Этический кодекс нейросетевой эпохи.
Мы понимаем, что стремительное развитие нейротехнологий открывает колоссальные возможности для прогресса человечества. Однако это также порождает новые вызовы и угрозы, с которыми общество ранее не сталкивалось.
Наш долг, как учёных и разработчиков, – заблаговременно задать нравственные ориентиры для ответственного и безопасного использования достижений в сфере искусственного интеллекта. Мы не вправе допустить, чтобы наш труд нанёс ущерб человеку или был обращён против него.
Данный Кодекс призван утвердить гуманистические ценности в качестве высшего императива развития технологий. Мы провозглашаем, что интересы, права и безопасность человека всегда должны стоять на первом месте.
Мы призываем всех, кто задействован в создании и применении нейротехнологий, в качестве рекомендации и ориентира использовать положения настоящего Кодекса. Только так мы сможем сделать наши достижения благом, а не проклятием для человечества.
Рисунок 1. Этический кодекс нейросетевой эпохи
РАЗДЕЛ 1. ОБЩИЕ ЭТИЧЕСКИЕ ПРИНЦИПЫ
1.1 Приоритет безопасности и благополучия человека
Все системы искусственного интеллекта должны создаваться и использоваться так, чтобы минимизировать риски и максимально увеличивать качество жизни людей.
1.2 Прозрачность работы нейросетей
Алгоритмы должны быть понятны и объяснимы для людей. Недопустима «чёрная коробка», когда принципы работы искусственного интеллекта скрыты. Пользователи и общество в целом должны иметь доступ к информации о том, как функционируют и как используются нейросети, и какие решения принимаются на основе их работы.
1.3 Контроль со стороны человека
Человек должен оставаться конечной инстанцией принятия решений. Полноценная автономия искусственного интеллекта недопустима.
1.4 Запрет вредоносных или неэтичных целей
Искусственный интеллект не должен использоваться для создания автономного оружия, манипуляции людьми, обмана и мошенничества, преступлений, нарушения прав человека.
1.5 Справедливость и отсутствие дискриминации
Нейросетевые технологии должны использоваться с уважением к правам и достоинству всех людей, независимо от их расы, пола, религии, национальности или других характеристик. Они не должны усугублять или усиливать существующие социальные стереотипы и неравенство.
1.6 Культурное многообразие и историческое наследие
Нейросети должны учитывать многообразие культур и исторических контекстов, чтобы избежать предвзятости и негативного воздействия.
1.7 Защита персональных данных и конфиденциальность информации
Личные данные и информация о пользователях, собираемые нейросетями, должны храниться и использоваться с согласия субъектов и с уважением к их конфиденциальности. Нейросети не должны злоупотреблять доступом к личным данным. Недопустимо использование для обучения нейросетей данных, полученных незаконно или неэтично.
Рисунок 2. Нейросетевая реальность (рисунок создан с помощью приложения Шедеврум)
РАЗДЕЛ 2. ЭТИЧЕСКИЕ СТАНДАРТЫ РАЗРАБОТКИ НЕЙРОСЕТЕЙ
2.1 Этика создания и обучения нейросетей
При создании нейросетей следует придерживаться принципа «безвредности по задумке» – минимизировать потенциальные негативные последствия ещё на этапе разработки. Процесс обучения нейросети должен быть максимально прозрачным и воспроизводимым. Данные, используемые для обучения нейросети, должны отбираться и обрабатываться этично, с соблюдением прав субъектов данных. Нейросети, обученные на потенциально неэтичных данных, подлежат переобучению или выводу из эксплуатации.
2.2 Ответственность разработчиков
Создатели нейросетей несут моральную и юридическую ответственность за последствия их работы. Они должны предпринимать все возможные меры для предотвращения негативных последствий, вызванных ошибками или злоупотреблением нейросетями. Разработчики несут ответственность за этичность используемых данных и методов обучения нейросетей.
2.3 Постоянный аудит нейросетевых алгоритмов на предмет этичности и безопасности
Независимые эксперты должны регулярно анализировать нейросети на предмет рисков. Обязательными должны быть процедуры тестирования нейросетей на отсутствие вредоносности и дискриминации.
РАЗДЕЛ 3. ЭТИЧЕСКИЕ ТРЕБОВАНИЯ К ИСПОЛЬЗОВАНИЮ НЕЙРОСЕТЕЙ
3.1 Ответственность пользователей нейросетей
Несмотря на то, что контент, сгенерированный нейросетями, не является авторским творчеством, пользователи несут моральную и правовую ответственность за задания, которые они дают нейросетям, и за использование сгенерированных материалов. Недопустимо использование нейросетей для создания незаконного или вредоносного контента.
3.2 Предотвращение распространения фейков и маркировка создаваемого контента
Контент, сгенерированный нейросетями полностью или частично, не должен выдаваться за продукт, созданный человеком, и использоваться для введения людей в заблуждение. Такой контент должен сопровождаться маркировкой о том, что он создан нейросетью полностью или частично. Рекомендуются следующие виды маркировки: «сгенерировано нейросетью полностью», «сгенерировано нейросетью с доработкой человеком», «сгенерировано нейросетью частично». Такая маркировка позволит избежать распространения фейков.
Рисунок 3. Три кита, на которых держится работа нейросети (рисунок создан с помощью приложения Шедеврум)
РАЗДЕЛ 4. ПРИМЕНЕНИЕ НЕЙРОСЕТЕЙ В РАЗЛИЧНЫХ СФЕРАХ
4.1 Нейросети в образовании
Использование нейросетей в образовании должно быть направлено на расширение возможностей и повышение качества обучения, а не на замену преподавателей. Обучающие нейросети должны быть адаптированы к индивидуальным потребностям и способностям учащихся, а не навязывать усредненные подходы. Нейросети, применяемые в образовании, не должны ограничивать творческий потенциал и критическое мышление учащихся.
4.2 Нейросети в научных исследованиях
Использование нейросетей в области научных исследований должно быть подконтрольно учёным и направлено на расширение исследовательских возможностей, а не на полную замену научного труда учёного. Нейросети должны применяться в сочетании с экспертной оценкой учёных. Автономное принятие решений на основе нейросетей в науке недопустимо. Научные исследования с применением нейросетей должны соответствовать этическим нормам и принципам научной добросовестности.
4.3 Нейросети в медицине, психологии и психотерапии
Использование нейросетей в таких отраслях как медицина, психология и психотерапия, в том числе в рамках консультирования клиентов, должно быть подконтрольно специалистам и направлено на помощь в диагностике и лечении, а не на замену квалифицированных сотрудников соответствующих областей. Внедрение нейросетей должно проходить комплексную апробацию и сопровождаться мониторингом эффективности и безопасности.
4.4 Применение нейросетей в военных целях
Применение нейросетей в военных целях должно строго соответствовать международным нормам и правилам, регулирующим ведение войн и конфликтов. Нейросети не должны использоваться для атак на гражданское население или инфраструктуру, а также для создания автономных оружейных систем, способных принимать решения, касающиеся жизни и смерти, без должного человеческого контроля.
4.5 Применение нейросетей в бизнесе и других сферах
Применение нейросетевых технологий в сфере бизнеса и других отраслях должно основываться на универсальных принципах данного Кодекса, а также учитывать локальные этические стандарты каждой сферы. Нейросети не должны использоваться для получения нечестных конкурентных преимуществ, манипуляции рынками или нарушения прав потребителей.
Рисунок 4. Девушка-робот (рисунок создан на сайте Fusion Brain)
РАЗДЕЛ 5. ВЛИЯНИЕ НЕЙРОСЕТЕЙ НА ОБЩЕСТВО
5.1 Полезность и общественная ценность
Применение нейросетей должно приносить пользу обществу и улучшать качество жизни. Нейросети не должны создавать технологическую зависимость или негативно влиять на здоровье и благополучие людей.
5.2 Преемственность и приоритет гуманистических ценностей
Развитие искусственного интеллекта не должно подрывать общечеловеческие моральные нормы, а, наоборот, – способствовать их утверждению.
5.3 Информирование общества о возможностях и рисках
Пользователи нейросетей и общество в целом должны быть осведомлены о возможностях и рисках, связанных с использованием нейросетей, получать объективную и достоверную информацию о сути и перспективах нейросетевых технологий.
5.4 Экологическая устойчивость
При развитии и эксплуатации нейросетей должны учитываться экологические аспекты с целью минимизации негативного воздействия на окружающую среду.
5.5 Соблюдение законодательства
Разработка и использование технологий искусственного интеллекта должны осуществляться в соответствии с международным правом и локальным законодательством страны. В Российской Федерации разработчики и пользователи нейросетей обязаны соблюдать следующие Федеральные Законы:
- Закон «О персональных данных» в части сбора, хранения и использования персональных данных;
- Закон «О государственной тайне» в части защиты конфиденциальной информации;
- Закон «Об информации, информационных технологиях и о защите информации» в части распространения информации;
- Закон «О средствах массовой информации» в части требований к недопустимости злоупотребления свободой массовой информации;
- Закон «О связи» в части использования инфотелекоммуникационных сетей;
- Уголовный кодекс РФ в части ответственности за киберпреступления;
- Гражданский кодекс РФ в части защиты чести, достоинства и деловой репутации;
- иные законы и подзаконные акты, регулирующие разработку и использование технологий искусственного интеллекта.
Соблюдение всех применимых законов и подзаконных актов является обязательным для всех участников нейросетевой сферы.
Список источников
1. Этический кодекс нейросетевой эпохи /НИЦ мониторинга и профилактики [Электронный ресурс]. URL: https://vk.com/wall-205543978_1814 (дата обращения: 30.09.2023 года).
2. Этический кодекс нейросетевой эпохи /Цифровая антропология [Электронный ресурс]. URL: https://vk.com/wall-198607953_1551 (дата обращения: 02.10.2023 года).
© Бредихин Сергей Сергеевич, Морозова Анна Анатольевна
ДЛЯ ЦИТИРОВАНИЯ:
Бредихин С.С., Морозова А.А. Этический кодекс нейросетевой эпохи / С.С. Бредихин, А.А. Морозова // Электронный научно-публицистический журнал «Homo Cyberus». 2023. № 2 (15). [Электронный ресурс]. URL: http://journal.homocyberus.ru/Bredikhin_SS_Morozova_AA_2_2023
FOR CITATION:
Bredikhin S.S., Morozova A.A. The code of ethics of the neural network era / S.S. Bredikhin, A.A. Morozova // Electronic scientific journal «Homo Cyberus». 2023. № 2 (15). URL: http://journal.homocyberus.ru/Bredikhin_SS_Morozova_AA_2_2023
* Кодекс подготовлен Научно-исследовательским центром мониторинга и профилактики деструктивных проявлений в образовательной среде (https://vk.com/nicmp)
* The Code was prepared by the Scientific Research Center for Monitoring and Prevention of Destructive Manifestations in the Educational Environment (https://vk.com/nicmp)
