Этика и правовые проблемы искусственного интеллекта

Программа обучения

• Тема 1. Национальный Кодекс этики в сфере искусственного интеллекта

  Необходимость создания Кодекса этики в сфере ИИ. Акторы в сфере ИИ. Общие этические принципы/ценности поведения Акторов ИИ. Этические стандарты поведения Акторов в сфере ИИ. Механизмы реализации Кодекса этики в сфере ИИ. Документы нор­мативно-­технического регулирования в сфере ИИ.

• Тема 2. Принципы ИИ

  Ответственность частных лиц и организаций при негативных последствиях, возникающих в результате проектирования, разработки и использования ими систем на базе ИИ. Справедливость и исключение дискриминации при использовании технологий ИИ для раз­личных социальных групп. Прозрачность и объяснимость работы ИИ, направленная на то, чтобы пользователи понимали, как ИИ принимает решения, как система ИИ была разработана и протестирована, чтобы гарантировать, что она работает так, как изначально задумано. Профессиональная ответственность проектировщиков и разработчиков систем ИИ. Использование ИИ с целью пропаганды человеческих ценностей и принесения максимальной пользы обществу. Использование систем ИИ с учетом обеспечения защиты сведений ограниченного доступа. Соблюдение принятых законов и нормативно-­правовых актов, международных норм поведения.

• Тема 3. Вопросы социальной ответственности, связанные с участием и развитием общества при внедрении систем ИИ

  Выявление групп заинтересованных сторон, на которые влияют системы ИИ, и решение их проблем. Минимизация воздействий на окружающую среду при использовании технологий ИИ. Контроль над технологиями ИИ со стороны человека и общества.

• Тема 4. Создание и использование этичного и социально приемлемого ИИ в современном мире

  Опыт применения ИИ в социальном обеспечении. Рынок ИИ в России и мире. Использование ИИ в госуправлении, производстве, медицине, образовании и культуре. Влияние использования ИИ на занятость населения за счет повышения автоматизации бизнес­ процессов, создания рабочих мест.

• Тема 5. Технологии ИИ в задачах защиты информации

  Этические аспекты использования ИИ в задачах обеспечения информационной безопасности. Проблема защиты персональных данных человека при обработке в системах ИИ. Проблема отчуждения аутентификаторов (ключей и паролей) от личности человека и ее решение с помощью биометрических систем. Проблема защиты биометрических персональных данных человека. Обезличивание персональных данных. Эффективность использования физиологических и поведенческих признаков человека в задачах идентификации и аутентификации личности. Фундаментальные и прикладные вопросы, связанные с развитием ИИ для биометрии. Технологии компьютерного зрения и распознавания образов на базе ИИ.

• Тема 6. Правовые аспекты участия человека в естественно­научных (биомедицинских) экспериментах для обучения ИИ

  Формирование базы медицинских (биомедицинских, биометрических) образов для обучения ИИ. Добро­ вольное информированное согласие на участие в научных экспериментах. Возрастные ограничения участия в экспериментах. Принципы и задачи биоэтики. Обеспечение безопасности медицинских (биомедицинских, биометрических) данных при их получении, хранении и обработке в процессе обучения ИИ и проведения вычислительных экспериментов.

• Тема 7. Методы оценки рисков, возникающих из-за внедрения ИИ. Передовые методы обнаружения и снижения воздействия ИИ

  Характер рисков использования систем ИИ. Международные стандарты, содержащие рекомендации по управлению рисками, с которыми сталкиваются организации при разработке и применении методов и систем ИИ. Оценка свойств устойчивости систем ИИ.

• Тема 8. Этические аспекты доверия к ИИ

  Понятие доверенного ИИ. Этические аспекты доверия к ИИ. Российские и мировые стандарты, связанные с доверенными системами ИИ. Перспективы и направления развития этического ИИ в России и мире.