Вячеслав Шарунов
Вячеслав Шарунов
0

IEEE объявил о введении 3 стандартов ИИ, обеспечивающих благополучие человечества в эпоху роботов

По мере того, как искусственный интеллект и автономные системы начинают проникать в повседневную жизнь, разработчики этих технологий должны придерживаться определённых этических соображений для обеспечения безопасности человечества.

Этические нормы ИИ

17 ноября 2017 года международная некоммерческая ассоциация специалистов в области техники IEEE объявила о введении 3 стандартов этики в ИИ, которые ставят во главу угла благосостояние и благополучие людей. Эти стандарты стали частью официального документа IEEE, который призывает разработчиков уделять первоочередное внимание этическим нормам и соображениям при работе с ИИ.

Отметим, что это не первая попытка учёных следовать нормам этики при создании и обучении ИИ. Так, в октябре 2017 года Google организовала группу, занимающуюся вопросами морального воспитания искусственного интеллекта. Она займётся определением воздействия ИИ на реальный мир, а также обучением машин этическим нормам поведения.

3 стандарта от IEEE

Работа над каждым из трёх стандартов проводится экспертами по тематике в соответствующих областях исследований:

  1. Стандарт, объясняющий концепции, функции и преимущества, необходимые для обеспечения приверженности роботизированных и автономных систем общепринятым нормам этики и морали. В нём подчёркивается необходимость общей работы специалистов этических и инженерных сообществ по разработке и внедрению подобных систем.
  2. Стандарт для отказоустойчивой конструкции автономных и полуавтономных систем. IEEE отмечает, что автономные и полуавтономные системы могут потенциально навредить пользователям, обществу и окружающей среде. Этот стандарт устанавливает чёткие процедуры измерения, тестирования и сертификации автономных систем на способность причинения ими вреда. Он также ранжирует их от самых безопасных до относительно опасных, а также предоставляет инструкции по повышению их качества и надёжности.
  3. Стандарт метрик благополучия, вносимого ИИ в общество. По мере совершенствования систем ИИ программисты, инженеры и технологи должны учитывать, как именно продукты и услуги, которые они создают, могут улучшить благосостояние людей с точки зрения экономического роста и производительности. В этом стандарте определены показатели человеческого благосостояния, которые могут быть непосредственно затронуты автономными и интеллектуальными системами. Он также содержит описание функций, которыми должны обладать эти системы, чтобы их можно было использовать для повышения качества жизни людей.

Источник: TechRepublic