IEEE объявил о введении 3 стандартов ИИ, обеспечивающих благополучие человечества в эпоху роботов
Новости
Согласно IEEE, разработчики при создании систем ИИ должны прежде всего учитывать человеческие этические нормы для защиты всего человечества от возможных угроз со стороны роботов.
2К открытий2К показов
По мере того, как искусственный интеллект и автономные системы начинают проникать в повседневную жизнь, разработчики этих технологий должны придерживаться определённых этических соображений для обеспечения безопасности человечества.
Этические нормы ИИ
17 ноября 2017 года международная некоммерческая ассоциация специалистов в области техники IEEE объявила о введении 3 стандартов этики в ИИ, которые ставят во главу угла благосостояние и благополучие людей. Эти стандарты стали частью официального документа IEEE, который призывает разработчиков уделять первоочередное внимание этическим нормам и соображениям при работе с ИИ.
Отметим, что это не первая попытка учёных следовать нормам этики при создании и обучении ИИ. Так, в октябре 2017 года Google организовала группу, занимающуюся вопросами морального воспитания искусственного интеллекта. Она займётся определением воздействия ИИ на реальный мир, а также обучением машин этическим нормам поведения.
3 стандарта от IEEE
Работа над каждым из трёх стандартов проводится экспертами по тематике в соответствующих областях исследований:
- Стандарт, объясняющий концепции, функции и преимущества, необходимые для обеспечения приверженности роботизированных и автономных систем общепринятым нормам этики и морали. В нём подчёркивается необходимость общей работы специалистов этических и инженерных сообществ по разработке и внедрению подобных систем.
- Стандарт для отказоустойчивой конструкции автономных и полуавтономных систем. IEEE отмечает, что автономные и полуавтономные системы могут потенциально навредить пользователям, обществу и окружающей среде. Этот стандарт устанавливает чёткие процедуры измерения, тестирования и сертификации автономных систем на способность причинения ими вреда. Он также ранжирует их от самых безопасных до относительно опасных, а также предоставляет инструкции по повышению их качества и надёжности.
- Стандарт метрик благополучия, вносимого ИИ в общество. По мере совершенствования систем ИИ программисты, инженеры и технологи должны учитывать, как именно продукты и услуги, которые они создают, могут улучшить благосостояние людей с точки зрения экономического роста и производительности. В этом стандарте определены показатели человеческого благосостояния, которые могут быть непосредственно затронуты автономными и интеллектуальными системами. Он также содержит описание функций, которыми должны обладать эти системы, чтобы их можно было использовать для повышения качества жизни людей.
2К открытий2К показов