Группа разработчиков Google DeepMind обучит ИИ этике
Google планирует обучить ИИ этическим нормам. Новая группа подразделения DeepMind намеревается приучить ИИ к нормам поведения в обществе.
Компания Google организовала исследовательскую группу, которая займётся определением воздействия ИИ на реальный мир, а также обучением ИИ этическим нормам поведения. Об этом подразделение DeepMind объявило в своём блоге.
Группа, названная DeepMind Ethics & Society (DMES), своей целью ставит помощь техническим сотрудникам DeepMind в вопросах внедрения этики в ИИ, а также объяснение обществу, что ИИ работает на благо каждого человека. Стоит отметить, что подобная группа работала в Google уже на протяжении полутора лет и насчитывала 8 сотрудников, а состав новой будет расширен до 25 человек.
Основными сферами деятельности DMES будут вопросы, связанные с:
- конфиденциальностью пользователей и влиянием ИИ на неё;
- экономическим влиянием ИИ;
- управлением действиями ИИ и подчинением ИИ человеку;
- рисками, связанными с работой ИИ;
- моралью и ценностям ИИ;
- помощью ИИ в решении глобальных проблем.
Дуэт руководителей группы в своём блоге написал:
Для исследования представленных выше шести вопросов новая команда DeepMind планирует проводить встречи и обсуждения потенциала ИИ с экспертами гуманитарных и социальных наук, а также учитывать мнения гражданского общества и других подразделений DeepMind.
Подобная инициатива Google чётко демонстрирует намерения компании не только создавать алгоритмы, обучающие ИИ решению необходимых задач, но и прививать ему необходимые этические нормы поведения для полноценного служения человечеству.