Группа разработчиков Google DeepMind обучит ИИ этике

Компания Google организовала исследовательскую группу, которая займётся определением воздействия ИИ на реальный мир, а также обучением ИИ этическим нормам поведения. Об этом подразделение DeepMind объявило в своём блоге.

Группа, названная DeepMind Ethics & Society (DMES), своей целью ставит помощь техническим сотрудникам DeepMind в вопросах внедрения этики в ИИ, а также объяснение обществу, что ИИ работает на благо каждого человека. Стоит отметить, что подобная группа работала в Google уже на протяжении полутора лет и насчитывала 8 сотрудников, а состав новой будет расширен до 25 человек.

Основными сферами деятельности DMES будут вопросы, связанные с:

• конфиденциальностью пользователей и влиянием ИИ на неё;
• экономическим влиянием ИИ;
• управлением действиями ИИ и подчинением ИИ человеку;
• рисками, связанными с работой ИИ;
• моралью и ценностям ИИ;
• помощью ИИ в решении глобальных проблем.

Дуэт руководителей группы в своём блоге написал:

Мы верим, что ИИ принесёт исключительную пользу миру, но только если будет придерживаться самых высоких этических стандартов. Развитие технологий не является нейтральным, поэтому все разработчики должны взять на себя ответственность за этические и социальные последствия своей работы.

Для исследования представленных выше шести вопросов новая команда DeepMind планирует проводить встречи и обсуждения потенциала ИИ с экспертами гуманитарных и социальных наук, а также учитывать мнения гражданского общества и других подразделений DeepMind.

Если технологии ИИ должны служить обществу, то они должны создаваться с учётом проблем и нужд общества.

Подобная инициатива Google чётко демонстрирует намерения компании не только создавать алгоритмы, обучающие ИИ решению необходимых задач, но и прививать ему необходимые этические нормы поведения для полноценного служения человечеству.