Группа разработчиков Google DeepMind обучит ИИ этике

Google организовала группу, занимающуюся вопросами морального воспитания искусственного интеллекта.
DeepMind

Компания Google организовала исследовательскую группу, которая займётся определением воздействия ИИ на реальный мир, а также обучением ИИ этическим нормам поведения. Об этом подразделение DeepMind объявило в своём блоге.

Группа, названная DeepMind Ethics & Society (DMES), своей целью ставит помощь техническим сотрудникам DeepMind в вопросах внедрения этики в ИИ, а также объяснение обществу, что ИИ работает на благо каждого человека. Стоит отметить, что подобная группа работала в Google уже на протяжении полутора лет и насчитывала 8 сотрудников, а состав новой будет расширен до 25 человек.

Основными сферами деятельности DMES будут вопросы, связанные с:

  • конфиденциальностью пользователей и влиянием ИИ на неё;
  • экономическим влиянием ИИ;
  • управлением действиями ИИ и подчинением ИИ человеку;
  • рисками, связанными с работой ИИ;
  • моралью и ценностям ИИ;
  • помощью ИИ в решении глобальных проблем.

Дуэт руководителей группы в своём блоге написал:

Мы верим, что ИИ принесёт исключительную пользу миру, но только если будет придерживаться самых высоких этических стандартов. Развитие технологий не является нейтральным, поэтому все разработчики должны взять на себя ответственность за этические и социальные последствия своей работы.

Для исследования представленных выше шести вопросов новая команда DeepMind планирует проводить встречи и обсуждения потенциала ИИ с экспертами гуманитарных и социальных наук, а также учитывать мнения гражданского общества и других подразделений DeepMind.

Если технологии ИИ должны служить обществу, то они должны создаваться с учётом проблем и нужд общества.

Подобная инициатива Google чётко демонстрирует намерения компании не только создавать алгоритмы, обучающие ИИ решению необходимых задач, но и прививать ему необходимые этические нормы поведения для полноценного служения человечеству.

Источник: Business Insider