ЕС может запретить нейросети для слежки и социального рейтинга

В Европарламенте обсудили законопроект о регуляции нейросетей. Он вводит правила, которые ограничат использование искуственного интеллекта. Эти правила запрещают использовать нейросети во вред человеку.

Законопроект был одобрен Комитетом по гражданским свободам и Комитетом по внутреннему рынку и защите прав потребителей.

Законопроект находится в открытом доступе. Ознакомиться с ним можно здесь:

Вот, что предлагает законопроект.

Риски нейросетей для человека

Нейросети будут оцениваться по степени риска для человека. Вводятся неприемлемые, высокие и низкие риски.

Нейросети неприемлемого риска будут запрещены. Нейросети с высокими рисками будут регулироваться законом. Нейросети с низкими рисками никак не будут регулироваться.

Под нейросетями неприемлемого риска, в том числе, описываются системы для выставления социального рейтинга. Речь здесь, по всей видимости, идёт о Китае.

Будут регулироваться:

1. Системы распознавания лиц.
2. Беспилотные автомобили.
3. Медицинские системы на основе ИИ.
4. Генеративные нейросети.

Регуляция здесь значит, что разработчики нейросетей будут обязаны соблюдать предписанные законом правила, чтобы те не использовались для нанесения вреда.

Будут запрещены:

1. Использование биометрических ИИ в общественных местах.
2. Инструменты слежки на основе ИИ.
3. Использование полицией предиктивной аналитики.
4. Использование нейросетей для разделения по критериям: по расам, этнической принадлежности, гендеру и т.д.

Запрет биометрии

Один из главных пунктов документа — запрет на использование нейросетей для биометрического распознавания лиц в общественных местах. 

Иными словами, в школах, в университетах и на улицах (словом, почти везде) запрещается использовать системы распознавания лиц. Запрещается слежка нейросетями за гражданами. 

Предположительно, биометрические системы будет разрешено использовать для частных целей: например, чтобы разблокировать смартфон или залогиниться в банковское приложение. 

Что будет, если не соблюсти закон

Компаниям будет выписан штраф в размере до 30 миллионов евро. Это 2,5 триллиона рублей.

Сейчас закон ещё не прошёл все инстации, он только предварительно одобрен двумя комитетами Европарламента. Детальное рассмотрение законопроекта запланировано на июнь 2023 года.

Чтобы закон был принят, сперва за него должны проголосовать в Европарламенте в целом, потом — в Еврокомиссии, а уже затем его рассмотрит Совет ЕС.