Сегодня в ЕС вступил в силу закон об искусственном интеллекте. Согласно довольно строгим правилам, с этого дня запрещены системы ИИ, которые представляют серьезные риски для безопасности, здоровья или основных правил, в том числе оценивание поведения человека.
Согласно Закону ЕС об ИИ (AI Act), со 2 февраля запрещены системы ИИ, представляющие «неприемлемые риски» для безопасности, здоровья или основных прав, за исключением случаев, связанных с «национальной безопасностью».
Так, в числе прочего, в Европейском Союзе запрещается использование ИИ-программ, которые оценивают социальное поведение человека. Этот метод, известный как «социальный рейтинг» (social scoring), применяется, например, в Китае, где граждан делят на категории по поведению и соответственно поощряют или наказывают. В ЕС также не допускается распознавание эмоций на рабочих местах или в образовательных учреждениях.
Длинный список запретов
Вот некоторые из запретов:
— ИИ-программы, которые оценивают социальное поведение человека. «Социальный рейтинг», применяется, например, в Китае.
— Распознавание эмоций на рабочих местах или в образовательных учреждениях, исключения есть для правоохранительных органов.
— Системы ИИ, использующие уязвимости людей, к примеру, «роботизированные звонки» (Robo-Calls), которые могут применяться для мошенничества в отношении пожилых людей.
По-прежнему запрещены обманные технологии, которые воздействуют на поведение людей. К примеру, голосовые игрушки, побуждающие детей к опасному поведению. Также запрещены автоматизированные звонки, которые позволяют мошенникам вводить в заблуждение людей. Запрещается и распознавание лиц в общественных местах, хотя в этой категории есть исключения для полиции и других спецслужб.
Некоторые против
Теперь компании, разрабатывающие или использующие ИИ, должны оценивать уровень риска своих систем и принимать необходимые меры для их приведения в соответствие с законодательными требованиями.
Согласно заявлению Еврокомиссии, цель нового регулирования — не только защита прав потребителей, но и обеспечение надлежащего использования ИИ. Поставщики и операторы систем ИИ теперь должны гарантировать, что все лица, связанные с разработкой или эксплуатацией таких систем, обладают достаточным уровнем «ИИ-компетенций».
Впрочем закон уже критикуют некоторые компании, которые считают, что для принятия закона и урегулирования всех систем по законодательству было дано слишком мало времени. Есть даже утверждения, что ЕС в итоге окажется позади планеты всей, запрещая развиваться ИИ.
