Сегодня в ЕС вступил в силу закон об искусственном интеллекте. Согласно довольно строгим правилам, с этого дня запрещены системы ИИ, которые представляют серьезные риски для безопасности, здоровья или основных правил, в том числе оценивание поведения человека.
Согласно Закону ЕС об ИИ (AI Act), со 2 февраля запрещены системы ИИ, представляющие "неприемлемые риски" для безопасности, здоровья или основных прав, за исключением случаев, связанных с "национальной безопасностью".
Так, в числе прочего, в Европейском Союзе запрещается использование ИИ-программ, которые оценивают социальное поведение человека. Этот метод, известный как "социальный рейтинг" (social scoring), применяется, например, в Китае, где граждан делят на категории по поведению и соответственно поощряют или наказывают. В ЕС также не допускается распознавание эмоций на рабочих местах или в образовательных учреждениях.
Длинный список запретов
Вот некоторые из запретов:
- ИИ-программы, которые оценивают социальное поведение человека. "Социальный рейтинг", применяется, например, в Китае.
- Распознавание эмоций на рабочих местах или в образовательных учреждениях, исключения есть для правоохранительных органов.
- Системы ИИ, использующие уязвимости людей, к примеру, "роботизированные звонки" (Robo-Calls), которые могут применяться для мошенничества в отношении пожилых людей.
По-прежнему запрещены обманные технологии, которые воздействуют на поведение людей. К примеру, голосовые игрушки, побуждающие детей к опасному поведению. Также запрещены автоматизированные звонки, которые позволяют мошенникам вводить в заблуждение людей. Запрещается и распознавание лиц в общественных местах, хотя в этой категории есть исключения для полиции и других спецслужб.
Некоторые против
Теперь компании, разрабатывающие или использующие ИИ, должны оценивать уровень риска своих систем и принимать необходимые меры для их приведения в соответствие с законодательными требованиями.
Согласно заявлению Еврокомиссии, цель нового регулирования - не только защита прав потребителей, но и обеспечение надлежащего использования ИИ. Поставщики и операторы систем ИИ теперь должны гарантировать, что все лица, связанные с разработкой или эксплуатацией таких систем, обладают достаточным уровнем "ИИ-компетенций".
Впрочем закон уже критикуют некоторые компании, которые считают, что для принятия закона и урегулирования всех систем по законодательству было дано слишком мало времени. Есть даже утверждения, что ЕС в итоге окажется позади планеты всей, запрещая развиваться ИИ.
Подписывайтесь на официальный Telegram-канал CMN.KZ
