Конфиденциальность для сильных мира сего, слежка для остальных: Предлагаемое ЕС регулирование в области технологий заходит слишком далеко
В прошлом месяце мы сетовали на принятый в Калифорнии Закон о пограничном искусственном интеллекте 2025 года. Этот закон отдает предпочтение соблюдению требований, а не управлению рисками, ограждая бюрократов и законодателей от ответственности. В основном, он навязывает нормы регулирования сверху вниз, вместо того, чтобы позволить гражданскому обществу и отраслевым экспертам экспериментировать и разрабатывать этические стандарты снизу вверх.
Возможно, мы могли бы отмахнуться от этого закона как от очередного примера склонности Калифорнии к интервенционизму. Но некоторые американские политики и регуляторы уже призывают к тому, чтобы этот закон стал "шаблоном для гармонизации федерального надзора и надзора штатов" Другим источником такого шаблона может стать Европейский Союз (ЕС), поэтому стоит следить за нормативными актами, извергаемыми из Брюсселя.
Евросоюз уже намного опередил Калифорнию в навязывании тревожного регулирования "сверху вниз". Действительно, Закон ЕС об искусственном интеллекте от 2024 года следует общему принципу предосторожности ЕС. Как объясняет внутренний аналитический центр Парламента ЕС, "принцип предосторожности позволяет лицам, принимающим решения, принимать меры предосторожности, когда научные данные об опасности для окружающей среды или здоровья человека неопределенны, а ставки высоки" Принцип предосторожности дает ЕС огромную власть, когда речь идет о регулировании в условиях неопределенности - вместо того, чтобы позволить экспериментировать под защитой штрафов и деликтного права (как в США). Это подавляет этическое обучение и инновации. Из-за принципа предосторожности и связанного с ним регулирования экономика ЕС страдает от большей концентрации рынка, более высоких затрат на соблюдение нормативных требований и уменьшения инноваций - по сравнению со средой, которая позволяет экспериментировать и разумно управлять рисками. Неудивительно, что только четыре из 50 ведущих мировых технологических компаний являются европейскими.
От задушенных инноваций к задушенной конфиденциальности
Наряду с принципом предосторожности, второй движущей силой регулирования ЕС является продвижение прав - но при этом из Хартии основных прав ЕС выбираются права, которые часто противоречат другим. Например, Общий регламент ЕС по защите данных (GDPR) от 2016 года был принят с целью защиты фундаментального права на защиту персональных данных (технически это право отделено от права на неприкосновенность частной жизни и дает ЕС гораздо больше полномочий для вмешательства - но это уже дело академических журналов). В итоге GDPR урезал право на экономическую свободу.
На этот раз основные права используются для оправдания борьбы ЕС с сексуальным насилием над детьми. Мы все любим основные права, и мы все ненавидим насилие над детьми. Но на протяжении многих лет основные права использовались как тупое и мощное оружие для расширения регулирующих полномочий ЕС. Предлагаемое Положение о сексуальном насилии над детьми (CSA) не является исключением. Исключением является степень вторжения: ЕС предлагает отслеживать коммуникации между европейскими гражданами, объединяя их всех вместе как потенциальные угрозы, а не как защищенную речь, которая имеет право на неприкосновенность частной жизни prima facie.
По состоянию на 26 ноября 2025 года бюрократическая машина ЕС ведет переговоры о деталях CSA. В последнем проекте обязательное сканирование частных сообщений, к счастью, было отменено, по крайней мере, формально. Но есть одна загвоздка. Поставщики хостинга и услуг межличностного общения должны выявить, проанализировать и оценить, как их услуги могут быть использованы для сексуального насилия над детьми в Интернете, а затем принять "все разумные меры по смягчению последствий" Столкнувшись с таким бессрочным мандатом и угрозой ответственности, многие провайдеры могут прийти к выводу, что самый безопасный - и юридически благоразумный - способ показать, что они выполнили требования директивы ЕС, - это развернуть масштабное сканирование частных коммуникаций.
Проект CSA настаивает на том, что меры по смягчению последствий должны быть, по возможности, ограничены конкретными частями услуги или конкретными группами пользователей. Однако структура стимулов указывает в одном направлении. Широкомасштабный мониторинг может оказаться единственным приемлемым вариантом для соблюдения нормативных требований. То, что сегодня представляется как добровольное, завтра рискует стать фактическим обязательством.
По словам Питера Хаммелгаарда, министра юстиции Дании: "Каждый год в общий доступ выкладываются миллионы файлов, на которых запечатлено сексуальное насилие над детьми. И за каждым изображением и видео стоит ребенок, подвергшийся самому ужасному и страшному насилию. Это совершенно неприемлемо" Никто не оспаривает серьезность и неприемлемость проблемы. И тем не менее, в соответствии с этим нарративом, телекоммуникационная индустрия и европейские граждане должны принять на себя опасные меры по снижению рисков, которые, вероятно, повлекут за собой потерю конфиденциальности для граждан и широкие полномочия по мониторингу для государства.
Нам говорят, что затраты не идут ни в какое сравнение с выгодой.
В конце концов, кто бы не хотел бороться с сексуальным насилием над детьми? Самое время сделать глубокий вдох. Насильники над детьми должны быть сурово наказаны. Это не освобождает свободное общество от уважения других основных ценностей.
Но, подождите. Это еще не все..
Широко распространенный мониторинг? Ну, не совсем повсеместный
Несмотря на моральный императив защиты детей - моральный императив настолько сильный, что ЕС готов нарушить другие основные ценности, чтобы продвинуть его, - предлагаемый закон о CSA вводит удобное исключение. Все, что относится к сфере национальной безопасности, и все электронные коммуникационные услуги, которые не являются общедоступными(т.е. доступны только избранным чиновникам и бюрократам), останутся совершенно нетронутыми. Частные разговоры между гражданами требуют тщательного изучения - но разговоры тех, кто утверждает, что защищает нас, остаются за рамками.
Как сказал добрый министр, "за каждым изображением и видео стоит ребенок, подвергшийся самому ужасному и страшному насилию" Если это действительно так в отношении каждого "отдельного изображения и видео", то почему бы это не относилось и к сообщениям, защищенным от посягательств на национальную безопасность и непубличных исключений CSA? Разве ужас как-то рассеивается, когда пользователями являются политики или бюрократы? Становится ли неприемлемое вдруг приемлемым, если оно касается тех, кто пишет правила?
В иерархии прав ЕС защита детей превосходит защиту частной жизни. Но защита еврократов превосходит защиту детей. В конце концов, современные технологии дают политикам беспрецедентные возможности для наблюдения за гражданами, при этом освобождая себя от контроля.
Пока еще нет разговоров - насколько нам известно - о введении подобных мер в США. Но, начиная с налога на богатство и заканчивая регулированием искусственного интеллекта - и самими истоками американского административного государства - плохие идеи из Европы имеют неприятный способ перебраться через пруд.
