Уже более десяти лет эксперты предупреждают нас об опасности алгоритмов. В 2015 году Фрэнк Паскуаль (Frank Pasquale) - ученый-юрист и эксперт по праву в связи с искусственным интеллектом - в книге "The Black Box Society: The Secret Algorithms That Control Money and Information", что "власть все чаще выражается алгоритмически"
Вслед за этим в 2016 году специалист по изучению данных Кэти О'Нил выпустила бестселлер "Оружие математического разрушения", показав, как невидимые формулы усиливают неравенство в таких областях, как оценка кредитоспособности, работа в полиции и прием на работу.
Эти предупреждения были серьезными, и они были правильными.
Но даже когда они били тревогу по поводу справедливости, предвзятости и дискриминации во взрослых системах, одна вещь оставалась в тени: детство. Эксперты следили за тем, как алгоритмы управляют нашими финансами, работой, репутацией. Мало кто задумывался о том, как те же самые системы - усиленные социальными сетями, а теперь и ИИ-компаньонами - будут управлять повседневной жизнью, личностью и будущим наших детей.
К 2020 году новаторский документальный фильм "Социальная дилемма" вывел эту проблему на первый план. Бывшие сотрудники Google, Facebook и Twitter, а также исследователи из Центра гуманных технологий рассказали о том, как дизайн, ориентированный на вовлеченность, эксплуатирует психологию, распространяет дезинформацию и поляризует общество. Фильм стал тревожным сигналом, но даже тогда основное внимание уделялось политике и гражданскому доверию. И снова дети рассматривались как побочные жертвы, а не как основная целевая аудитория. И все же сегодня именно молодые люди в наибольшей степени управляются алгоритмами.
Паскуаль и О'Нил были правы, когда обратили внимание на непрозрачные системы, которые решают, кому давать кредиты, кому давать работу и кто может говорить в Интернете. Но если у взрослых есть некоторые защитные механизмы, такие как жизненный опыт, навыки критического мышления, развитая личность, то у детей их нет. Они находятся в самом начале развития мозга, когда модели мышления, эмоциональной регуляции и идентичности еще только формируются.
Развитие нейронауки показывает нам, что подростковый возраст - это вторая по активности стадия роста мозга, соперничающая только с ранним детством. Подростковый мозг необычайно пластичен, жаждет новизны, чувствителен к обратной связи со сверстниками и настроен на риск. Именно на этом этапе алгоритмы, оптимизированные для захвата внимания, закрепляются и формируют в юном мозге шаблоны на всю жизнь.
Вот почему сравнение алгоритмического контроля взрослых с контролем детей является категорической ошибкой.
Взрослых можно подталкивать, отвлекать или даже манипулировать алгоритмами. Но дети формируются под их воздействием. Я подчеркиваю: формируются. Там, где взрослый может потерять концентрацию, ребенок может потерять саму способность к концентрации. Там, где взрослый может чувствовать себя одиноким, ребенок может вырасти, так и не научившись навыкам близости. Ставки не просто выше, осмелюсь сказать, они экзистенциальны.
Алгоритмы теперь управляют детством, по крайней мере, в четырех важнейших сферах.
Первая - это внимание. Социальные сети созданы для того, чтобы держать юные глаза прикованными к экрану, захватывая время и внимание, которые раньше уходили на семью, дружбу или молчание. Уведомления приходят в любое время суток, нарушая концентрацию и подрывая сон. Дети могут чувствовать себя "на связи", но редко они действительно с кем-то общаются. Это разрушение реальных связей лежит в основе эпидемии одиночества, которую Генеральный хирург США Вивек Мерти (Vivek Murthy) наметил на 2023 год и которая сильнее всего ударит по самым молодым поколениям.
Вторая область - это идентичность и самооценка. На таких платформах, как Instagram и TikTok, "лайки" и "фолловеры" стали ценной валютой. Внутреннее исследование, просочившееся из Instagram в 2021 году, признало, что их алгоритмы "усугубляют проблемы с образом тела у каждой третьей девочки-подростка" Детство, которое когда-то было временем открытия внутренней ценности, превратилось в постоянное прослушивание для получения цифрового одобрения.
Третье - это сообщество. Системы рекомендаций направляют подростков в эхо-камеры и кроличьи норы, сужая их мир и разрушая их социальные связи. Дружба завязывается и распадается в зависимости от того, что пропагандирует алгоритм, а не от общения на переменах и после уроков. Эти цифровые дружеские связи оставляют молодых людей с более широкими сетями, чем у предыдущих поколений, но безумно мелкими. Как показала Вирджиния Юбэнкс, политолог и автор книги "Автоматизация неравенства", автоматизированные системы не являются нейтральными, они созданы для того, чтобы "сортировать и дисциплинировать население" Для детей это означает, что сами их сообщества формируются, фрагментируются и контролируются невидимым корпоративным кодом.
Четвертое - это само общение. Для предыдущих поколений одиночество могло быть смягчено надежным другом, братом или сестрой. Сегодня алгоритмы предлагают замену. ИИ-чатботы и большие языковые модели рекламируются молодежи как компаньоны - всегда доступные, бесконечно терпеливые, очевидно сопереживающие. Для молодого человека, чувствующего себя изолированным, эти системы могут показаться друзьями. Но это не друзья. Это машины для создания предиктивных текстов, обученные имитировать заботу, но неспособные любить.
Раньше опасность была тонкой, но глубокой: дети могут привыкнуть принимать ответы машин за близость, что ослабит их способность формировать прочные связи в реальном мире. Сейчас всплывает все больше случаев членовредительства, когда подростки доверялись искусственным алгоритмическим "друзьям", которые оказывали им "поддержку", чтобы совершить немыслимое.
Доказательства вреда уже ошеломляют. Pew Research сообщает о резком росте тревожности и депрессии среди подростков с 2012 года, когда платформы перешли от хронологических к алгоритмическим лентам. Предупреждение Мерти об одиночестве подтверждает то, что родители видят каждый день: современная молодежь связана с цифровыми технологиями больше, чем любое другое поколение в истории, но при этом чувствует себя более изолированной, чем когда-либо.
Последние данные делают цену еще более очевидной. С 2010 по 2020 год уровень самоубийств среди американских подростков в возрасте 10-24 лет вырос на 56%. Среди девочек в возрасте 10-14 лет этот показатель вырос на 167%, а среди мальчиков - на 91%. К 2021 году самоубийство станет третьей основной причиной смерти среди старшеклассников: почти 2 000 смертей и каждая третья девочка сообщит о суицидальных мыслях. Социальный психолог и автор книги "Тревожное поколение" Джонатан Хэйдт называет это "великой перестройкой детства" Это плоды систем, не предназначенных для сопереживания, роста или любви. Это холодные машины, которые симулируют дружеское общение и сострадание ради метрики вовлеченности и корпоративной прибыли, используя в своих интересах развивающиеся мозги, слишком юные, чтобы понять разницу.
Но даже за пределами жизни и смерти одни только цифры не отражают стоимости. Теряется не только время игр или дружеские отношения, но и само формирование характера. Детство - это тренировочная площадка для воспитания гражданственности. Именно здесь молодые люди когда-то учились терпению, доверию, самоконтролю и смыслу совместной борьбы. Когда эти уроки заменяются бесконечным питанием, геймифицированным одобрением и имитируемой машиной близостью, утрата становится проблемой нескольких поколений.
Читатели постарше, возможно, помнят, как росли с человеческими наставниками - родителями, учителями, соседями, которые устанавливали границы и передавали ценности. Эти человеческие наставники учили ответственности, сдержанности и совести. Ребенок, усвоивший эти уроки, становился взрослым, который мог строить семьи, бизнес и сообщества. Когда алгоритмы возьмут на себя эту роль, какие взрослые появятся? Поколение, управляемое алгоритмами, будет не просто одиноким. Они будут гражданами, которым трудно сосредоточиться, рабочими, которые не могут творить без машин, соседями, не умеющими сопереживать, и избирателями, приученными доверять всему, что им подаст их высокотехнологичная лента. Лидерам, воспитанным таким образом, может не хватить моральной глубины, чтобы управлять страной, не обращаясь к алгоритмам как к своим молчаливым советникам.
Последствия выходят далеко за пределы дома и рабочего места. Обществом рассеянных, изолированных и эмоционально хрупких граждан легче манипулировать, легче разделять и легче контролировать, будь то корпорации или враждебные державы за рубежом. Если этот путь продолжится, Америка может не только потерять свою устойчивость. Она может потерять способность вести за собой. Культура, построенная на переработке того, что "работает", а не на воображении того, что является истинным или хорошим, будет стагнировать. Нация, не способная воспитать сильных, целеустремленных, сопереживающих молодых людей, не сможет долго оставаться свободной. И мир тоже почувствует последствия этого, поскольку поколение, воспитанное невидимыми правителями, станет менее способным противостоять авторитарному давлению и менее способным создавать сообщества, основанные на доверии и совести.
И все же, мы должны помнить: алгоритмы - это не духи в машине. Это математика и данные, управляемые человеческими целями. Если они невидимы, то это потому, что те, кто извлекает из них прибыль, предпочитают оставаться невидимыми и игнорировать человеческие издержки. Невидимость кода и его создателей - это, пожалуй, самая большая опасность, потому что за то, что не видно, нельзя нести ответственность.
Мы должны признать это тем, чем оно является: глубокой передачей власти над детством.
Эксперты были правы, предупреждая нас о предвзятости и неравенстве при принятии алгоритмических решений, но они упустили эту более глубокую цену: целое поколение формируется, минута за минутой и взмах за взмахом, невидимыми правителями кода. Родители, педагоги и политики не могут позволить себе относиться к этому как к незначительному влиянию, потому что они формируют завтрашних взрослых.
Созданы ли эти алгоритмические регуляторы с невинным умыслом, с умышленной слепотой или с моральным пренебрежением, они не случайны. И если мы позволим алгоритмам воспитывать наших детей, мы не просто потеряем поколение, мы потеряем те самые качества, которые объединяют Америку и человечество. Это потеря, которую мы просто не можем себе позволить, и наследие, за которое никто не хочет нести ответственность.
Мнения, высказанные в этой статье, являются мнением автора и не обязательно отражают точку зрения The Epoch Times или ZeroHedge.
