На фоне сохраняющихся экологических проблем, увеличения неравенства в доходах и растущего чувства экономической незащищенности страны всего мира должны прилагать согласованные усилия по обеспечению стабильности, мира и гармонии в обществе. Хорошим примером в этой связи являются социальные сети, которые в значительной степени преобразовали социальное взаимодействие, расширив возможности для общения и гражданской активности и увеличив частоту, хотя и не всегда глубину, общения между людьми.

С другой стороны, считается, что интенсивное использование социальных сетей приводит к росту изоляции, отчужденности и нежелания принимать участие в жизни общества. Алгоритмы, лежащие в основе социальных сетей, определяют набор и последовательность информации, отображаемой для пользователей, что может оказывать серьезное влияние на их восприятие, взгляды, мнения и действия.

Эти алгоритмы также создают возможность для быстрого распространения дезинформации, которая приводит к поляризации мнений пользователей и подрывает дискурс, основанный на сознательной гражданской позиции. Алгоритмы во все большей мере учитываются и используются при принятии решений как в частном, так и в государственном секторе, например при найме на работу и предоставлении кредитов и социальных услуг, в том числе услуг по защите детей, а также в рамках систем уголовного правосудия. Хотя алгоритмы дают возможность коммерческим компаниям и государственным учреждениям принимать более обоснованные решения, они могут также усиливать существующие предубеждения и предрассудки и усугублять дискриминацию и социальную изоляцию.

Алгоритмы, обычно описываемые как инструменты обеспечения объективности, в действительности, как правило, внедряют человеческие предубеждения и предрассудки в автоматические системы в виде кодов. Часто негативные последствия такого подхода в непропорционально большой степени затрагивают меньшинства и уязвимые группы населения. Тот или иной человек может быть привлечен к ответственности за принятие решения, однако не существует механизма, позволяющего обеспечить транспарентность и подотчетность при принятии решений на основе алгоритма внутри непроницаемого «черного ящика». В связи с этим необходимы четкие и согласованные руководящие принципы для обеспечения подотчетности и транспарентности при использовании алгоритмических процессов принятия решений. Безопасность и конфиденциальность данных являются важнейшими факторами для обеспечения доверия и подотчетности в киберпространстве. Из-за нарушений безопасности может быть поставлена под угрозу частная информация пользователей, которая может представлять собой ценный актив, обладающий рыночной стоимостью, для целого ряда третьих сторон.

Что касается экономики, основанной на данных, то чрезмерная концентрация личных данных может привести к тому, что неоправданно сильным влиянием на рынке будут обладать всего несколько крупных компаний (например, кредитно-рейтинговые агентства, социальные сети и онлайновые платформы розничной торговли), врезультате чего пользователи и потребители станут уязвимыми перед лицом различных форм манипуляции, в том числе ценовой дискриминации и дискриминации, связанной с доступом к важной информации или услугам. Существует очевидная необходимость обеспечить определение прав собственности на данные, что позволит защищать права собственности и конфиденциальности отдельных лиц и обеспечивать ответственное использование данных.

Это позволит также обеспечить подотчетность и непредвзятость в социальных сетях, основанных на массовом участии платформах и порталах онлайновой торговли и будет способствовать укреплению доверия и стабильности в цифровом пространстве.