Интернет качественно изменил нашу жизнь. Отключите интернет на сутки, и вы увидите, что мир уже не может жить без него – бизнес остановится, банковские карты престанут работать, будет затруднено общение между людьми вне зависимости от их местоположения…Ни для кого не новость, что Интернет упрощает нашу жизнь, делая её лучше. Однако наряду с плюсами, Интернет привнес в нашу жизнь ряд опасностей.

«Ростелеком» и аналитическая компания MINDSMITH при поддержке Альянса по защите детей в цифровой среде провели вебинар, посвященный теме безопасности детей и подростков в онлайн-среде. Спикером вебинара стал футуролог, основатель и управляющий партнер компании MINDSMITH Руслан Юсуфов. В прошлом материале был опубликован список 23 киберрисков с которыми сталкиваются дети сегодня. Но как оградить их от этих рисков?

В первую очередь стоит отметить, что защитить ребенка на 100% нельзя. Тем более одним способом. Эффективность защиты определяется ее комплексностью.

«Для того чтобы определить спектр существующих технологических решений, направленных на обеспечение безопасности детей в интернете, мы проанализировали более 300 патентов, компаний и ИТ-решений в этой области», - прокомментировал Руслан Юсуфов.

По результатам анализа было сформировано 8 кластеров технологических решений:

1. Предиктивная аналитика
2. Детские социальные сети
3. Практики разработки
4. Инструменты родительского контроля и мониторинга
5. Интернет-фильтры 
6. Автоматизированная модерация
7. Сервисы оказания помощи
8. Инфраструктура

Но как работают эти решения? Насколько они эффективны сами по себе?

Предиктивная аналитика — это статистические и аналитические инструменты, которые используются для прогнозирования будущих событий или поведения. Она включает в себя изучение онлайн-среды, профилирование и анализ графа связей и помогает спрогнозировать и выявить на ранней стадии риски различного характера.

Эффективность этого инструмента зависит от количества и качества данных, которые используются для машинного обучения. Однако здесь остро встает ряд правовых и этических вопросов, основной из них связан с защитой персональных данных детей.

Узкая направленность разрабатываемых ИИ-решений может привести к радикализации, когда система разгоняется в одну сторону, повторяя решения в одном и том же направлении. Учитывая, что ИИ не способен самостоятельно осознавать контекст, это может привести к ложным тревогам, которые могут оказать существенный негативный эффект на жизнь человека.

Детские социальные сети — альтернативные социальные сети, которые могут использовать только пользователи определенного возраста. Такие сети предлагают юным пользователям удобные функции и различные развивающие игры и приложения, а главное — обеспечивают защиту от различных интернет-угроз.

«Основная проблема детских сетей в том, что они не интересны детям, — отметил Руслан Юсуфов. — Им хочется подражать взрослым и пользоваться «настоящими» соцсетями для взрослых».

В ситуации, где ребенок пользуется социальными сетями, важно выстроить с ним доверительные отношения, чтобы в случае груминга (установление эмоциональной связи с ребенком или подростком для последующего использования несовершеннолетнего в сексуальных или корыстных целях, — прим.ред.) или кибербуллинга, или доксинга (публикация личной информации о человеке без его согласия с целью травли, шантажа или получения выгоды — прим.ред), или сексуальных домогательств – ребенок мог обратиться к взрослому за помощью, без страха быть непонятым, отверженным, недооцененным и высмеянным.

Практики разработки включают в себя создание и улучшение функционала, касающегося детской безопасности в приложениях и на интернет-площадках. Сюда входит маркировка контента по возрастному признаку, ограничение доступа к контенту в зависимости от расписания, ограничение доступа с помощью технических механизмов (например, PIN-коды или инструменты проверки возраста) и проч.

К сожалению, технологии достоверной проверки возраста пользователя не существует. Сегодняшние решения в основном не блокируют, а лишь оповещают пользователей о возрастном ограничении перекладывая ответственность за просмотр контента на самого пользователя.

Инструменты родительского контроля и мониторинга предоставляют родителям повышенную степень контроля над действиями детей в онлайн- и офлайн-среде благодаря установке специального программного обеспечения на смартфоны, компьютеры и другие устройства.

По данным исследования компании «Лаборатория Касперского», 48 % из 11 000 опрошенных родителей в 19 странах используют приложения родительского контроля. Согласно данным компании Gaggle, инструменты родительского контроля и мониторинга имеют положительное влияние. Так, в 2019-2020 учебных годах в США только компания Gaggle помогла спасти жизни 927 учащихся, которые планировали или пытались совершить самоубийство.

Однако, как показывают научные исследования, родительский контроль негативно сказывается на самовыражении и ментальном здоровье ребенка, подрывает доверие к родителям, может спровоцировать психологические травмы и депрессию.

Интернет-фильтры — это инструменты, которые позволяют предотвратить либо загрузку опасного контента на серверы, либо попадание такого контента в поле зрения ребенка. При чем фильтрация может быть глобальной – где сетевой трафик от всех пользователей собирается различными методами и фильтруется, или локальной – на уровне отдельных пользователей.

Главная проблема интернет-фильтров — некорректное распознавание определенных слов или фраз, которые ошибочно воспринимаются системой как непристойные.

Согласно проведенным исследованиям, фильтрация контента – не панацея и не сможет оградить ребенка на 100%. Наоборот, фильтры могут затруднить ребенку поиск информации по какой-либо проблеме, с которой он столкнулся. Дети, чей интернет полностью фильтруется, не может распознать мошенников, потому что не знает об их методах из историй других пользователей.

Автоматизированная модерация — это комплекс мероприятий, направленных на выявление нарушения пользователем общепринятых правил. Модерация контента включает в себя удаление информации, ее фильтрацию или блокировку, рекомендацию контента через новостные ленты, тематические списки и персонализированные предложения, а также мониторинг контента.

Модерация может быть ручной и автоматизированной. У первой главным недостатком является человеческий фактор. Автоматическая модерация решает многие из проблем ручной модерации, проводя проверку контента по соответствующим критериям.

Также существует предварительная и постмодерация. Первая помогает производить проверку материала перед публикацией, контролировать качество контента и применять в отношении нарушителей правил портала ограничительные меры. При постмодерации происходит проверка контента уже после его публикации на платформе.

Сервисы оказания помощи — включают в себя спектр организаций и сервисов, которые позволяют ребенку, родителю или иным заинтересованным лицам запросить помощь психологов, волонтеров, правозащитников и других специалистов. Сюда можно отнести телефоны доверия, специализированные сайты, мессенджеры и чат-ботов.

Дети испытывают трудностям не меньше взрослых и также нуждаются в помощи — это подтверждает отчет общероссийского детского телефона доверия. Так в 2019 году было совершено около 900 тысяч звонков от детей, попавших в трудную жизненную ситуацию.

Несмотря на все преимущества, у традиционных платформ реагирования есть ряд ограничений. Во-первых, это компетентность сотрудников, во-вторых, риск взлома или утечки, в-третьих, проблемы в коммуникации. И самое главное, плюс и одновременно минус – анонимность. В экстренной ситуации специалист не сможет направить помощь ребенку (скорую или полицию).

Инфраструктура — это совокупность взаимосвязанных объектов, структур, решений безопасности, интегрированных в единую систему. Основной принцип обеспечения безопасности заключается в непрерывности защиты в пространстве и времени. Инфраструктура объединяет ресурсы и пространства через интеграцию систем друг с другом, ведь риски, с которыми дети сталкиваются в Интернете, могут перетекать в офлайн и напрямую угрожать безопасности ребенка.

В инфраструктуру входят видеонаблюдение и видеоаналитика, биометрия, базы данных и ЦОД.

Проблема инфраструктуры заключается в высоких технических требованиях к оборудованию, а также необходимость в их регулярном обновлении и поддержании работоспособности. Инфраструктура может быть подвержена хакерским атакам, что может привести к утечке персональных данных учеников. Еще одной проблемой инфраструктуры является тот факт, что компании-разработчики редко учитывают детей в качестве стейкхолдеров при разработке своих проектов.

Так как все-таки защитить ребенка от киберрисков? В первую очередь важно говорить с ребенком о последствиях использования тех или иных сайтов, браузеров и VPN-сервисов. Во-вторых, учите ребенка «цифровой гигиене». В-третьих, подталкивайте ребенка к изучению вопросов безопасности, пусть он станет экспертом в этой сфере – советуйтесь с ним, прислушивайтесь, обсуждайте возникающие проблемы, тренды и тенденции в мире кибербезопасности. Помните, что по отдельности инструменты работать не будут. Только комплексный подход, доверие и уважение по отношению к ребенку могут дать результат.