Нейросети и дети: как технологии защищают от цифровых угроз?
Нейросети и дети: как технологии защищают от цифровых угроз?

Нейросети и дети: как технологии защищают от цифровых угроз?

03.03.2022
Нейросети и дети: как технологии защищают от цифровых угроз?
© depositphotos.com

48% россиян доверяют технологиям искусственного интеллекта. Таковы результаты опроса ВЦИОМ. К технологиям искусственного интеллекта относится машинное обучение, которое позволяет автоматизировать процессы во многих сферах жизни. Так, нейросети сегодня широко используют в медицине, промышленности, безопасности, образовании и бизнесе.


Как нейросети распознают опасный для детей контент


Нейронные сети обобщают статистические закономерности в данных, которые формируют цифровое окружение детей и подростков. Благодаря математическим алгоритмам они позволяют выделять деструктивные по своему содержанию тексты и изображения из открытых источников, к которым проявляет интерес молодёжь.


Как обучают искусственный интеллект


Нейронные сети – это один из видов моделей машинного обучения. На первом этапе происходит сбор и разметка информации, формируется так называемая обучающая выборка в соответствии с поставленной задачей. Например, необходимо распознать, присутствует ли в тексте деструктивный контент. Нейронная сеть работает только с числами, и она по сути является набором математических операций. Поэтому текст сначала переводится в характеризующий его набор чисел.


Затем происходит обучение нейронной сети – последовательно на вход подаётся обучающая выборка. Математические операции внутри нейронной сети меняются таким образом, чтобы как можно точнее характеризовать тексты из предоставленной выборки. Происходит статистическое обобщение данных о тональности контента и его деструктивном содержании. После этого идёт проверка корректности выполненной задачи: производится валидация (процесс проверки информации различных типов по критериям корректности и полезности для конкретного применения) данных, которые нейронная сеть не видела. Если качество соответствует требованиям, то эта модель машинного обучения в дальнейшем используется для обработки потока собранной информации. Также периодически проводится дообучение нейронных сетей в связи с появлением новых направлений, субкультур и трендов.


Преимущества использования нейросетей


По сравнению с другими моделями машинного обучения нейронные сети показывают самое высокое качество выполнения задач по обработке естественного языка и компьютерного зрения. Например, обработка изображений в современных нейронных сетях устойчива к масштабированию, поворотам, зашумлению и другим изменениям исходного объекта. Также современные нейросети на основе механизма внимания умеют оценивать слова без отрыва от контекста. Они способны распознавать разные значения одного и тоже же слова. Другие техники оценки важности слов в контексте документа не всегда дают такие высокие результаты. Главное преимущество нейронных сетей – это автоматизация оценки контента, что особенно важно в работе с колоссальным объёмом данных. Применение этой модели позволяет из миллионов текстов или изображений находить только те, которые важны для защиты молодёжи от деструктивной информации.


Сложности в применении машинного обучения


Нейронные сети и другие модели машинного обучения не дают стопроцентной точности. Нельзя принимать решения только на основе проведённого нейросетями анализа. Эти модели – помощники человека, но они также могут ошибаться. Ещё одна сложность касается получения качественной разметки большого объёма данных для обучения нейронных сетей. Это длительный и трудоёмкий процесс: разметка делается вручную или полуавтоматически с последующей ручной проверкой.


Перспективы использования нейросетей для защиты детей


Машинное обучение всё глубже проникает во все сферы жизни как большой помощник человека. Особенно оно важно для выявления негативного контента в цифровом пространстве и защиты подростков, так как это позволяет автоматизировать процесс поиска. Каждый год сети будут становиться всё более совершенными: разработчики постоянно расширяют охват анализируемого нейросетями деструктивного контента, повышают точность моделей, включают в работу различные типы данных. Всё это в результате повысит эффективность защиты подростков от негативной информации.

 



Вернуться к списку