Делитесь фотографиями своих детей? Может быть, не после того, как посмотришь эту фейковую рекламу.

Новая видеорекламная кампания, созданная с помощью искусственного интеллекта и собирающая миллионы просмотров в социальных сетях, может заставить многих родителей пересмотреть то, какую информацию о своих детях они публикуют публично.

В видеоролике Deutsche Telekom используются новейшие технологии искусственного интеллекта, чтобы виртуально состарить 9-летнюю девочку по имени Элла, которую играет актер, чтобы проиллюстрировать, как цифровой след ребенка потенциально может быть использован не по назначению и навредить его жизни.

«Я знаю, что для вас эти фотографии — всего лишь воспоминания, но для других это данные», — говорит Элла, созданная искусственным интеллектом, паре, играющей ее родителей в инсценированном социальном эксперименте. «А для меня, возможно, это начало ужасного будущего».

Родители Эллы в видео, которых также играют актеры, описываются как часто публикующие сообщения о ее жизни в Интернете, делящиеся беззаботными моментами, не подозревая о потенциальном вреде, который это может причинить ей в будущем.

Хотя видео является фейком, некоторые эксперты говорят, что его предостерегающее послание вполне реально.

«После того, как изображение опубликовано в Интернете, может быть трудно контролировать, где оно окажется», — объяснила в интервью ABC доктор Ребекка Портнофф, директор по науке о данных в Thorn, некоммерческой организации, которая борется с распространением сексуального насилия над детьми в Интернете. Новости.

Кампания документирует различные потенциальные опасности разглашения данных о ваших детях: от онлайн-запугивания до кражи личных данных и создания материалов о сексуальном насилии над детьми (CSAM).

«Злоумышленники используют различные технологии и сервисы манипулирования контентом, чтобы изменить безобидные фотографии и видео, обычно из учетной записи ребенка в социальных сетях или в открытой сети, чтобы сексуализировать этот контент», — добавил Портнофф.

Хотя эти опасности были задокументированы в прошлом, риски усугубляются растущим ростом и доступностью ИИ. В сочетании с огромным количеством общедоступных данных это дает преступникам больше контента для работы.

«Обмен» — это термин, который иногда используется для обозначения родителей, которые делятся контентом о своих детях в Интернете. Это простой и доступный способ для родителей общаться друг с другом, объясняют эксперты из Бостонской детской лаборатории цифрового здоровья, которые изучили потенциальные последствия совместного использования.

Эти эксперты подчеркнули, что, по оценкам Barclays Bank, к 2030 году 7,4 миллиона случаев мошенничества с личными данными в год могут быть связаны с тем, что родители чрезмерно разглашают личную информацию в Интернете.

Как показано в кампании Deutsche Telekom, генеративный искусственный интеллект позволяет создавать правдоподобные копии вашего ребенка от голоса до фигуры.

В кампании также подробно рассказывается, как алгоритмы искусственного интеллекта могут автоматически идентифицировать и собирать изображения детей и как их затем можно использовать для создания профилей детей, которые можно использовать в рекламных целях или даже для создания порнографического контента.

Такие эксперты, как Портнофф, говорят, что ИИ облегчает хищникам создание реалистичного материала из общедоступных изображений или создание совершенно нового материала.

В то же время такие организации, как Thorn, также разработали алгоритмы машинного обучения для создания инструментов, которые обнаруживают, удаляют CSAM и сообщают о них.

«Поскольку мир социальных сетей продолжает развиваться, родители могут стремиться найти баланс между общением с друзьями и семьей и уважением к детям как к личностям, которым придется иметь дело с последствиями жизни, прожитой в Интернете», — призывают эксперты Boston Children's Digital. Оздоровительная лаборатория.

Что касается того, как родители могут достичь этого баланса, то обмен фотографиями и контентом только в личных альбомах с семьей и друзьями, а не публично, является одним из способов поделиться, одновременно защищая конфиденциальность вашего ребенка и минимизируя риски.

Портнофф также высказал несколько предложений о том, как семьи могут обучать детей безопасности в Интернете.

«Родители могут рано и часто говорить со своими детьми о безопасности в Интернете и создавать дома открытую и свободную от суждений среду. Они могут работать над тем, чтобы понять, какие приложения, социальные сети и онлайн-сервисы использует их ребенок, а также какие меры контроля конфиденциальности существуют. доступны, а затем использовать эти средства контроля конфиденциальности», — сказала она. «Важно информировать детей о безопасности в Интернете, в том числе о том, почему важно избегать разглашения личных данных и… постоянства того, что публикуется в Интернете».