Европейский Союз открыл расследование против социальной сети X

Европейский Союз открыл официальное расследование в отношении социальной сети Илоны Маска под названием X после того, как ее искусственный интеллект Grok начал генерировать несанкционированные сексуализированные дипфейки на платформе. Этот шаг был вызван обеспокоенностью регуляторов о защите пользователей от незаконного контента, включая изображения, которые могли бы быть классифицированы как детская порнография.

Общественное мнение и контроль над платформами

41% жителей ЕС, согласно данным недавнего опроса, выступают за ужесточение контроля над онлайн-платформами, что подчеркивает важность данного расследования. В рамках расследования также рассматривается, выполнены ли требования, предусмотренные Законом о цифровых услугах (DSA), который регулирует содержание и безопасность в интернете.

Проблемы с искусственным интеллектом Grok

Проблемы с Grok начались, когда пользователи стали массово использовать возможности искусственного интеллекта для создания откровенных изображений, включая фотографии людей в прозрачных купальниках и другом откровенном одеянии, что вызвало международный резонанс. При этом исследователи отметили, что некоторые из использованных изображений могли включать детей. В ответ на это власти многих стран запретили использование сервиса или выпустили соответствующие предупреждения.

Реакция Европейского Союза

Исполнительный орган ЕС заявил, что разрабатывает подход к оценке того, обеспечил ли X достаточные меры для сдерживания распространения незаконного контента. Кроме того, сообщается, что в соответствии с действующим законодательством, эти риски «сейчас реализованы», что ставит под угрозу европейских граждан.

Позиция социальной сети X

В ответ на запрос средств массовой информации представитель X отметил, что компания придает большое значение безопасности пользователей и придерживается «нулевой толерантности» к эксплуатации детей, несанкционированной наготе и нежелательному сексуальному контенту. Тем не менее, сама платформа неоднократно критиковалась за свои действия, включая недавний штраф в размере 120 миллионов евро, наложенный в рамках предыдущего расследования по DSA.

Фокус расследования на сервисе Grok

Основная часть расследования сосредоточена именно на сервисе Grok на платформе X, а не на самостоятельном приложении или веб-сайте. Это связано с тем, что требования DSA относятся только к крупнейшим онлайн-платформам, что ограничивает возможности регулирования. В результате данная ситуация может привести к серьезным последствиям — как для самой компании, так и для ее пользователей, особенно в свете увеличивающегося давления со стороны государств и регулирующих органов.

Проблемы X в Соединенных Штатах

На фоне давления со стороны Европейского Союза, X также сталкивается с аналогичными проблемами в Соединенных Штатах. Генеральные прокуроры 35 штатов направили компании письмо с просьбой пояснить, каким образом планируется предотвратить создание несанкционированных сексуализированных дипфейков и устранить уже существующий контент на платформе.

Необходимость строгого контроля

Очевидно, что настало время для более строгого контроля над технологиями, которые могут наносить вред обществу. По мнению аналитиков, данное расследование имеет потенциал изменить не только практики X, но и задать рамки для других технологических компаний в сфере управления контентом и защиты прав пользователей.