Европейская комиссия требует маркировки ИИ

В понедельник Европейская комиссия выразила желание, чтобы крупные игроки интернет-пространства немедленно предприняли добровольные действия в отношении контента, созданного с помощью ИИ, а не ждали нормативных сроков.

Заинтересованные стороны отрасли из Telus International и Manta поделились своими взглядами с InformationWeek отдельно после того, как комиссия объявила о своих намерениях.

Во время пресс-конференции в понедельник Вера Юрова, вице-президент Европейской комиссии, отвечающий за ценности и прозрачность, обсудила последнее заседание рабочей группы по Кодексу практики Европейского Союза по дезинформации. Она рассказала о реализации кодекса и Закона о цифровых услугах, который теперь включает Facebook, Google, YouTube, TikTok, LinkedIn и другие в качестве подписантов, и выразила свои ожидания от компаний, особенно от крупных онлайн-платформ, по обеспечению последовательной модерации. и инвестиции в проверку фактов контента.

«По-прежнему циркулирует слишком много опасной дезинформации», — сказала Юрова.

Эскалация беспокойства ЕС была вызвана не только распространением генеративного искусственного интеллекта, хотя его существование может усиливать социально-политические проблемы. Юрова сказала, что в мире это не обычное дело, поскольку такие государства, как Россия, способствуют дезинформации, в том числе в продолжающемся вторжении в Украину. «Война - это не только оружие, но и слова», - сказала она. «Российская дезинформационная война против демократического мира уже началась много лет назад после аннексии Крыма».

Юрова заявил, что ЕС необходимо, чтобы стороны, подписавшие Закон о цифровых услугах, «имели достаточные возможности во всех государствах-членах и на всех языках» для проверки фактов контента. Она отметила растущую способность генеративного искусственного интеллекта и продвинутых чат-ботов быстро наполнять сложный контент, включая изображения событий, которые никогда не происходили, и имитацию голосов. Юрова попросила подписантов создать специальный раздел в рамках Кодекса практики по дезинформации для обсуждения этих вопросов.

То, что она хочет видеть, включает в себя меры защиты, гарантирующие, что ИИ не может быть использован злоумышленниками для создания дезинформации. Юрова также заявила, что хочет, чтобы подписанты, обладающие потенциалом распространения дезинформации, созданной искусственным интеллектом, внедрили технологию, которая распознает и помечает такой контент, четко маркируя его для пользователей.

«У нас главная задача — защитить свободу слова, но когда дело доходит до производства ИИ, я не вижу никакого права для машин иметь свободу слова», — сказала она.

Некоторые обсуждения уже ведутся. Юрова сказала, что разговаривала с генеральным директором Google Сундаром Пичаи о развитии технологий, достаточно быстрых, чтобы обнаруживать и маркировать контент, созданный искусственным интеллектом, для информирования общественности. По словам Юровой, для этого существуют технологии, но над ними также ведется работа.

Среди крупных платформ возникли некоторые разногласия. Она сказала, что Twitter, принадлежащий Илону Маску, выбрал «трудный путь» конфронтации, выйдя из Кодекса практики по дезинформации. «Кодекс является добровольным, но не заблуждайтесь: оставив кодекс, Twitter привлек много внимания», — сказала Юрова. «Его действия и соблюдение законодательства ЕС будут тщательно и срочно проверяться».

Она также сказала, что если Twitter хочет работать и зарабатывать деньги на европейском рынке, он должен соблюдать Закон о цифровых услугах, а не просто соблюдать правила других юрисдикций. «Европейский Союз – это не то место, где мы хотим видеть импортированный калифорнийский закон», – сказала Юрова.

Хотя DSA предписывает компаниям, считающимся крупными онлайн-платформами и поисковыми системами, маркировать манипулируемые изображения, аудио и видео, возможно, к августу, Юрова предпочла бы, чтобы они не ждали. «Маркировка должна быть сделана сейчас», - сказала она. "Немедленно."

Регуляторное давление может привести к более тщательному изучению того, откуда поступает контент, создаваемый ИИ, вплоть до источников его данных. Ян Ульрих, вице-президент по исследованиям и образованию Манты, одобряет усилия ЕС по регулированию этого пространства. Manta — поставщик платформы для определения происхождения данных, которая обеспечивает видимость потоков данных, и компания рассматривает происхождение данных как способ проверки фактов контента ИИ.