Инструменты для написания текстов с ИИ сталкиваются с проблемой доверия, поскольку усилия по аутентификации оказываются недостаточными, говорится в отчете

Недавний отчет Центра политики информационных технологий (CITP) Принстонского университета показывает, что многие инструменты аутентификации ИИ, имеющие решающее значение для поддержания фактической целостности, разрабатываются без достаточного участия журналистов, что напрямую влияет на надежность информации для авторов, в том числе тех, кто использует инструменты для написания текстов с ИИ. Этот недочет создает значительное препятствие для создателей контента и новостных организаций, стремящихся проверять факты в эпоху, когда ИИ может убедительно генерировать фальшивые медиаматериалы.

• Сгенерированные ИИ фальшивые медиаматериалы представляют растущую угрозу для фактической целостности, делая проверку все более сложной для всех авторов.
• Многие существующие инструменты аутентификации и верификации ИИ разрабатываются без адекватных консультаций с работающими журналистами, что приводит к практическим трудностям в реализации.
• Инициативы, такие как C2PA, разработанные для отслеживания происхождения медиаматериалов, сталкиваются со значительными техническими и системными препятствиями при внедрении в новостных редакциях и распространении в социальных сетях.
• Инструменты обнаружения ИИ часто предоставляют вероятностные оценки достоверности, которые бесполезны для авторов или их аудитории, требующих четкой, бинарной аутентификации.

Растущая угроза фактической целостности для авторов

В 2026 году простота и доступность изменения и фабрикации медиаматериалов с использованием искусственного интеллекта достигли беспрецедентных уровней. Сами доказательства, на которые авторы и журналисты полагаются для проверки фактов — от фотографий и видео до документов, веб-сайтов и даже аудиозвонков — теперь могут быть убедительно имитированы ИИ. Это развитие создает сложную ситуацию для любого, кто производит контент, особенно для тех, кто использует инструменты для написания текстов с ИИ и должен обеспечивать фактическую точность своих материалов.

В июне прошлого года значительное собрание журналистов, технологов и ученых собралось в Институте журналистики Артура Л. Картера Нью-Йоркского университета на Манхэттене. Этот однодневный семинар, организованный CITP Принстонского университета, был посвящен растущей угрозе процессам аутентификации и верификации. Последующий отчет, опубликованный CITP, синтезирует эти обсуждения, предлагая критические выводы о том, что его авторы описывают как «борьбу за факты в эпоху ИИ».

Почему текущие инструменты аутентификации ИИ не достигают цели

Отчет CITP подчеркивает критический разрыв: хотя появилось множество инициатив по верификации и коммерческих продуктов для борьбы с наплывом медиаматериалов, сгенерированных ИИ, многие из них разрабатываются без адекватных прямых консультаций с журналистами. Авторы отчета подчеркивают, что «установление одного факта все чаще означает установление фактов, лежащих в его основе», отмечая «гонку вооружений» между усилиями по верификации и огромным объемом потенциально сфабрикованной информации. Отсутствие практического вклада означает, что многие инструменты ИИ для авторов и создателей контента могут неэффективно решать реальные потребности в верификации.

Для авторов это означает, что даже при все более широком распространении написания контента с помощью ИИ, фундаментальные элементы фактической отчетности находятся под давлением. Без надежных и информированных журналистами инструментов аутентификации целостность производимого контента, будь то традиционными методами или с помощью ИИ для написания текстов, остается под угрозой. Эта проблема распространяется на инструменты перевода с ИИ и инструменты редактирования с ИИ, где подлинность исходного материала имеет первостепенное значение.

C2PA: Многообещающее решение с трудностями внедрения

Одной из выдающихся инициатив Кремниевой долины, разработанных для решения проблем аутентификации, является Коалиция за происхождение и подлинность контента (C2PA). Запущенная в 2021 году лидерами отрасли, такими как Adobe, Microsoft и BBC, C2PA нацелена на встраивание криптографически подписанных «манифестов» в медиафайлы. Эта технология создает цифровую метку в момент захвата фотографии или видео, тщательно записывая всю ее историю и происхождение по мере редактирования, публикации и распространения на различных платформах. Теоретически это могло бы предложить четкую цепочку хранения цифровых активов, что было бы бесценно для авторов и новостных организаций.

Несмотря на поддержку со стороны крупных новостных организаций, таких как Associated Press и The New York Times, C2PA столкнулась со значительными препятствиями при внедрении в новостных редакциях. В отчете приводится пример анонимной новостной редакции, где программное обеспечение, используемое для загрузки и редактирования фотографий, удаляло манифест, что потребовало значительного давления на разработчиков для исправления проблемы. Кроме того, большинство поставщиков систем управления контентом (CMS) в настоящее время не поддерживают C2PA, что означает, что даже если манифесты видны внутри, они часто удаляются при публикации контента для читателей. Авторы отчета задаются вопросом: «Поверят ли аудитории, что новостная организация имеет цепочку хранения своих файлов, если она не может предложить «полную прозрачность» манифеста?» Эта проблема усугубляется компаниями социальных сетей, многие из которых удаляют C2PA и другие метаданные из изображений, распространяемых на их платформах, что еще больше снижает эффективность инициативы и усложняет верификацию контента ИИ.

Помимо происхождения: Ограничения детекторов ИИ для авторов

Аналогичные проблемы преследуют и другие инструменты аутентификации, включая детекторы изображений и видео ИИ. Многие из этих инструментов работают, предоставляя оценки достоверности, например, «80% вероятность» того, что изображение сгенерировано ИИ. Отчет CITP объясняет, что эти вероятностные оценки в значительной степени бесполезны для большинства репортеров и, соответственно, для авторов, которым нужны четкие ответы. Аудитория обычно воспринимает аутентификацию как бинарный выбор: это реально или это подделка? Нюансированный результат этих детекторов нелегко переводится в окончательные выводы, необходимые для достоверной журналистики и создания контента.

Более того, отчет подчеркивает значительные проблемы безопасности, связанные с криптографическими подписями. Недавнее исследование правозащитной организации Witness показало, что прикрепление идентифицирующей информации к фотографиям или видео может поставить под угрозу журналистов и их источники, особенно тех, кто работает в авторитарных условиях. Это представляет серьезную этическую дилемму для любого автора или организации, рассматривающей внедрение таких инструментов происхождения, особенно при работе с конфиденциальной информацией или уязвимыми источниками.

Что могут сделать авторы: Навигация в ландшафте верификации ИИ

Текущая ситуация требует повышенной бдительности от всех авторов. Хотя инструменты ИИ для авторов, такие как Jasper, Grammarly AI, DeepL, Wordtune и Quillbot, предлагают неоспоримые преимущества в эффективности и генерации контента, целостность информации, которую они обрабатывают и представляют, остается первостепенной. Отчет подчеркивает, что традиционная журналистская проверка и критическое мышление важны как никогда.

Для авторов практический вывод ясен: не полагайтесь исключительно на новые инструменты обнаружения или происхождения ИИ для верификации. Вместо этого отдавайте приоритет перекрестной проверке информации с использованием нескольких независимых источников и сохраняйте скептический подход ко всем непроверенным медиаматериалам. Понимание ограничений текущих технологий аутентификации ИИ имеет решающее значение для защиты доверия и обеспечения фактической точности во все более сложном цифровом мире.

Частые вопросы

Как несовершенные инструменты аутентификации ИИ влияют на авторов, использующих инструменты для написания текстов с ИИ?

Несовершенные инструменты аутентификации ИИ означают, что базовую информацию, на которую полагаются авторы, будь то полученную вручную или с помощью инструментов для написания текстов с ИИ, сложнее проверить. Это увеличивает риск непреднамеренной публикации или использования сгенерированных ИИ ложных сведений, подрывая доверие.

Что такое C2PA и почему она сталкивается с трудностями в новостных редакциях?

C2PA — это инициатива таких компаний, как Adobe и Microsoft, по встраиванию криптографических манифестов в медиафайлы, отслеживающих их происхождение и изменения. Она сталкивается с трудностями, потому что программное обеспечение новостных редакций и системы управления контентом часто удаляют эти манифесты, препятствуя полной прозрачности для аудитории.

Надежны ли детекторы изображений ИИ для авторов, проверяющих факты в контенте?

Отчет предполагает, что детекторы изображений и видео ИИ, которые часто предоставляют оценки достоверности (например, 80% вероятности), не особенно полезны для репортеров. Аудитория обычно ожидает бинарного ответа — реально или подделка — чего эти вероятностные оценки не могут эффективно обеспечить.