Бизнес-инструменты ИИ под пристальным вниманием после размещения Meta оскорбительной рекламы

Этическая сторона бизнес-инструментов ИИ была значительно подорвана после того, как Meta Platforms Inc. разрешила и разместила десятки платных рекламных объявлений, содержащих сгенерированные ИИ материалы о сексуальном насилии над детьми (CSAM) и изображения несовершеннолетних с сексуальным подтекстом, что вызвало глубокую обеспокоенность у профессионалов, занимающихся ответственным внедрением ИИ.

• Meta Platforms Inc. одобрила и разместила многочисленные платные объявления, содержащие сгенерированные ИИ материалы о сексуальном насилии над детьми и изображения несовершеннолетних с сексуальным подтекстом, в течение девяти месяцев.
• Эти объявления, обнаруженные Tech Transparency Project (TTP), были нацелены на пользователей в США, Великобритании и более чем дюжине европейских стран.
• Инцидент подчеркивает критические сбои в процессах модерации контента и проверки рекламы на крупных платформах, работающих на базе ИИ, что подрывает доверие и этические соображения для профессионалов, использующих инструменты ИИ.
• Открытие подчеркивает острую необходимость в надежных этических рамках и бдительном надзоре при разработке и внедрении бизнес-инструментов ИИ для предотвращения злоупотреблений и защиты уязвимых групп населения.

Тревожное открытие в сфере бизнес-инструментов ИИ

За последние девять месяцев Meta, под руководством Марка Цукерберга, допустила размещение тревожного множества платных рекламных объявлений, содержащих откровенные сгенерированные ИИ материалы о сексуальном насилии над детьми (CSAM), на своих платформах. Эти объявления, насчитывающие более 50 примеров изображений и видео, были выявлены исследователями из Tech Transparency Project (TTP), независимой наблюдательной группы. Списки в рекламной библиотеке Meta подтверждают, что эти объявления появлялись на Facebook, Instagram, Messenger и Threads, а некоторые даже ссылались на спорные приложения для «раздевания» или «обнажения».

Это разоблачение является вторым случаем за последние недели, когда платные рекламные объявления, связанные с материалами о сексуальном насилии над детьми, были обнаружены на широко используемых платформах Meta. Все объявления, опубликованные в период с ноября прошлого года по начало августа, были впоследствии удалены Meta за нарушение ее политики в отношении материалов о сексуальном насилии и эксплуатации детей, а также сексуальных домогательств и наготы взрослых.

Процесс одобрения Meta под огнем критики

Кэти Пол, директор TTP, подчеркнула серьезность ситуации, заявив, что эти объявления не пытались скрыть свой незаконный контент или намерения. Важно отметить, что Пол подчеркнула, что это были не пользовательские публикации, а платные рекламные объявления, которые прошли процесс проверки и одобрения Meta. «Это реклама, которая была проверена, одобрена и разрешена к показу Meta, никогда не сталкиваясь с препятствиями, пока компания собирала рекламные доходы», — объяснила Пол, подчеркнув значительный пробел в модерации контента компании и этическом управлении ИИ.

Этот инцидент вызывает серьезные вопросы об эффективности систем проверки контента Meta, управляемых ИИ, и человеческого надзора. Для профессионалов, полагающихся на платформы цифровой рекламы, это нарушение доверия со стороны крупного поставщика технологий требует переоценки должной осмотрительности, применяемой к выбранным ими бизнес-инструментам ИИ и рекламным партнерам.

Широкий охват и тревожный контент

Рекламные объявления были специально нацелены на пользователей в США, Великобритании и более чем дюжине европейских стран, включая Францию, Германию, Ирландию, Италию, Нидерланды, Испанию и Швецию. Хотя многие объявления достигли ограниченного числа аккаунтов, по крайней мере одно объявление достигло более 2500 аккаунтов в Европе. Полный объем их охвата, особенно в США, остается неясным из-за ограничений в базе данных рекламной библиотеки Meta.

Исследователи TTP подробно описали особенно вопиющие примеры, включая видеорекламу с миниатюрой ребенка на полу, наложенной текстом, продвигающим «Глубокие фантазии с поколением ИИ». Сообщается, что нажатие на это объявление приводило к видеоклипам взрослых, совершающих сексуальные действия, при этом лицо ребенка с миниатюры затем накладывалось на сексуальный контент. Другое неоднократно размещаемое объявление изображало молодую девушку в сексуальной позе с текстом: «Я могу показать тебе больше». Эти примеры иллюстрируют глубокий провал в защите уязвимых лиц на платформе, используемой миллиардами, что влияет на этические соображения для любого профессионала, использующего инструменты повышения производительности ИИ.

Что это значит для профессионалов, использующих бизнес-инструменты ИИ?

Этот инцидент служит суровым напоминанием для профессионалов о критической важности этических соображений в быстро меняющемся ландшафте бизнес-инструментов ИИ. Тот факт, что такая крупная и ресурсная компания, как Meta, могла одобрить и разместить такой вопиющий контент, пусть даже непреднамеренно, подчеркивает присущие проблемы масштабирования модерации контента, особенно с ростом сложной сгенерированной ИИ графики. Профессионалы во всех секторах, от маркетинга до юриспруденции, должны признать, что целостность их цифровых экосистем настолько сильна, насколько сильно самое слабое звено в их автоматизации рабочих процессов ИИ и управлении контентом.

Для приложений ИИ для работников умственного труда это событие подчеркивает необходимость прозрачных и надежных этических рамок ИИ. Недостаточно, чтобы инструмент ИИ был эффективным; он также должен быть безопасным и соответствовать требованиям. Организации и отдельные профессионалы должны требовать более высоких стандартов от своих поставщиков инструментов ИИ, гарантируя, что системы ИИ не только мощны, но и ответственно разработаны и внедрены. Это включает тщательную проверку политики модерации контента партнеров по ИИ и их приверженности предотвращению неправомерного использования сгенерированного ИИ контента.

Навигация по этическим императивам профессиональных инструментов ИИ

Открытие TTP и последующее удаление этих объявлений Meta, после того как они демонстрировались в течение нескольких месяцев, подчеркивает важный вывод для каждого профессионала: бдительность превыше всего. Хотя ИИ предлагает беспрецедентные возможности для эффективности и инноваций, его этическое внедрение остается общей ответственностью. Организации должны внедрять строгие внутренние рекомендации по использованию бизнес-инструментов ИИ, особенно тех, которые связаны с созданием или распространением контента.

Это включает проведение тщательной проверки всех инструментов ИИ для профессионалов, понимание их базовых алгоритмов и проверку их возможностей модерации контента. Инцидент с Meta подчеркивает, что даже устоявшиеся платформы могут иметь значительные уязвимости. В дальнейшем профессионалы должны отстаивать разработку и внедрение систем ИИ, которые ставят во главу угла безопасность, конфиденциальность и этическое соответствие, гарантируя, что развитие производительности ИИ не будет происходить за счет благополучия общества.