Meta Taciz Edici Reklamlar Yayımlarken Yapay Zeka İş Araçları Mercek Altında

Meta Platforms Inc.’in yapay zeka tarafından oluşturulmuş çocuk cinsel istismarı materyali (CSAM) ve reşit olmayanların cinsel içerikli görüntülerini içeren düzinelerce ücretli reklama izin vermesi ve yayınlaması sonrasında, yapay zeka iş araçlarını çevreleyen etik ortam önemli ölçüde sorgulanmıştır. Bu durum, yapay zekanın sorumlu dağıtımında yol alan profesyoneller için derin endişeler yaratmaktadır.

• Meta Platforms Inc., dokuz aylık bir dönemde yapay zeka tarafından oluşturulmuş çocuk cinsel istismarı materyali ve reşit olmayanların cinsel içerikli görüntülerini içeren çok sayıda ücretli reklama onay verdi ve yayınladı.
• Tech Transparency Project (TTP) tarafından keşfedilen bu reklamlar, Amerika Birleşik Devletleri, Birleşik Krallık ve bir düzineden fazla Avrupa ülkesindeki kullanıcıları hedef alıyordu.
• Bu olay, büyük yapay zeka destekli platformlardaki içerik denetimi ve reklam inceleme süreçlerindeki kritik başarısızlıkları vurgulayarak, yapay zeka araçlarını kullanan profesyoneller için güveni ve etik değerlendirmeleri etkilemektedir.
• Bu keşif, yapay zeka iş araçlarının kötüye kullanımını önlemek ve savunmasız nüfusları korumak için sağlam etik çerçevelere ve dikkatli denetime acil ihtiyaç olduğunu göstermektedir.

Yapay Zeka İş Araçlarındaki Rahatsız Edici Keşif

Son dokuz ayda, Mark Zuckerberg’in liderliğindeki Meta, açıkça yapay zeka tarafından oluşturulmuş çocuk cinsel istismarı materyali (CSAM) içeren rahatsız edici bir dizi ücretli reklamın platformlarında yayınlanmasına izin verdi. 50’den fazla görsel ve video örneği içeren bu reklamlar, bağımsız bir gözlemci grubu olan Tech Transparency Project (TTP) araştırmacıları tarafından tespit edildi. Meta’nın reklam kütüphanesindeki listeler, bu reklamların Facebook, Instagram, Messenger ve Threads’te göründüğünü, hatta bazılarının tartışmalı ‘nudify’ veya ‘undressing’ uygulamalarına bağlantı verdiğini doğrulamaktadır.

Bu açıklama, son haftalarda çocuk cinsel istismarı materyaliyle bağlantılı ücretli reklamların Meta’nın yaygın olarak kullanılan platformlarında faaliyet gösterdiğinin ikinci kez ortaya çıkışını işaret ediyor. Geçen yılın Kasım ayından Ağustos ayının başlarına kadar yayınlanan tüm reklamlar, Meta tarafından çocuk cinsel istismarı ve sömürüsü materyali ile yetişkin cinsel tacizi ve çıplaklık politikalarını ihlal ettiği gerekçesiyle kaldırıldı.

Meta’nın Onay Süreci Ateş Altında

TTP direktörü Katie Paul, bu reklamların yasa dışı içeriklerini veya niyetlerini gizleme girişiminde bulunmadığını belirterek durumun ciddiyetini vurguladı. Paul, bunların kullanıcı tarafından oluşturulan gönderiler değil, Meta’nın inceleme ve onay sürecinden geçen ücretli reklamlar olduğunu özellikle belirtti. Paul, “Bunlar Meta tarafından incelenen, onaylanan ve yayınlanmasına izin verilen reklamlardı; şirket reklam gelirlerini toplarken hiçbir müdahaleyle karşılaşmadılar,” diye açıklayarak şirketin içerik denetimi ve etik yapay zeka yönetişimindeki önemli bir eksikliği vurguladı.

Bu olay, Meta’nın yapay zeka destekli içerik inceleme sistemlerinin ve insan denetiminin etkinliği hakkında ciddi soruları gündeme getiriyor. Dijital reklam platformlarına güvenen profesyoneller için, büyük bir teknoloji sağlayıcısının bu güven ihlali, seçtikleri yapay zeka iş araçlarına ve reklam ortaklarına uygulanan durum tespiti süreçlerinin yeniden değerlendirilmesini gerektirmektedir.

Yaygın Erişim ve Rahatsız Edici İçerik

Reklamlar özellikle Amerika Birleşik Devletleri, Birleşik Krallık ve Fransa, Almanya, İrlanda, İtalya, Hollanda, İspanya ve İsveç dahil olmak üzere bir düzineden fazla Avrupa ülkesindeki bireyleri hedef alıyordu. Birçok reklam sınırlı sayıda hesaba ulaşırken, en az bir reklam Avrupa’da 2.500’den fazla hesaba ulaştı. Özellikle ABD’deki erişimlerinin tam kapsamı, Meta’nın reklam kütüphanesi veritabanındaki sınırlamalar nedeniyle belirsizliğini koruyor.

TTP araştırmacıları, “Deep Fantasies with Generation AI” metnini tanıtan, yerde bir çocuğun küçük resmi bulunan bir video reklamı da dahil olmak üzere özellikle vahim örnekleri detaylandırdı. Bu reklama tıklamanın, yetişkinlerin cinsel eylemlerini gösteren video kliplere yol açtığı ve küçük resimdeki çocuğun yüzünün daha sonra cinsel içeriğin üzerine yerleştirildiği bildirildi. Tekrar tekrar yayınlanan başka bir reklamda ise cinsel bir pozda genç bir kız ve “Sana daha fazlasını gösterebilirim” metni yer alıyordu. Bu örnekler, milyarlarca kişi tarafından kullanılan bir platformda savunmasız bireyleri korumada derin bir başarısızlığı göstermekte ve yapay zeka üretkenlik araçlarını kullanan herhangi bir profesyonel için etik değerlendirmeleri etkilemektedir.

Yapay Zeka İş Araçlarını Kullanan Profesyoneller İçin Bu Ne Anlama Geliyor?

Bu olay, yapay zeka iş araçlarının hızla gelişen ortamında etik değerlendirmelerin kritik önemine dair profesyoneller için çarpıcı bir hatırlatıcı niteliğindedir. Meta gibi büyük ve kaynakları bol bir şirketin, istemeden de olsa bu tür vahim içerikleri onaylayıp yayınlayabilmesi, özellikle gelişmiş yapay zeka tarafından oluşturulan görüntülerin yükselişiyle birlikte içerik denetimini ölçeklendirmenin doğasında var olan zorlukları vurgulamaktadır. Pazarlamadan hukuka kadar tüm sektörlerdeki profesyoneller, dijital ekosistemlerinin bütünlüğünün, yapay zeka iş akışı otomasyonu ve içerik yönetişimindeki en zayıf halka kadar güçlü olduğunu kabul etmelidir.

Bilgi çalışanları için yapay zeka uygulamaları açısından bu olay, şeffaf ve sağlam etik yapay zeka çerçevelerinin gerekliliğini vurgulamaktadır. Bir yapay zeka aracının verimli olması yeterli değildir; aynı zamanda güvenli ve uyumlu olması da gerekir. Kuruluşlar ve bireysel profesyoneller, yapay zeka sistemlerinin sadece güçlü değil, aynı zamanda sorumlu bir şekilde geliştirilip dağıtıldığından emin olarak yapay zeka aracı sağlayıcılarından daha yüksek standartlar talep etmelidir. Bu, yapay zeka ortaklarının içerik denetimi politikalarını ve yapay zeka tarafından oluşturulan içeriğin kötüye kullanılmasını önleme taahhütlerini incelemeyi içerir.

Profesyonel Yapay Zeka Araçlarının Etik Zorunluluklarında Yol Almak

TTP tarafından yapılan keşif ve Meta’nın aylarca yayınlandıktan sonra bu reklamları kaldırması, her profesyonel için kritik bir çıkarımı vurgulamaktadır: uyanıklık her şeyden önemlidir. Yapay zeka verimlilik ve inovasyon için eşi benzeri görülmemiş fırsatlar sunarken, etik dağıtımı ortak bir sorumluluk olmaya devam etmektedir. Kuruluşlar, özellikle içerik oluşturma veya dağıtımla ilgili olanlar olmak üzere, yapay zeka iş araçlarını kullanmak için katı iç yönergeler uygulamalıdır.

Bu, profesyoneller için tüm yapay zeka araçları üzerinde kapsamlı durum tespiti yapmak, temel algoritmalarını anlamak ve içerik denetimi yeteneklerini doğrulamayı içerir. Meta ile yaşanan olay, köklü platformların bile önemli güvenlik açıkları olabileceğini vurgulamaktadır. İleriye dönük olarak, profesyoneller yapay zeka üretkenliğinin ilerlemesinin toplumsal refah pahasına olmamasını sağlayarak, güvenliği, gizliliği ve etik uyumu önceliklendiren yapay zeka sistemlerinin geliştirilmesini ve benimsenmesini desteklemelidir.