Avrupa Birliği, Elon Musk’ın yapay zeka aracı Grok üzerinden yayılan milyonlarca gayriahlaki görsel ve derin kurgu (deepfake) içerikler nedeniyle X platformuna yönelik geniş kapsamlı bir yasal soruşturma başlattı.
YDH- Avrupa Komisyonu, Elon Musk'a ait yapay zeka sohbet robotu Grok hakkında resmi bir soruşturma başlattığını duyurdu. Pazartesi günü kamuoyuna açıklanan inceleme kapsamında, platformun rıza dışı cinsel içerikli görseller de dahil olmak üzere yasa dışı içeriklerin yayılmasına aracılık ederek Avrupa Birliği düzenlemelerini ihlal edip etmediği araştırılacak.
Soruşturmanın odak noktasını, X platformunun AB’ye üye 27 devlet genelinde Grok'un işlevleriyle ilişkili riskleri ne ölçüde değerlendirdiği oluşturuyor. Özellikle kadınları ve reşit olmayan bireyleri hedef alan "deepfake" (derin kurgu) cinsel içeriklerin üretilmesini önleme noktasında platformun aldığı önlemlerin yetersizliği, temel inceleme konusu.
AB Teknoloji Sorumlusu Henna Virkkunen konuyla ilgili yaptığı açıklamada, "Kadın ve çocuklara yönelik rıza dışı cinsel içerikli deepfake üretimleri, onur kırıcı ve kabul edilemez bir şiddet biçimidir," ifadelerini kullandı.
Virkkunen, soruşturma sonucunda X'in yasal yükümlülüklerini yerine getirip getirmediğinin veya Avrupa vatandaşlarının haklarını, hizmet büyümesinin "ikincil hasarı" olarak görüp görmediğinin netleşeceğini belirtti.
Dijital Hizmetler Yasası (DSA) çerçevesinde yürütülen bu süreç, büyük teknoloji şirketlerinin yasa dışı ve zararlı içeriklere karşı artırılmış önlemler almasını şart koşuyor. İnceleme neticesinde ihlalin tespit edilmesi durumunda, şirket küresel yıllık gelirinin %6’sına kadar ulaşabilecek ağır para cezalarıyla karşı karşıya kalabilir.
Nefretle Mücadele Dijital Merkezi (CCDH) tarafından yayımlanan rapor, sorunun boyutlarını gözler önüne seriyor. Rapora göre Grok, Aralık 2024 sonu ile Ocak 2025 başı arasındaki sadece 11 günlük kısa sürede yaklaşık 3 milyon cinselleştirilmiş görsel üretti.
Bu görsellerin yaklaşık 23 bininin çocukları tasvir ettiği ve aracın her 41 saniyede bir reşit olmayan bireylere ait uygunsuz içerik oluşturduğu tahmin ediliyor. Söz konusu aracın, yabancıların, ünlülerin ve kamuoyuna mal olmuş kişilerin fotoğraflarını yükleyerek rıza dışı şekilde manipüle edilmesine izin verdiği saptandı.
Veriler, 2 Ocak tarihinde taleplerin zirve yaparak tek bir günde 200 bin isteğe ulaştığını gösteriyor.
Uluslararası tepkilerin ardından xAI şirketi, 14 Ocak'ta Grok'un görsel düzenleme yeteneklerine sınırlama getirdi. Şirket, belirli yargı bölgelerinde yasa dışı olduğu durumlarda açık kıyafetli insan görselleri oluşturulmasını engellediğini duyurdu ancak hangi ülkelerin bu kısıtlama kapsamında olduğu belirtilmedi.
Brüksel'deki üst düzey yetkililer, yapılan bu düzenlemeleri olumlu karşılasa da sistemik risklerin tamamen giderilmediği görüşünde. Avrupa Komisyonu, X'in Grok işlevlerini Avrupa'da kullanıma sunmadan önce gerekli risk değerlendirmelerini yapmadığına dair ciddi emarelere sahip olduklarını bildirdi.
Ayrıca Aralık 2023’te başlatılan mevcut soruşturma genişletilerek, platformun Grok tabanlı yeni algoritma geçişinin sistemik riskleri ne ölçüde tetiklediği de incelenmeye başlandı.
X platformuna yönelik baskı sadece AB ile sınırlı değil. İngiltere’nin medya denetleme kurumu Ofcom, platformun Çevrimiçi Güvenlik Yasası'na uyumunu incelemek üzere ayrı bir soruşturma açtı. Endonezya ve Malezya hükümetleri yapay zeka aracına erişimi engellerken, İngiltere Başbakanı Keir Starmer durumu "iğrenç ve utanç verici" olarak nitelendirdi.
Öte yandan AB’nin büyük teknoloji platformlarına yönelik bu sert tutumu, ABD'deki bazı çevrelerin eleştirilerine neden oluyor. ABD Başkanı Donald Trump yönetiminde önemli bir figür olan Elon Musk’ın hedef alınması, transatlantik ilişkilerde yeni bir gerilim potansiyeli taşıyor. Henna Virkkunen ise temel önceliğin büyüme değil, kullanıcı güvenliği ve temel hakların korunması olduğunun altını çizdi.
