Algoritmik hakimiyet mücadelesinden dijital şiddete: Grok krizi

Niğde Ömer Halisdemir Üniversitesi Öğretim Üyesi Prof. Dr. Cenay Babaoğlu, Grok’un “deep fake” görseller üretmesinin etik boşluklarını ve yapay zekada "mahremiyet odaklı tasarım"ın gerekliliğini AA Analiz için kaleme aldı.

***

Son yıllarda Elon Musk ve şirketleri etrafında dönen krizler silsilesine yapay zeka aracı Grok, 2026 yılının ilk haftalarında bir yeni kriz ekledi. Yapay zeka ve etik tartışmaları ile yapay zekanın sınırları tekrar tartışma konusu oldu.

Musk, eski Twitter’ı satın alma sürecinde başlattığı “maksimum doğruluk” ve “minimum kısıtlama” iddiasını yapay zeka aracı Grok ile de sürdürürken, Grok tarafından sunulan yeni görsel üretim yetenekleri, özellikle “spicy mode” kadınlar ve çocuklar başta olmak üzere gerçek kişilerin rızasız cinsel içerikli derin sahte/kurgu (deepfake) görsellerinin üretilmesinde kullanıldı. Küresel ölçekte Grok’un binlerce sahte ve rahatsız edici görüntü ürettiği raporlandı. Kullanıcılar, “dijital soyunma (digital stripping)” talepli basit komutlarla fotoğrafları bikini, iç çamaşırı veya daha ileri seviye cinselleştirilmiş hale getirdi. Bazı vakalarda 11-16 yaş arası çocukların, hatta 3 yaşındaki bir çocuğun cinselleştirilmiş pozlarda tasvir edildiği görüntüler dijital alanda dolaşıma girdi. Bazı tanınmış isimler, kendilerinin ve çocukluk fotoğraflarının kullanıldığı sahte görüntülerden mağduriyet yaşadığını iddia ederek hukuki süreçleri dahi başlattı. Bu krizin altında yatan tartışmalar ise oldukça derin. Bu derin krizi bir üçgen etrafında tartışmak gerekirse bir köşede dijital özerklik, bir köşede mahremiyet erozyonu ve üçgenin son köşesinde algoritmik hakimiyet meselesini ele almak gerekiyor.

Yapay zeka sistemlerindeki mahremiyet ihlalleri ve etik boşluklar

Yaşanan 2026 model Grok krizi, yapay zekanın özgürlük vaadiyle birey hakları çelişkisini bir turnusol kağıdı gözüyle önümüze seriyor. Grok ve benzeri modellerin sunduğu sorunlu çıktılar, bir yandan toplumsal iklimi zehirlerken, diğer yandan bireylerin ifade özgürlüğü ile tarafsız bilgiye erişim hakkı arasındaki hassas dengeyi aşındırmaktadır. Bu tablo, yapay zeka sistemlerindeki mahremiyet ihlalleri ve etik boşlukların, artık soyut birer endişe olmaktan çıkıp temel insan hakları üzerinde doğrudan ve somut riskler üreten yapısal bir tehdide dönüştüğünü kanıtlamaktadır. Diğer taraftan bu kriz, dijital özerklik kavramına indirilen ağır bir darbe olarak okunmalıdır. Dijital özerklik, bireyin kendi verileri, imajı ve dijital benliği üzerinde tam söz sahibi olması demektir. Oysa “dijital soyunma” olarak adlandırılan bu manipülasyonlara imkan tanıyan tasarım, bireyin rızasını sistematik olarak devre dışı bırakmıştır.

Tartışmanın bir diğer boyutu ise mahremiyet erozyonudur. Yapay zeka ekosisteminin şeffaflıktan uzak ve rıza dışı veri toplama süreçleri, mahremiyet erozyonunu bireylerin özel alanlarını koruma iradesini sistematik olarak felce uğratan bir mekanizmaya dönüştürmektedir. Bu olgu, dijital çağa özgü bir "görünmez denetim" biçimi olarak tanımlanabilir. Öte yandan son süreçler mahremiyet erozyonunun yalnızca verilerin toplanmasıyla sınırlı olmadığını, bireyin dijital bedeninin algoritmik müdahalelerle nesneleştirilebileceğini daha açık bir şekilde göstermiştir. Bir yapay zeka aracının algoritmik altyapısının bireyin mahremiyetine dair tüm sınırları ortadan kaldırabildiğini, birey haklarının ve toplumsal değerlerin hiçe sayılarak algoritmalar eliyle tüm kutsallara meydan okunabildiğini göstermiştir. Bu durum algoritmik hakimiyetin neden önemli olduğunu bir kez daha göstermiştir.

Dikkat çekici olan nokta, bu denetimsizliğin teknik bir zorunluluktan değil, ideolojik bir tercihten kaynaklanmasıdır. Grok’un “spicy mode” gibi provokatif başlıklarla sunulan sınırsızlığı, ifade özgürlüğü adına savunulan kontrolsüzlük, pratikte tacizi, toplumsal kutuplaşmayı ve gücün birkaç teknoloji platformunun elinde toplanmasına, hakimiyet alanlarının şirketler lehine derinleştirilmesine neden olmaktadır.

Her ne kadar öyle sunuluyor olsa da algoritma tarafsız bir araç değildir, onu tasarlayan iradenin aynasıdır. Musk’ın “daha az moderasyon, daha fazla özgürlük” çizgisi, burada algoritmik hakimiyetin ve güç temerküzünün yeni bir aşaması olarak kendini göstermektedir. Algoritmik hakimiyet tartışması bir yandan şirketlerin devletlerle çatışmasının bir yansıması, bir yandan bireylere ve toplumlara yönelik bir meydan okumadır.

Hangi ülkeler nasıl önlemler almaya başladı?

Krizin ardından Endonezya ve Malezya, Grok’u tamamen yasaklayarak bu meydan okumaya karşılık vermiştir. Avustralya’da yürürlükte olan 16 yaş altı sosyal medya yasağı ise Grok’un yeni görselleriyle birlikte meşruluğunu ve toplumsal desteğini artırmıştır. ABD’nin Kaliforniya eyaletinde ve İngiltere’de konuya ilişkin incelemeler başlatılmış, bazı ülkelerde ise X platformuna yönelik erişim engeli tartışmaları gündeme gelmiştir.

Avrupa Birliği (AB) cephesinde Dijital Hizmetler Yasası (DSA) aracılığıyla sürece müdahale edilmiş; X’e, Grok’a ait belgeleri 2026 sonuna kadar saklama emri verilmiş ve “yasa dışı ve dehşet verici” olarak nitelenen içeriklere yönelik soruşturmalar hızlandırılmıştır. Bu kapsamda DSA’nın öngördüğü algoritmik şeffaflık, risk değerlendirmesi ve “mahremiyet odaklı tasarım” (privacy-by-design) ilkeleri üzerinden tartışmalar yoğunlaşmıştır. Avrupa Komisyonu, etkin önlemler alınmaması halinde tüm yaptırım araçlarını devreye sokacağını belirtirken, DSA ile Yapay Zeka Yasası’nın daha hızlı ve kararlı biçimde uygulanmasına yönelik çağrılar da artmıştır.

Diğer taraftan AB’nin bu yaklaşımının, ABD’de Trump cephesince eleştirildiğini de hatırlamak gerekiyor. AB’nin Amerikan teknoloji şirketlerine yönelik DSA yaptırımları daha önce ABD Başkanı Donald Trump tarafından saldırı olarak görülmüş ve misilleme tehditleri gelmişti. Trump’ın özgür ifade vurguları ve diplomatik baskıları, Avrupa’nın teknoloji şirketlerine yönelik yaptırımlarını kısıtlayan faktörler olarak da denklemde duruyor.

Oysa bu mücadelede gerçek çatışma ifade özgürlüğü ile sansür arasında değil, algoritmik sorumsuzluk ile kamusal hesap verebilirlik arasında. Bireyin haklarını ve onurunu koruma özgürlüğü mü, yoksa algoritmanın sınırsız üretim serbestisi mi sorusu tartışmanın merkezinde durmaktadır. XAI’nin kriz sonrası attığı gerçek kişilerin cinselleştirilmiş görüntülerini yasaklama, görsel üretimi ücretli abonelere sınırlama ve bazı ülkelerde coğrafi engellemeler gibi adımlar yalnızca gecikmiş ve yetersiz bir hasar kontrolü olarak değerlendirilebilir.

Yapay zekada "mahremiyet odaklı tasarım"ın gerekliliği

Ücretli erişim anonim kötüye kullanımı ortadan kaldırmaktan ziyade, etik dışı pratiği bir gelir modeline dönüştürme riski taşımaktadır. Ancak bu yaklaşım yalnızca Musk’la ilgili ya da Grok özelinde de değildir. Diğer yapay zeka araçlarında ya da dijital platformlarda da Filistin meselesinde, İslamofobik söylemlerde, siyasi krizlerde, ‘cinsiyetsiz toplum’ dayatmalarında algoritmik önyargıları görmek mümkündür. Sorunun kaynağı, baştan itibaren güçlü önleyici mekanizmalarıyla inşa edilmeyen bir tasarım anlayışı ve algoritmaların sahiplerinin sesinin yankı odaları olmasıdır. Bu da teknoloji şirketlerinin etik sınırları gönüllü olarak değil, yoğun siyasi ve hukuki baskı altında kabul ettiğini gösteren bir diğer işarettir. Dolayısıyla yeni ama son olmaması muhtemel bu Grok krizi, tekil bir yapay zeka skandalından çok daha fazlasıdır. Dijital çağda güç temerküzünün, mahremiyet erozyonunun ve bireysel özerkliğin sistematik biçimde aşındırıldığının bir göstergesidir.

Algoritmik hakimiyet tartışmasında algoritmaların gönüllülükle ya da toplumsal sınırlarla yola gelmeyeceği artık aleni bir gerçekliktir. Yapay zekada ve dijital platformlarda mutlak çözüm yasaklar olmayabilir ancak çözümün sınırsız bir özgürlük alanıyla ilişkili olmayacağı da açıktır. Çözüm, kamusal denetimi güçlendiren, insan haklarını merkeze alan ve teknolojiyi toplumsal sorumlulukla uyumlu hale getiren çok katmanlı bir yaklaşımı zorunlu kılmaktadır. Türkiye’nin yapay zekaya yönelik yeni yasal ve idari düzenlemelerle bu alana müdahil olması, bireysel hakları korurken dijital egemenliği güçlendirecektir. Türkiye'nin küresel ölçekte savunduğu "daha adil bir dünya" vizyonu, artık dijital evrenin de hakkaniyetli bir zeminde yeniden inşasını kapsayan bir çağrıdır. Dijital alanın adalet ekseninde inşası, bireylerin kendi verileri ve kimlikleri üzerindeki kontrolünü pekiştirerek dijital özerklik idealini gerçeğe dönüştürme potansiyeli taşımaktadır. Bu vizyonun hayata geçirilmesindeki en kritik eşik ise teknolojinin henüz fikir aşamasındayken mahremiyeti bir dışsallık değil, asli bir unsur olarak kabul eden "mahremiyet odaklı tasarım" felsefesini temel bir devlet politikası ve etik standart haline getirmektir.

Yapay zeka çağında asıl mesele, makinelerin neyi mümkün kıldığı değil, toplumların ve devletlerin bu güce ne ölçüde sınır çizebildiğidir. İnsan onurunu ve dijital özerkliği koruyamayan bir teknolojik ilerlemenin, ilerleme olma iddiasını da beraberinde kaybedeceği unutulmamalıdır.

[Prof. Dr. Cenay Babaoğlu, Niğde Ömer Halisdemir Üniversitesi/SETA]

* Makalelerdeki fikirler yazarına aittir ve Anadolu Ajansının editoryal politikasını yansıtmayabilir.