Çin Hükümetinin, AI tabanlı sansür sistemi kullandığı ortaya çıktı (1 Görüntüleyici)

NetAskari adlı bir güvenlik araştırma kuruluşu, büyük dil modelleri kullanılarak hassas içeriklerin otomatik olarak tespit edildiği bir sistem üzerinde kapsamlı veri sızıntılarını gün yüzüne çıkardı.

SİSTEMİN İŞLEYİŞİ VE AMACI

Sızdırılan verilere göre, Çin'deki AI tabanlı sansür sistemi, hassas içerikleri belirlemek için gelişmiş algoritmalardan ve büyük dil modellerinden (LLM) faydalanıyor. Bu sistemin temel işlevi, politik, sosyal ve askeri konular gibi hassas olarak tanımlanan içerikleri otomatik olarak tespit etmek, sınıflandırmak ve işaretlemek. Bu süreç, geleneksel sansür yöntemlerinden farklı bir yaklaşımı temsil ediyor; çünkü insan müdahalesine duyulan ihtiyacı azaltırken, daha hızlı ve ölçeklenebilir bir çözüm sunuyor. Sistem, çok sayıda veri kaynağını analiz ederek çalışıyor. Örneğin, çevrimiçi platformlar, sosyal medya, haber siteleri ve kullanıcı etkileşimleri gibi kaynaklardan gelen bilgiler taranıyor ve belirli anahtar kelimelere, içerik türlerine veya önceden tanımlanmış kriterlere dayanarak sınıflandırılıyor. Algoritmalar, herhangi bir ihlal olasılığı taşıyan içerikleri hemen işaretliyor ve bu içeriklerin yayılmasını durdurmak için gerekli müdahaleleri yapıyor. Sansür mekanizmasının otomasyonu, yalnızca içeriğin hızlı şekilde denetlenmesini sağlamakla kalmıyor, aynı zamanda bilgi kontrolünün daha kapsamlı bir hale gelmesine de olanak tanıyor. İnsan operatörlerinin sınırlı kapasitesine kıyasla, AI tabanlı sistemler sürekli olarak büyük miktarda veriyi işleme kabiliyetine sahip. Bu durum, rejimin her türlü bilgi akışını daha sıkı bir şekilde kontrol etmesini mümkün kılıyor. Bu sistemin tasarımı, bilgi akışını izlemek, halk üzerindeki etkilerini yönetmek ve istenmeyen içeriklerin yayılmasını engellemek gibi birincil hedefleri göz önünde bulunduruyor. Özellikle, politik hassasiyet taşıyan içeriklerin kontrol altına alınması, sosyal istikrarın korunması ve hükümet politikalarının eleştirilmesini önlemek gibi stratejik amaçlarla bu teknolojiler aktif bir şekilde kullanılıyor.

OTORİTER REJİMLERDE TEKNOLOJİNİN ROLÜ Uzmanlar, bu tür sistemlerin dünya çapında otoriter rejimler tarafından hızla benimsenebileceği yönünde endişelerini dile getiriyorlar. AI'nın sansür için kullanılması, bireylerin ifade özgürlüğü üzerindeki etkilerden, güvenlik ve etik açmazlara kadar birçok konuyu gündeme taşıyor. Çin'deki uygulamalar, bu teknolojinin sosyal ve politik alanlara olan etkisinin derinleştiğini gösteriyor. Bu gibi keşifler, yapay zeka ve bilgi kontrolü arasındaki karmaşık dinamikleri anlamak açısından önemli bir rol oynuyor. Sistemin evrimi ve diğer otoriter rejimlerde benzer mekanizmaların ortaya çıkıp çıkmayacağı merak konusu. Ayrıca, bu teknolojilerin etik sınırları hakkında daha geniş çaplı bir tartışmanın başlatılması da bekleniyor.