Alman SWP: Yapay zekâ insanları sürekli izlemek ve siyasi manipülasyon için kullanılabilir

Yapay zekâ ve demokrasi ilişkisini inceleyen Berlin merkezli Alman Uluslararası ve Güvenlik İşleri Enstitüsü (SWP), gelişmiş sistemlerin siyasi gözetim ve manipülasyonda kullanımına karşı uyardı. 16 Ekim 2026 tarihinde yayımlanan dört sayfalık SWP-Aktuell politika notunda araştırmacılar Daniel Voelsen ile Stella Schade, yüz tanıma, büyük veri analizi ve otonom yapay zekâ ajanlarının devletlerin ve siyasi aktörlerin elindeki olanakları genişlettiğini değerlendiriyor.

“KI als Risiko für die Demokratie” başlıklı çalışma, yapay zekânın otoriter yönetimlerin gözetleme kapasitesini artırmasının yanı sıra demokratik ülkelerde siyasi iletişimi de etkilediğini ele alıyor. Yazarlar, özellikle bireylerin sürekli izlenmesi ihtimalini ve yanlış bilginin çok düşük maliyetle yayılmasını iki farklı risk alanı olarak inceliyor. Değerlendirmeler, araştırmacıların politika önerileri niteliğinde.

Yapay zekâ ve demokrasi için SWP hangi üç riski sıralıyor?

SWP-Aktuell 2026/A 52 numaralı not üç ana başlık üzerinde ilerliyor: otoriter yönetimlerde gözetim, demokrasilerde siyasi manipülasyon ve kendi yeteneklerini geliştiren yapay zekâ sistemlerinde insan denetimi. Araştırmacılar, ilk iki alanı günümüzde kullanılan teknolojilerin gelişmiş örnekleri üzerinden; son alanı ise gelecekteki olası teknik ilerleme üzerinden tartışıyor.

İlk başlık, büyük miktarda görüntü ve haberleşme verisinin otomatik olarak taranmasıyla ilgili. SWP, Çin’deki kamusal gözetimin yüz tanıma sistemleriyle genişletildiğini aktarıyor. Bu araçlar, mevcut kameraların sağladığı kayıtların daha hızlı işlenmesi ve kişilerin hareketlerinin takip edilmesi için kullanılabiliyor. Otonom ajanların gelişmesiyle tek bir kişi veya grubu uzun süre izleyen otomatik süreçlerin kurulması da araştırmacıların işaret ettiği olasılıklar arasında.

İkinci alanda siyasi aktörlerin yazı ve görsel içerikleri, ayrıca videoları çok sayıda üretebilmesi var. Çalışma, otomatik hesaplar üzerinden dağıtılan yanıltıcı içeriklerin kamusal tartışmaları etkileyebileceğini değerlendiriyor. Yapay zekâ ve demokrasi arasındaki ilişki bu çalışmada hem kişisel verilerin işlenmesi hem de seçmenin bilgiye ulaştığı dijital ortam üzerinden ele alınıyor.

SWP neden yapay zekâ ajanlarını ayrı değerlendiriyor?

Politika notuna göre yeni nesil yapay zekâ ajanları kendilerine verilen işleri birden fazla adımda yürütebiliyor. Gözetim açısından yazarların incelediği senaryoda, sistem bir kişinin faaliyetlerini farklı veri kaynakları üzerinden uzun süre takip etmek için görevlendirilebilir. Böyle bir sistem, farklı veri kaynakları arasında otomatik takip yapabilir.

Yazarlar, ileri yapay zekâ sistemlerinin sonraki yazılım sürümlerinin geliştirilmesinde görev almasının denetim sorunlarını büyütebileceğini de öne sürüyor. Özellikle çok sayıda ajanın yeni kod ürettiği senaryoda insan uzmanların tüm adımları denetleme kapasitesini sorguluyorlar. SWP bu bölümü, modellerin gelecekte kendi gelişimini hızlandırması ihtimali üzerinden bir politika riski olarak sunuyor.

SWP raporunun özgün önerilerinden biri, kamu idaresi ve kritik altyapı işletmelerinde kullanılan belirli modeller için insan denetiminin sürdürülebilirliğini ölçüt haline getirmek. Kurum, Avrupa’daki ve Almanya’daki karar vericilerin bu tür sistemleri değerlendirebileceği hukukî araçları incelemesini öneriyor.

Siyasi manipülasyon nasıl anlatılıyor?

SWP araştırmacıları, üretken yapay zekânın yanıltıcı siyasi içeriklerin hazırlanmasını ve dağıtılmasını ucuzlattığını yazıyor. Bir kampanya sırasında oluşturulan sahte görüntü, ses veya mesajlar, sosyal ağlarda çok sayıda kullanıcıya ulaştırılabiliyor. Çalışma, sohbet robotlarının bilgi seçimi ve yanıt üretiminde ortaya çıkabilecek siyasi yönelimleri de ayrı bir sorun olarak ele alıyor.

Rapor, modellerin belli medya kaynaklarına daha fazla dayanması halinde o yayınların bakış açılarının yanıtlara yansıyabileceğini belirtiyor. Bazı sistemlerin geliştirildikleri ülkenin içerik kısıtlamalarına göre yapılandırılması da araştırmacılar tarafından tartışılıyor. Yazarlar ayrıca az sayıdaki teknoloji şirketinin sahip olduğu piyasa gücü ile bu şirketlerin siyasi faaliyetlerini tartışıyor.

Transit Haber’in Fransa protestolarındaki Doppelganger ağına ilişkin haberinde, Alliance4Europe araştırmasının belirlediği 639 koordineli mesaj dört farklı dilde yayımlandı. Netanyahu’nun Rusya kaynaklı bot ağlarına ilişkin suçlaması da dijital siyasi iletişim üzerindeki tartışmanın başka bir örneği; haberde iddialar açıklamayı yapan siyasetçiye atfediliyor.

Bağımsız çalışmalar aynı konuyu nasıl ele alıyor?

Avrupa Konseyi bünyesindeki Demokrasi Yönlendirme Komitesi, 19 Haziran 2026 tarihinde Amsterdam Üniversitesi ve GESIS araştırmacılarının hazırladığı üretken yapay zekâ ve demokrasi çalışmasını duyurdu. Bu araştırma gazetecilik, seçim kampanyaları, siyasi katılım ve dijital altyapıların yönetimine odaklanıyor. Dezenformasyon, medya sürdürülebilirliği ve teknoloji sektöründe güç yoğunlaşması, çalışmada incelenen riskler arasında.

ABD merkezli araştırma kuruluşu New America’nın 10 Eylül 2026 tarihli değerlendirmesinde de yapay zekâ ile bilgi manipülasyonu ve otomatik gözetim, demokratik kurumlar açısından risk alanları olarak ele alınıyor. Bu iki çalışma SWP’nin 16 Ekim’deki politika notundan ayrı hazırlanmış araştırmalar; her biri teknolojinin siyaset ve kurumlar üzerindeki etkilerini farklı örneklerle tartışıyor.

Demokratik kamu hizmetlerinde algoritmik sistemlerin kullanımı bakımından Kanada’da göçmenlik dosyalarındaki yapay zekâ uygulamalarını anlatan Transit Haber haberi de ilgili. Kanada örneği başvuru dosyalarının sınıflandırılmasını ve otomasyonu konu alırken SWP, devletlerin kullandığı sistemlerde insan denetimine ve kararların şeffaflığına odaklanıyor.

Avrupa Birliği gözetim teknolojilerinde hangi kuralları uyguluyor?

SWP, demokrasilerdeki gözetim uygulamalarına örnek verirken Avrupa Parlamentosunun Pegasus casus yazılımı soruşturmasını anıyor. Avrupa Parlamentosunun 15 Haziran 2023 tarihli kararında gazetecilerle siyasetçilerin yanı sıra sivil toplum temsilcilerini hedef alan casus yazılım kullanımı için soruşturmalar ve daha güçlü denetim mekanizmaları istenmişti. Parlamentonun çağrısı, geçmişteki somut gözetim uygulamalarını ele alıyordu.

Avrupa Birliği Yapay Zekâ Yasası da belirli uygulamalar için yasaklar ve denetim koşulları düzenliyor. AB Konseyinin yapay zekâ mevzuatı açıklamasına göre sosyal puanlama ve belirli manipülatif uygulamalar yasaklanan kullanımlar arasında. Kamusal alanda kolluğun gerçek zamanlı uzaktan biyometrik tanıma kullanımı da sınırlı istisnalara bağlı yasak kapsamında. Genel amaçlı modellerin yükümlülükleri ise modelin niteliğine ve sistemik risk durumuna göre ayrılıyor.

Yapay zekâ ve demokrasi tartışmasına ilişkin SWP yazarları, gözetim teknolojisi ticaretinin sıkı düzenlenmesini, ihracat kontrollerinin güçlendirilmesini ve siyasi manipülasyona karşı medya okuryazarlığının desteklenmesini öneriyor. Son bölümde Avrupa’nın kamu kurumlarında ve kritik altyapısında kullanılan yapay zekâ sistemlerine insan denetimi ölçütü getirilmesi tartışılıyor. Politika notu, bu önerileri Almanya ve Avrupa için seçenekler olarak sıralıyor.

Bu haberler de ilginizi çekebilir

İnternetten tanıştığı kadın için her şeyini sattı, 2 bin kilometre gitti ve…

İsrailli şirketin reklamlarıyla casus yazılım: El Cezire’de 45 cihaz hedef alındı

İltica için para karşılığı soruşturma düzenlendiği iddiası: Almanya’da mahkemede, Türkiye’de TBMM’de gündemde

Fransa protestolarında Rus izi… 639 bot paylaşımı, 7 buçuk milyon görüntülenme