OpenAI, Çin bağlantılı hesapların ChatGPT’yi Uygurları izleme ve sosyal medya takibi projelerinde kullanmaya çalıştığını tespit ettiğini ve erişimlerini engellediğini duyurdu.
OpenAI, Çin bağlantılı bazı hesapların ChatGPT’yi sosyal medya takibi için kullandığını tespit ettiğini ve bu hesapları askıya aldığını açıkladı. Şirket, bu hesapların ChatGPT’ye VPN üzerinden eriştiğini ve devlet destekli müşteri adına çalıştıklarını belirtti. Engellenen hesapların, sosyal medya dinleme aracı geliştirme sürecinde yapay zekâ modellerinden faydalandığı iddia edildi.
ChatGPT Uygurları Takip Etmek İçin Kullanılmak İstendi
OpenAI’nin paylaştığı bilgilere göre askıya alınan hesaplar, ChatGPT’yi kullanarak sosyal medya platformlarını izlemeye yönelik bir gözlem aracı tasarlıyordu. Bu aracın, X, Facebook, Instagram, Reddit, TikTok ve YouTube gibi platformlarda paylaşılan içerikleri analiz ederek, etnik köken, din veya politika temelli gönderileri tespit etmek için kullanıldığı öne sürüldü.
OpenAI, bu araçların doğrudan sosyal medya izleme amacıyla kendi modellerini kullanmadığını vurguladı. Şirket, söz konusu hesapların gerçekten Çin hükümetiyle bağlantılı olup olmadığını bağımsız olarak doğrulayamadığını da ekledi.
OpenAI ayrıca “Yüksek Riskli Uygur İlişkili Giriş Uyarı Modeli” adlı bir proje taslağı hazırlayan bir hesabı da engelledi. Bu sistemin, Uygur halkının hareketlerini izlemeyi, polis kayıtlarıyla eşleştirmeyi ve seyahat faaliyetleriyle ilgili erken uyarılar oluşturmayı hedeflediği belirtildi. Son yıllarda birçok insan hakları örgütü Çin hükümetini Uygur Müslümanlarının temel haklarını ihlal etmekle suçlamıştı. Bu nedenle projenin içeriği uluslararası kamuoyunda tepkilere neden oldu.
OpenAI’nin yayımladığı tehdit raporunda, Çin, Rusya ve Korece konuşan grupların ChatGPT’yi kötü amaçlı yazılım geliştirmek için kullanmaya çalıştığı da yer aldı. Rapora göre bu gruplar, uzaktan erişim truva atları, kimlik bilgisi hırsızları ve tespit sistemlerinden kaçmayı amaçlayan araçlar geliştirme girişiminde bulundu.
OpenAI, Kamboçya, Myanmar ve Nijerya merkezli dolandırıcılık ağlarını da engellediğini açıkladı. Şirket, modellerinin kötü niyetli taleplere yanıt vermediğini ve yeni saldırı yöntemleri geliştirilmesine katkı sağlamadığını ifade etti.
OpenAI, Şubat 2024’ten bu yana yayımladığı tehdit raporlarının ardından 40’tan fazla kötü amaçlı ağı devre dışı bıraktığını bildirdi. Şirket, bu ağların tamamının şirket politikalarını ihlal ettiğini ve kullanıcı güvenliğini riske attığını belirtti. OpenAI, benzer girişimleri tespit etmek için küresel güvenlik ekipleriyle iş birliği yürüttüğünü, bu sürecin düzenli olarak sürdüğünü duyurdu.
Kaynak: Çözüm Park
İlk yorum yapan siz olun