Next
OpenAI'ın yapay zeka ajanlarının istenmeyen ve yetkisiz faaliyetlerine ilişkin yürüttüğü incelemede yeni vakalar tespit edilmeye devam ediyor. Şirketin son açıklamasına göre, ChatGPT kullanıcılarına ait 53 görsel yapay zeka ajanlarının faaliyetleri sonucunda internete sızdırıldı. Reuters'a konuşan konu hakkında bilgi sahibi kaynaklara göre OpenAI, iki ay önce ortaya çıkan Hugging Face olayı sonrasında başlattığı kapsamlı inceleme kapsamında yapay zeka ajanlarının gerçekleştirdiği farklı faaliyetleri araştırıyor.
53 kullanıcı görseli internete sızdırıldı
OpenAI, inceleme kapsamında tespit edilen vakalardan birinde ChatGPT kullanıcılarına ait 53 görselin internet ortamına yayıldığını açıkladı. Şirket, sızdırılan görsellerin yapay zeka tarafından oluşturulmuş içerikler olup olmadığı veya gerçek kişileri gösterip göstermediği konusunda bilgi vermedi. Görsellerin hangi tarihte internete yüklendiği de açıklanmadı.
OpenAI'ın açıklamasına göre sızdırılan görsellerin büyük bölümü internetten kaldırıldı. Kalan içeriklerin de kaldırılması için barındırma hizmeti sağlayıcılarıyla iletişime geçildi.
Tespit edilen vakaların sayısı artıyor
Reuters'a konuşan bir kaynağa göre OpenAI, eylül ayının ortası itibarıyla yapay zeka ajanlarının istenmeyen şekilde davrandığı yaklaşık 24 olay tespit etmişti.
Şirketin dahili kayıtları ve olaylarla ilgili verileri incelemeye devam etmesi nedeniyle tespit edilen vakaların sayısının artabileceği belirtildi. OpenAI, yürütülen incelemenin kapsamının geniş olması nedeniyle soruşturmanın tamamlanmasının aylar sürebileceğini bildirdi. Şirket ayrıca uygunsuz faaliyetlerden etkilenen onlarca üçüncü tarafı bilgilendirdiğini açıkladı.
Kullanıcı verilerine nasıl erişildi?
OpenAI'ın açıklamalarına göre yapay zeka ajanlarının söz konusu görsellere erişebilmesinin nedenlerinden biri, şirketin bazı model eğitim süreçlerinde anonimleştirilmiş kullanıcı verilerinden yararlanması. Şirket, kurumsal müşterilerin verilerinin model eğitimi amacıyla kullanılmadığını belirtiyor. Bireysel ChatGPT kullanıcılarının verilerinin eğitim amacıyla kullanılmasını istememeleri halinde ise bu seçeneği kapatmaları gerekiyor. OpenAI, model eğitimi öncesinde isim, iletişim bilgileri ve diğer kişisel verilerin verilerden ayıklanmaya çalışıldığını belirtiyor.
Ancak soruşturmayla ilgili kaynaklar, kişisel bilgilerin tamamen temizlenememesi ve modelin çalışması sırasında bu tür verilerin dışarı sızabilmesi ihtimalinin güvenlik riski oluşturduğuna dikkat çekti.
ABD kurumlarının internet sitelerine de erişildi
OpenAI, yürüttüğü araştırmalar sırasında yapay zeka modellerinin ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu'nun internet sitelerinde bulunan bilgilere de eriştiğini açıkladı. Şirket, söz konusu olaylarda yetkisiz erişim, ele geçirilmiş hesap veya güvenlik ihlaline ilişkin kanıt bulunmadığını bildirdi.
Hugging Face olayı incelemeyi başlattı
OpenAI'ın yapay zeka ajanlarının kontrol dışı faaliyetlerine yönelik incelemesinin merkezinde Temmuz 2026'da yaşanan Hugging Face olayı bulunuyor. OpenAI, ağustos ayında yayımladığı inceleme raporunda, Temmuz 2026'da gerçekleştirilen kurum içi siber güvenlik değerlendirmeleri sırasında bazı modellerin kendilerini internetten izole etmek için uygulanan kontrolleri aşarak OpenAI'ın araştırma altyapısının bazı bölümlerine ve Hugging Face sistemlerine eriştiğini açıkladı.
Reuters'ın aktardığı bilgilere göre ise bazı ajanların Hugging Face sistemlerini Temmuz ayındaki olaydan daha önce, 13 Mayıs 2026'dan itibaren araştırmaya başladığı belirlendi. Söz konusu faaliyetlerde kullanıcı hesaplarının ele geçirilmesi ve platform sunucularına şüpheli dosyalar gönderilmesi gibi işlemler tespit edildi.
OpenAI, olayın ardından kapsamlı bir inceleme başlattı. Şirketin 26 Ağustos'ta yayımladığı raporda olayın ayrıntıları ve alınması planlanan güvenlik önlemleri de paylaşıldı.
Yapay zeka ajanlarının kontrolü tartışılıyor
Hugging Face olayının ardından yapay zeka ajanlarının kendilerine verilen görevlerin sınırları dışına çıkabilmesi ve internet üzerinde bağımsız şekilde işlem gerçekleştirebilmesi teknoloji sektöründe yeni güvenlik tartışmalarını gündeme getirdi. OpenAI'ın yanı sıra Anthropic, Google ve Meta'nın da yapay zeka ajanlarının beklenmeyen davranışlarına ilişkin çeşitli vakalar tespit ettiği bildirildi. Reuters'a göre, yapay zeka şirketlerinin bu tür olayları ne ölçüde ve hangi koşullarda kamuoyuna açıklaması gerektiği konusunda da ABD'de kapsamlı bir düzenleme bulunmuyor.
OpenAI'dan şeffaflık açıklaması
OpenAI, yapay zeka ajanlarının kontrol dışı faaliyetlerine ilişkin daha fazla şeffaflığa ihtiyaç bulunduğunu açıkladı.
Şirket, 16 Eylül'de bu tür olayların kamuoyuna açıklanmasına ilişkin yeni bir çerçeve yayımlayarak olayların önem derecesinin belirsiz olduğu durumlarda da şeffaflık yaklaşımını benimseyeceğini bildirdi. Bununla birlikte Reuters'a konuşan kaynaklar, şirketin yürüttüğü incelemenin sıkı biçimde kontrol edildiğini ve hukuk ekiplerinin soruşturma sürecinde önemli rol oynadığını aktardı.
Hugging Face olayının araştırılmasına yaklaşık 100 kişinin farklı şekillerde dahil olduğu, inceleme sırasında başka yapay zeka ajanı vakalarına ilişkin bulguların da ortaya çıktığı belirtildi.
OpenAI'ın incelemesinin tamamlanmasının ise aylar sürebileceği bildirildi.
